1 |
1
입력 이미지의 입력 특징 맵(Input feature map)을 입력받은 컨벌루션 레이어(Convolutional layer)로부터 중간 특징 맵을 획득하는 단계;상기 중간 특징 맵의 채널 주의집중 값(Channel attention)을 계산하는 단계;상기 중간 특징 맵의 공간 주의집중 값(Spatial attention)을 계산하는 단계;상기 채널 주의집중 값 및 상기 공간 주의집중 값을 기초로 3D 주의집중 맵을 생성하는 단계; 및상기 3D 주의집중 맵을 상기 중간 특징 맵과 결합하여 풀링 레이어(Pooling layer)에 입력되는 정제된 특징 맵(Refined feature map)을 생성하는 단계를 포함하는합성곱 신경망을 위한 주의집중 값 계산 방법
|
2 |
2
제1항에 있어서,상기 채널 주의집중 값을 계산하는 단계는상기 중간 특징 맵에 전역 평균 풀링(Global Average Pooling, GAP)을 수행하여 제1 채널 벡터를 생성하는 단계;다층 신경망(Multi-Layer Perceptron, MLP)을 이용하여 상기 제1 채널 벡터로부터 제2 채널 벡터를 생성하는 단계; 및상기 제2 채널 벡터에 배치 정규화(Batch normalization)를 수행하여, 상기 채널 주의집중 값을 획득하는 단계;를 포함하는합성곱 신경망을 위한 주의집중 값 계산 방법
|
3 |
3
제2항에 있어서,상기 다층 신경망은 하나의 은닉층(Hidden layer)을 포함하는합성곱 신경망을 위한 주의집중 값 계산 방법
|
4 |
4
제2항에 있어서,상기 제2 채널 벡터를 생성하는 단계는미리 설정된 제1 감소 비율을 사용하여 상기 제1 채널 벡터의 채널 수를 감소시키는 단계를 포함하는합성곱 신경망을 위한 주의집중 값 계산 방법
|
5 |
5
제1항에 있어서,상기 공간 주의집중 값을 계산하는 단계는상기 중간 특징 맵에 제1 컨벌루션(Convolution)을 수행하여 제1 채널 감소 특징 맵을 생성하는 단계;상기 제1 채널 감소 특징 맵에 확장 컨벌루션(Dilated convolution)을 수행하여 확장된 특징 맵을 생성하는 단계;상기 확장된 특징 맵에 제2 컨벌루션을 수행하여 제2 채널 감소 특징 맵을 생성하는 단계; 및상기 제2 채널 감소 특징 맵에 배치 정규화를 수행하여 상기 공간 주의집중 값을 획득하는 단계;를 포함하는합성곱 신경망을 위한 주의집중 값 계산 방법
|
6 |
6
제5항에 있어서,상기 제1 채널 감소 특징 맵을 생성하는 단계는미리 설정된 제2 감소 비율을 사용하여 상기 중간 특징 맵의 채널 수를 감소시키는 단계를 포함하는합성곱 신경망을 위한 주의집중 값 계산 방법
|
7 |
7
제5항에 있어서,상기 제1 컨벌루션 및 상기 제2 컨벌루션은 1X1 크기의 필터를 사용하는합성곱 신경망을 위한 주의집중 값 계산 방법
|
8 |
8
제5항에 있어서,상기 확장된 특징 맵을 생성하는 단계는미리 설정된 확장 비율을 사용하여 상기 제1 채널 감소 특징 맵에 3X3 크기의 필터를 통한 확장 컨벌루션을 수행하는 단계를 포함하는합성곱 신경망을 위한 주의집중 값 계산 방법
|
9 |
9
제1항에 있어서,상기 채널 주의집중 값 및 상기 공간 주의집중 값을 사용하여 3D 주의집중 맵을 획득하는 단계는상기 채널 주의집중 값 및 상기 공간 주의집중 값을 결합하는 단계; 및상기 채널 주의집중 값 및 상기 공간 주의집중 값의 결합 결과에 활성 함수(Activation function)를 적용하는 단계;를 포함하는합성곱 신경망을 위한 주의집중 값 계산 방법
|
10 |
10
제9항에 있어서,상기 활성 함수는한곗값 함수(Threshold function), 시그모이드 함수(Sigmoid function), 정류 함수(Rectifier function), ReLU 함수(Rectified Linear Unit function) 및 하이퍼볼릭 탄젠트 함수(Hyperbolic tangent function) 중 어느 하나의 함수에 해당하는합성곱 신경망을 위한 주의집중 값 계산 방법
|
11 |
11
제1항에 있어서,상기 3D 주의집중 맵은요소별 합산(Element-wise summation), 곱셈(Multiplication) 및 최대 오퍼레이션(Max operation) 중 어느 하나를 포함하는 결합 방법을 통해 상기 중간 특징 맵과 결합되어 상기 정제된 특징 맵을 생성하는 합성곱 신경망을 위한 주의집중 값 계산 방법
|
12 |
12
제1항에 있어서,상기 정제된 특징 맵은 상기 컨벌루션 레이어에 입력되는 상기 입력 특징 맵으로 사용될 수 있는합성곱 신경망을 위한 주의집중 값 계산 방법
|
13 |
13
입력 이미지의 입력 특징 맵(Input feature map)을 입력받은 컨벌루션 레이어(Convolutional layer)로부터 중간 특징 맵을 획득하고, 상기 중간 특징 맵의 채널 주의집중 값(Channel attention)을 계산하며, 상기 중간 특징 맵의 공간 주의집중 값(Spatial attention)을 계산하고, 상기 채널 주의집중 값 및 상기 공간 주의집중 값을 기초로 3D 주의집중 맵을 생성하며, 상기 3D 주의집중 맵을 상기 중간 특징 맵과 결합하여 풀링 레이어(Pooling layer)에 입력되는 정제된 특징 맵(Refined feature map)을 생성하는 프로세서; 및상기 입력 특징 맵, 상기, 중간 특징 맵, 상기 3D 주의집중 맵 및 상기 정제된 특징 맵을 사용하는 데이터 인식 모델을 저장하는 메모리;를 포함하는 합성곱 신경망을 위한 주의집중 값 계산 장치
|