1 |
1
컨벌루션 신경망의 첫번째 레이어의 개선된 이진화 장치에 의해 수행되는 컨벌루션 신경망의 첫번째 레이어의 개선된 이진화 방법으로서,(a) 상기 첫번째 레이어에 대한 초기 입력데이터를 이진화하여 이진화 입력데이터를 생성하고, 상기 첫번째 레이어의 파라미터를 이진화하여 이진화 파라미터를 생성하는 단계;(b) 상기 이진화 파라미터에 대하여 배수화를 수행하여 배수화 파라미터를 생성하고, 상기 이진화 입력데이터와 상기 배수화 파라미터 간의 컨벌루션 연산을 수행한 다음 상기 컨벌루션 연산에 대하여 상기 배수화 파라미터로 배수화 곱셈을 진행하여 1차 연산 결과를 생성하는 단계; 및(c) 상기 1차 연산 결과에 쇼트컷을 더하여 2차 연산 결과를 산출하는 단계를 포함하되,상기 쇼트컷은 이진화 이전의 상기 초기 입력데이터에 대응하는 것인, 컨벌루션 신경망의 첫번째 레이어의 개선된 이진화 방법
|
2 |
2
제1항에 있어서,상기 (c) 단계에서의 상기 쇼트컷의 덧셈 연산에 의해, 상기 (a) 단계에서의 이진화 이전의 초기 입력데이터가 고려되는 것인, 컨벌루션 신경망의 첫번째 레이어의 개선된 이진화 방법
|
3 |
3
제1항에 있어서,상기 (b) 단계에서, 상기 1차 연산 결과는 배치 정규화된 것이고,상기 (c) 단계에서, 상기 쇼트컷은 배치 정규화된 것인, 컨벌루션 신경망의 첫번째 레이어의 개선된 이진화 방법
|
4 |
4
제3항에 있어서,상기 2차 연산 결과는 아래의 식 1에 의해 산출되고,[식 1]여기서, e1,m은 m번째 필터의 계수이고,(W1)bm,x,y,z는상기 첫번째 레이어의 이진화 파라미터이고, A-0는 상기 초기 입력데이터인 것인, 컨벌루션 신경망의 첫번째 레이어의 개선된 이진화 방법
|
5 |
5
제1항에 있어서,(d) 상기 2차 연산 결과에 대하여 풀링 및 배치 정규화를 수행하는 단계를 더 포함하는, 컨벌루션 신경망의 첫번째 레이어의 개선된 이진화 방법
|
6 |
6
컨벌루션 신경망의 첫번째 레이어의 개선된 이진화 장치로서,상기 레이어에 대한 초기 입력데이터를 이진화하여 이진화 입력데이터를 생성하고, 상기 첫번째 레이어의 파라미터를 이진화하여 이진화 파라미터를 생성하는 이진화 파라미터 생성부;상기 이진화 파라미터에 대하여 배수화를 수행하여 배수화 파라미터를 생성하고, 상기 이진화 입력데이터와 상기 배수화 파라미터 간의 컨벌루션 연산을 수행한 다음 상기 컨벌루션 연산에 대하여 상기 배수화 파라미터로 배수화 곱셈을 진행하여 1차 연산 결과를 생성하는 컨벌루션 연산부; 및상기 1차 연산 결과에 쇼트컷을 더하여 2차 연산 결과를 산출하는 쇼트컷 연산부를 포함하되,상기 쇼트컷은 이진화 이전의 상기 초기 입력데이터에 대응하는 것인, 컨벌루션 신경망의 첫번째 레이어의 개선된 이진화 장치
|
7 |
7
제6항에 있어서,상기 쇼트컷의 덧셈 연산에 의해, 이진화 이전의 상기 초기 입력데이터가 고려되는 것인, 컨벌루션 신경망의 첫번째 레이어의 개선된 이진화 장치
|
8 |
8
제6항에 있어서,상기 컨벌루션 연산부는,상기 1차 연산 결과를 배치 정규화하고,상기 쇼트컷 연산부는,상기 쇼트컷을 배치 정규화 하는 것인, 컨벌루션 신경망의 첫번째 레이어의 개선된 이진화 장치
|
9 |
9
제8항에 있어서,상기 쇼트컷 연산부는,아래의 식 2를 통해 상기 2차 연산 결과를 산출하고,[식 2]여기서, e1,m은 첫번째 레이어에 대한 m번째 필터의 계수이고, (W1)bm,x,y,z는상기 첫번째 레이어의 이진화 파라미터이고, A-0는 상기 초기 입력데이터인 것인, 컨벌루션 신경망의 첫번째 레이어의 개선된 이진화 장치
|
10 |
10
제6항에 있어서,상기 2차 연산 결과에 대하여 풀링 및 배치 정규화를 수행하는 정규화 연산부를 더 포함하는 컨벌루션 신경망의 첫번째 레이어의 개선된 이진화 장치
|
11 |
11
제 1항 내지 제 5항 중 어느 한 항의 방법을 컴퓨터에서 실행하기 위한 프로그램을 기록한 컴퓨터에서 판독 가능한 기록매체
|