| 1 |
1
가중치 신경망의 신경망 연산 장치로서, 프로세서 및 메모리를 포함하고,상기 프로세서는 상기 메모리에 저장된 데이터를 이용하여 미니 배치의 입력 데이터를 처리할 때,상기 입력 데이터 및 상기 메모리로부터 수신되는 가중치를 이용하여 곱셈 누산(Multiply-Accumulate, MAC) 연산을 수행하고 출력을 생성하는 단계, 및상기 메모리로부터 수신되는 배치 정규화 바이어스를 상기 출력과 비교하여 상기 미니 배치의 출력을 결정하는 단계를 수행하고, 상기 배치 정규화 바이어스는, 상기 신경망 연산 장치의 기계 학습 단계에서 상기 미니 배치의 입력의 평균 및 분산과, 상기 입력을 배치 정규화하기 위한 학습 파라미터에 기반하여 미리 결정되는 값인, 신경망 연산 장치
|
| 2 |
2
제1항에서,상기 프로세서는 상기 미니 배치의 출력을 결정하는 단계를 수행할 때,부호 함수를 이용하여 상기 배치 정규화 바이어스와 상기 출력을 비교하는 단계를 수행하는, 신경망 연산 장치
|
| 3 |
3
제2항에서,상기 프로세서는 상기 부호 함수를 이용할 때, 상기 출력의 최상위 비트와 상기 배치 정규화 바이어스의 최상위 비트를 비교하는, 신경망 연산 장치
|
| 4 |
4
제1항에서,상기 프로세서는 상기 미니 배치의 출력을 결정하는 단계를 수행할 때,상기 출력 및 상기 배치 정규화 바이어스의 비교기 연산을 수행하는, 신경망 연산 장치
|
| 5 |
5
제1항에서,상기 미니 배치의 출력은, 상기 가중치 신경망이 바이너리(binary) 가중치 신경망일 때, +1 또는 -1인, 신경망 연산 장치
|
| 6 |
6
제1항에서,상기 미니 배치의 출력은, 상기 가중치 신경망이 터너리(ternary) 가중치 신경망일 때, +1, 또는 0, 또는 -1인, 신경망 연산 장치
|
| 7 |
7
가중치 신경망의 신경망 연산 방법으로서, 미니 배치의 입력 데이터 및 메모리로부터 수신되는 가중치를 이용하여 곱셈 누산(Multiply-Accumulate, MAC) 연산을 수행하고 출력을 생성하는 단계, 그리고상기 메모리로부터 수신되는 배치 정규화 바이어스를 상기 출력과 비교하여 상기 미니 배치의 출력을 결정하는 단계를 포함하고, 상기 배치 정규화 바이어스는, 상기 신경망 연산 장치의 기계 학습 단계에서 상기 미니 배치의 입력의 평균 및 분산과, 상기 입력을 배치 정규화하기 위한 학습 파라미터에 기반하여 미리 결정되는 값인, 신경망 연산 방법
|
| 8 |
8
제7항에서,상기 미니 배치의 출력을 결정하는 단계는,부호 함수를 이용하여 상기 배치 정규화 바이어스와 상기 출력을 비교하는 단계를 포함하는, 신경망 연산 방법
|
| 9 |
9
제8항에서,상기 부호함수를 이용하는 것은, 상기 출력의 최상위 비트와 상기 배치 정규화 바이어스의 최상위 비트를 비교하는 것인, 신경망 연산 방법
|
| 10 |
10
제7항에서,상기 미니 배치의 출력을 결정하는 단계는,상기 출력 및 상기 배치 정규화 바이어스의 비교기 연산을 수행하는 단계를 포함하는, 신경망 연산 방법
|
| 11 |
11
제7항에서,상기 미니 배치의 출력은, 상기 가중치 신경망이 바이너리(binary) 가중치 신경망일 때, +1 또는 -1이 되는, 신경망 연산 방법
|
| 12 |
12
제7항에서,상기 미니 배치의 출력은, 상기 가중치 신경망이 터너리(ternary) 가중치 신경망일 때, +1, 또는 0, 또는 -1이 되는, 신경망 연산 방법
|
