| 1 |
1
입력 특징맵을 저장하는 입력 레지스터(register);상기 입력 특징맵 및 가중치 행렬에 기초한 연산을 수행하는 프로세싱 엘리먼트(processing element)로 이루어진 프로세싱 엘리먼트 어레이; 및상기 연산이 수행될 상기 입력 특징맵의 일부 및 상기 가중치 행렬의 일부를 상기 프로세싱 엘리먼트에 매핑하는 컨트롤러를 포함하는 뉴럴 네트워크 연산 장치
|
| 2 |
2
제1항에 있어서,상기 프로세싱 엘리먼트는,상기 입력 특징맵의 일부를 멀티플렉싱(multiplexing)하는 멀티플렉서; 및상기 가중치 행렬의 일부에 기초하여 상기 멀티플렉서의 출력을 시프팅하는 시프터(shifter)를 포함하는 뉴럴 네트워크 연산 장치
|
| 3 |
3
제1항에 있어서,상기 프로세싱 엘리먼트 어레이의 크기는,출력 특징맵의 높이, 상기 출력 특징맵의 너비 및 상기 가중치 행렬의 크기에 기초하여 결정되는뉴럴 네트워크 연산 장치
|
| 4 |
4
제3항에 있어서,상기 프로세싱 엘리먼트 어레이는,복수의 2 차원 프로세싱 엘리먼트 평면(plane)을 포함하고,상기 프로세싱 엘리먼트 평면의 크기는 상기 출력 특징맵의 높이 및 상기 출력 특징맵의 너비에 기초하여 결정되는뉴럴 네트워크 연산 장치
|
| 5 |
5
제1항에 있어서,상기 컨트롤러는,상기 가중치 행렬에 포함된 제1 가중치와 상기 제1 가중치에 대응하는 입력 특징맵의 일부를 상기 프로세싱 엘리먼트에 매핑하고,상기 가중치 행렬에 포함된 제2 가중치와 상기 제2 가중치에 대응하는 입력 특징맵의 일부를 상기 프로세싱 엘리먼트에 매핑하는뉴럴 네트워크 연산 장치
|
| 6 |
6
제1항에 있어서,상기 컨트롤러는,상기 가중치 행렬의 가중치 및 상기 가중치에 대응하는 입력 특징맵의 일부를 상기 입력 특징맵의 채널 방향으로 매핑하거나,상기 가중치 및 상기 가중치에 대응하는 입력 특징맵의 일부를 출력 특징맵의 채널 방향으로 매핑하는뉴럴 네트워크 연산 장치
|
| 7 |
7
제6항에 있어서,상기 컨트롤러는,상기 입력 특징맵의 채널 방향 매핑과 상기 출력 특징맵의 채널 방향 매핑을 교대로(alternately) 수행하는뉴럴 네트워크 연산 장치
|
| 8 |
8
제1항에 있어서,상기 컨트롤러는,상기 가중치 행렬의 가변 지연(variable latency) 여부에 기초하여 상기 가중치 행렬을 재정렬(reordering)하는뉴럴 네트워크 연산 장치
|
| 9 |
9
제8항에 있어서,상기 컨트롤러는,상기 가변 지연 여부에 기초하여 이진 행렬을 생성하고,상기 이진 행렬에 포함된 복수의 열의 성분에 기초하여 상기 이진 행렬을 재정렬하고,재정렬된 이진 행렬에 기초하여 상기 가중치를 재정렬하는뉴럴 네트워크 연산 장치
|
| 10 |
10
제1항에 있어서,상기 프로세싱 엘리먼트의 출력을 더하는 가산기 트리; 및상기 가산기 트리의 출력을 누적하는 누산기(accumulator)를 더 포함하는 뉴럴 네트워크 연산 장치
|
| 11 |
11
입력 특징맵을 저장하는 단계;상기 입력 특징맵 및 가중치 행렬에 기초한 연산을 수행하는 프로세싱 엘리먼트에 상기 입력 특징맵의 일부 및 상기 가중치 행렬의 일부를 매핑하는 단계; 및매핑된 입력 특징맵의 일부 및 매핑된 가중치의 일부에 기초하여 상기 연산을 수행하는 단계를 포함하는 뉴럴 네트워크 연산 방법
|
| 12 |
12
제11항에 있어서,상기 연산을 수행하는 단계는,상기 입력 특징맵의 일부를 멀티플렉싱(multiplexing)하는 단계; 및상기 가중치 행렬의 일부에 기초하여 멀티플렉싱된 입력 특징맵의 일부를 시프팅하는 단계를 포함하는 뉴럴 네트워크 연산 방법
|
| 13 |
13
제11항에 있어서,상기 프로세싱 엘리먼트는 프로세싱 엘리먼트 어레이를 구성하고, 상기 프로세싱 엘리먼트 어레이의 크기는,출력 특징맵의 높이, 상기 출력 특징맵의 너비 및 상기 가중치 행렬의 크기에 기초하여 결정되는뉴럴 네트워크 연산 방법
|
| 14 |
14
제13항에 있어서,상기 프로세싱 엘리먼트 어레이는,복수의 2 차원 프로세싱 엘리먼트 평면을 포함하고,상기 프로세싱 엘리먼트 평면의 크기는 상기 출력 특징맵의 높이 및 상기 출력 특징맵의 너비에 기초하여 결정되는뉴럴 네트워크 연산 방법
|
| 15 |
15
제11항에 있어서,상기 매핑하는 단계는,상기 가중치 행렬에 포함된 제1 가중치와 상기 제1 가중치에 대응하는 입력 특징맵의 일부를 상기 프로세싱 엘리먼트에 매핑하는 단계; 및상기 가중치 행렬에 포함된 제2 가중치와 상기 제2 가중치에 대응하는 입력 특징맵의 일부를 상기 프로세싱 엘리먼트에 매핑하는 단계를 포함하는 뉴럴 네트워크 연산 방법
|
| 16 |
16
제11항에 있어서,상기 매핑하는 단계는,상기 가중치 행렬의 가중치 및 상기 가중치에 대응하는 입력 특징맵의 일부를 상기 입력 특징맵의 채널 방향으로 매핑하는 단계; 또는상기 가중치 및 상기 가중치에 대응하는 입력 특징맵의 일부를 출력 특징맵의 채널 방향으로 매핑하는 단계를 포함하는 뉴럴 네트워크 연산 방법
|
| 17 |
17
제16항에 있어서,상기 입력 특징맵의 일부 및 상기 가중치 행렬의 일부를 매핑하는 단계는,상기 입력 특징맵의 채널 방향 매핑과 상기 출력 특징맵의 채널 방향 매핑을 교대로(alternately) 수행하는 단계를 포함하는 뉴럴 네트워크 연산 방법
|
| 18 |
18
제11항에 있어서,상기 가중치 행렬의 가변 지연(variable latency) 여부에 기초하여 상기 가중치 행렬을 재정렬(reordering)하는 단계를 더 포함하는 뉴럴 네트워크 연산 방법
|
| 19 |
19
제18항에 있어서,상기 재정렬하는 단계는,상기 가변 지연 여부에 기초하여 이진 행렬을 생성하는 단계;상기 이진 행렬에 포함된 복수의 열의 성분에 기초하여 상기 이진 행렬을 재정렬하는 단계; 및재정렬된 이진 행렬에 기초하여 상기 가중치를 재정렬하는 단계를 포함하는 뉴럴 네트워크 연산 방법
|
| 20 |
20
제11항에 있어서,상기 프로세싱 엘리먼트의 출력을 더하는 단계; 및더해진 프로세싱 엘리먼트의 출력을 누적하는 단계를 더 포함하는 뉴럴 네트워크 연산 방법
|
