| 1 |
1
미니-배치 경사 하강법에 따라, 서브 세트의 복수의 입력 데이터들에 대한 제1 및 제2 연산을 순차적으로 수행하는 연산부;상기 제1 연산에 따라 획득되는 신뢰도 행렬에 기초하여, 상기 복수의 입력 데이터들 각각을 스킵 데이터와 학습 데이터 중 어느 하나로 판단하는 판단부; 및상기 스킵 데이터에 대한 상기 제2 연산을 스킵시키도록 상기 연산부를 제어하는 제어부를 포함하는, 심층 신경망 학습 가속 장치
|
| 2 |
2
제1항에 있어서, 상기 연산부는 상기 제1 연산으로부터 일정 시간 이후에, 상기 학습 데이터에 대한 상기 제2 연산을 수행하는, 심층 신경망 학습 가속 장치
|
| 3 |
3
제1항에 있어서, 상기 제1 연산은 순전파 알고리즘을 이용하는 상기 미니-배치 경사 하강법의 제1 학습 단계인, 심층 신경망 학습 가속 장치
|
| 4 |
4
제1항에 있어서,상기 제2 연산은 역전파 알고리즘 및 가중치 업데이트 알고리즘을 순차적으로 이용하는 상기 미니-배치 경사 하강법의 제2 학습 단계인, 심층 신경망 학습 가속 장치
|
| 5 |
5
제1항에 있어서, 상기 판단부는 상기 신뢰도 행렬의 최대 크기 요소와 기설정된 임계값 사이의 대소 여부를 비교하는 비교기로 구현되는, 심층 신경망 학습 가속 장치
|
| 6 |
6
제5항에 있어서,상기 비교기는 상기 최대 크기 요소의 크기가 기설정된 임계값 이상인 경우, 상기 스킵 데이터에 대응되는 로우 신호를 상기 제어부로 출력하는, 심층 신경망 학습 가속 장치
|
| 7 |
7
제5항에 있어서, 상기 비교기는 상기 신뢰도 행렬의 최대 크기 요소가 기설정된 임계값 미만인 경우, 상기 학습 데이터에 대응되는 하이 신호를 상기 제어부로 출력하는, 심층 신경망 학습 가속 장치
|
| 8 |
8
제6항에 있어서, 상기 제어부는 상기 로우 신호에 기초하여, 상기 학습 데이터에 대한 상기 제2 연산을 병렬화시키는, 심층 신경망 학습 가속 장치
|
| 9 |
9
제6항에 있어서,상기 로우 신호의 개수는 상기 제2 연산의 동작 시간에 반비례하는 관계인, 심층 신경망 학습 가속 장치
|
| 10 |
10
제1항에 있어서, 전체 입력 데이터들로부터 임의로 선택된 상기 복수의 입력 데이터들 각각을 상기 연산부에 할당시키는 입력부; 및 상기 연산부를 통해 출력받는 각 가중치 변화량을 합하여, 상기 서브 세트에 대한 기울기에 대응되는 출력 가중치 변화량을 출력하는 출력부를 더 포함하는, 심층 신경망 학습 가속 장치
|
| 11 |
11
제1항에 있어서, 상기 연산부는 시스톨릭 어레이 구조로 형성되고, 상기 제1 및 제2 연산을 순차적으로 수행하는 복수의 연산장치들을 포함하는, 심층 신경망 학습 가속 장치
|
| 12 |
12
제11항에 있어서, 상기 연산부는 상기 제어부로부터 출력받는 병렬화 제어 신호에 응답하여, 상기 복수의 연산장치들 중 상기 스킵 데이터에 대응되는 어느 하나의 연산장치를 초기화하는, 심층 신경망 학습 가속 장치
|
| 13 |
13
제12항에 있어서,상기 연산부는 상기 복수의 연산장치들 중 나머지 연산장치에 할당된 학습 데이터의 일부를 상기 어느 하나의 연산장치에 재할당하는, 심층 신경망 학습 가속 장치
|
| 14 |
14
제11항에 있어서, 상기 제어부는 각 학습 데이터로부터 분할되는 복수의 서브 데이터들을 데이터 플로우에 따라 복수의 연산장치들에 재할당시키는, 심층 신경망 학습 가속 장치
|
| 15 |
15
제14항에 있어서, 상기 데이터 플로우는 데이터를 리드하고 저장하기 위한 데이터의 이동 경로를 나타내는, 심층 신경망 학습 가속 장치
|
| 16 |
16
심층 신경망 학습 가속 장치의 동작 방법으로서,연산부가 미니-배치 경사 하강법에 따라, 서브 세트의 복수의 입력 데이터들에 대한 제1 연산을 수행하는 단계;판단부가 상기 제1 연산에 따라 획득되는 신뢰도 행렬에 기초하여, 상기 복수의 입력 데이터들을 스킵 데이터와 학습 데이터 중 하나로 각각 판단하는 단계; 제어부가 상기 스킵 데이터에 응답하여, 상기 스킵 데이터에 대한 제2 연산을 스킵시키기 위한 병렬화 제어 신호를 출력하는 단계; 및 상기 연산부가 상기 병렬화 제어 신호에 기초하여, 상기 스킵 데이터에 대한 상기 제2 연산을 스킵하고, 상기 학습 데이터에 대한 상기 제2 연산을 수행하는 단계를 포함하는, 심층 신경망 학습 가속 장치의 동작 방법
|
| 17 |
17
제16항에 있어서, 상기 제1 연산은 순전파 알고리즘을 이용하는 상기 미니-배치 경사 하강법의 제1 학습 단계인, 심층 신경망 학습 가속 장치의 동작 방법
|
| 18 |
18
제16항에 있어서,상기 제2 연산은 역전파 알고리즘 및 가중치 업데이트 알고리즘을 순차적으로 이용하는 상기 미니-배치 경사 하강법의 제2 학습 단계인, 심층 신경망 학습 가속 장치의 동작 방법
|
| 19 |
19
제16항에 있어서,상기 판단부는 상기 신뢰도 행렬의 최대 크기 요소와 기설정된 임계값 사이의 대소 여부를 비교하는 비교기로 구현되는, 심층 신경망 학습 가속 장치의 동작 방법
|
| 20 |
20
제16항에 있어서,상기 제2 연산을 수행하는 단계는 상기 연산부가 상기 병렬화 제어 신호에 기초하여, 복수의 연산장치들 중 상기 스킵 데이터에 대응되는 어느 하나의 연산장치를 초기화하는 단계;상기 연산부가 나머지 연산장치에 할당된 상기 학습 데이터의 각 일부를 상기 어느 하나의 연산장치에 재할당하는 단계; 및상기 연산부가 상기 제1 연산으로부터 일정 시간 이후에 상기 복수의 연산장치들을 통해 상기 학습 데이터에 대한 상기 제2 연산을 병렬로 처리하는 단계를 포함하는, 심층 신경망 학습 가속 장치의 동작 방법
|
