| 1 |
1
복수개의 계층으로 구성된 인공신경망 모델에 기초하여 입력 데이터에 대한 연산을 수행하는 신경망 연산 장치에 있어서,상기 입력 데이터에 대하여 전처리 연산을 수행하여 전처리 데이터를 출력하도록 구성되는 CPU; 및상기 전처리 데이터에 대하여 상기 인공신경망 모델의 제1 계층에 의한 연산을 수행하여 중간 데이터를 출력하도록 구성되는 가속기;를 포함하고,상기 CPU는,상기 중간 데이터에 대하여 상기 인공신경망 모델의 제2 계층에 의한 연산을 수행하여 출력 데이터를 출력하도록 구성되는 신경망 연산 장치
|
| 2 |
2
제1항에 있어서,상기 CPU는,상기 입력 데이터에 포함된 복수개의 배치에 대한 전처리 연산을 수행하여 각 배치의 전처리 데이터를 출력하도록 구성되고,상기 가속기는,상기 인공신경망 모델에 기초하여 상기 각 배치의 전처리 데이터에 대한 연산을 수행하여 각 배치의 중간 데이터를 출력하도록 구성되는, 신경망 연산 장치
|
| 3 |
3
제2항에 있어서,상기 CPU는,상기 가속기가 제2 배치의 전처리 데이터에 대하여 상기 제1 계층에 의한 연산을 처리하는 동안, 제1 배치의 중간 데이터에 대하여 상기 제2 계층에 의한 연산을 중첩적으로 처리하도록 구성되는, 신경망 연산 장치
|
| 4 |
4
제2항에 있어서,상기 CPU는,상기 가속기가 제1 배치의 전처리 데이터에 대하여 상기 제1 계층에 의한 연산을 처리하는 동안, 제2 배치의 데이터에 대하여 전처리 연산을 중첩적으로 수행하여 상기 제2 배치의 전처리 데이터를 출력하도록 구성되는, 신경망 연산 장치
|
| 5 |
5
제2항에 있어서,상기 CPU는,상기 가속기가 제2 배치의 전처리 데이터에 대하여 상기 제1 계층에 의한 연산을 처리하는 동안, 제1 배치의 데이터에 대하여 후처리 연산을 중첩적으로 수행하여 상기 제1 배치의 출력 데이터를 출력하도록 구성되는, 신경망 연산 장치
|
| 6 |
6
제2항에 있어서,상기 CPU는,상기 가속기가 제2 배치의 전처리 데이터에 대하여 상기 제1 계층에 대한 연산을 처리하는 동안, 제1 배치의 중간 데이터에 대하여 상기 제2 계층에 의한 연산을 중첩적으로 처리하고, 상기 제1 배치의 데이터에 대하여 후처리 연산을 중첩적으로 수행하여 상기 제1 배치의 출력 데이터를 출력하고, 제3 배치의 데이터에 대하여 전처리 연산을 중첩적으로 수행하여 상기 제3 배치의 전처리 데이터를 출력하도록 구성되는, 신경망 연산 장치
|
| 7 |
7
제1항에 있어서,상기 가속기의 성능 및 상기 CPU의 성능에 기초하여, 상기 복수개의 계층을 상기 제1 계층 및 상기 제2 계층으로 분류하도록 구성되는 프로세서;를 더 포함하는 신경망 연산 장치
|
| 8 |
8
제7항에 있어서,상기 프로세서는,상기 CPU의 연산속도 정보, 상기 가속기의 연산속도 정보 및 총 연산 시간에 대한 전처리 연산 시간과 후처리 연산 시간의 비율 정보에 기초하여 상기 복수개의 계층을 상기 제1 계층 및 상기 제2 계층으로 분류하도록 구성되는, 신경망 연산 장치
|
| 9 |
9
제7항에 있어서,상기 프로세서는:상기 신경망 연산 장치의 연산 속도가 기준 처리 속도 이상인지 여부를 판단하고; 그리고상기 신경망 연산 장치의 연산 속도가 기준 처리 속도 이상이면, 상기 신경망 연산 장치에 공급되는 전압 및 주파수 중 적어도 하나를 감소시키도록 구성되는, 신경망 연산 장치
|
| 10 |
10
제1항에 있어서,상기 가속기의 성능 및 상기 CPU의 성능에 기초하여, 상기 복수개의 계층을 상기 제1 계층 및 상기 제2 계층으로 분류하도록 구성되는 프로세서;를 더 포함하고,상기 가속기는,상기 인공신경망 모델에 기초하여 상기 입력 데이터에 포함된 복수개의 배치에 대한 연산을 수행하여 각 배치의 중간 데이터를 출력하도록 구성되고,상기 CPU는:상기 입력 데이터에 포함된 복수개의 배치에 대한 전처리 연산을 수행하여 각 배치의 전처리 데이터를 출력하도록 구성되고; 그리고상기 가속기가 제2 배치의 전처리 데이터에 대하여 상기 제1 계층에 의한 연산을 처리하는 동안, 제1 배치의 중간 데이터에 대하여 상기 제2 계층에 의한 연산을 중첩적으로 처리하고, 상기 제1 배치의 데이터에 대하여 후처리 연산을 중첩적으로 수행하여 상기 제1 배치의 출력 데이터를 출력하고, 제3 배치의 데이터에 대하여 전처리 연산을 중첩적으로 수행하여 제3 배치에 대한 전처리 데이터를 출력하도록 구성되고,상기 프로세서는:상기 CPU의 연산속도 정보, 상기 가속기의 연산속도 정보 및 총 연산 시간에 대한 전처리 연산 시간과 후처리 연산 시간의 비율 정보에 기초하여 상기 복수개의 계층을 상기 제1 계층 및 상기 제2 계층으로 분류하도록 구성되고;상기 신경망 연산 장치의 연산 속도가 기준 처리 속도 이상인지 여부를 판단하고; 그리고상기 신경망 연산 장치의 연산 속도가 기준 처리 속도 이상이면, 상기 신경망 연산 장치에 공급되는 전압 및 주파수 중 적어도 하나를 감소시키도록 구성되는, 신경망 연산 장치
|
| 11 |
11
복수개의 계층으로 구성된 인공신경망 모델에 기초하여 입력 데이터에 대한 연산을 수행하는 신경망 연산 방법에 있어서,CPU에 의해, 상기 입력 데이터에 대하여 전처리 연산을 수행하여 전처리 데이터를 출력하는 단계;가속기에 의해, 상기 전처리 데이터에 대하여 상기 인공신경망 모델의 제1 계층에 의한 연산을 수행하여 중간 데이터를 출력하는 단계; 및상기 CPU에 의해, 상기 중간 데이터에 대하여 상기 인공신경망 모델의 제2 계층에 의한 연산을 수행하여 출력 데이터를 출력하는 단계;를 포함하는 신경망 연산 방법
|
| 12 |
12
제11항에 있어서,상기 전처리 데이터를 출력하는 단계는,상기 CPU에 의해, 상기 입력 데이터에 포함된 복수개의 배치에 대한 전처리 연산을 수행하여 각 배치의 전처리 데이터를 출력하는 단계;를 포함하고,상기 중간 데이터를 출력하는 단계는,상기 가속기에 의해, 상기 인공신경망 모델에 기초하여 상기 각 배치의 전처리 데이터에 대한 연산을 수행하여 각 배치의 중간 데이터를 출력하는 단계;를 포함하는, 신경망 연산 방법
|
| 13 |
13
제12항에 있어서,상기 출력 데이터를 출력하는 단계는,상기 CPU에 의해, 상기 가속기가 제2 배치의 전처리 데이터에 대하여 상기 제1 계층에 의한 연산을 처리하는 동안, 제1 배치의 중간 데이터에 대하여 상기 제2 계층에 의한 연산을 중첩적으로 처리하는 단계;를 포함하는 신경망 연산 방법
|
| 14 |
14
제12항에 있어서,상기 전처리 데이터를 출력하는 단계는,상기 CPU에 의해, 상기 가속기가 제1 배치의 상기 제1 계층에 대한 연산을 처리하는 동안, 제2 배치의 데이터에 대하여 전처리 연산을 중첩적으로 수행하여 상기 제2 배치의 전처리 데이터를 출력하는 단계;를 포함하는 신경망 연산 방법
|
| 15 |
15
제12항에 있어서,상기 출력 데이터를 출력하는 단계는,상기 CPU에 의해, 상기 가속기가 제2 배치의 상기 제1 계층에 대한 연산을 처리하는 동안, 제1 배치의 데이터에 대하여 후처리 연산을 중첩적으로 수행하여 상기 제1 배치의 출력 데이터를 출력하는 단계;를 포함하는 신경망 연산 방법
|
| 16 |
16
제12항에 있어서,상기 출력 데이터를 출력하는 단계는,상기 CPU에 의해, 상기 가속기가 제2 배치의 전처리 데이터에 대하여 상기 제1 계층에 대한 연산을 처리하는 동안, 제1 배치의 중간 데이터에 대하여 상기 제2 계층에 의한 연산을 중첩적으로 처리하는 단계; 및상기 CPU에 의해, 상기 가속기가 상기 제2 배치의 전처리 데이터에 대하여 상기 제1 계층에 대한 연산을 처리하는 동안, 상기 제1 배치의 데이터에 대하여 후처리 연산을 중첩적으로 수행하여 상기 제1 배치의 데이터의 출력 데이터를 출력하는 단계;를 포함하고,상기 전처리 데이터를 출력하는 단계는,상기 CPU에 의해, 상기 가속기가 상기 제2 배치의 상기 제1 계층에 대한 연산을 처리하는 동안, 제3 배치의 데이터에 대하여 전처리 연산을 중첩적으로 수행하여 상기 제3 배치의 전처리 데이터를 출력하는 단계;를 포함하는 신경망 연산 방법
|
| 17 |
17
제11항에 있어서,프로세서에 의해, 상기 가속기의 성능 및 상기 CPU의 성능에 기초하여, 상기 복수개의 계층을 상기 제1 계층 및 상기 제2 계층으로 분류하는 단계;를 더 포함하는 신경망 연산 방법
|
| 18 |
18
제17항에 있어서,상기 제1 계층 및 상기 제2 계층으로 분류하는 단계는,상기 프로세서에 의해, 상기 CPU의 연산속도 정보, 상기 가속기의 연산속도 정보 및 총 연산 시간에 대한 전처리 연산 시간과 후처리 연산 시간의 비율 정보에 기초하여 상기 복수개의 계층을 상기 제1 계층 및 상기 제2 계층으로 분류하는 단계;를 포함하는 신경망 연산 방법
|
| 19 |
19
제17항에 있어서,상기 프로세서에 의해, 신경망 연산 장치의 연산 속도가 기준 처리 속도 이상인지 여부를 판단하는 단계; 및상기 프로세서에 의해, 상기 신경망 연산 장치의 연산 속도가 기준 처리 속도 이상이면, 상기 신경망 연산 장치에 공급되는 전압 및 주파수 중 적어도 하나를 감소시키는 단계;를 더 포함하는 신경망 연산 방법
|
| 20 |
20
제11항 내지 제19항 중 어느 한 항의 신경망 연산 방법을 실행시키도록 컴퓨터로 판독 가능한 기록매체에 저장된 컴퓨터 프로그램
|
