| 1 |
1
복수의 웨이트 매트릭스와 활성함수로 이루어진 딥러닝 모델의 연산 프로세서에 의해 수행되는 연산 방법에 있어서, 양자화부가 상기 활성함수의 연산 객체에 대하여 양자화를 수행하는 단계; 상기 양자화부가 활성함수의 각 양자화 값에 대한 인덱스를 생성하는 단계; 다음 층의 매트릭스 웨이트 연산 시, 연산 프로세서가 상기 생성된 인덱스 별로 매트릭스 웨이트 값을 더하는 연산을 수행하는 단계; 및 상기 연산 프로세서가 인덱스 별 합산 값을 활성함수의 각 인덱스 양자화 값으로 곱하여 매트릭스 연산을 수행하는 단계;를 포함하는 딥러닝 시스템에서의 연산 처리 방법
|
| 2 |
2
제 1항에 있어서, 상기 양자화를 수행하는 단계는, 하이퍼볼릭 탄젠트(hyperbolic Tangent)와 같은 활성함수를 이용하여 양자화를 수행하는 것인 딥러닝 시스템에서의 연산 처리 방법
|
| 3 |
3
제 2항에 있어서, 상기 양자화부를 통해 처리되는 양자화 값은, 웨이트 매트릭스의 곱셈 연산을 줄일 수 있도록, 웨이트 매트릭스의 연산 후보로 설정하기 위한 양자화 값과, 웨이트 매트릭스의 연산 후보를 감소시키기 위한 양자화 값을 포함하는 것인 딥러닝 시스템에서의 연산 처리 방법
|
| 4 |
4
제 3항에 있어서, 상기 양자화를 수행하는 단계는, 상기 웨이트 매트릭스의 곱셈 연산을 줄이기 위한 양자화 값이 복수개 영역으로 구분되는 것을 특징으로 하는 딥러닝 시스템에서의 연산 처리 방법
|
| 5 |
5
제 2항에 있어서, 상기 웨이트 매트릭스의 연산을 수행하는 단계는, 상기 연산 프로세서가 양자화된 입력 데이터의 인덱스를 이용하여 웨이트 매트릭스의 값들을 먼저 합산하고, 이를 해당 인덱스의 양자화된 값으로 곱하는 것인 딥러닝 시스템에서의 연산 처리 방법
|
| 6 |
6
제 5항에 있어서, 상기 양자화를 수행하는 단계는, 활성함수의 양자화 값을 저장할 수 있도록, 양자화되는 활성함수에 대응되는 벡터 메모리를 각각 할당하고, 할당된 상기 양자화 벡터 메모리 영역에 데이터 출력 층과 같은 개수만큼의 양자화된 값들을 저장하는 것인 딥러닝 시스템에서의 연산 처리 방법
|
| 7 |
7
제 6항에 있어서, 상기 웨이트 매트릭스의 연산을 수행하는 단계는, 상기 연산 프로세서가 양자화된 값들 중 웨이트 매트릭스 연산에 영향이 적은 근사값 부분을 연산 후보에서 제거하는 것인 딥러닝 시스템에서의 연산 처리 방법
|
| 8 |
8
제 1항에 있어서, 상기 활성함수의 연산 객체에 대하여 양자화를 수행하는 단계는, 상기 연산 프로세서가 병렬 프로세싱을 통해 이전 층의 웨이트 매트릭스를 통해 연산된 결과 값을 이용하여 현재 웨이트 매트릭스의 연산하는 SIMD(Single Instruction Multiple Data) 처리 방식에 적용하는 것인 딥러닝 시스템에서의 연산 처리 방법
|
| 9 |
9
제 8항에 있어서, 상기 웨이트 매트릭스의 연산을 수행하는 단계는, 상기 연산 프로세서가 병렬 프로세싱을 할당하는 단계; 상기 연산 프로세서가 병렬 프로세싱을 통해 각 웨이트 매트릭스의 비교 연산과 비트 연산을 이용하여 인덱스를 생성하고, 생성된 인덱스를 각 웨이트 매트릭스의 테이블로 기입하는 단계; 상기 연산 프로세서가 병렬 프로세싱을 통해 양자화 영역으로 나눠진 상기 인덱스 테이블과 SIMD 연산을 이용하여 양자화 영역으로 나눠진 양자화 벡터들을 생성하는 단계; 상기 연산 프로세서가 병렬 프로세싱을 통해 SIMD 연산을 이용하여 합산하는 단계; 및 상기 연산 프로세서가 병렬 프로세싱을 통해 선형 출력 벡터를 생성하는 단계를 포함하는 딥러닝 시스템에서의 연산 처리 방법
|
| 10 |
10
제 1항에 있어서, 상기 웨이트 매트릭스의 양자화 값을 연산하는 단계는, 상기 연산 프로세서가 이전 층의 웨이트 매트릭스를 통해 연산된 결과 값과 이전 프레임 시간의 웨이트 매트릭스를 통해 연산된 결과 값을 이용하여 현재 웨이트 매트릭스의 연산하는 RNN(Recursive Neural Network) 처리 방식에 적용하는 것인 딥러닝 시스템에서의 연산 처리 방법
|
| 11 |
11
입력되는 입력 데이터의 연산 처리를 위한 연산 객체 값을 포함하는 복수개의 웨이트 매트릭스; 상기 활성함수의 연산 객체에 대하여 양자화를 수행하는 양자화부; 상기 양자화부를 통해 양자화된 활성함수의 양자화 값과 해당 양자화 값에 대응되는 인덱스 값이 매칭되어 저장되는 양자화 인덱스 저장부; 및 입력되는 입력 데이터를 상기 양자화 인덱스 저장부에 저장된 양자화 인덱스 값으로 연산을 수행하는 연산 프로세서;를 포함하는 딥러닝 시스템에서의 연산 처리 장치
|
| 12 |
12
제 11항에 있어서, 상기 양자화부는, 하이퍼볼릭 탄젠트(hyperbolic Tangent)와 같은 활성함수를 이용하여 양자화를 수행하는 것인 딥러닝 시스템에서의 연산 처리 장치
|
| 13 |
13
제 12항에 있어서, 상기 양자화부를 통해 처리되는 양자화 값은, 웨이트 매트릭스의 곱셈 연산을 줄일 수 있도록, 웨이트 매트릭스의 연산 후보로 설정하기 위한 양자화 값과, 웨이트 매트릭스의 연산 후보를 감소시키기 위한 양자화 값을 포함하는 것인 딥러닝 시스템에서의 연산 처리 장치
|
| 14 |
14
제 13항에 있어서, 상기 양자화부는, 상기 웨이트 매트릭스의 곱셈 연산을 줄이기 위한 양자화 값이 복수개 영역으로 구분되는 것을 특징으로 하는 딥러닝 시스템에서의 연산 처리 장치
|
| 15 |
15
제 12항에 있어서, 상기 연산 프로세서는, 양자화된 입력 데이터의 인덱스와 관련된 웨이트 매트릭스의 값들을 먼저 합산하고, 이를 각 인덱스에 대응되는 양자화된 값으로 곱하는 것인 딥러닝 시스템에서의 연산 처리 장치
|
| 16 |
16
제 15항에 있어서, 상기 양자화부는, 상기 웨이트 매트릭스 값을 합산할 수 있도록, 벡터 메모리에 활성함수의 양자화 값과 각 양자화 값에 대응되는 인덱스 정보를 저장하는 것인 딥러닝 시스템에서의 연산 처리 장치
|
| 17 |
17
제 16항에 있어서, 상기 연산 프로세서는, 양자화된 값들 중 웨이트 매트릭스 연산에 영향이 적은 근사값 부분을 연산 후보에서 제거하는 것인 딥러닝 시스템에서의 연산 처리 장치
|
| 18 |
18
제 11항에 있어서, 상기 연산 프로세서는, 병렬 프로세싱을 통해 이전 층의 웨이트 매트릭스를 통해 연산된 결과 값을 이용하여 현재 웨이트 매트릭스의 연산하는 SIMD(Single Instruction Multiple Data) 처리 방식에 적용하는 것인 딥러닝 시스템에서의 연산 처리 장치
|
| 19 |
19
제 18항에 있어서, 상기 연산 프로세서는, 상기 연산 프로세서가 병렬 프로세싱을 할당하고, 할당된 병렬 프로세싱을 통해 각 웨이트 매트릭스의 비교 연산과 비트 연산을 이용하여 인덱스를 생성하고, 생성된 인덱스를 각 웨이트 매트릭스의 테이블로 기입하고, 병렬 프로세싱을 통해 양자화 영역으로 나눠진 상기 인덱스 테이블과 SIMD 연산을 이용하여 양자화 영역으로 나눠진 양자화 벡터들을 생성한 후 SIMD 연산을 이용하여 합산하여 선형 출력 벡터를 생성하는 것을 특징으로 하는 딥러닝 시스템에서의 연산 처리 장치
|
| 20 |
20
제 12항에 있어서, 상기 연산 프로세서는, 이전 층의 웨이트 매트릭스를 통해 연산된 결과 값과 이전 프레임 시간의 웨이트 매트릭스를 통해 연산된 결과 값을 이용하여 현재 웨이트 매트릭스의 연산하는 RNN(Recursive Neural Network) 처리 방식에 적용하는 것인 딥러닝 시스템에서의 연산 처리 장치
|
