| 1 |
1
인공지능 가속기(artificial intelligent accelerator)에 있어서,신경망(neural network) 입력단의 초기 인풋 데이터를 기반으로 연산하는 프로세싱 모듈로부터 출력되는 추론 중간 값을 압축하여 메모리에 저장하고, 상기 메모리에 저장된 압축된 추론 중간 값을 인풋 데이터로 획득하여 압축 해제하여 프로세싱 모델로 입력하는 압축모듈; 및메모리에 저장된 초기 인풋 데이터를 획득하여 추론 연산을 수행하고, 그 추론 연산의 중간 값인 추론 중간 값을 출력하여 압축 모듈을 통해 메모리에 저장하고, 상기 저장된 추론 중간 값을 압축 모듈을 통해 인풋 데이터로 획득하여 추론 연산을 수행하는 프로세싱 모듈;을 포함하여 구성되며, 상기 압축 모듈은, 상기 프로세싱 모듈로부터 출력되는 추론 중간 값을 소정의 제1, 2 압축 방식으로 순차적으로 1차 및 2차 압축하여 메모리로 전달하여 저장하는 압축 수행 모듈; 및상기 압축 수행 모듈에 의해 1, 2차 압축되어 저장된 압축 추론 중간 값을 리딩 하여 인풋 데이터로 획득하여, 상기 제1, 2차 압축 방식 각각에 대응하는 제1, 2 압축 해제 방식으로 1, 2차 압축 해제하여 프로세싱 모듈로 입력하는 압축 해제 수행 모듈; 을 포함하여 구성되고, 상기 1차 압축은, 반복되는 데이터의 값이 많은 추론 중간 값의 압축 효과를 높이기 위해, 중복되는 문자를 한 문자로 치환하는 런 렝스 압축 기법을 제1 압축방식으로 적용하여 수행하고, 상기 2차 압축은, 입력되는 데이터를 이용하여 실시간으로 트리 구조를 업데이트하여 압축을 진행하는 동적 허프만 코딩(Adaptive Huffman Coding) 기법을 제2 압축 방식으로 적용하여 수행하는 인공지능 가속기
|
| 2 |
2
삭제
|
| 3 |
3
제1항에 있어서,상기 압축 수행 모듈은,상기 프로세싱 모듈로부터 출력되는 추론 중간 값을 소정의 제1 압축 방식으로 1차 압축하는 제1 압축 수행 모듈;상기 제1 압축 수행 모듈에 의해 소정의 제1 압축 방식으로 1차 압축된 추론 중간 값을 소정의 제2 압축 방식으로 2차 압축하여 압축 추론 값을 생성하는 제2 압축 수행 모듈;을 포함하여 구성되는 것을 특징으로 하는 인공지능 가속기
|
| 4 |
4
제3항에 있어서,상기 압축 해제 수행 모듈은,메모리에 저장된 상기 압축 추론 중간 값을 인풋 데이터로 획득하여, 상기 제2 압축 방식에 대응하는 제2 압축 해제 방식으로 1차 압축 해제하는 제1 압축 해제 수행 모듈;상기 제1 압축 해제 수행 모듈에 의해 1차 압축 해제된 인풋 데이터를 상기 제1 압축 방식에 대응하는 제1 압축 해제 방식으로 2차 압축 해제하여 프로세싱 모듈로 입력하는 제2 압축 해제 수행 모듈;을 포함하여 구성되는 것을 특징으로 하는 인공지능 가속기
|
| 5 |
5
삭제
|
| 6 |
6
삭제
|
| 7 |
7
제4항에 있어서,상기 제1 압축 해제 방식은,상기 동적 허프만 코딩(Adaptive Huffman Coding) 기법의 압축 과정을 역순으로 수행하는 것; 을 특징으로 하는 인공지능 가속기
|
| 8 |
8
제4항에 있어서,상기 제2 압축 해제 방식은, 상기 런 렝스 코딩(Run Length Coding) 기법의 압축 과정을 역순으로 수행하는 것; 을 특징으로 하는 인공지능 가속기
|
| 9 |
9
인공지능 가속기(artificial intelligent accelerator)에서 메모리 간의 데이터 전달 방법에 있어서,가속기의 프로세싱 모듈에서, 메모리에 미리 저장된 신경망 입력단으로부터의 초기 인풋 데이터를 리딩하여 획득하는 초기 인풋 데이터 획득 단계;가속기의 프로세싱 모듈에서, 상기 초기 인풋 데이터 획득 단계에서 획득한 초기 인풋 데이터를 이용하여 연산하여 추론 결과의 중간 값인 추론 중간 값을 출력하는 추론 중간 값 출력 단계;가속기의 압축 모듈에서, 상기 추론 중간 값 출력 단계에서 출력된 프로세싱 모듈로부터의 추론 중간 값을 소정의 제1 압축 방식을 이용하여 1차 압축을 수행하고, 1차 압축된 추론 중간 값을 상기 제1 압축 방식과는 다른 소정의 제2 압축 방식을 이용하여 2차 압축하는 추론 중간 값 압축 단계;가속기의 압축 모듈에서, 상기 압축 추론 중간 값 저장 단계에 의해 메모리 에 저장된 압축 추론 중간 값을 리딩하여 인풋 데이터로 획득하는 인풋 데이터 획득 단계; 가속기의 압축 모듈에서, 상기 인풋 데이터 획득 단계에서 인풋 데이터로 획 득한 압축 추론 중간 값을 상기 소정의 제1, 2 압축 방식에 각각 대응하는 제1, 2 압축 해제 방식으로 압축 추론 중간 값을 1, 2차 압축 해제하는 인풋 데이터 압축 해제 단계; 가속기의 압축 모듈에서, 상기 인풋 데이터 압축 해제 단계에서 2차 압축 해 제된 인풋 데이터를 프로세싱 모듈로 전달하는 인풋 데이터 전달 단계; 를 포함하여 구성되고, 상기 1차 압축의 수행은, 반복되는 데이터의 값이 많은 추론 중간 값의 압축 효과를 높이기 위해, 중복되는 문자를 한 문자로 치환하는 런 렝스 압축 기법을 제1 압축방식으로 적용하여 수행하고, 상기 2차 압축의 수행은, 입력되는 데이터를 이용하여 실시간으로 트리 구조를 업데이트하여 압축을 진행하는 동적 허프만 코딩(Adaptive Huffman Coding) 기법을 제2 압축 방식으로 적용하여 수행하는 것;을 특징으로 하는 인공지능 가속기와 메모리 간 데이터 전달 방법
|
| 10 |
10
삭제
|
| 11 |
11
삭제
|
| 12 |
12
제9항에 있어서,상기 인풋 데이터 압축 해제 단계는,상기 인풋 데이터 획득 단계에서 인풋 데이터로 획득한 압축 추론 중간 값을 상기 소정의 제2 압축 방식에 대응하는 제2 압축 해제 방식으로 1차 압축 해제하는 제1 압축 해제 수행 단계;상기 제1 압축 해제 단계에서 제2 압축 해제 방식으로 1차 압축 해제한 압축 추론 중간 값을 상기 소정의 제1 압축 방식에 대응하는 제1 압축 해제 방식으로 2차 압축 해제하는 제2 압축 해제 수행 단계;를 포함하여 구성되는 것을 특징으로 하는 인공지능 가속기와 메모리 간 데이터 전달 방법
|
| 13 |
13
삭제
|
| 14 |
14
삭제
|
| 15 |
15
제12항에 있어서,상기 제1 압축 해제 방식은,동적 허프만 코딩(Adaptive Huffman Coding) 기법의 압축 과정을 역순으로 수행하는 것; 을 특징으로 하는 인공지능 가속기와 메모리 간 데이터 전달 방법
|
| 16 |
16
제12항에 있어서,상기 제2 압축 해제 방식은,런 렝스 코딩(Run Length Coding) 기법의 압축 과정을 역순으로 수행하는 것; 을 특징으로 하는 인공지능 가속기와 메모리 간 데이터 전달 방법
|
