| 1 |
1
식별자를 활용한 신경망 가속기의 타일 관리 방법에 있어서,신경망을 이루는 레이어 각각을 분할 처리하기 위하여 상기 신경망의 입력 데이터 및 가중치 데이터를 복수의 타일로 분할하는 단계;상기 복수의 타일 각각에 대하여 식별자를 부여하고, 상기 식별자 및 상기 복수의 타일 각각에 대응하는 메모리 주소 정보를 저장하는 단계; 및상기 복수의 타일 중 소정의 프로세싱 패스에 따른 연산에 필요한 타일을 상기 식별자에 기초하여 획득하는 단계,를 포함하는, 타일 관리 방법
|
| 2 |
2
제1항에 있어서,상기 저장하는 단계는,상기 식별자를 입력으로 하여 소정의 반환 주소 정보를 출력하는 내용 주소화 메모리(Content Addressable Memory, CAM) 및 상기 반환 주소 정보를 입력으로 하여 상기 식별자에 대응하는 상기 메모리 주소 정보를 출력하는 임의 접근 메모리(Random Access Memory, RAM)를 포함하는 메모리 구조에 상기 식별자 및 상기 메모리 주소 정보를 저장하는 것인, 타일 관리 방법
|
| 3 |
3
제2항에 있어서,상기 획득하는 단계는,상기 레이어에 대한 분할 처리를 위하여 스케줄링된 복수의 프로세싱 패스 중 처리 순서가 도래한 상기 프로세싱 패스에 따른 연산에 필요한 타일에 대한 식별자를 상기 메모리 구조에 입력하는 단계;상기 메모리 구조로부터 상기 연산에 필요한 타일이 저장된 상기 메모리 주소 정보를 획득하는 단계; 및상기 획득한 메모리 주소 정보에 기초하여 외부 메모리로부터 상기 타일을 탐색하는 단계,를 포함하는 것인, 타일 관리 방법
|
| 4 |
4
제3항에 있어서,상기 복수의 타일이 연결 리스트(Linked List) 또는 동적 할당(Dynamic Allocation) 방식으로 상기 외부 메모리에 저장되는 것을 특징으로 하는, 타일 관리 방법
|
| 5 |
5
제1항에 있어서,상기 입력 데이터가 분할된 복수의 타일에 대응하는 상기 식별자는 배치 정보, 채널 정보, 높이 정보 및 너비 정보를 포함하는 것인, 타일 관리 방법
|
| 6 |
6
제1항에 있어서,상기 레이어 각각의 형상 및 상기 복수의 타일의 크기를 고려하여 상기 프로세싱 패스를 스케줄링 하는 단계,를 더 포함하는 것인, 타일 관리 방법
|
| 7 |
7
제3항에 있어서,상기 프로세싱 패스에 대응하는 연산 결과를 상기 외부 메모리에 저장하는 단계,를 더 포함하는 것인, 타일 관리 방법
|
| 8 |
8
식별자를 활용한 신경망 가속기의 타일 관리 장치에 있어서,신경망을 이루는 레이어 각각을 분할 처리하기 위하여 상기 신경망의 입력 데이터 및 가중치 데이터를 복수의 타일로 분할하는 분할부;상기 복수의 타일 각각에 대하여 식별자를 부여하고, 상기 식별자 및 상기 복수의 타일 각각에 대응하는 메모리 주소 정보를 저장하는 기록부; 및상기 복수의 타일 중 소정의 프로세싱 패스에 따른 연산에 필요한 타일을 상기 식별자에 기초하여 획득하는 탐색부,를 포함하는, 타일 관리 장치
|
| 9 |
9
제8항에 있어서,상기 기록부는,상기 식별자를 입력으로 하여 소정의 반환 주소 정보를 출력하는 내용 주소화 메모리(Content Addressable Memory, CAM) 및 상기 반환 주소 정보를 입력으로 하여 상기 식별자에 대응하는 상기 메모리 주소 정보를 출력하는 임의 접근 메모리(Random Access Memory, RAM)를 포함하는 메모리 구조에 상기 식별자 및 상기 메모리 주소 정보를 저장하는 것인, 타일 관리 장치
|
| 10 |
10
제9항에 있어서,상기 탐색부는,상기 레이어에 대한 분할 처리를 위하여 스케줄링된 복수의 프로세싱 패스 중 처리 순서가 도래한 상기 프로세싱 패스에 따른 연산에 필요한 타일에 대한 식별자를 상기 메모리 구조에 입력하고, 상기 메모리 구조로부터 상기 연산에 필요한 타일이 저장된 상기 메모리 주소 정보를 획득하고, 상기 획득한 메모리 주소 정보에 기초하여 외부 메모리로부터 상기 타일을 탐색하는 것인, 타일 관리 장치
|
| 11 |
11
제10항에 있어서,상기 복수의 타일이 연결 리스트(Linked List) 또는 동적 할당(Dynamic Allocation) 방식으로 상기 외부 메모리에 저장되는 것을 특징으로 하는, 타일 관리 장치
|
| 12 |
12
제8항에 있어서,상기 입력 데이터가 분할된 복수의 타일에 대응하는 상기 식별자는 배치 정보, 채널 정보, 높이 정보 및 너비 정보를 포함하는 것인, 타일 관리 장치
|
| 13 |
13
제8항에 있어서,상기 레이어 각각의 형상 및 상기 복수의 타일의 크기를 고려하여 상기 프로세싱 패스를 스케줄링 하는 설정부,를 더 포함하는 것인, 타일 관리 장치
|
| 14 |
14
제10항에 있어서,상기 기록부는,상기 프로세싱 패스에 대응하는 연산 결과를 상기 외부 메모리에 저장하는 것인, 타일 관리 장치
|
| 15 |
15
식별자를 활용한 신경망 가속기에 있어서,신경망을 이루는 레이어 각각을 분할 처리하기 위하여 상기 신경망의 입력 데이터 및 가중치 데이터를 분할한 복수의 타일 각각에 대하여 식별자를 부여하고, 상기 식별자 및 상기 복수의 타일 각각에 대응하는 메모리 주소 정보를 저장하고, 상기 복수의 타일 중 소정의 프로세싱 패스에 따른 연산에 필요한 타일을 상기 식별자에 기초하여 외부 메모리로부터 획득하는 타일 관리 장치; 및상기 획득한 타일에 기초하여 상기 프로세싱 패스에 따른 연산을 수행하는 연산 장치,를 포함하는, 신경망 가속기
|
