| 1 |
1
기 학습된 대용량 인공 신경망(artificial neural network: ANN)을 획득하는 단계;상기 획득된 대용량 인공 신경망의 복잡도를 기초로, 상기 대용량 인공 신경망을 기 설정된 단위 네트워크 조각과 매칭하는 단계; 및매칭된 복수의 단위 네트워크 조각들을 포함하는, 압축된 네트워크를 생성하는 단계를 포함하는네트워크 압축 방법
|
| 2 |
2
제1항에 있어서,상기 매칭하는 단계는상기 기 설정된 단위 네트워크 조각과 상기 대용량 인공 신경망의 말단에서 생성되는 데이터의 분포가 일치되도록 상기 기 설정된 단위 네트워크 조각을 최적화하는 단계를 포함하는네트워크 압축 방법
|
| 3 |
3
제2항에 있어서,상기 압축된 네트워크를 생성하는 단계는상기 최적화된 단위 네트워크 조각들을 포함하는, 상기 압축된 네트워크를 생성하는 단계를 포함하는네트워크 압축 방법
|
| 4 |
4
제2항에 있어서,상기 최적화하는 단계는상기 기 설정된 단위 네트워크 조각과 상기 대용량 인공 신경망 간의 최대 평균 차이(maximum mean discrepancy: MMD)를 최적화하는 단계를 포함하는네트워크 압축 방법
|
| 5 |
5
제2항에 있어서,상기 최대 평균 차이(MMD)를 최적화하는 단계는상기 기 학습된 대용량 인공 신경망의 데이터 분포가 P, 상기 P를 통해 생성되는 데이터를 xi, 상기 기 설정된 단위 네트워크 조각의 데이터 분포가 Q 및 상기 Q를 통해 생성되는 데이터를 yi라 하면, 상기 P와 Q의 차이를 나타내는 MMD는 아래의 수학식을 이용하는 단계를 포함하는네트워크 압축 방법
|
| 6 |
6
제1항에 있어서,상기 복잡도는 인공 신경망의 표현력을 수치화한 값을 나타내는네트워크 압축 방법
|
| 7 |
7
제1항에 있어서, 상기 매칭하는 단계는상기 기 설정된 단위 네트워크 조각을 생성하는 단계와,상기 대용량 인공 신경망 중에서 상기 기 설정된 단위 네트워크 조각과 매칭되지 않는 부분을 선택하는 단계와,상기 기 설정된 단위 네트워크 조각의 제1 복잡도와 상기 매칭되지 않는 부분의 제2 복잡도를 비교하는 단계와,상기 제1 복잡도와 상기 제2 복잡도 간의 차이에 기초하여 상기 기 설정된 단위 네트워크 조각과 상기 매칭되지 않는 부분을 매칭하는 단계를 포함하는네트워크 압축 방법
|
| 8 |
8
제7항에 있어서, 상기 제1 복잡도와 상기 제2 복잡도 간의 차이에 기초하여 상기 기 설정된 단위 네트워크 조각과 상기 매칭되지 않는 부분을 매칭하는 단계는상기 제1 복잡도와 상기 제2 복잡도 간의 차이가 일정 값 보다 크면, 상기 매칭되지 않는 부분의 범위를 확장시키는 단계를 포함하는네트워크 압축 방법
|
| 9 |
9
적어도 하나의 프로세서; 및상기 프로세서와 전기적으로 연결된 메모리를 포함하고,상기 메모리는, 상기 프로세서가 실행 시에,기 학습된 대용량 인공 신경망(artificial neural network: ANN)을 획득하고,상기 획득된 대용량 인공 신경망의 복잡도를 기초로, 상기 대용량 인공 신경망을 기 설정된 단위 네트워크 조각과 매칭하고,매칭된 복수의 단위 네트워크 조각들을 포함하는, 압축된 네트워크를 생성하도록 하는 인스트럭션들을 저장하는네트워크 압축 장치
|
| 10 |
10
제9항에 있어서, 상기 메모리는, 상기 프로세서가 실행 시에,상기 기 설정된 단위 네트워크 조각과 상기 대용량 인공 신경망의 말단에서 생성되는 데이터의 분포가 일치되도록 상기 기 설정된 단위 네트워크 조각을 최적화하도록 하는 인스트럭션들을 저장하는네트워크 압축 장치
|
| 11 |
11
제10항에 있어서,상기 메모리는, 상기 프로세서가 실행 시에,상기 최적화된 단위 네트워크 조각들을 포함하는, 상기 압축된 네트워크를 생성하도록 하는 인스트럭션들을 저장하는네트워크 압축 장치
|
| 12 |
12
제9항에 있어서,상기 메모리는, 상기 프로세서가 실행 시에,상기 기 설정된 단위 네트워크 조각과 상기 대용량 인공 신경망 간의 최대 평균 차이(maximum mean discrepancy: MMD)를 최적화하도록 하는 인스트럭션들을 저장하는네트워크 압축 장치
|
| 13 |
13
제9항에 있어서,상기 메모리는, 상기 프로세서가 실행 시에,상기 기 학습된 대용량 인공 신경망의 데이터 분포가 P, 상기 P를 통해 생성되는 데이터를 xi, 상기 기 설정된 단위 네트워크 조각의 데이터 분포가 Q 및 상기 Q를 통해 생성되는 데이터를 yi라 하면, 상기 P와 Q의 차이를 나타내는 MMD는 아래의 수학식을 이용하여 상기 최대 평균 차이를 최적화하도록 하는 인스트럭션들을 저장하는 네트워크 압축 장치
|
| 14 |
14
제8항에 있어서,상기 복잡도는 인공 신경망의 표현력을 수치화한 값을 나타내는네트워크 압축 장치
|
| 15 |
15
제8항에 있어서,상기 메모리는, 상기 프로세서가 실행 시에,상기 기 설정된 단위 네트워크 조각을 생성하고,상기 대용량 인공 신경망 중에서 상기 기 설정된 단위 네트워크 조각과 매칭되지 않는 부분을 선택하고,상기 기 설정된 단위 네트워크 조각의 제1 복잡도와 상기 매칭되지 않는 부분의 제2 복잡도를 비교하고,상기 제1 복잡도와 상기 제2 복잡도 간의 차이에 기초하여 상기 기 설정된 단위 네트워크 조각과 상기 매칭되지 않는 부분을 매칭하도록 하는 인스트럭션들을 저장하는네트워크 압축 장치
|
| 16 |
16
제15항에 있어서,상기 메모리는, 상기 프로세서가 실행 시에,상기 제1 복잡도와 상기 제2 복잡도 간의 차이가 일정 값 보다 크면, 상기 매칭되지 않는 부분의 범위를 확장시키도록 하는 인스트럭션들을 저장하는네트워크 압축 장치
|
