| 1 |
1
인공 신경망의 지식을 추출하는 방법에 있어서,학습된 분류기가 주어지면 생성기 및 해석기를 생성하고, 상기 생성기의 출력이 상기 분류기 및 상기 해석기의 입력으로 인가되도록 연결하여 심층 신경망을 생성하는 단계;상기 심층 신경망의 손실이 최소화되도록 상기 생성기 및 상기 해석기를 학습하는 단계; 및상기 생성기의 출력으로부터 인공 데이터를 획득하는 단계를 포함하는, 방법
|
| 2 |
2
제1항에 있어서,상기 생성기 및 상기 해석기를 학습하는 단계는,상기 생성기의 입력과, 상기 분류기 및 상기 해석기의 출력 간 거리를 최소화 하도록 상기 생성기 및 상기 해석기를 학습시키는 것을 특징으로 하는 방법
|
| 3 |
3
제2항에 있어서,상기 생성기 및 상기 해석기를 학습하는 단계는,샘플링된 벡터들을 연결하여 벡터를 생성하고 상기 생성된 벡터를 상기 생성기에 입력하여 상기 분류기 및 상기 해석기에서 각각 출력되는 벡터들을 획득하는 단계;상기 심층 신경망의 입력과 출력 간 손실을 최소화하기 위한 목적 함수를 생성하는 단계; 및상기 목적 함수가 최소화되도록 상기 생성기 및 상기 해석기의 파라미터를 업데이트하는 단계를 포함하는 것을 특징으로 하는 방법
|
| 4 |
4
제3항에 있어서,상기 목적 함수를 생성하는 단계는,상기 생성기의 입력과 상기 분류기의 출력 간 거리를 나타내는 분류기 손실 함수를 생성하는 단계;상기 생성기의 입력과 상기 해석기의 출력 간 거리를 나타내는 해석기 손실 함수를 생성하는 단계;상기 샘플링된 벡터들의 배치 내에 존재하는 모든 데이터 사이의 거리의 합을 나타내는 다양성 손실 함수를 생성하는 단계; 및상기 분류기 손실 함수, 상기 해석기 손실 함수 및 상기 다양성 손실 함수를 더해 상기 목적 함수를 생성하는 단계를 포함하는 것을 특징으로 하는 방법
|
| 5 |
5
제1항에 있어서,상기 획득된 인공 데이터를 이용하여 상기 분류기를 활용하는 방법을 더 포함하는 것을 특징으로 하는 방법
|
| 6 |
6
제5항에 있어서,상기 분류기를 활용하는 단계는,상기 인공 데이터를 이용하여 상기 분류기를 압축하거나 상기 분류기의 지식을 다른 신경망 모델에 전달하는 것을 특징으로 하는 방법
|
| 7 |
7
제1항에 기재된 방법을 수행하는 프로그램이 기록된 컴퓨터 판독 가능한 기록 매체
|
| 8 |
8
신경망 지식 추출 장치에 의해 수행되며, 제1항에 기재된 방법을 수행하기 위해 매체에 저장된 컴퓨터 프로그램
|
| 9 |
9
인공 신경망 지식 추출 장치에 있어서,데이터를 입력 받고, 이를 연산 처리하여 출력하기 위한 입출력부;인공 신경망의 지식을 추출하기 위한 프로그램이 저장되는 저장부; 및적어도 하나의 프로세서를 포함하는 제어부를 포함하며,상기 제어부는 학습된 분류기가 주어지면 상기 프로그램을 실행시킴으로써 생성기 및 해석기를 생성하고, 상기 생성기의 출력이 상기 분류기 및 상기 해석기의 입력으로 인가되도록 연결하여 심층 신경망을 생성하며, 상기 심층 신경망의 손실이 최소화되도록 상기 생성기 및 상기 해석기를 학습시킨 후, 상기 생성기의 출력으로부터 인공 데이터를 획득하는, 장치
|
| 10 |
10
제9항에 있어서,상기 제어부는 상기 생성기 및 상기 해석기를 학습시킴에 있어서,상기 생성기의 입력과, 상기 분류기 및 상기 해석기의 출력 간 거리를 최소화하도록 상기 생성기 및 상기 해석기를 학습시키는 것을 특징으로 하는 장치
|
| 11 |
11
제10항에 있어서,상기 제어부는 상기 생성기 및 상기 해석기를 학습시킴에 있어서,샘플링된 벡터들을 연결하여 벡터를 생성하고 상기 생성된 벡터를 상기 생성기에 입력하여 상기 분류기 및 상기 해석기에서 각각 출력되는 벡터들을 획득하고, 상기 심층 신경망의 입력과 출력 간 손실을 최소화하기 위한 목적 함수를 생성하고, 상기 목적 함수가 최소화되도록 상기 생성기 및 상기 해석기의 파라미터를 업데이트하는 것을 특징으로 하는 장치
|
| 12 |
12
제11항에 있어서,상기 제어부는 상기 목적 함수를 생성함에 있어서,상기 생성기의 입력과 상기 분류기의 출력 간 거리를 나타내는 분류기 손실 함수를 생성하고, 상기 생성기의 입력과 상기 해석기의 출력 간 거리를 나타내는 해석기 손실 함수를 생성하고, 상기 샘플링된 벡터들의 배치 내에 존재하는 모든 데이터 사이의 거리의 합을 나타내는 다양성 손실 함수를 생성한 후, 상기 분류기 손실 함수, 상기 해석기 손실 함수 및 상기 다양성 손실 함수를 더해 상기 목적 함수를 생성하는 것을 특징으로 하는 장치
|
| 13 |
13
제9항에 있어서,상기 제어부는,상기 획득된 인공 데이터를 이용하여 상기 분류기를 활용하는 것을 특징으로 하는 장치
|
| 14 |
14
제13항에 있어서,상기 제어부는 상기 분류기를 활용함에 있어서,상기 인공 데이터를 이용하여 상기 분류기를 압축하거나 상기 분류기의 지식을 다른 신경망 모델에 전달하는 것을 특징으로 하는 장치
|
