| 1 |
1
신경망 모델 생성 방법에 있어서,기 학습된 신경망 모델로부터 분류된 각각의 원시 태스크들(primitive task)을 위한 전문가 컴포넌트들을 학습하여 풀을 형성하는 전처리 단계; 및 상기 형성된 풀에 기초하여 사용자로부터 요청된 복합 태스크를 수행하기 위한 전문가 컴포넌트들을 사용자에게 전달하는 서비스 단계 를 포함하는 신경망 모델 생성 방법
|
| 2 |
2
제1항에 있어서,상기 전처리 단계는,전문가 컴포넌트들이 공유하는 특징 추출기(feature extractor)를 학습하고, 상기 특징 추출기를 학습함에 따라 전문가 컴포넌트들을 학습하는 단계 를 포함하는 신경망 모델 생성 방법
|
| 3 |
3
제2항에 있어서,상기 전처리 단계는,지식 증류기법을 사용하여 기 학습된 모델을 선생 모델로 두고, 기 설정된 크기 이하의 학생 모델에 대한 학습을 진행하고, 상기 학생 모델의 학습을 위한 제1 손실함수를 도출하는 단계를 포함하고, 상기 제1 손실함수를 사용하여 학습된 학생 모델은 선생 모델이 학습한 전체 태스크를 다루는 모델이고, 상기 학습된 학생 모델의 l(l003e#1)번째 레이어까지 공유되는 특징 추출기를 컴포넌트로 사용하는 신경망 모델 생성 방법
|
| 4 |
4
제2항에 있어서,상기 전처리 단계는,기 학습된 모델이 다루는 전체 태스크를 유사도를 기준으로 구분함에 따라 획득된 가장 작은 단위의 원시 태스크에 대한 전문가 컴포넌트들을 학습하는 단계 를 포함하고,상기 원시 태스크를 위한 모델은, 공유되는 특징 추출기와 전문가 컴포넌트로 구성되고, 원시 태스크를 위한 모델을 학습할 때 공유되는 특징 추출기는 학습되지 않고, 전문가 컴포넌트만이 학습되는 신경망 모델 생성 방법
|
| 5 |
5
제4항에 있어서,상기 전처리 단계는,상기 원시 태스크를 위한 모델을 학습하는 제2 손실함수를 도출하고, 상기 도출된 제2 손실함수를 통해 학습된 전문가 컴포넌트와 제1 손실함수를 통해 학습한 공유되는 특징 추출기를 전문가 풀에 저장하는 단계 를 포함하고, 상기 원시 태스크를 위한 모델을 학습하는 손실함수는, 선생 모델이 학습한 전체 태스크 중 일부 태스크만을 다루는 학생 모델을 학습하기 위하여 사용되는 신경망 모델 생성 방법
|
| 6 |
6
제1항에 있어서,상기 서비스 단계는, 상기 사용자로부터 요청된 복합 태스크를 수행하는 모델을 생성하여 사용자에게 전달하는 단계를 포함하는 신경망 모델 생성 방법
|
| 7 |
7
제6항에 있어서,상기 서비스 단계는, 형성된 풀에 기초하여 사용자로부터 요청된 복합 태스크를 수행하기 위한 전문가 컴포넌트들을 추출하고, 상기 추출된 전문가 컴포넌트들을 공유되는 특징 추출기의 뒤에 부가함으로써 결합시키고, 상기 결합을 통해 병합된 모델을 사용자에게 전달하는 단계 를 포함하는 신경망 모델 생성 방법
|
| 8 |
8
신경망 모델 생성 시스템에 있어서,기 학습된 신경망 모델로부터 분류된 각각의 원시 태스크들(primitive task)을 위한 전문가 컴포넌트들을 학습하여 풀을 형성하는 전처리부; 및 상기 형성된 풀에 기초하여 사용자로부터 요청된 복합 태스크를 수행하기 위한 전문가 컴포넌트들을 사용자에게 전달하는 서비스부 를 포함하는 신경망 모델 생성 시스템
|
