1 |
1
처리부 및 공동 학습부를 포함하는 기계학습 시스템의 공동학습을 이용한 기계학습 방법에 있어서,상기 처리부가 손실 함수를 이용하여, 입력 데이터의 특징을 추출하는 공유 엔진에서 분기(branch)된 교사 학습 모듈 및 학생 학습 모듈 사이의 오류 및 특성 차이를 최소화하는 단계; 및상기 공동 학습부가 상기 손실 함수에 의해 상기 교사 학습 모듈 및 상기 학생 학습 모듈을 공동으로 학습시키는 단계를 포함하는 공동 학습을 이용한 기계학습 방법
|
2 |
2
제1항에 있어서, 상기 기계학습 시스템에 더 포함된 추론부가 상기 학습된 학생 학습 모듈 및 상기 공유 엔진 각각의 네트워크 파라미터를 이용하여 상기 입력 데이터에 대한 분류(classification) 및 회귀(regression) 값을 추론하는 단계를 더 포함하는 공동 학습을 이용한 기계학습 방법
|
3 |
3
제1항에 있어서, 상기 처리부가 상기 분기된 교사 학습 모듈 및 학생 학습 모듈 사이의 오류 및 특성 차이를 최소화하는 단계는세 가지 손실 함수 중 제1 손실 함수 및 제2 손실 함수를 이용하여 상기 교사 학습 모듈 및 상기 학생 학습 모듈의 표식 오류를 최소화하고, 제3 손실 함수를 이용하여 상기 교사 학습 모듈 및 상기 학생 학습 모듈 사이의 특성 차이를 최소화하는 공동학습을 이용한 기계학습 방법
|
4 |
4
제3항에 있어서, 상기 공동 학습부가 상기 손실 함수에 의해 상기 교사 학습 모듈 및 상기 학생 학습 모듈을 공동으로 학습시키는 단계는상기 세 가지 손실 함수 중 최종 손실 함수에 의해, 상기 교사 학습 모듈을 모방하는 상기 학생 학습 모듈을 학습시키는 것을 특징으로 하는 공동 학습을 이용한 기계학습 방법
|
5 |
5
제1항에 있어서, 상기 공동 학습부가 상기 손실 함수에 의해 상기 교사 학습 모듈 및 상기 학생 학습 모듈을 공동으로 학습시키는 단계는 컴팩트한 아키텍처(compact architectures)인 상기 학생 학습 모듈과, 완전 연결 레이어(fullyconnected layer)를 포함하는 상기 교사 학습 모듈이 공동으로 학습되어 서로 모방하도록 하는 공동 학습을 이용한 기계학습 방법
|
6 |
6
제2항에 있어서, 상기 추론부가 상기 입력 데이터에 대한 분류 및 회귀 값을 추론하는 단계는상기 공유 엔진 및 상기 학생 학습 모듈로부터 수신되는 상기 네트워크 파라미터에 따른 컴팩트한 기계학습 모델을 통해 상기 입력 데이터에 대한 분류 및 회귀 값을 추론하는 공동 학습을 이용한 기계학습 방법
|
7 |
7
제6항에 있어서, 상기 기계학습 모델은상기 교사 학습 모듈을 제거하고, 상기 학생 학습 모듈로부터 구성된 컴팩트 학습 모듈 및 상기 공유 엔진을 포함하는 공동 학습을 이용한 기계학습 방법
|
8 |
8
제1항 내지 제7항 중 어느 한 항의 방법을 수행하기 위하여 컴퓨터로 판독 가능한 기록 매체에 저장된 컴퓨터 프로그램
|
9 |
9
손실 함수를 이용하여, 입력 데이터의 특징을 추출하는 공유 엔진에서 분기(branch)된 교사 학습 모듈 및 학생 학습 모듈 사이의 오류 및 특성 차이를 최소화하는 처리부; 및상기 손실 함수에 의해 상기 교사 학습 모듈 및 상기 학생 학습 모듈을 공동으로 학습시키는 공동 학습부를 포함하는 공동 학습을 이용한 기계학습 시스템
|
10 |
10
제9항에 있어서,상기 학습된 학생 학습 모듈 및 상기 공유 엔진 각각의 네트워크 파라미터를 이용하여 상기 입력 데이터에 대한 분류(classification) 및 회귀(regression) 값을 추론하는 추론부를 더 포함하는 공동 학습을 이용한 기계학습 시스템
|
11 |
11
제9항에 있어서,상기 처리부는세 가지 손실 함수 중 제1 손실 함수 및 제2 손실 함수를 이용하여 상기 교사 학습 모듈 및 상기 학생 학습 모듈의 표식 오류를 최소화하고, 제3 손실 함수를 이용하여 상기 교사 학습 모듈 및 상기 학생 학습 모듈 사이의 특성 차이를 최소화하는 공동학습을 이용한 기계학습 시스템
|
12 |
12
제11항에 있어서,상기 공동 학습부는상기 세 가지 손실 함수 중 최종 손실 함수에 의해, 상기 교사 학습 모듈을 모방하는 상기 학생 학습 모듈을 학습시키는 것을 특징으로 하는 공동 학습을 이용한 기계학습 시스템
|
13 |
13
제9항에 있어서,상기 공동 학습부는컴팩트한 아키텍처(compact architectures)인 상기 학생 학습 모듈과, 완전 연결 레이어(fullyconnected layer)를 포함하는 상기 교사 학습 모듈이 공동으로 학습되어 서로 모방하도록 하는 공동 학습을 이용한 기계학습 시스템
|
14 |
14
제10항에 있어서,상기 추론부는상기 공유 엔진 및 상기 학생 학습 모듈로부터 수신되는 상기 네트워크 파라미터에 따른 컴팩트한 기계학습 모델을 통해 상기 입력 데이터에 대한 분류 및 회귀 값을 추론하는 공동 학습을 이용한 기계학습 시스템
|
15 |
15
입력 데이터의 특징을 추출하는 공유 엔진에서 분기(branch)된 교사 학습 모듈 및 학생 학습 모듈을 공동으로 학습시켜, 상기 교사 학습 모듈을 모방하는 상기 학생 학습 모듈을 트레이닝하는 트레이닝부; 및상기 공유 엔진과 컴팩트 학습 모듈을 포함하는 컴팩트한 기계학습 모델을 구축하여 상기 입력 데이터에 대한 분류(classification) 및 회귀(regression) 값을 추론하는 테스트부를 포함하는 공동 학습을 이용한 기계학습 시스템
|
16 |
16
제15항에 있어서,상기 트레이닝부는상기 공유 엔진 내 공유 계층(Shared layer)에 의해 인코딩된 특징을 상기 교사 학습 모듈 및 상기 학생 학습 모듈에 동일하게 공급하며, 상기 교사 학습 모듈 및 상기 학생 학습 모듈을 통해 상기 인코딩된 특징을 분류 및 회귀 값으로 변환하는 공동 학습을 이용한 기계학습 시스템
|
17 |
17
제15항에 있어서,상기 트레이닝부는세 가지 손실 함수를 이용하여 상기 교사 학습 모듈 및 상기 학생 학습 모듈을 공동으로 학습시키는 트레이닝하는 것을 특징으로 하며, 세 가지 손실 함수 중 제1 손실 함수 및 제2 손실 함수를 이용하여 상기 교사 학습 모듈 및 상기 학생 학습 모듈의 표식 오류를 최소화하고, 제3 손실 함수를 이용하여 상기 교사 학습 모듈 및 상기 학생 학습 모듈 사이의 특성 차이를 최소화하는 공동학습을 이용한 기계학습 시스템
|
18 |
18
제15항에 있어서,상기 테스트부는상기 교사 학습 모듈을 제거하고, 상기 학생 학습 모듈로부터 상기 컴팩트 학습 모듈을 구성하여 구축된 상기 컴팩트한 기계학습 모델을 통해 상기 입력 데이터에 대한 분류 및 회귀 값을 추론하는 공동학습을 이용한 기계학습 시스템
|