1 |
1
지식 증류(knowledge distillation)를 활용한 그룹 기반의 학습을 수행하는 전자장치에 있어서,복수의 학생 네트워크를 학습 데이터를 이용하여 학습한 후 각 학생 네트워크의 학습 능력을 식별하고,상기 학습 능력을 기준으로 상기 복수의 학생 네트워크 중 제1복수의 학생 네트워크를 복수의 교사 네트워크로 전환하고,상기 학습 데이터 중 상기 각 학생 네트워크에 대한 오류 데이터에 기초하여 상기 복수의 교사 네트워크를 학습시키고,상기 학습된 복수의 교사 네트워크를 이용하여 상기 복수의 학생 네트워크 중 나머지 제2복수의 학생 네트워크를 학습시키는 프로세서를 포함하는 전자장치
|
2 |
2
제1항에 있어서,상기 프로세서는,상기 복수의 학생 네트워크의 손실에 대한 각 학생 네트워크의 손실의 비율을 나타내는 제어 가중치에 기초하여 상기 오류 데이터의 수를 식별하고, 상기 오류 데이터 별 손실을 기반으로 상기 복수의 학생 네트워크에 대한 오류 데이터의 수만큼 상기 복수의 교사 네트워크를 학습시키는 전자장치
|
3 |
3
제2항에 있어서,상기 프로세서는,상기 각 학생 네트워크에 대한 오류 데이터의 수를 합산하여 상기 복수의 학생 네트워크에 대한 오류 데이터의 수를 식별하는 전자장치
|
4 |
4
제1항에 있어서,상기 프로세서는,상기 복수의 교사 네트워크 중 상기 학습 능력이 기 정의된 값 이상인 적어도 하나의 교사 네트워크를 고정 교사 네트워크로 식별하고,상기 고정 교사 네트워크를 이용하여 나머지 상기 복수의 교사 네트워크를 학습시키는 전자장치
|
5 |
5
제1항에 있어서,상기 프로세서는,상기 학습 능력이 높은 순으로 상기 복수의 학생 네트워크를 나열하여 상기 제1복수의 학생 네트워크를 식별하는 전자장치
|
6 |
6
제1항에 있어서,상기 프로세서는,상기 제2복수의 학생 네트워크를 학습시킨 후 상기 복수의 교사 네트워크를 상기 복수의 학생 네트워크에 포함되도록 다시 전환하는 전자장치
|
7 |
7
전자장치가 지식 증류(knowledge distillation)를 활용한 그룹 기반의 학습을 수행하는 방법에 있어서,복수의 학생 네트워크를 학습 데이터를 이용하여 학습한 후 각 학생 네트워크의 학습 능력을 식별하는 단계;상기 학습 능력을 기준으로 상기 복수의 학생 네트워크 중 제1복수의 학생 네트워크를 복수의 교사 네트워크로 전환하는 단계;상기 학습 데이터 중 상기 각 학생 네트워크에 대한 오류 데이터에 기초하여 상기 복수의 교사 네트워크를 학습시키는 단계;상기 학습된 복수의 교사 네트워크를 이용하여 상기 복수의 학생 네트워크 중 나머지 제2복수의 학생 네트워크를 학습시키는 단계를 포함하는 방법
|
8 |
8
제7항에 있어서,상기 복수의 교사 네트워크를 학습시키는 단계는,상기 복수의 학생 네트워크의 손실에 대한 각 학생 네트워크의 손실의 비율을 나타내는 제어 가중치에 기초하여, 상기 학습 데이터 중 상기 각 학생 네트워크에 대한 오류 데이터의 수를 식별하는 단계;상기 오류 데이터 별 손실을 기반으로 상기 복수의 학생 네트워크에 대한 오류 데이터의 수만큼 상기 복수의 교사 네트워크를 학습시키는 단계를 포함하는 방법
|
9 |
9
제8항에 있어서,상기 복수의 교사 네트워크를 학습시키는 단계는,상기 각 학생 네트워크에 대한 오류 데이터의 수를 합산하여 상기 복수의 학생 네트워크에 대한 오류 데이터의 수를 식별하는 단계를 포함하는 방법
|
10 |
10
제7항에 있어서,상기 복수의 교사 네트워크를 학습시키는 단계는,상기 복수의 교사 네트워크 중 상기 학습 능력이 기 정의된 값 이상인 적어도 하나의 교사 네트워크를 고정 교사 네트워크로 식별하는 단계;상기 고정 교사 네트워크를 이용하여 나머지 상기 복수의 교사 네트워크를 학습시키는 단계를 더 포함하는 방법
|
11 |
11
제7항에 있어서,상기 복수의 교사 네트워크로 전환하는 단계는,상기 학습 능력이 높은 순으로 상기 복수의 학생 네트워크를 나열하여 상기 제1복수의 학생 네트워크를 식별하는 단계를 포함하는 방법
|
12 |
12
제7항에 있어서,상기 제2복수의 학생 네트워크를 학습시키는 단계 이후에,상기 복수의 교사 네트워크를 상기 복수의 학생 네트워크에 포함되도록 다시 전환하는 단계를 포함하는 방법
|