| 1 |
1
컴퓨터에 의해 수행되는 방법에 있어서,소량의 학습 데이터인 서포트 데이터로부터 수행하고자 하는 작업에 상응하는 작업 임베딩을 추정하는 단계;상기 작업 임베딩을 기반으로 작업에 필요로 하는 콘셉트 메모리의 슬롯 확률을 산출하는 단계;상기 서포트 데이터 및 시험 데이터인 쿼리 데이터의 특징들을 추출하는 단계;상기 추출된 특징들에 대한 국소 특징을 콘셉트 메모리의 슬롯들과 비교하여 콘셉트를 추출하고, 상기 콘셉트 메모리의 슬롯들로 상기 추출된 특징들에 최대 유사도를 갖도록 합성 특징들을 생성하는 단계; 및상기 슬롯 확률을 가중치로 적용하여 상기 추출된 콘셉트와 합성 특징으로부터 작업 수행 결과를 산출하는 단계를 포함하는,콘셉트 기반의 퓨샷 학습 방법
|
| 2 |
2
제1항에 있어서,상기 서포트 데이터로부터 수행하고자 하는 작업에 상응하는 작업 임베딩을 추정하는 단계는,상기 서포트 데이터로부터 수치화된 벡터 형태의 작업 특징들을 추출하는 단계; 및상기 추출된 작업 특징들의 맥락 정보를 기반으로 상기 작업 임베딩을 추정하는 단계를 포함하는,콘셉트 기반의 퓨샷 학습 방법
|
| 3 |
3
제2항에 있어서,상기 서포트 데이터로부터 수치화된 벡터 형태의 작업 특징들을 추출하는 단계는,상기 서포트 데이터를 제1 신경망 모듈에 입력하여 작업 특징들을 추출하는 단계; 및상기 추출된 작업 특징들을 제2 신경망 모듈에 입력하여 맥락 정보가 포함된 작업 특징들을 추출하는 단계를 포함하는,콘셉트 기반의 퓨샷 학습 방법
|
| 4 |
4
제3항에 있어서,상기 추출된 작업 특징들의 맥락 정보를 기반으로 상기 작업 임베딩을 추정하는 단계는,상기 맥락 정보가 포함된 작업 특징들을 연결하고 제3 신경망 모듈에 입력하여 상기 작업 임베딩을 추정하는 단계를 포함하되,콘셉트 기반의 퓨샷 학습 방법
|
| 5 |
5
제4항에 있어서,상기 제1 내지 제3 신경망 모듈은 기 준비된 대용량의 베이스 데이터를 기반으로 학습되는 것인,콘셉트 기반의 퓨샷 학습 방법
|
| 6 |
6
제1항에 있어서,상기 작업 임베딩을 기반으로 작업에 필요로 하는 콘셉트 메모리의 슬롯 확률을 산출하는 단계는,상기 작업 임베딩과 상기 콘셉트 메모리에 대한 주의 집중 기법을 적용하여, 해당 작업에 필요한 상기 콘셉트 메모리의 슬롯 확률을 산출하는 것인,콘셉트 기반의 퓨샷 학습 방법
|
| 7 |
7
제6항에 있어서,상기 작업 임베딩을 기반으로 작업에 필요로 하는 콘셉트 메모리의 슬롯 확률을 산출하는 단계는,상기 작업 임베딩과 상기 콘셉트 메모리의 슬롯을 대상으로 베이스 데이터로부터 학습된 행렬을 각각 적용한 후, 코사인 유사도 함수 및 소프트맥스 함수를 적용하여 해당 작업에 필요한 콘셉트 메모리의 슬롯 확률을 산출하는 것인,콘셉트 기반의 퓨샷 학습 방법
|
| 8 |
8
제6항에 있어서,상기 작업 임베딩을 기반으로 작업에 필요로 하는 콘셉트 메모리의 슬롯 확률을 산출하는 단계는,코사인 유사도 함수를 기반으로 상기 작업 임베딩과 콘셉트 메모의 슬롯 간 유사도를 산출하여 기 설정된 임계치와 비교하고, 비교 결과 상기 유사도가 임계치를 초과하는 콘셉트 메모리의 슬롯을 대상으로 동일 가중치를 적용한 슬롯 확률을 산출하는 것인,콘셉트 기반의 퓨샷 학습 방법
|
| 9 |
9
제1항에 있어서,상기 슬롯 확률을 가중치로 적용하여 상기 추출된 콘셉트와 합성 특징으로부터 작업 수행 결과를 산출하는 단계는,상기 서포트 데이터의 콘셉트의 평균으로 상기 서포트 데이터의 l번째 범주에 대한 프로토타입을 산출하는 단계; 및상기 산출된 프로토타입과 상기 쿼리 데이터의 콘셉트의 차이값에 상기 슬롯 확률을 가중치로 적용하여 상기 프로토타입과 쿼리 데이터 간 거리가 최소가 되는 작업 수행 결과를 산출하는 단계를 포함하는,콘셉트 기반의 퓨샷 학습 방법
|
| 10 |
10
제1항에 있어서,상기 슬롯 확률을 가중치로 적용하여 상기 추출된 콘셉트와 합성 특징으로부터 작업 수행 결과를 산출하는 단계는,상기 서포트 데이터의 합성 특징의 평균으로 상기 서포트 데이터의 l번째 범주에 대한 프로토타입을 산출하는 단계;상기 산출된 프로토타입과 상기 쿼리 데이터의 합성 특징의 차이값에 상기 슬롯 확률을 가중치로 적용하여 상기 프로토타입과 쿼리 데이터 간 거리가 최소가 되는 작업 수행 결과를 산출하는 단계를 포함하는,콘셉트 기반의 퓨샷 학습 방법
|
| 11 |
11
제1항에 있어서,베이스 데이터로부터 작업을 배치 샘플링하고, 각 작업에서 서포트 데이터 및 쿼리 데이터로 구성된 에피소드를 생성하고, 상기 생성된 에피소드에 퓨샷 학습을 적용하여 모델 파라미터를 학습하는 단계를 더 포함하는,콘셉트 기반의 퓨샷 학습 방법
|
| 12 |
12
제11항에 있어서,상기 모델 파라미터를 학습하는 단계는,상기 생성된 에피소드를 대상으로 특징들을 추출하는 단계;상기 추출된 특징들에 대한 콘셉트 및 합성 특징을 생성하는 단계;상기 콘셉트 메모리의 슬롯 확률을 가중치로 적용하여 상기 추출된 콘셉트와 합성 특징으로부터 작업 수행 결과를 산출하는 단계;상기 작업 수행 결과와 정답 간의 차이를 기반으로 작업 손실을 산출하고, 상기 합성 특징과 추출된 특징들 간의 거리를 기반으로 합성 손실을 산출하는 단계; 및상기 작업 손실에 합성 손실을 부가한 전체 손실이 최소화되도록 모델 파라미터를 갱신하는 단계를 포함하는,콘셉트 기반의 퓨샷 학습 방법
|
| 13 |
13
베이스 데이터로부터 학습을 통해 추출된 콘셉트 특징을 저장하는 콘셉트 메모리,소량의 학습 데이터인 서포트 데이터로부터 수치화된 작업 특징들을 추출하고, 추출된 작업들의 맥락 정보를 기반으로 작업 임베딩을 추정하는 작업 추정부,상기 작업 임베딩을 기반으로 작업에 필요로 하는 콘셉트 메모리의 슬롯 확률을 산출하는 콘셉트 주의 집중부,상기 서포트 데이터 및 시험 데이터인 쿼리 데이터의 특징들을 추출하는 특징 추출부,상기 추출된 특징들에 대한 국소 특징을 콘셉트 메모리의 슬롯들과 비교하여 콘셉트를 추출하고, 상기 추출된 특징들과 최대 유사도를 갖는 합성 특징을 생성하는 콘셉트 추출 및 합성 특징 생성부 및상기 슬롯 확률을 가중치로 적용하여 상기 추출된 콘셉트와 합성 특징으로부터 작업 수행 결과를 산출하는 작업 수행부를 포함하는,콘셉트 기반의 퓨샷 학습 장치
|
| 14 |
14
제13항에 있어서,상기 작업 추정부는 상기 서포트 데이터를 제1 신경망 모듈에 입력하여 작업 특징들을 추출하고, 상기 추출된 작업 특징들을 제2 신경망 모듈에 입력하여 맥락 정보가 포함된 작업 특징들을 추출하고, 상기 맥락 정보가 포함된 작업 특징들을 연결하고 제3 신경망 모듈에 입력하여 상기 작업 임베딩을 추정하는 것인,콘셉트 기반의 퓨샷 학습 장치
|
| 15 |
15
제13항에 있어서,상기 콘셉트 주의 집중부는 상기 작업 임베딩과 상기 콘셉트 메모리에 대한 주의 집중 기법을 적용하여, 해당 작업에 필요한 상기 콘셉트 메모리의 슬롯 확률을 산출하는 것인,콘셉트 기반의 퓨샷 학습 장치
|
| 16 |
16
제15항에 있어서,상기 콘셉트 주의 집중부는 상기 작업 임베딩과 상기 콘셉트 메모리의 슬롯을 대상으로 베이스 데이터로부터 학습된 행렬을 각각 적용한 후, 코사인 유사도 함수 및 소프트맥스 함수를 적용하여 해당 작업에 필요한 콘셉트 메모리의 슬롯 확률을 산출하는 것인,콘셉트 기반의 퓨샷 학습 장치
|
| 17 |
17
제16항에 있어서,상기 콘셉트 주의 집중부는 코사인 유사도 함수를 기반으로 상기 작업 임베딩과 콘셉트 메모의 슬롯 간 유사도를 산출하여 기 설정된 임계치와 비교하고, 비교 결과 상기 유사도가 임계치를 초과하는 콘셉트 메모리의 슬롯을 대상으로 동일 가중치를 적용한 슬롯 확률을 산출하는 것인,콘셉트 기반의 퓨샷 학습 장치
|
| 18 |
18
제13항에 있어서,상기 작업 수행부는 상기 서포트 데이터의 콘셉트 또는 합성 특징의 평균으로 상기 서포트 데이터의 l번째 범주에 대한 프로토타입을 산출하고, 상기 산출된 프로토타입과 상기 쿼리 데이터의 콘셉트 또는 합성 특징의 차이값에 상기 슬롯 확률을 가중치로 적용하여 상기 프로토타입과 쿼리 데이터 간 거리가 최소가 되는 작업 수행 결과를 산출하는 것인,콘셉트 기반의 퓨샷 학습 장치
|
| 19 |
19
컴퓨터에 의해 수행되는 방법에 있어서,베이스 데이터로부터 작업을 배치 샘플링하고, 샘플링된 각 작업에서 서포트 데이터 및 쿼리 데이터로 구성된 에피소드를 생성하는 단계;상기 생성된 에피소드를 대상으로 특징들을 추출하는 단계;상기 추출된 특징들에 대한 콘셉트 및 합성 특징을 생성하는 단계;상기 콘셉트 메모리의 슬롯 확률을 가중치로 적용하여 상기 추출된 콘셉트와 합성 특징으로부터 작업 수행 결과를 산출하는 단계;상기 작업 수행 결과와 정답 간의 차이를 기반으로 작업 손실을 산출하고, 상기 합성 특징과 추출된 특징들 간의 거리를 기반으로 합성 손실을 산출하는 단계; 및상기 작업 손실에 합성 손실을 부가한 전체 손실이 최소화되도록 모델 파라미터를 갱신하는 단계를 포함하는,콘셉트 기반의 퓨샷 학습을 위한 학습 방법
|
