| 1 |
1
적어도 하나의 프로세서를 구비하는 학습 장치가, 순서가 있는 분류 문제를 위한 딥러닝 모델을 학습하는 방법에 있어서,학습 장치가 학습 대상을 입력으로 하고 분기점과 그 분기에서 나누어져 분류 손실(classification loss)과 트리플릿 손실(triplet loss)을 발생시키는 두 개의 종단점으로 구성된 CNN(Convolutional Neural Networks)을 형성하는 단계;상기 학습 장치가 종단간(end-to-end) 학습을 위한 분류 손실을 산출하는 단계;상기 학습 장치가 네트워크가 순서 특성을 학습할 수 있도록 트리플릿 손실을 산출하는 단계; 및산출된 상기 분류 손실 및 상기 트리플릿 손실에 기반하되, 상기 학습 장치가 학습시 쌍(pair)으로 구성된 데이터셋(dataset)을 활용하여 상관 트리플릿 샘플링(relative triplet sampling)을 수행함으로써 최종 손실값에 대해 네트워크를 갱신하는 단계;를 포함하는, 딥러닝 모델의 학습 방법
|
| 2 |
2
제 1 항에 있어서,상기 분류 손실을 산출하는 단계는,학습 대상에 대한 정확한 예측값을 획득하기 위해 분류 손실 함수를 이용하여 손실이 최소화되도록 분류를 수행하는, 딥러닝 모델의 학습 방법
|
| 3 |
3
제 1 항에 있어서,상기 트리플릿 손실을 산출하는 단계는,상기 순서가 있는 분류 문제에 대해 예측 라벨(label)의 정/오 뿐만 아니라 오차의 크기를 나타낼 수 있는 트리플릿 랭킹 손실(triplet ranking loss)을 이용하여 네트워크의 순서 특성을 학습하도록 유도하는, 딥러닝 모델의 학습 방법
|
| 4 |
4
제 3 항에 있어서,상기 트리플릿 랭킹 손실은,학습 대상의 예측 값과 실제 값의 차이 및 상기 차이의 스케일(scale)을 함께 고려하여 학습하는, 딥러닝 모델의 학습 방법
|
| 5 |
5
제 1 항에 있어서,상기 최종 손실값에 대해 네트워크를 갱신하는 단계는,미니-배치(mini-batch)에서 상관 트리플릿 샘플링을 수행하는 단계; 및샘플링된 트리플릿을 이용하여 손실 함수와 트리플릿의 중요도를 나타내는 가중치를 승산함으로써 최종 랭킹 손실을 산출하는 단계;를 포함하는, 딥러닝 모델의 학습 방법
|
| 6 |
6
제 1 항에 있어서,상기 최종 손실값에 대해 네트워크를 갱신하는 단계는,소프트맥스(softmax) 함수를 통해 특징들 간의 거리 차를 정규화함으로써 상관 트리플릿을 위한 크로스-엔트로피 손실(cross-entropy loss)을 사용하는, 딥러닝 모델의 학습 방법
|
| 7 |
7
제 6 항에 있어서,상기 상관 트리플릿의 중요도 변화를 측정하는 비-균일(non-uniform) 가중치 함수를 이용하여 변화량(gradient)의 크기를 상기 상관 트리플릿의 중요도에 따라 조정하는, 딥러닝 모델의 학습 방법
|
| 8 |
8
제 6 항에 있어서,상기 소프트맥스 함수를 분류자(classifier)에 적용하고, 소프트맥스 크로스-엔트로피를 상관 트리플릿 랭킹 손실과 동일하게 분류 목표에 적용함으로써 최종 분류 손실을 설정하는, 딥러닝 모델의 학습 방법
|
| 9 |
9
제 1 항에 있어서,상기 학습 장치가 학습이 종료된 후 인식을 테스트할 경우 트리플릿 손실 함수에 대한 네트워크의 가지를 제거하고 분류만을 수행하는 단계;를 더 포함하는, 딥러닝 모델의 학습 방법
|
| 10 |
10
제 1 항 내지 제 9 항 중에 어느 한 항의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체
|
| 11 |
11
학습 대상에 대한 데이터셋을 입력받는 입력부;순서가 있는 분류 문제를 위한 딥러닝 모델을 학습하는 프로그램을 저장하는 메모리; 및상기 메모리에 저장된 프로그램을 실행하여 딥러닝 모델을 학습하는 프로세서;를 포함하고,상기 메모리에 저장된 프로그램은,분기점과 그 분기에서 나누어져 분류 손실(classification loss)과 트리플릿 손실(triplet loss)을 발생시키는 두 개의 종단점으로 구성된 CNN(Convolutional Neural Networks)을 형성하고, 종단간(end-to-end) 학습을 위한 분류 손실을 산출하고, 네트워크가 순서 특성을 학습할 수 있도록 트리플릿 손실을 산출하며, 산출된 상기 분류 손실 및 상기 트리플릿 손실에 기반하되, 학습시 쌍(pair)으로 구성된 데이터셋(dataset)을 활용하여 상관 트리플릿 샘플링(relative triplet sampling)을 수행함으로써 최종 손실값에 대해 네트워크를 갱신하는 명령어를 포함하는, 딥러닝 모델의 학습 장치
|
| 12 |
12
제 11 항에 있어서,상기 메모리에 저장된 프로그램은,학습 대상에 대한 정확한 예측값을 획득하기 위해 분류 손실 함수를 이용하여 손실이 최소화되도록 분류를 수행함으로써, 상기 분류 손실을 산출하는, 딥러닝 모델의 학습 장치
|
| 13 |
13
제 11 항에 있어서,상기 메모리에 저장된 프로그램은,상기 순서가 있는 분류 문제에 대해 예측 라벨(label)의 정/오 뿐만 아니라 오차의 크기를 나타낼 수 있는 트리플릿 랭킹 손실(triplet ranking loss)을 이용하여 네트워크의 순서 특성을 학습하도록 유도함으로써, 상기 트리플릿 손실을 산출하는, 딥러닝 모델의 학습 장치
|
| 14 |
14
제 13 항에 있어서,상기 트리플릿 랭킹 손실은,학습 대상의 예측 값과 실제 값의 차이 및 상기 차이의 스케일(scale)을 함께 고려하여 학습하는, 딥러닝 모델의 학습 장치
|
| 15 |
15
제 11 항에 있어서,상기 메모리에 저장된 프로그램은,미니-배치(mini-batch)에서 상관 트리플릿 샘플링을 수행하고, 샘플링된 트리플릿을 이용하여 손실 함수와 트리플릿의 중요도를 나타내는 가중치를 승산함으로써 최종 랭킹 손실을 산출하는, 딥러닝 모델의 학습 장치
|
| 16 |
16
제 11 항에 있어서,상기 메모리에 저장된 프로그램은,소프트맥스(softmax) 함수를 통해 특징들 간의 거리 차를 정규화함으로써 상관 트리플릿을 위한 크로스-엔트로피 손실(cross-entropy loss)을 사용하는, 딥러닝 모델의 학습 장치
|
| 17 |
17
제 16 항에 있어서,상기 상관 트리플릿의 중요도 변화를 측정하는 비-균일(non-uniform) 가중치 함수를 이용하여 변화량(gradient)의 크기를 상기 상관 트리플릿의 중요도에 따라 조정하는, 딥러닝 모델의 학습 장치
|
| 18 |
18
제 16 항에 있어서,상기 소프트맥스 함수를 분류자(classifier)에 적용하고, 소프트맥스 크로스-엔트로피를 상관 트리플릿 랭킹 손실과 동일하게 분류 목표에 적용함으로써 최종 분류 손실을 설정하는, 딥러닝 모델의 학습 장치
|
| 19 |
19
제 11 항에 있어서,상기 메모리에 저장된 프로그램은,학습이 종료된 후 인식을 테스트할 경우 트리플릿 손실 함수에 대한 네트워크의 가지를 제거하고 분류만을 수행하는 명령어를 더 포함하는, 딥러닝 모델의 학습 장치
|
