1 |
1
(a) 학습된 딥 러닝 모델의 N 개의 레이어를 선택하는 단계; (b) 선택된 N 개의 레이어에 선행하는 N 개의 레이어에 대해, 희소화 파라미터에 따라 희소화 파라미터에 대응하는 임계치를 각각 설정하는 단계; 및 (c) 상기 선행하는 N 개의 레이어에 대해 설정된 각각의 임계치를 이용하여 상기 딥 러닝 모델을 튜닝하는 단계;를 포함하고,상기 N 은 1 이상의 정수인, 딥 러닝 모델 학습 방법
|
2 |
2
제1항에 있어서, (d) 튜닝된 딥 러닝 모델의 정확도를 산출하고 산출된 정확도가 임계 정확도 이상인지를 판단하는 단계;를 더 포함하고, 산출된 정확도가 임계 정확도 미만인 경우, 상기 딥 러닝 모델 학습 방법은 상기 희소화 파라미터를 감소시키고 상기 단계 (b) 및 단계 (c)를 반복 수행하는, 딥 러닝 모델 학습 방법
|
3 |
3
제2항에 있어서,산출된 정확도가 임계 정확도 이상인 경우, 상기 딥 러닝 모델 학습 방법은 상기 N을 1 증가시키고 상기 산출된 정확도에 대응하는 희소화 파라미터로부터 상기 단계 (a) 내지 상기 단계 (c)를 반복 수행하는, 딥 러닝 모델 학습 방법
|
4 |
4
제3항에 있어서, 상기 단계 (a) 내지 상기 단계 (d)의 수행 이후에, 튜닝된 딥 러닝 모델과 대응하는 튜닝 파라미터를 저장하고, 상기 튜닝 파라미터를 이용하여 입력 데이터로부터 추론을 수행하는 상기 튜닝된 딥 러닝 모델은 상기 튜닝 파라미터를 통해 설정되는 임계치를 이용하여 상기 선행하는 N 개 레이어의 액티베이션 함수를 수행하는, 딥 러닝 모델 학습 방법
|
5 |
5
제1항에 있어서, 상기 단계 (a)는 상기 학습된 딥 러닝 모델의 프로파일링에 따른 전체 레이어들의 수행 시간에 기초하여 N 개의 레이어를 선택하는, 딥 러닝 모델 학습 방법
|
6 |
6
제5항에 있어서,상기 단계 (a)는 전체 레이어들 각각을 수행 시간에 따라 순서화하고 가장 긴 수행 시간을 가지는 N 개의 레이어를 선택하거나 전체 레이어 각각의 희소화에 따른 수행 시간 감소율에 따라 상기 전체 레이어들을 순서화하고 가장 수행 시간 감소율이 높은 N 개의 레이어를 선택하는, 딥 러닝 모델 학습 방법
|
7 |
7
제1항에 있어서, 상기 단계 (b)는 선행하는 N 개의 레이어의 프로파일링에 따른 각각의 액티베이션 함수 입력 분포에서 상기 희소화 파라미터에 대응하는 각각의 입력 값을 선행하는 N 개 레이어의 각각의 임계치로 설정하는, 딥 러닝 모델 학습 방법
|
8 |
8
프로그램의 명령어를 수행하는 제어부; 및 딥 러닝 모델 학습 프로그램과 학습된 딥 러닝 모델을 저장하는 저장부;를 포함하고, 상기 딥 러닝 모델 학습 프로그램을 수행하는 제어부는, 상기 학습된 딥 러닝 모델의 N 개의 레이어를 선택하고, 선택된 N 개의 레이어에 선행하는 N 개의 레이어에 대해 희소화 파라미터에 따라 희소화 파라미터에 대응하는 임계치를 각각 설정하고, 상기 선행하는 N 개의 레이어에 대해 설정된 각각의 임계치를 이용하여 상기 딥 러닝 모델을 튜닝하며,상기 N 은 1 이상의 정수인, 딥 러닝 모델 학습기
|
9 |
9
제8항에 있어서,상기 제어부는, 튜닝된 딥 러닝 모델의 정확도를 산출하고 산출된 정확도가 임계 정확도 이상인지를 판단하고, 산출된 정확도가 임계 정확도 미만인 경우 상기 희소화 파라미터를 감소시키고, 상기 선행하는 N 개의 레이어에 대해 감소된 희소화 파라미터에 따라 대응하는 임계치를 각각 설정하고 상기 선행하는 N 개의 레이어에 대해 감소 설정된 각각의 임계치를 이용하여 상기 딥 러닝 모델의 튜닝을 반복하는,딥 러닝 모델 학습기
|
10 |
10
제9항에 있어서, 상기 제어부는, 산출된 정확도가 임계 정확도 이상인 경우 상기 N을 1 증가시키고, 상기 학습된 딥 러닝 모델의 1 증가된 N 개의 레이어를 선택하고, 상기 N 개의 레이어에 선행하는 N 개의 레이어에 대해 상기 산출된 정확도에 대응하는 상기 희소화 파라미터에 대응하는 임계치를 각각 설정하고, 상기 선행하는 N 개의 레이어에 대해 설정된 각각의 임계치를 이용하여 상기 딥 러닝 모델의 튜닝을 반복하는, 딥 러닝 모델 학습기
|
11 |
11
제10항에 있어서,상기 제어부는 튜닝된 딥 러닝 모델과 대응하는 튜닝 파라미터를 상기 저장부에 저장하고, 상기 튜닝 파라미터를 이용하여 입력 데이터로부터 추론을 수행하는 상기 튜닝된 딥 러닝 모델은 상기 튜닝 파라미터를 통해 설정되는 임계치를 이용하여 상기 선행하는 N 개 레이어의 액티베이션 함수를 수행하는, 딥 러닝 모델 학습기
|
12 |
12
제8항에 있어서,상기 제어부는, 상기 학습된 딥 러닝 모델의 프로파일링에 따라, 전체 레이어들 각각을 수행 시간에 따라 순서화하고 가장 긴 수행 시간을 가지는 N 개의 레이어를 선택하거나 전체 레이어 각각의 희소화에 따른 수행 시간 감소율에 따라 상기 전체 레이어들을 순서화하고 가장 수행 시간 감소율이 높은 N 개의 레이어를 선택하는,딥 러닝 모델 학습기
|
13 |
13
제8항에 있어서,상기 제어부는, 선행하는 N 개의 레이어의 프로파일링에 따른 각각의 액티베이션 함수 입력 분포에서 상기 희소화 파라미터에 대응하는 각각의 입력 값을 선행하는 N 개 레이어의 각각의 임계치로 설정하는, 딥 러닝 모델 학습기
|