1 |
1
프로세서가 포함된 장치에서 수행되는 컨볼루션 신경망(Convolutional Neural Network)의 하이퍼파라미터(Hyperparameter)의 설정 방법에 있어서, 상기 하이퍼파라미터를 HS(Harmony Search) 알고리즘의 하모니로 설정하는 단계;랜덤 선택을 통해 상기 하모니의 초기값을 설정하여 하모니 메모리를 초기화하는 단계; 및 HMCR(Harmony Memory Considering Rate) 및 PAR(Pitch adjusting Rate)를 이용해 상기 하모니 메모리를 미리 설정된 최대 반복 횟수만큼 반복적으로 업데이트하여 상기 하이퍼파라미터의 최적해를 도출하는 단계;를 포함하되, 상기 HMCR 및 상기 PAR는 업데이트 시점에 변경되며, i번째(i는 1 이상의 정수) 업데이트 시점에서 상기 HMCR 및 상기 PAR가 1의 값을 갖는 경우, 최대 반복 횟수 및 상기 i번째 업데이트 시점까지의 반복 횟수에 기초하여 상기 HMCR 및 상기 PAR는 1 미만의 값으로 설정되고, 상기 HMCR 및 상기 PAR가 0의 값을 갖는 경우, 상기 최대 반복 횟수 및 상기 i번째 업데이트 시점까지의 반복 횟수에 기초하여 상기 HMCR 및 상기 PAR는 0을 초과하는 값으로 설정되며, 상기 HMCR 및 상기 PAR가 1 또는 0의 값을 갖지 않은 경우, 상기 HMCR은 상기 하모니 메모리의 크기 및 기억 회상이 사용된 횟수에 의해 설정되고, 상기 PAR은 상기 하모니 메모리의 크기 및 피치 조정이 사용된 횟수에 따라 설정되는 것을 특징으로 하는 컨볼루션 신경망의 하이퍼파라미터의 설정 방법
|
2 |
2
제1항에 있어서, 상기 하이퍼파라미터는 상기 컨볼루션 신경망의 컨볼루션 층(convolution layer)와 풀링 층(pooling layer) 각각의 커널(kernel)의 크기, 채널의 수, 스트라이드(stride) 및 제로-패딩(zero-padding)을 포함하는 것을 특징으로 하는 컨볼루션 신경망의 하이퍼파라미터의 설정 방법
|
3 |
3
삭제
|
4 |
4
제1항에 있어서, 상기 i번째 업데이트 시점에서의 HMCR 및 PAR는 아래의 수학식에 기초하여 설정되는 것을 특징으로 하는 컨볼루션 신경망의 하이퍼파라미터의 설정 방법
|
5 |
5
제1항의 방법을 수행하는 프로그램을 기록한 컴퓨터 판독 가능 기록 매체
|
6 |
6
컴퓨터에서 판독 가능한 명령을 저장하는 메모리; 및상기 명령을 실행하도록 구현되는 프로세서:를 포함하되, 상기 프로세서는, 컨볼루션 신경망의 하이퍼파라미터를 HS 알고리즘의 하모니로 설정하고, 랜덤 선택을 통해 상기 하모니의 초기값을 설정하여 하모니 메모리를 초기화하고, HMCR 및 PAR를 이용해 상기 하모니 메모리를 반복적으로 업데이트하여 상기 하이퍼파라미터의 최적해를 도출하며, 상기 HMCR 및 상기 PAR는 업데이트 시점에 변경되며, 상기 HMCR 및 상기 PAR가 1의 값을 갖는 경우, 최대 반복 횟수 및 상기 i번째 업데이트 시점까지의 반복 횟수에 기초하여 상기 HMCR 및 상기 PAR는 1 미만의 값으로 설정되고, 상기 HMCR 및 상기 PAR가 0의 값을 갖는 경우, 상기 최대 반복 횟수 및 상기 i번째 업데이트 시점까지의 반복 횟수에 기초하여 상기 HMCR 및 상기 PAR는 0을 초과하는 값으로 설정되며, 상기 HMCR 및 상기 PAR가 1 또는 0의 값을 갖지 않은 경우, 상기 HMCR은 상기 하모니 메모리의 크기 및 기억 회상이 사용된 횟수에 의해 설정되고, 상기 PAR은 상기 하모니 메모리의 크기 및 피치 조정이 사용된 횟수에 따라 설정되는 것을 특징으로 하는 단말 장치
|