| 1 |
1
복수 개의 노드들과 상기 노드들을 서로 연결하는 간선들을 포함하는 셀을 포함하는 모델을 준비하는 단계;각각의 상기 간선에서 이용할 N1개의 후보연산들을 모두 이용하여 형성한 제1혼합연산을 각각의 상기 간선에 적용하여 상기 모델을 초기화하는 단계; 및상기 각각의 간선에 적용된 각각의 후보연산에 할당된 가중치를 학습시키는 제1학습단계;를 포함하는,신경망 구조 탐색방법
|
| 2 |
2
제1항에 있어서, 상기 제1학습단계를 실행하는 과정에서 각각의 상기 후보연산들에 대해 할당된 가중치의 변화량을 기준으로 상기 N1개의 후보연산들을 복수 개의 그룹으로 나누는 단계;각각의 상기 그룹에 속한 후보연산들에 적용된 가중치들의 합을 산출하는 단계; 상기 가중치들의 합의 크기를 기준으로 상기 복수 개의 그룹 중 일부의 그룹만을 선택하는 단계; 및 상기 선택된 일부의 그룹에 포함된 N2개의 후보연산들만을 이용하여 형성한 제2혼합연산을, 상기 제1학습단계가 완료된 상기 모델에 포함된 각각의 상기 간선에 적용하여 상기 모델을 재구성하는 단계(N2003c#N1);를 더 포함하는, 신경망 구조 탐색방법
|
| 3 |
3
제2항에 있어서,상기 재구성된 모델의 상기 각각의 간선에 적용된 각각의 후보연산에 할당된 가중치를 학습시키는 제2학습단계; 및상기 각각의 간선에 적용된 후보연산들 중에서 상기 가중치의 값이 가장 큰 후보연산 하나만을 상기 간선에 적용하여 상기 재구성된 모델을 재구성하는 단계;를 더 포함하는,신경망 구조 탐색방법
|
| 4 |
4
제3항에 있어서, 상기 제1학습단계 및 상기 제2학습단계는, 각각 25 에폭만큼 반복되도록 되어 있는, 신경망 구조 탐색방법
|
| 5 |
5
제3항에 있어서,상기 제1학습단계는, 상기 모델의 상기 각각의 간선에 적용된 각각의 후보연산에 할당된 가중치를 고정시킨 상태에서, 상기 제1혼합연산의 비율을 결정하는 학습 구조 파라미터를 학습시키는 제1단계; 및상기 제1혼합연산의 비율을 결정하는 학습 구조 파라미터를 고정시킨 상태에서, 상기 모델의 상기 각각의 간선에 적용된 각각의 후보연산에 할당된 가중치를 학습시키는 제2단계;를 번갈아 가며 실행하는 단계이며,상기 제2단계에서 확인된 현재 에폭의 값이 전체 에폭의 절반 미만의 값인 경우, 상기 에폭의 수를 증가시켜 상기 제1단계로 돌아가고, 상기 제2단계에서 확인된 현재 에폭의 값이 상기 전체 에폭의 절반 이상인 경우, 상기 제1학습단계를 종료하도록 되어 있으며,상기 제2학습단계는, 상기 재구성된 모델의 상기 각각의 간선에 적용된 각각의 후보연산에 할당된 가중치를 고정시킨 상태에서, 상기 제2혼합연산의 비율을 결정하는 학습 구조 파라미터를 학습시키는 제11단계; 및상기 제2혼합연산의 비율을 결정하는 학습 구조 파라미터를 고정시킨 상태에서, 상기 재구성된 모델의 상기 각각의 간선에 적용된 각각의 후보연산에 할당된 가중치를 학습시키는 제12단계;를 번갈아 가며 실행하는 단계이며,상기 제12단계에서 확인된 현재 에폭의 값이 상기 전체 에폭의 값 미만인 경우, 상기 에폭의 수를 증가시켜 상기 제11단계로 돌아가고, 상기 제12단계에서 확인된 현재 에폭의 값이 상기 전체 에폭의 값인 경우, 상기 제2학습단계를 종료하도록 되어 있는,신경망 구조 탐색방법
|
| 6 |
6
처리부를 포함하는, 컴퓨팅 장치로서,상기 처리부는, 복수 개의 노드들과 상기 노드들을 서로 연결하는 간선들을 포함하는 셀을 포함하는 모델을 준비하고,각각의 상기 간선에서 이용할 N1개의 후보연산들을 모두 이용하여 형성한 제1혼합연산을 각각의 상기 간선에 적용하여 상기 모델을 초기화하며, 그리고상기 각각의 간선에 적용된 각각의 후보연산에 할당된 가중치를 학습시키도록 되어 있는, 컴퓨팅 장치
|
| 7 |
7
제6항에 있어서, 상기 처리부는,상기 각각의 간선에 적용된 각각의 후보연산에 할당된 가중치를 학습시키는 과정에서 각각의 상기 후보연산들에 대해 할당된 가중치의 변화량을 기준으로 상기 N1개의 후보연산들을 복수 개의 그룹으로 나누도록 되어 있으며,각각의 상기 그룹에 속한 후보연산들에 적용된 가중치들의 합을 산출하고,상기 가중치들의 합의 크기를 기준으로 상기 복수 개의 그룹 중 일부의 그룹만을 선택하며, 그리고상기 선택된 일부의 그룹에 포함된 N2개의 후보연산들만을 이용하여 형성한 제2혼합연산을, 상기 제1학습단계가 완료된 상기 모델에 포함된 각각의 상기 간선에 적용하여 상기 모델을 재구성하도록 되어 있는(N2003c#N1), 컴퓨팅 장치
|
| 8 |
8
제7항에 있어서,상기 처리부는,상기 재구성된 모델의 상기 각각의 간선에 적용된 각각의 후보연산에 할당된 가중치를 학습시키도록 되어 있으며,상기 재구성된 모델의 상기 각각의 간선에 적용된 후보연산들 중에서 상기 가중치의 값이 가장 큰 후보연산 하나만을 상기 간선에 적용하여 상기 재구성된 모델을 재구성하도록 되어 있는,컴퓨팅 장치
|
| 9 |
9
제8항에 있어서, 상기 모델 및 상기 재구성된 모델의 가중치 학습은 각각 25 에폭만큼 반복되도록 되어 있는, 컴퓨팅 장치
|
| 10 |
10
제8항에 있어서,상기 처리부가 상기 각각의 간선에 적용된 각각의 후보연산에 할당된 가중치를 학습시킬 때에,상기 처리부는,상기 모델의 상기 각각의 간선에 적용된 각각의 후보연산에 할당된 가중치를 고정시킨 상태에서, 상기 제1혼합연산의 비율을 결정하는 학습 구조 파라미터를 학습시키는 제1단계; 및상기 제1혼합연산의 비율을 결정하는 학습 구조 파라미터를 고정시킨 상태에서, 상기 모델의 상기 각각의 간선에 적용된 각각의 후보연산에 할당된 가중치를 학습시키는 제2단계; 를 포함하는 제1프로세스를 반복 수행하도록 되어 있으며,상기 제2단계에서 확인된 현재 에폭의 값이 전체 에폭의 절반 미만의 값인 경우, 상기 에폭의 수를 증가시켜 상기 제1단계로 돌아가고, 상기 제2단계에서 확인된 현재 에폭의 값이 상기 전체 에폭의 절반 이상인 경우, 상기 제1프로세스를 종료하도록 되어 있으며,상기 처리부가 상기 재구성된 모델의 상기 각각의 간선에 적용된 각각의 후보연산에 할당된 가중치를 학습시킬 때에,상기 처리부는,상기 재구성된 모델의 상기 각각의 간선에 적용된 각각의 후보연산에 할당된 가중치를 고정시킨 상태에서, 상기 제2혼합연산의 비율을 결정하는 학습 구조 파라미터를 학습시키는 제11단계; 및상기 제2혼합연산의 비율을 결정하는 학습 구조 파라미터를 고정시킨 상태에서, 상기 재구성된 모델의 상기 각각의 간선에 적용된 각각의 후보연산에 할당된 가중치를 학습시키는 제12단계;를 포함하는 제2프로세스를 반복 수행하도록 되어 있으며,상기 제12단계에서 확인된 현재 에폭의 값이 상기 전체 에폭의 값 미만인 경우, 상기 에폭의 수를 증가시켜 상기 제11단계로 돌아가고, 상기 제12단계에서 확인된 현재 에폭의 값이 상기 전체 에폭의 값인 경우, 상기 제2프로세스를 종료하도록 되어 있는,컴퓨팅 장치
|
