| 1 |
1
신경망에 포함된 다수의 레이어에 대해서 임계점을 초기화하는 임계점 초기화 단계;상기 다수의 레이어 중 임계점을 수정할 레이어를 선택하는 레이어 선택 단계;상기 선택된 레이어에 대해서 임계점을 조절하는 임계점 조절 단계; 및상기 신경망에 포함된 시냅스의 가중치를 조절하는 가중치 조절 단계를 포함하는 신경망의 프루닝 방법
|
| 2 |
2
청구항 1에 있어서, 상기 신경망은 중첩 신경망이고 상기 다수의 레이어는 입력 레이어와 내부 레이어를 포함하는 신경망의 프루닝 방법
|
| 3 |
3
청구항 1에 있어서, 임계점보다 작은 값을 가지는 뉴런은 그 값을 0으로 간주하는 신경망의 프루닝 방법
|
| 4 |
4
청구항 3에 있어서, 상기 가중치 조절 단계를 수행한 결과 값이 0인 것으로 간주된 비활성 뉴런의 비율이 목표값 미만인지 판단하는 단계를 더 포함하는 신경망의 프루닝 방법
|
| 5 |
5
청구항 4에 있어서, 상기 비활성 뉴런의 비율이 상기 목표값 미만으로 판단된 경우 상기 레이어 선택 단계, 상기 임계점 조절 단계, 상기 가중치 조절 단계를 추가로 수행하는 신경망의 프루닝 방법
|
| 6 |
6
청구항 1에 있어서, 상기 레이어 선택 단계는 상기 다수의 레이어 중 어느 하나에 대해서 임계점을 조절하고 입력 데이터에 대해서 출력된 결과로부터 계산량 감소율과 정확도 감소율을 측정하는 감소율 측정 단계; 및상기 감소율 측정 단계를 상기 다수의 레이어 각각에 대해서 수행하고 이를 통해 얻어진 계산량 감소율과 정확도 감소율을 참고하여 상기 다수의 레이어 중 어느 하나의 레이어를 결정하는 레이어 결정 단계;를 포함하는 신경망의 프루닝 방법
|
| 7 |
7
청구항 6에 있어서, 상기 레이어 결정 단계는 (계산량 감소율/정확도 감소율)을 최대로 하는 레이어를 결정하는 신경망의 프루닝 방법
|
| 8 |
8
청구항 1에 있어서, 상기 가중치 조절 단계는상기 신경망에 입력된 데이터로부터 출력된 출력 벡터로부터 손실 함수를 계산하는 손실 함수 계산 단계;시냅스의 가중치에 대한 편미분값을 계산하는 편미분 계산 단계; 및상기 시냅스의 가중치의 현재값과 상기 편미분값을 이용하여 상기 시냅스의 가중치를 조절하는 조절 단계를 포함하는 신경망의 프루닝 방법
|
| 9 |
9
청구항 8에 있어서, 상기 출력 함수는 상기 출력 벡터와 상기 입력 데이터에 대응하는 진리 벡터 사이의 거리를 변수로 포함하는 신경망의 프루닝 방법
|
| 10 |
10
청구항 8에 있어서, 상기 편미분 계산 단계는 상위 레이어의 뉴런 값과 상기 상위 레이어의 뉴런에서 출발하는 시냅스의 가중치에 대한 편미분값으로부터 하위 레이어의 뉴런에서 상기 상위 레이어의 뉴런으로 연결되는 시냅스의 가중치에 대한 편미분값을 결정하는 신경망의 프루닝 방법
|
| 11 |
11
청구항 8에 있어서, 상기 조절 단계는 상기 시냅스의 가중치에 대한 편미분값이 양인 경우 상기 가중치를 더 작게 조절하고 상기 시냅스의 가중치에 대한 편미분값이 음인 경우 상기 가중치를 더 크게 조절하는 신경망의 프루닝 방법
|
| 12 |
12
덧셈과 곱셈을 포함하는 컨벌루션 연산을 수행하는 연산부;상기 연산부에 입력되는 입력 신호를 생성하는 입력 신호 생성부;프루닝 대상이 되는 신경망에 포함되는 다수의 레이어 중 임계점을 조절할 레이어를 선택하고 선택된 레이어에 대해서 임계점을 조절하는 임계점 조절부;상기 신경망에 포함되는 다수의 시냅스의 가중치를 조절하는 가중치 조절부; 및상기 임계점 조절부 및 상기 가중치 조절부를 제어하여 상기 신경망에 대한 프루닝 동작을 제어하는 제어부를 포함하는 신경망의 프루닝 장치
|
| 13 |
13
청구항 12에 있어서, 상기 신경망의 시냅스의 가중치의 초기값 또는 상기 임계점 조절부에서 사용할 입력 데이터를 저장하는 메모리 장치를 더 포함하는 프루닝 장치
|
| 14 |
14
청구항 12에 있어서, 상기 제어부는 상기 임계점 조절부를 제어하여 상기 다수의 레이어 중 어느 하나에 대한 임계점을 조절한 후 상기 가중치 조절부를 제어하여 상기 다수의 시냅스의 가중치를 조절하는 프루닝 장치
|
| 15 |
15
청구항 12에 있어서, 상기 제어부는 임계점보다 작은 값을 가지는 뉴런의 값을 0으로 간주하도록 상기 임계점 조절부 또는 상기 연산부를 제어하는 프루닝 장치
|
| 16 |
16
청구항 15에 있어서, 상기 제어부는 임계점보다 작은 값을 가지는 뉴런의 개수의 비가 목표값 보다 큰 경우 상기 임계점 조절부와 상기 가중치 조절부를 추가로 동작시키는 프루닝 장치
|
| 17 |
17
청구항 12에 있어서, 상기 임계점 조절부는 임계점을 조절한 경우 정확도의 감소율과 계산량의 감소율에 따라 상기 다수의 레이어 중 하나를 선택하는 프루닝 장치
|
| 18 |
18
청구항 12에 있어서, 상기 가중치 조절부는 손실 함수를 계산하고 상기 손실 함수의 시냅스의 가중치에 대한 편미분값으로부터 상기 시냅스의 가중치의 값을 조절하는 프루닝 장치
|
