| 1 |
1
복수의 이미지를 포함하는 복수의 배치(batch)에 대해 복수의 필터(filter)를 이용하여 특징맵들(feature maps)을 생성하는 신경망(neural network)을 압축하는 훈련 방법에 있어서,상기 복수의 배치를 획득하고, 상기 복수의 배치를 상기 신경망에 제공하는 과정; 및각 배치마다 상기 신경망의 파라미터를 갱신하는 과정을 포함하며,상기 갱신하는 과정은,상기 신경망을 이용하여 상기 배치에 포함된 각 이미지들에 대응하는 복수의 특징맵을 획득하는 과정; 상기 각 이미지들에 대응하는 상기 복수의 특징맵을 제로 특징맵(zero feature map)과 논제로 특징맵(non-zero feature map)으로 구분하는 과정; 및상기 제로 특징맵의 수, 및 상기 복수의 이미지 중 서로 다른 두 이미지에 대해 모두 제로 특징맵 또는 논제로 특징맵을 출력하는 필터의 수를 이용하여 상기 신경망의 파라미터를 수정하는 과정을 포함하되,상기 제로 특징맵은 모든 엘리먼트(element)가 0인 특징맵이고, 상기 논제로 특징맵은 엘리먼트 중 적어도 하나가 0이 아닌 특징맵인 훈련 방법
|
| 2 |
2
제1항에 있어서,상기 신경망은 적어도 하나의 컨볼루션 레이어(convolution layer)를 포함하고, 상기 복수의 필터는 상기 적어도 하나의 컨볼루션 레이어에 포함된 것인 훈련 방법
|
| 3 |
3
제1항에 있어서,상기 수정하는 과정은,상기 제로 특징맵의 수 및 상기 필터의 수가 증가하도록 상기 파라미터를 수정하는 것인 훈련 방법
|
| 4 |
4
이미지 처리 방법으로서,입력 이미지를 획득하는 과정; 상기 입력 이미지를 제1신경망에 제공하는 과정, 상기 제1신경망은 복수의 필터를 이용하여 상기 입력 이미지에 대한 특징맵들을 생성함; 및제2신경망이 상기 제1신경망으로부터 수신한 상기 특징맵들을 이용하여 상기 이미지를 처리한 결과를 획득하는 과정을 포함하고, 상기 제1신경망은 복수의 이미지를 포함하는 복수의 배치에 대해 상기 제2신경망과 함께 훈련된 것이며, 훈련 방법은 각 배치마다상기 제1신경망을 이용하여 상기 배치에 포함된 각 이미지들에 대응하는 복수의 특징맵을 획득하는 과정; 각 이미지들에 대응하는 상기 복수의 특징맵을 제로 특징맵과 논제로 특징맵으로 구분하는 과정; 및상기 제로 특징맵의 수, 및 상기 복수의 이미지 중 서로 다른 두 이미지에 대해 모두 제로 특징맵 또는 논제로 특징맵을 출력하는 필터의 수를 이용하여 상기 제1신경망의 파라미터들을 수정하는 과정;을 포함하되,상기 제로 특징맵은 모든 엘리먼트(element)가 0인 특징맵이고, 상기 논제로 특징맵은 엘리먼트 중 적어도 하나가 0이 아닌 특징맵인 이미지 처리 방법
|
| 5 |
5
제4항에 있어서,상기 제1신경망은 적어도 하나의 컨볼루션 레이어를 포함하고, 상기 복수의 필터는 상기 적어도 하나의 컨볼루션 레이어에 포함된 것인 이미지 처리 방법
|
| 6 |
6
제4항에 있어서,상기 수정하는 과정은,상기 제로 특징맵의 수 및 상기 필터의 수가 증가하도록 상기 파라미터를 수정하는 것인 이미지 처리 방법
|
| 7 |
7
제4항에 있어서,상기 제1신경망은 인코더(encoder)이며, 상기 제2신경망은 디코더(decoder)인 것을 특징으로 하는 이미지 처리 방법
|
| 8 |
8
제4항에 있어서,상기 제1신경망은 인코더이며, 상기 제2신경망은 이미지 분류기인 것을 특징으로 하는 이미지 처리 방법
|
| 9 |
9
신경망을 압축하기 위한 시스템에 있어서,하나 이상의 프로세서; 및명령어를 저장하는 하나 이상의 메모리를 포함하되, 상기 명령어가 상기 하나 이상의 프로세서에 의해 실행되는 경우, 상기 명령어는 상기 하나 이상의 프로세서로 하여금 신경망 훈련 방법을 수행하도록 하며,상기 훈련 방법은,복수의 이미지를 포함하는 복수의 배치에 대해 복수의 필터를 이용하여 특징맵들을 생성하는 상기 신경망을 압축하는 훈련 방법으로서,상기 복수의 배치를 획득하고, 상기 복수의 배치를 상기 신경망에 제공하는 과정; 및각 배치마다 상기 신경망의 파라미터를 갱신하는 과정을 포함하며,상기 갱신하는 과정은,상기 신경망을 이용하여 상기 배치에 포함된 각 이미지들에 대응하는 복수의 특징맵을 획득하는 과정; 상기 각 이미지들에 대응하는 상기 복수의 특징맵을 제로 특징맵과 논제로 특징맵으로 구분하는 과정; 및상기 제로 특징맵의 수, 및 상기 복수의 이미지 중 서로 다른 두 이미지에 대해 모두 제로 특징맵 또는 논제로 특징맵을 출력하는 필터의 수를 이용하여 상기 신경망의 파라미터를 수정하는 과정을 포함하되,상기 제로 특징맵은 모든 엘리먼트가 0인 특징맵이고, 상기 논제로 특징맵은 엘리먼트 중 적어도 하나가 0이 아닌 특징맵인 시스템
|
| 10 |
10
제9항에 있어서,상기 신경망은 적어도 하나의 컨볼루션 레이어를 포함하고, 상기 복수의 필터는 상기 적어도 하나의 컨볼루션 레이어에 포함된 것인 시스템
|
| 11 |
11
제9항에 있어서,상기 수정하는 과정은,상기 제로 특징맵의 수 및 상기 필터의 수가 증가하도록 상기 파라미터를 수정하는 것인 시스템
|
| 12 |
12
이미지를 처리하기 위한 시스템에 있어서,하나 이상의 프로세서; 및명령어를 저장하는 하나 이상의 메모리를 포함하되, 상기 명령어가 상기 하나 이상의 프로세서에 의해 실행되는 경우, 상기 명령어는 상기 하나 이상의 프로세서로 하여금 이미지 처리 방법을 수행하도록 하며,상기 이미지 처리 방법은,입력 이미지를 획득하는 과정; 상기 입력 이미지를 제1신경망에 제공하는 과정, 상기 제1신경망은 복수의 필터를 이용하여 상기 입력 이미지에 대한 특징맵들을 생성함; 및제2신경망이 상기 제1신경망으로부터 수신한 상기 특징맵들을 이용하여 상기 이미지를 처리한 결과를 획득하는 과정을 포함하고, 상기 제1신경망은 복수의 이미지를 포함하는 복수의 배치에 대해 상기 제2신경망과 함께 훈련된 것이며, 훈련 방법은 각 배치마다상기 제1신경망을 이용하여 상기 배치에 포함된 각 이미지들에 대응하는 복수의 특징맵을 획득하는 과정; 각 이미지들에 대응하는 상기 복수의 특징맵을 제로 특징맵과 논제로 특징맵으로 구분하는 과정; 및상기 제로 특징맵의 수, 및 상기 복수의 이미지 중 서로 다른 두 이미지에 대해 모두 제로 특징맵 또는 논제로 특징맵을 출력하는 필터의 수를 이용하여 상기 제1신경망의 파라미터들을 수정하는 과정;을 포함하며,상기 제로 특징맵은 모든 엘리먼트가 0인 특징맵이고, 상기 논제로 특징맵은 엘리먼트 중 적어도 하나가 0이 아닌 특징맵인 시스템
|
| 13 |
13
제12항에 있어서,상기 제1신경망은 적어도 하나의 컨볼루션 레이어를 포함하고, 상기 복수의 필터는 상기 적어도 하나의 컨볼루션 레이어에 포함된 것인 시스템
|
| 14 |
14
제12항에 있어서,상기 수정하는 과정은,상기 제로 특징맵의 수 및 상기 필터의 수가 증가하도록 상기 파라미터를 수정하는 것인 시스템
|
| 15 |
15
제12항에 있어서,상기 제1신경망은 인코더이며, 상기 제2신경망은 디코더인 것을 특징으로 하는 시스템
|
| 16 |
16
제12항에 있어서,상기 제1신경망은 인코더이며, 상기 제2신경망은 이미지 분류기인 것을 특징으로 하는 시스템
|
