1 |
1
학습된 인공 신경망의 가중치 중요도를 결정하는 단계;연산의 자원(resource)과 관련된 제한 조건을 수신하는 단계; 및상기 제한 조건 내에서, 상기 인공 신경망의 상기 가중치 중요도를 최대화할 수 있는 프루닝 마스크(pruning mask)를 결정하는 단계를 포함하는 프루닝 방법
|
2 |
2
제1항에 있어서,상기 프루닝 마스크를 결정하는 단계는입력 채널의 프루닝 이진 벡터를 결정하는 단계; 및출력 채널의 스파셜(spartial) 프루닝 이진 벡터를 결정하는 단계를 포함하는, 프루닝 방법
|
3 |
3
제1항에 있어서,상기 프루닝 마스크에 기초하여, 상기 인공 신경망을 프루닝하는 단계를 더 포함하는, 프루닝 방법
|
4 |
4
제3항에 있어서,상기 프루닝된 상기 인공 신경망에 기초하여, 추론을 수행하는 단계를 더 포함하는, 프루닝 방법
|
5 |
5
제3항에 있어서,상기 프루닝하는 단계는결정된 입력 채널의 프루닝 이진 벡터에 기초하여, 입력 채널의 가중치들을 프루닝하는 단계; 및결정된 출력 채널의 스파셜 프루닝 이진 벡터에 기초하여, 출력 채널의 스파셜한 방향으로 가중치들을 프루닝하는 단계를 포함하는, 프루닝 방법
|
6 |
6
제1항에 있어서,상기 가중치 중요도를 결정하는 단계는상기 가중치 중요도를 입력 채널의 프루닝 이진 벡터 및 출력 채널의 스파셜 프루닝 이진 벡터 중 적어도 하나로 표현하는 단계를 더 포함하고,상기 제한 조건을 수신하는 단계는상기 제한 조건을 상기 입력 채널의 프루닝 이진 벡터 및 상기 출력 채널의 스파셜 프루닝 이진 벡터 중 적어도 하나로 표현하는 단계를 더 포함하는, 프루닝 방법
|
7 |
7
제6항에 있어서,상기 프루닝 마스크를 결정하는 단계는상기 제한 조건 내에서, 상기 인공 신경망의 상기 가중치 중요도를 최대화할 수 있는 최적화 식을 상기 입력 채널의 프루닝 이진 벡터 및 상기 출력 채널의 스파셜 프루닝 이진 벡터 중 적어도 하나로 표현하는 단계를 포함하는, 프루닝 방법
|
8 |
8
제7항에 있어서,상기 프루닝 마스크를 결정하는 단계는이진 벡터 최적화 알고리즘에 기초하여, 상기 최적화 식에 대응하는 상기 프루닝 마스크를 결정하는 단계를 포함하는, 프루닝 방법
|
9 |
9
제1항에 있어서,상기 가중치 중요도를 결정하는 단계는상기 인공 신경망의 가중치의 절대값 및 오차의 그래디언트(gradient) 절대값 중 적어도 하나에 기초하여, 상기 가중치 중요도를 결정하는 단계를 포함하는, 프루닝 방법
|
10 |
10
하드웨어와 결합되어 제1항 내지 제9항 중 어느 하나의 항의 방법을 실행시키기 위하여 매체에 저장된 컴퓨터 프로그램
|
11 |
11
전자 장치에 있어서,메모리 및 프로세서를 포함하고,상기 메모리는 상기 프로세서에 의해 실행 가능한 인스트럭션들(instructions)을 저장하고,상기 인스트럭션들이 상기 프로세서에 의해 실행될 때, 상기 프로세서는 상기 전자 장치가학습된 인공 신경망의 가중치 중요도를 결정하고, 연산의 자원(resource)과 관련된 제한 조건을 수신하고,상기 제한 조건 내에서, 상기 인공 신경망의 상기 가중치 중요도를 최대화할 수 있는 프루닝 마스크(pruning mask)를 결정하도록 상기 전자 장치를 제어하는, 전자 장치
|
12 |
12
제11항에 있어서,상기 프로세서는 상기 전자 장치가입력 채널의 프루닝 이진 벡터를 결정하고,출력 채널의 스파셜 프루닝 이진 벡터를 결정하도록 상기 전자 장치를 제어하는, 전자 장치
|
13 |
13
제11항에 있어서,상기 프로세서는 상기 전자 장치가입력 채널의 프루닝 이진 벡터를 결정하고,출력 채널의 스파셜 프루닝 이진 벡터를 결정하도록 상기 전자 장치를 제어하는, 전자 장치
|
14 |
14
제13항에 있어서,상기 프로세서는 상기 전자 장치가상기 프루닝된 상기 인공 신경망에 기초하여, 추론을 수행하도록 상기 전자 장치를 제어하는, 전자 장치
|
15 |
15
제13항에 있어서,상기 프로세서는 상기 전자 장치가결정된 입력 채널의 프루닝 이진 벡터에 기초하여, 입력 채널의 가중치들을 프루닝하고,결정된 출력 채널의 스파셜 프루닝 이진 벡터에 기초하여, 출력 채널의 스파셜한 방향으로 가중치들을 프루닝하도록 상기 전자 장치를 제어하는, 전자 장치
|
16 |
16
제11항에 있어서,상기 프로세서는 상기 전자 장치가상기 가중치 중요도를 입력 채널의 프루닝 이진 벡터 및 출력 채널의 스파셜 프루닝 이진 벡터 중 적어도 하나로 표현하고,상기 제한 조건을 상기 입력 채널의 프루닝 이진 벡터 및 상기 출력 채널의 스파셜 프루닝 이진 벡터 중 적어도 하나로 표현하도록 상기 전자 장치를 제어하는, 전자 장치
|
17 |
17
제16항에 있어서,상기 프로세서는 상기 전자 장치가상기 제한 조건 내에서, 상기 인공 신경망의 상기 가중치 중요도를 최대화할 수 있는 최적화 식을 상기 입력 채널의 프루닝 이진 벡터 및 상기 출력 채널의 스파셜 프루닝 이진 벡터 중 적어도 하나로 표현하도록 상기 전자 장치를 제어하는, 전자 장치
|
18 |
18
제17항에 있어서,상기 프로세서는 상기 전자 장치가이진 벡터 최적화 알고리즘에 기초하여, 상기 최적화 식에 대응하는 상기 프루닝 마스크를 결정하도록 상기 전자 장치를 제어하는, 전자 장치
|
19 |
19
제17항에 있어서,상기 프로세서는 상기 전자 장치가상기 인공 신경망의 가중치의 절대값 및 오차의 그래디언트(gradient) 절대값 중 적어도 하나에 기초하여, 상기 가중치 중요도를 결정하도록 상기 전자 장치를 제어하는, 전자 장치
|