1 |
1
배치 크기 최적화 장치에서 적어도 하나의 배치를 처리하는 인공신경망 가속기를 위한 배치 크기 최적화 방법에서,배치 크기를 결정할 인공신경망의 정보를 수신하는 단계, 그리고 상기 인공신경망에 따라 상기 인공신경망의 기본 성능을 최적화시키는 배치 크기를 결정하는 단계를 포함하는 배치 크기 최적화 방법
|
2 |
2
제1항에서,상기 결정하는 단계는 상기 인공신경망에 대해 하나의 배치 크기를 결정하는 단계를 포함하는 배치 크기 최적화 방법
|
3 |
3
제1항에서,상기 하나의 배치 크기를 결정하는 단계는 배치 크기별로 각 배치 크기에 기반한 상기 인공신경망에 대한 기본 성능을 최적화하는 단계, 그리고 가장 좋은 기본 성능을 갖는 배치크기를 상기 인공신경망의 배치 크기로 결정하는 단계를 포함하는 배치 크기 최적화 방법
|
4 |
4
제1항에서,상기 결정하는 단계는 상기 인공신경망의 계층별 다른 배치 크기를 결정하는 단계를 포함하는 배치 크기 최적화 방법
|
5 |
5
제1항에서,상기 계층별 다른 배치 크기를 결정하는 단계는 각 계층에 대해 배치 크기별로 각 배치 크기에 기반한 상기 인공신경망에 대한 기본 성능을 최적화하는 단계, 상기 각 계층에 대해 가장 좋은 기본 성능을 갖는 배치크기를 해당 계층의 배치 크기로 결정하는 단계를 포함하는 배치 크기 최적화 방법
|
6 |
6
제1항에서,상기 결정된 배치 크기를 상기 인공신경망 가속기로 출력하는 단계를 더 포함하는 배치 크기 최적화 방법
|
7 |
7
적어도 하나의 배치를 처리하는 인공신경망 가속기를 위한 배치 크기를 최적화하는 장치에서, 배치 크기를 결정할 인공신경망의 정보를 수신하는 입력 인터페이스, 상기 인공신경망의 성능을 최적화시키는 과정을 통해 상기 인공신경망의 배치 크기를 결정하는 프로세서, 그리고 상기 결정된 배치 크기를 상기 인공신경망 가속기로 전달하는 출력 인터페이스를 포함하는 배치 크기 최적화 장치
|
8 |
8
제7항에서, 상기 프로세서는 배치 크기별로 각 배치 크기에 기반한 상기 인공신경망에 대한 기본 성능을 최적화하고, 가장 좋은 기본 성능을 갖는 배치크기를 상기 인공신경망의 배치 크기로 결정하는 배치 크기 최적화 장치
|
9 |
9
제7항에서, 상기 프로세서는 상기 인공신경망의 계층별 다른 배치 크기를 결정하는 배치 크기 최적화 장치
|
10 |
10
제9항에서, 상기 프로세서는 각 계층에 대해 배치 크기별로 각 배치 크기에 기반한 상기 인공신경망에 대한 기본 성능을 최적화하고, 상기 각 계층에 대해 가장 좋은 기본 성능을 갖는 배치크기를 해당 계층의 배치 크기로 결정하는 배치 크기 최적화 장치
|