1 |
1
스레드 블록의 우선순위 결정 방법에 있어서,학습이 완료된 머신러닝 모델의 불필요한 가중치 인자를 제거하여 가중치 인자의 수를 줄이는 가지치기를 수행하는 단계; 가지치기 비율을 확인하기 위해 상기 가지치기가 수행된 머신러닝 모델의 연산을 수행하는 단계; 상기 가중치 인자와 명령어를 이용하여 상기 머신러닝 모델의 연산을 수행하는 스레드 블록에 대하여 상기 가지치기 비율을 결정하는 단계; 및 상기 가지치기 비율에 기초하여 스레드 블록의 우선순위를 결정하는 단계를 포함하는 스레드 블록의 우선순위 결정 방법
|
2 |
2
제1항에 있어서, 상기 스레드 블록의 우선순위를 결정하는 단계는, 상기 가지치기 비율이 낮은 스레드 블록의 우선순위를 상기 가지치기 비율이 높은 스레드 블록의 우선순위보다 더 높게 결정하는 스레드 블록의 우선순위 결정 방법
|
3 |
3
제1항에 있어서, 상기 가지치기 비율은, 상기 학습이 완료된 머신러닝 모델의 전체 가중치 인자 중에서 제거된 가중치 인자의 비율인 스레드 블록의 우선순위 결정 방법
|
4 |
4
제1항에 있어서,상기 가지치기를 수행하는 단계는,상기 가중치 인자가 임계값 이하인 경우, 상기 가중치 인자를 0으로 결정하는 스레드 블록 우선순위 결정 방법
|
5 |
5
제1항에 있어서,상기 스레드 블록의 우선순위를 상기 불필요한 가중치 인자가 제거된 머신러닝 모델에 대해 업데이트하는 단계를 더 포함하는 스레드 블록의 우선순위 결정 방법
|
6 |
6
스레드 블록 스케줄링 방법에 있어서,그래픽 프로세싱 유닛이 불필요한 가중치 인자가 제거된 머신러닝 모델을 실행하는 경우 상기 머신러닝 모델에 업데이트 된 스레드 블록의 우선순위를 식별하는 단계; 및 상기 가중치 인자의 가지치기 비율에 따라서 결정된 상기 스레드 블록의 우선순위를 기초로 상기 스레드 블록을 스트리밍 멀티프로세서에 스케줄링 하는 단계를 포함하는 스레드 블록 스케줄링 방법
|
7 |
7
제6항에 있어서, 상기 스케줄링 하는 단계는, 상기 스레드 블록 중에서 가장 운선순위가 높은 스레드 블록부터 스트리밍 멀티 프로세서에 스케줄링 하는 스레드 블록 스케줄링 방법
|
8 |
8
제6항에 있어서,모든 스트리밍 멀티 프로세서에 스레드 블록을 스케줄링한 경우, 아직 스케줄링 되지 않은 나머지 스레드 블록 중에서 가장 우선순위가 높은 스레드 블록부터 먼저 스케줄링 된 스레드 블록의 연산을 완료한 스트리밍 멀티 프로세서에 스케줄링 하는 단계를 더 포함하는 스레드 블록 스케줄링 방법
|
9 |
9
제6항에 있어서, 상기 우선순위는, 가지치기 비율이 낮은 스레드 블록이 상기 가지치기 비율이 높은 스레드 블록보다 더 높게 결정되는 스레드 블록 스케줄링 방법
|
10 |
10
제6항에 있어서,상기 스트리밍 멀티프로세서에 스케줄링 하는 단계는, 상기 스레드 블록의 우선순위가 가장 높은 스레드 블록부터 스트리밍 프로세서에 먼저 스케줄링 하는 스레드 블록 스케줄링 방법
|
11 |
11
프로세서를 포함하는 스레드 블록의 우선순위를 결정하는 컴퓨팅 장치에 있어서,상기 프로세서는,학습이 완료된 머신러닝 모델의 불필요한 가중치 인자를 제거하여 가중치 인자의 수를 줄이는 가지치기를 수행하고,가지치기 비율을 확인하기 위해 상기 가지치기가 수행된 머신러닝 모델의 연산을 수행하고, 상기 가중치 인자와 명령어를 이용하여 상기 머신러닝 모델의 연산을 수행하는 스레드 블록에 대하여 상기 가지치기 비율을 결정하고, 상기 가지치기 비율에 기초하여 스레드 블록의 우선순위를 결정하는 컴퓨팅 장치
|
12 |
12
제11항에 있어서, 상기 프로세서는, 상기 가지치기 비율이 낮은 스레드 블록의 우선순위를 상기 가지치기 비율이 높은 스레드 블록의 우선순위보다 더 높게 결정하는 컴퓨팅 장치
|
13 |
13
제11항에 있어서, 상기 가지치기 비율은, 상기 학습이 완료된 머신러닝 모델의 전체 가중치 인자 중에서 제거된 가중치 인자의 비율인 컴퓨팅 장치
|
14 |
14
제11항에 있어서,상기 프로세서는,상기 가중치 인자가 임계값 이하인 경우, 상기 가중치 인자를 0으로 결정하는 컴퓨팅 장치
|
15 |
15
제11항에 있어서,상기 프로세서는,상기 스레드 블록의 우선순위를 상기 불필요한 가중치 인자가 제거된 머신러닝 모델에 대해 업데이트하는 컴퓨팅 장치
|