| 1 |
1
뉴럴 네트워크에 관련된 작업 요청 및 상기 뉴럴 네트워크에 관련된 작업에 대한 자원 스케줄링 정책(resource scheduling policy)을 수신하는 단계;상기 작업 요청에 응답하여 복수의 가속기를 포함하는 가속기 클러스터의 자원(resource)의 이용 현황에 대한 정보를 획득하는 단계; 및상기 자원 스케줄링 정책 및 상기 정보에 따른 자원 할당의 효용에 기초하여 상기 작업을 수행하기 위한 가속기 자원을 할당하는 단계를 포함하는 가속기 자원 관리 방법
|
| 2 |
2
제1항에 있어서,상기 자원 스케줄링 정책은,상기 작업에 필요한 가속기 클러스터의 사용 비용(cost)에 관한 정책, 상기 작업에 소요되는 시간에 관한 정책, 상기 작업에 대한 처리량(throughput)에 관한 정책 또는 이들의 조합을 포함하는가속기 자원 관리 방법
|
| 3 |
3
제1항에 있어서,상기 정보를 획득하는 단계는,상기 작업 요청에 응답하여 상기 가속기 클러스터에서 실행되고 있는 다른 작업에 대한 정보 및 상기 가속기 클러스터의 유휴 자원(idle resource)에 대한 정보를 획득하는 단계를 포함하는 가속기 자원 관리 방법
|
| 4 |
4
제1항에 있어서,상기 정보를 획득하는 단계는,상기 복수의 가속기 간의 피어 디스커버리(peer discovery)를 수행함으로써 상기 정보를 획득하는 단계를 포함하는 가속기 자원 관리 방법
|
| 5 |
5
제1항에 있어서,상기 가속기 자원을 할당하는 단계는,상기 자원 스케줄링 정책 및 상기 정보에 기초하여 상기 효용을 추정하는 단계; 및상기 효용에 기초하여 상기 복수의 가속기 중에서 적어도 일부의 타겟 가속기를 상기 작업에 할당함으로써 상기 작업을 수행하는 단계를 포함하는 가속기 자원 관리 방법
|
| 6 |
6
제5항에 있어서,상기 효용을 추정하는 단계는,상기 자원 스케줄링 정책 및 상기 정보에 기초하여 상기 작업에 상기 가속기 자원을 추가 할당할 경우의 효용을 추정하는 단계; 또는상기 자원 스케줄링 정책 및 상기 정보에 기초하여 상기 가속기 자원을 반납할 경우의 상기 작업의 지속 가능 여부를 판단함으로써 상기 효용을 추정하는 단계를 포함하는 가속기 자원 관리 방법
|
| 7 |
7
제5항에 있어서,상기 작업을 수행하는 단계는,상기 효용에 기초하여 상기 복수의 가속기 중에서 상기 타겟 가속기를 결정하는 단계; 및상기 작업을 수행하기 위한 메타데이터를 상기 타겟 가속기에 할당하는 단계를 포함하는 가속기 자원 관리 방법
|
| 8 |
8
제5항에 있어서,상기 작업을 수행하는 단계는,상기 타겟 가속기의 할당에 의해 상기 효용이 증가하는지 여부를 판단하는 단계; 및상기 효용의 증가 여부에 기초하여 상기 타겟 가속기를 상기 작업에 할당함으로써 상기 작업을 수행하는 단계를 포함하는 가속기 자원 관리 방법
|
| 9 |
9
제5항에 있어서,상기 가속기 자원을 할당하는 단계는,상기 적어도 일부의 타겟 가속기 사이의 뉴럴 네트워크 파라미터를 동기화하는 단계를 더 포함하는 가속기 자원 관리 방법
|
| 10 |
10
제1항에 있어서,상기 작업은,상기 뉴럴 네트워크의 분산 학습을 포함하는가속기 자원 관리 방법
|
| 11 |
11
뉴럴 네트워크에 관련된 작업 요청 및 상기 뉴럴 네트워크에 관련된 작업에 대한 자원 스케줄링 정책(resource scheduling policy)을 수신하는 수신기; 및상기 작업 요청에 응답하여 복수의 가속기를 포함하는 가속기 클러스터의 자원(resource)의 이용 현황에 대한 정보를 획득하고, 상기 자원 스케줄링 정책 및 상기 정보에 따른 자원 할당의 효용에 기초하여 상기 작업을 수행하기 위한 가속기 자원을 할당하는 프로세서를 포함하는 가속기 자원 관리 장치
|
| 12 |
12
제11항에 있어서,상기 자원 스케줄링 정책은,상기 작업에 필요한 가속기 클러스터의 사용 비용(cost)에 관한 정책, 상기 작업에 소요되는 시간에 관한 정책, 상기 작업에 대한 처리량(throughput)에 관한 정책 또는 이들의 조합을 포함하는가속기 자원 관리 장치
|
| 13 |
13
제11항에 있어서,상기 프로세서는,상기 작업 요청에 응답하여 상기 가속기 클러스터에서 실행되고 있는 다른 작업에 대한 정보 및 상기 가속기 클러스터의 유휴 자원(idle resource)에 대한 정보를 획득하는가속기 자원 관리 장치
|
| 14 |
14
제11항에 있어서,상기 프로세서는,상기 복수의 가속기 간의 피어 디스커버리(peer discovery)를 수행함으로써 상기 정보를 획득하는가속기 자원 관리 장치
|
| 15 |
15
제11항에 있어서,상기 프로세서는,상기 자원 스케줄링 정책 및 상기 정보에 기초하여 상기 효용을 추정하고,상기 효용에 기초하여 상기 복수의 가속기 중에서 적어도 일부의 타겟 가속기를 상기 작업에 할당함으로써 상기 작업을 수행하는가속기 자원 관리 장치
|
| 16 |
16
제15항에 있어서,상기 프로세서는,상기 자원 스케줄링 정책 및 상기 정보에 기초하여 상기 작업에 상기 가속기 자원을 추가 할당할 경우의 효용을 추정하거나,상기 자원 스케줄링 정책 및 상기 정보에 기초하여 상기 가속기 자원을 반납할 경우의 상기 작업의 지속 가능 여부를 판단함으로써 상기 효용을 추정하는가속기 자원 관리 장치
|
| 17 |
17
제15항에 있어서,상기 프로세서는,상기 효용에 기초하여 상기 복수의 가속기 중에서 상기 타겟 가속기를 결정하고,상기 작업을 수행하기 위한 메타데이터를 상기 타겟 가속기에 할당하는가속기 자원 관리 장치
|
| 18 |
18
제15항에 있어서,상기 프로세서는,상기 타겟 가속기의 할당에 의해 상기 효용이 증가하는지 여부를 판단하고,상기 효용의 증가 여부에 기초하여 상기 타겟 가속기를 상기 작업에 할당함으로써 상기 작업을 수행하는가속기 자원 관리 장치
|
| 19 |
19
제15항에 있어서,상기 프로세서는,상기 적어도 일부의 타겟 가속기 사이의 뉴럴 네트워크 파라미터를 동기화하는가속기 자원 관리 장치
|
| 20 |
20
제11항에 있어서,상기 작업은,상기 뉴럴 네트워크의 분산 학습을 포함하는가속기 자원 관리 장치
|
