| 1 |
1
적어도 하나의 어플리케이션으로부터 수신한 요청(request)을 유닛(unit) 기준으로 파티셔닝하여 적어도 하나의 서브그래프를 생성하는 분석부;상기 적어도 하나의 서브그래프를 수신하고, 수신한 서브그래프를 수행할 수 있는 적어도 하나의 프로세서의 적어도 하나의 주파수마다 연산수행시간을 예측하여 저장하는 프로파일링부;상기 적어도 하나의 어플리케이션으로부터 수신한 요청 및 상기 서브그래프별로 저장된 적어도 하나의 연산수행시간에 기초하여 서브그래프와 프로세서를 선택하는 스케줄러;를 포함하는 것을 특징으로 하는 스케줄링을 수행하는 단말기
|
| 2 |
2
제 1 항에 있어서, 상기 스케줄러는 적어도 하나의 프로세서 각각의 현재 주파수에 대응하는 연산수행시간을 상기 프로파일링부에 요청하여 수신하고, 상기 현재 주파수에 대응하는 예측된 연산수행시간을 기초로 서브그래프와 프로세서를 선택하는 것을 특징으로 하는 스케줄링을 수행하는 단말기
|
| 3 |
3
제 1 항에 있어서, 상기 스케줄러는 적어도 하나의 어플리케이션 각각으로부터 수신한 요청을 유닛의 형태로 나누어 상기 요청에 포함된 정책을 기초로 상기 요청에 포함된 정책을 지닌 큐에 삽입하는 멀티레벨큐;및상기 정책을 지닌 큐 내에 남아있는 유닛에 대하여 상기 남아있는 유닛을 처리하기에 적합한 서브그래프 및 프로세서를 선택하는 스케줄링정책부;를 포함하는 것을 특징으로 하는 스케줄링을 수행하는 단말기
|
| 4 |
4
제 3 항에 있어서, 상기 멀티레벨큐는 복수의 큐로 구성되고, 복수의 큐 각각은 정책을 지니며, 여러 개의 정책이 있는 경우 기설정된 정책별 우선순위에 따라 정책 및 큐를 선정하는 것을 특징으로 하는 스케줄링을 수행하는 단말기
|
| 5 |
5
제 1 항에 있어서, 상기 단말기는이기종프로세서를 포함하고, 상기 이기종프로세서는 CPU, NPU, GPU 중 적어도 두 개를 포함하는 것을 특징으로 하는 스케줄링을 수행하는 단말기
|
| 6 |
6
제 1 항에 있어서, 상기 분석부는 상기 요청을 상기 유닛 기준으로 파티셔닝하여 복수의 유닛으로 분리하고, 분리된 복수의 유닛 각각을 처리할 수 있는 적어도 하나의 프로세서의 유형을 기초로 복수의 서브그래프 시퀀스를 도출하며, 또한 상기 프로세서의 유형을 기초로 상기 서브그래프 시퀀스 내에 연속하여 위치한 서로 다른 유닛이 있는 경우 이를 병합하여 적어도 하나의 서브그래프를 생성하는 것을 특징으로 하는 스케줄링을 수행하는 단말기
|
| 7 |
7
제 6 항에 있어서, 상기 서브그래프 시퀀스 내에 연속하여 위치한 서로 다른 유닛이 동일한 프로세서에서 처리가 가능한 경우 병합되는 것을 특징으로 하는 스케줄링을 수행하는 단말기
|
| 8 |
8
제 1 항에 있어서, 동일한 유닛 내의 연산은 하나의 동일한 프로세서에서 처리될 수 있는 것을 특징으로 하는 다중심층신경망에서 스케줄링 수행방법
|
| 9 |
9
제 1 항에 있어서, 상기 프로파일링부는 상기 서브그래프마다 이용 가능한 적어도 하나의 프로세서마다 상기 적어도 하나의 프로세서에서 이용할 수 있는 적어도 하나의 주파수 각각에 대해 연산수행시간을 예측하여 저장하는 것을 특징으로 하는 스케줄링을 수행하는 단말기
|
| 10 |
10
분석부에서 적어도 하나의 어플리케이션으로부터 수신한 요청을 유닛 기준으로 파티셔닝하여 적어도 하나의 서브그래프를 생성하는 단계; 상기 분석부에서 프로파일링부로 상기 적어도 하나의 서브그래프를 전송하고, 스케줄러로 상기 요청을 유닛 기준으로 파티셔닝한 복수의 유닛을 전송하는 단계; 및상기 스케줄러에서 수신한 상기 복수의 유닛을 상기 요청에 해당하는 정책을 가진 큐에 삽입하고, 상기 큐에 남아 있는(pending) 유닛에 대하여 상기 정책에 기초하여 상기 남아있는 유닛을 처리하기 위한 서브그래프 및 프로세서를 선택하는 스케줄링 단계;를 포함하며, 상기 프로파일링부는 상기 적어도 하나의 서브그래프마다 이용 가능한 적어도 하나의 프로세서의 적어도 하나의 주파수마다 연산수행시간을 예측하여 저장하는 것을 특징으로 하는 단말기에서 스케줄링을 수행하는 방법
|
| 11 |
11
제 10항에 있어서, 상기 스케줄러는 적어도 하나의 어플리케이션으로부터 요청을 수신하면, 요청을 수신한 시점의 적어도 하나의 프로세서 각각의 주파수에 대응하는 연산수행시간을 상기 프로파일링부에 요청하여 수신하고, 이를 기초로 상기 큐에 남아 있는 유닛에 대하여 상기 남아있는 유닛을 처리하기에 적합한 서브그래프 및 프로세서를 선택하는 것을 특징으로 하는 단말기에서 스케줄링을 수행하는 방법
|
| 12 |
12
제 10항에 있어서, 상기 스케줄러는 이기종 프로세서 중 유휴 프로세서가 감지되는 경우 상기 서브그래프 및 프로세서를 선택하는 스케줄링을 수행하는 것을 특징으로 하는 단말기에서 스케줄링을 수행하는 방법
|
| 13 |
13
제 10항에 있어서,상기 분석부는 상기 요청을 상기 유닛 기준으로 파티셔닝하여 복수의 유닛으로 분리하고, 분리된 복수의 유닛 각각을 처리할 수 있는 적어도 하나의 프로세서의 유형을 기초로 복수의 서브그래프 시퀀스를 도출하며, 또한 상기 프로세서의 유형을 기초로 상기 서브그래프 시퀀스 내에 연속하여 위치한 서로 다른 유닛이 있는 경우 상기 서로 다른 유닛을 병합하여 적어도 하나의 서브그래프를 생성하는 것을 특징으로 하는 단말기에서 스케줄링을 수행하는 방법
|
| 14 |
14
제 13 항에 있어서, 상기 서브그래프 시퀀스 내에 연속하여 위치한 서로 다른 유닛이 동일한 프로세서에서 처리가 가능한 경우 서브그래프로 병합되는 것을 특징으로 하는 단말기에서 스케줄링을 수행하는 방법
|
| 15 |
15
제 10 항 내지 14항 중 어느 한 항의 단말기에서 스케줄링을 수행하는 방법의 프로그램을 구현하기 위한 컴퓨터 판독 가능한 기록매체
|
