1 |
1
GPU 자원 관리 장치가 GPU의 자원(resource)을 시간 단위로 예약하는 단계;GPU 자원 관리 장치가 상기 자원의 사용 시간을 측정하는 단계; 및GPU 자원 관리 장치가 상기 사용 시간에 기초하여 상기 자원을 스케줄링하는 단계를 포함하고,상기 스케줄링하는 단계는,상기 사용 시간을 합산하는 단계; 및상기 GPU에 대한 예약 시간, 상기 GPU의 사용 가능 시간 및 상기 GPU의 이번 주기 전까지의 사용 시간에 기초하여 이번 주기에 커널을 실행할지 여부를 결정하는 단계를 포함하고,상기 결정하는 단계는,상기 GPU에 대한 예약 시간을 초과하여 사용한 오버런(overrun) 시간이 존재하는지 여부를 결정하는 단계;상기 오버런 시간과 상기 예약 시간을 제1 비교하는 단계;상기 이번 주기 전까지의 사용 시간 및 상기 사용 가능 시간을 제2 비교하는 단계;상기 오버런 시간과 상기 사용 가능 시간을 제3 비교하는 단계; 및상기 오버런 시간의 존재 여부, 상기 제1 비교 결과, 상기 제2 비교 결과 및 상기 제3 비교 결과에 기초하여 상기 사용 가능 시간 및 상기 오버런 시간을 업데이트 하고, 상기 커널의 실행 여부를 결정하는 단계중 적어도 하나를 포함하는 GPU 자원 관리 방법
|
2 |
2
제1항에 있어서,상기 예약하는 단계는,상기 GPU의 자원 관리 주기 및 상기 자원 관리 주기당 상기 자원의 사용 가능 시간에 기초한 자원 활용률을 이용하여 상기 자원의 예약 여부를 결정하는 단계를 포함하는 GPU 자원 관리 방법
|
3 |
3
제2항에 있어서,상기 예약하는 단계는,복수의 사용자에 대하여 상기 자원 관리 주기, 상기 자원의 사용 가능 시간, 상기 자원의 총 사용 시간 및 상기 GPU에 대한 예약 시간을 초과하여 사용한 상기 오버런(overrun) 시간을 저장하는 단계를 더 포함하는 GPU 자원 관리 방법
|
4 |
4
제1항에 있어서,상기 측정하는 단계는,상기 GPU에 의해 실행되는 커널(kernel)의 시작과 끝에 상기 커널의 실행 시간을 측정하기 위한 이벤트를 삽입하는 단계; 및상기 이벤트를 이용하여 상기 실행 시간을 측정하는 단계를 포함하는 GPU 자원 관리 방법
|
5 |
5
삭제
|
6 |
6
삭제
|
7 |
7
제1항에 있어서,상기 스케줄링하는 단계는,상기 GPU의 자원 관리 주기마다 상기 자원을 스케줄링하는GPU 자원 관리 방법
|
8 |
8
제1항에 있어서,상기 측정하는 단계는,별도의 스레드(thread)를 이용하여 상기 사용 시간을 측정하는GPU 자원 관리 방법
|
9 |
9
GPU의 자원(resource)을 시간 단위로 예약하고, 상기 자원의 사용 시간을 측정하고, 상기 사용 시간에 기초하여 상기 자원을 스케줄링하는 컨트롤러를 포함하고,상기 컨트롤러는,상기 사용 시간에 기초하여 상기 자원을 스케줄링하는 스케줄러를 포함하고,상기 스케줄러는 상기 사용 시간을 합산하고,상기 GPU에 대한 예약 시간을 초과하여 사용한 오버런(overrun) 시간이 존재하는지 여부를 결정하는 오버런 판단기;상기 오버런 시간과 상기 예약 시간을 제1 비교하는 제1 비교기;상기 GPU의 이번 주기 전까지의 사용 시간 및 상기 GPU의 사용 가능 시간을 제2 비교하는 제2 비교기;상기 오버런 시간과 상기 사용 가능 시간을 제3 비교하는 제3 비교기; 및상기 오버런 시간의 존재 여부, 상기 제1 비교 결과, 상기 제2 비교 결과 및 상기 제3 비교 결과에 기초하여 상기 사용 가능 시간 및 상기 오버런 시간을 업데이트 하고, 커널의 실행 여부를 결정하는 결정기;중 적어도 하나를 포함하는 GPU 자원 관리 장치
|
10 |
10
제9항에 있어서,상기 컨트롤러는,상기 GPU의 자원(resource)을 시간 단위로 예약하는 자원 예약기; 및상기 자원의 사용 시간을 측정하는 사용 시간 측정기를 더 포함하는 GPU 자원 관리 장치
|
11 |
11
제10항에 있어서,상기 자원 예약기는,상기 GPU의 자원 관리 주기 및 상기 자원 관리 주기당 상기 자원의 사용 가능 시간에 기초한 자원 활용률을 이용하여 상기 자원의 예약 여부를 결정하는GPU 자원 관리 장치
|
12 |
12
제11항에 있어서,상기 자원 예약기는,복수의 사용자에 대하여 상기 자원 관리 주기, 상기 자원의 사용 가능 시간, 상기 자원의 총 사용 시간 및 상기 GPU에 대한 예약 시간을 초과하여 사용한 상기 오버런(overrun) 시간을 저장하는GPU 자원 관리 장치
|
13 |
13
제10항에 있어서,상기 사용 시간 측정기는,상기 GPU에 의해 실행되는 커널(kernel)의 시작과 끝에 상기 커널의 실행 시간을 측정하기 위한 이벤트를 삽입하고, 상기 이벤트를 이용하여 상기 실행 시간을 측정하는GPU 자원 관리 장치
|
14 |
14
삭제
|
15 |
15
삭제
|
16 |
16
제9항에 있어서,상기 스케줄러는,상기 GPU의 자원 관리 주기마다 상기 자원을 스케줄링하는GPU 자원 관리 장치
|
17 |
17
제10항에 있어서,상기 사용 시간 측정기는,별도의 스레드(thread)를 이용하여 상기 사용 시간을 측정하는GPU 자원 관리 장치
|