| 1 |
1
GPU의 학습 모델 연산을 위한 출력 샘플을 기초로 설정되는 제1 모델 계수에 따라 상기 GPU의 입력 샘플을 조정하는 GPU 서버;상기 제1 모델 계수를 수신하여 상기 GPU의 제1 주파수 설정값을 결정하는 전력 제어정보 연산부; 및상기 제1 주파수 설정값과 기 설정된 전력 예산값을 수신하고, 상기 제1 주파수 설정값과 상기 전력 예산값을 기초로 이중화 변수(dual variable)를 결정하며, 결정되는 상기 이중화 변수를 상기 전력 제어정보 연산부로 전송하는 코디네이터(coordinator);를 포함하되,상기 전력 제어정보 연산부는 상기 이중화 변수를 기초로 상기 제1 주파수 설정값을 갱신한 제2 주파수 설정값을 결정하는GPU 클러스터 기반 지역별 분산 제어 시스템
|
| 2 |
2
제 1 항에 있어서,상기 전력 제어정보 연산부는 상기 제2 주파수 설정값을 상기 GPU 서버로 전달하는GPU 클러스터 기반 지역별 분산 제어 시스템
|
| 3 |
3
제 2 항에 있어서,상기 GPU 서버는 상기 제1 모델 계수를 설정하는 전력 모델링부를 포함하고,상기 전력 모델링부는 상기 제2 주파수 설정값과 상기 입력 샘플을 기초로 상기 제1 모델 계수를 갱신한 제2 모델 계수를 설정하는GPU 클러스터 기반 지역별 분산 제어 시스템
|
| 4 |
4
제 3 항에 있어서,상기 GPU 서버는 상기 제2 모델 계수를 기초로 상기 입력 샘플을 갱신하는GPU 클러스터 기반 지역별 분산 제어 시스템
|
| 5 |
5
제 3 항에 있어서,상기 입력 샘플은 상기 GPU의 주파수이고,상기 출력 샘플은 상기 GPU의 상기 학습 모델 연산에 대한 이터레이션(iteration) 처리 시간 및 전력 소비량인GPU 클러스터 기반 지역별 분산 제어 시스템
|
| 6 |
6
제 5 항에 있어서,상기 전력 제어정보 연산부는 상기 GPU의 전력 소비량이 상기 전력 예산값을 초과하지 않으면서, 상기 이터레이션 처리 시간과 이터레이션 처리 요구 시간 간의 갭(gap)을 최소화하기 위한 주파수 설정값을 상기 제1 주파수 설정값 또는 상기 제2 주파수 설정값으로 결정하는GPU 클러스터 기반 지역별 분산 제어 시스템
|
| 7 |
7
제 5 항에 있어서,상기 GPU의 주파수는 코어 주파수 및 메모리 주파수 중 적어도 하나를 포함하는GPU 클러스터 기반 지역별 분산 제어 시스템
|
| 8 |
8
제 5 항에 있어서,상기 제1 모델 계수는 상기 이터레이션 처리 시간을 상기 전력 모델링부에서 학습한 결과인 이터레이션 처리 시간 모델 계수와, 상기 전력 소비량을 상기 전력 모델링부에서 학습한 결과인 전력 소비량 모델 계수를 포함하는GPU 클러스터 기반 지역별 분산 제어 시스템
|
| 9 |
9
제 3 항에 있어서,상기 GPU 서버는,상기 이터레이션 처리 시간을 수집하고, 상기 이터레이션 처리 시간을 상기 전력 모델링부로 전달하는 학습 출력 파서(training output parser)를 더 포함하는GPU 클러스터 기반 지역별 분산 제어 시스템
|
| 10 |
10
제 3 항에 있어서,상기 GPU 서버는,상기 GPU에서 발생하는 전력 소비량을 모니터링하고, 상기 전력 소비량을 상기 전력 모델링부로 전달하는 전력 모니터링부를 더 포함하는GPU 클러스터 기반 지역별 분산 제어 시스템
|
| 11 |
11
제 3 항에 있어서,상기 전력 모델링부는 상기 제2 주파수 설정값을 기반으로 재귀적 최소 제곱 회귀(recursive least square regression) 방식을 적용하여 상기 제2 모델 계수를 설정하는 것을 특징으로 하는GPU 클러스터 기반 지역별 분산 제어 시스템
|
| 12 |
12
제 1 항에 있어서,상기 GPU는 상기 GPU 서버 내에 복수 개로 구비되고,상기 GPU 서버는 복수 개의 지역별 GPU 클러스터 각각마다 복수 개로 구비되는GPU 클러스터 기반 지역별 분산 제어 시스템
|
| 13 |
13
지역별 GPU 클러스터 내에 포함된 GPU 서버의 GPU에서 학습 모델 연산이 수행되면 상기 GPU의 이터레이션 처리 시간과 전력 소비량을 측정하는 단계;상기 이터레이션 처리 시간과 상기 전력 소비량을 기초로 제1 모델 계수를 설정하는 단계;상기 제1 모델 계수에 따른 상기 GPU의 제1 주파수 설정값과 기 설정된 전력 예산값을 기초로 갱신된 제2 주파수 설정값을 수신하는 단계; 및상기 제2 주파수 설정값을 기초로 상기 GPU의 주파수를 조정하는 단계;를 포함하는GPU 서버의 GPU 클러스터 기반 지역별 분산 제어 방법
|
| 14 |
14
제 13 항에 있어서,상기 조정하는 단계는,상기 제2 주파수 설정값과 상기 GPU의 현재 주파수 정보를 기초로 상기 제1 모델 계수를 갱신한 제2 모델 계수를 설정하는 단계를 포함하는GPU 서버의 GPU 클러스터 기반 지역별 분산 제어 방법
|
| 15 |
15
제 13 항에 있어서,상기 조정하는 단계는,상기 GPU의 전력 소비량이 상기 전력 예산값을 초과하지 않으면서 상기 GPU의 학습 모델 연산에 대한 이터레이션 처리 시간과 이터레이션 처리 요구 시간 간의 갭이 최소화되도록 상기 GPU의 주파수를 조정하는 단계인GPU 서버의 GPU 클러스터 기반 지역별 분산 제어 방법
|
| 16 |
16
지역별 GPU 클러스터 내에 포함된 GPU 서버로부터 GPU의 출력 샘플에 따른 제1 모델 계수를 수신하는 단계;상기 제1 모델 계수를 기초로 상기 GPU의 제1 주파수 설정값을 결정하는 단계;상기 제1 주파수 설정값을 코디네이터로 전송하는 단계;상기 제1 주파수 설정값과 기 설정된 전력 예산값에 따른 이중화 변수를 상기 코디네이터로부터 수신하는 단계;상기 이중화 변수를 기초로 상기 제1 주파수 설정값을 갱신한 제2 주파수 설정값을 결정하는 단계; 및상기 제2 주파수 설정값을 상기 GPU 서버로 전송하는 단계;를 포함하는GPU 클러스터 기반 지역별 분산 제어 방법
|
| 17 |
17
제 16 항에 있어서,상기 GPU 서버에서, 상기 제2 주파수 설정값과 상기 GPU의 입력 샘플을 기초로 상기 제1 모델 계수를 갱신한 제2 모델 계수가 설정되도록 하는 단계를 더 포함하는GPU 클러스터 기반 지역별 분산 제어 방법
|
| 18 |
18
제 17 항에 있어서,상기 입력 샘플은 상기 GPU의 주파수이고,상기 출력 샘플은 상기 GPU의 이터레이션 처리 시간 및 전력 소비량인GPU 클러스터 기반 지역별 분산 제어 방법
|
| 19 |
19
제 18 항에 있어서,상기 전력 소비량이 상기 전력 예산값을 초과하지 않으면서, 상기 이터레이션 처리 시간과 이터레이션 처리 요구 시간 간의 갭을 최소화하기 위한 주파수 설정값을 상기 제1 주파수 설정값 또는 상기 제2 주파수 설정값으로 결정하는 단계를 더 포함하는GPU 클러스터 기반 지역별 분산 제어 방법
|
| 20 |
20
컴퓨터 프로그램을 저장하고 있는 컴퓨터 판독 가능 기록매체로서,상기 컴퓨터 프로그램은,GPU 클러스터 기반 지역별 분산 제어 장치에 의해 수행되는 지역별 분산 제어 방법을 프로세서가 수행하도록 하기 위한 명령어를 포함하고,상기 방법은,지역별 GPU 클러스터 내에 포함된 GPU 서버로부터 GPU의 출력 샘플에 따른 제1 모델 계수를 수신하는 단계;상기 제1 모델 계수를 기초로 상기 GPU의 제1 주파수 설정값을 결정하는 단계;상기 제1 주파수 설정값을 코디네이터로 전송하는 단계;상기 제1 주파수 설정값과 기 설정된 전력 예산값에 따른 이중화 변수를 상기 코디네이터로부터 수신하는 단계;상기 이중화 변수를 기초로 상기 제1 주파수 설정값을 갱신한 제2 주파수 설정값을 결정하는 단계; 및상기 제2 주파수 설정값을 상기 GPU 서버로 전송하는 단계;를 포함하는컴퓨터 판독 가능한 기록매체
|
| 21 |
21
컴퓨터 판독 가능 기록매체에 저장된 컴퓨터 프로그램으로서,상기 컴퓨터 프로그램은,GPU 클러스터 기반 지역별 분산 제어 장치에 의해 수행되는 지역별 분산 제어 방법을 프로세서가 수행하도록 하기 위한 명령어를 포함하고,상기 방법은,지역별 GPU 클러스터 내에 포함된 GPU 서버로부터 GPU의 출력 샘플에 따른 제1 모델 계수를 수신하는 단계;상기 제1 모델 계수를 기초로 상기 GPU의 제1 주파수 설정값을 결정하는 단계;상기 제1 주파수 설정값을 코디네이터로 전송하는 단계;상기 제1 주파수 설정값과 기 설정된 전력 예산값에 따른 이중화 변수를 상기 코디네이터로부터 수신하는 단계;상기 이중화 변수를 기초로 상기 제1 주파수 설정값을 갱신한 제2 주파수 설정값을 결정하는 단계; 및상기 제2 주파수 설정값을 상기 GPU 서버로 전송하는 단계;를 포함하는기록매체에 저장된 컴퓨터 프로그램
|
