| 1 |
1
컨테이너 기반 클라우드 환경에서의 GPU(Graphic Processing Unit) 자원 사용현황 데이터를 수집하는 데이터 수집부;상기 수집된 GPU 자원 사용현황 데이터를 통합 저장하는 데이터 저장부;상기 저장한 데이터의 결측치 처리 및 주기별 통계 생성의 전처리 작업을 수행하는 전처리부;상기 전처리부에서 처리된 데이터에 대하여, 딥러닝 기법을 활용한 GPU 실제 사용여부에 대한 예측을 수행하는 예측 모델 생성을 위한 학습을 수행하는 학습부;사용자의 수동 GPU 자원 회수 명령 및 자동 GPU 자원 회수 설정정보를 바탕으로 GPU 회수 스케줄링을 수행하는 스케줄링부; 사용자가 GPU 자원 사용현황과 상기 예측 모델의 예측 결과를 종합적으로 모니터링 할 수 있게 하고, 사용자가 수동으로 GPU 자원을 회수할 수 있는 명령을 입력할 수 있게 하는 모니터링 UI부; 및상기 스케줄링부에서 전달받은 GPU 자원 회수 명령을 처리하여 컨테이너 기반 클라우드 환경에서 GPU 자원을 회수하는 제어부;를 포함하는 것을 특징으로 하는 컨테이너 기반 클라우드 환경에서의 GPU 자원 회수 장치
|
| 2 |
2
제 1항에 있어서,사용자가 GPU 자원의 자동 회수를 위한 스케줄링 정보를 상기 스케줄링부에 설정할 수 있게 하는 설정 UI부; 및상기 설정 UI부를 통해 입력된 설정정보를 저장하는 설정정보 저장부;를 더 포함하는 것을 특징으로 하는 컨테이너 기반 클라우드 환경에서의 GPU 자원 회수 장치
|
| 3 |
3
제 1항에 있어서, 상기 GPU 자원은,컨테이너 기반 클라우드 환경에서의 GPU 컨테이너들의 자원인 것을 특징으로 하는 컨테이너 기반 클라우드 환경에서의 GPU 자원 회수 장치
|
| 4 |
4
제 1항에 있어서, 상기 예측 모델은,상기 학습부의 결과 모델로써, GPU 실제 사용여부에 대한 예측을 수행하는 예측 모델인 것을 특징으로 하는 컨테이너 기반 클라우드 환경에서의 GPU 자원 회수 장치
|
| 5 |
5
제 1항에 있어서, 상기 전처리부는,상기 데이터 저장부에 저장된 GPU 자원 사용현황 데이터에 결측치가 존재하는 경우, 상기 결측치를 1차적으로 선형 보간법(Linear Interpolation)에 의해 보간하고, 상기 GPU 자원 사용현황 데이터에 결측치가 존재하지 않을 경우, 초단위의 데이터를 지정 시간 단위로 통계 작업을 수행하여, 평균, 최대, 최소, 분위수, 분산, 및 표준편차의 시계열 통계 데이터를 생성한 후, 상기 시계열 통계 데이터를 딥러닝 학습을 수행할 수 있는 구조로 전처리 하는 것을 특징으로 하는 컨테이너 기반 클라우드 환경에서의 GPU 자원 회수 장치
|
| 6 |
6
제 1항에 있어서, 상기 모니터링 UI부는, 데이터 저장부의 실시간 자원 현황 데이터, 전처리부에서 생성된 분/시간/일 통계 데이터, 및 예측 모델에 의해 예측된 GPU 실제 사용여부 예측 결과의 정보를 종합적으로 모니터링 할 수 있는 기능을 제공하며,사용자로부터 상기 모니터링 UI부를 통해 수동으로 GPU 자원 회수 명령이 입력되는 경우, 추후 학습 모델의 재학습을 위하여 회수되는 GPU 자원 사용현황 데이터를 레이블링하여 상기 데이터 저장부에 저장한 후 스케줄링부에 GPU 자원 회수 명령을 전달하며,상기 스케줄링부는, 상기 모니터링 US부에서 전달 받은 GPU 자원 회수 명령을 제어부에 다시 전달하고, 상기 제어부는, 상기 GPU 자원 회수 명령을 처리하여, 컨테이너 기반 클라우드 환경의 컨테이너 오케스트레이션 플랫폼의 API를 제어하여 GPU 자원을 회수하는 것을 특징으로 하는 컨테이너 기반 클라우드 환경에서의 GPU 자원 회수 장치
|
| 7 |
7
제 1항에 있어서, 상기 스케줄링부는,사용하지 않는 GPU 자원을 자동으로 회수하기 위하여, 사용자로부터 설정 UI부를 통하여 GPU 회수 작업 동작 주기, GPU 사용여부 예측 결과 기준 비사용 지속시간, 및 회수 GPU 현황 데이터 레이블링의 GPU 자원 자동 회수를 위한 정보가 설정되면, 상기 GPU 자원 자동 회수를 위한 정보를 설정정보 저장부에 저장하며,상기 설정정보 저장부에 저장된 설정에 따라 지정된 동작 주기가 되면, 예측 모델을 통하여 GPU 실제 사용 여부를 예측하고,상기 GPU 실제 사용 여부 예측 결과가 비사용이라고 예측될 때, 이 예측된 비사용 시간이 관리자가 미리 설정한 임계 시간 이상으로 지속되는 경우, 현재 GPU 자원의 사용현황 데이터를 레이블링하여 데이터 저장부에 저장 한 후, 제어부에 GPU 자원 회수 명령을 전달하여, 상기 제어부가 상기 GPU 자원 회수 명령을 처리하여, 컨테이너 기반 클라우드 환경의 GPU 자원을 회수하게 하는 것을 특징으로 하는 컨테이너 기반 클라우드 환경에서의 GPU 자원 회수 장치
|
| 8 |
8
제 1항에 있어서, 상기 학습부는,사용자에 의한 GPU 자원 수동 회수와 상기 스케줄링부에 의한 GPU 자원 자동 회수 시에 저장되는 자원 사용현황 레이블 데이터를 활용하여 예측 모델을 보다 정교화 하는 재학습을 수행하는 것을 특징으로 하는 컨테이너 기반 클라우드 환경에서의 GPU 자원 회수 장치
|
| 9 |
9
데이터 수집부가 컨테이너 기반 클라우드 환경에서의 GPU 자원 사용현황 데이터를 수집하여 데이터 저장부에 저장하는 단계;전처리부가 상기 저장한 데이터의 결측치 처리 및 주기별 통계 생성의 전처리 작업을 수행하는 단계;학습부가 상기 전처리부에서 처리된 데이터에 대하여, 딥러닝 기법을 활용한 GPU 실제 사용여부에 대한 예측을 수행하는 예측 모델 생성을 위한 학습을 수행하는 단계;스케줄링부가 사용자의 수동 GPU 자원 회수 명령 및 자동 GPU 자원 회수 설정정보를 바탕으로 GPU 회수 스케줄링을 수행하는 단계;모니터링 UI부가 사용자가 GPU 자원 사용현황과 상기 예측 모델의 예측 결과를 종합적으로 모니터링 할 수 있게 하고, 사용자가 수동으로 GPU 자원을 회수할 수 있는 명령을 입력할 수 있게 하는 단계; 및제어부가 상기 스케줄링부에서 전달받은 GPU 자원 회수 명령을 처리하여 컨테이너 기반 클라우드 환경에서 GPU 자원을 회수하는 단계;를 포함하는 것을 특징으로 하는 컨테이너 기반 클라우드 환경에서의 GPU 자원 회수 방법
|
| 10 |
10
제 9항에 있어서, 상기 GPU 자원은,컨테이너 기반 클라우드 환경에서의 GPU 컨테이너들의 자원인 것을 특징으로 하는 컨테이너 기반 클라우드 환경에서의 GPU 자원 회수 방법
|
| 11 |
11
제 9항에 있어서, 상기 예측 모델은,상기 학습부의 결과 모델로써, GPU 실제 사용여부에 대한 예측을 수행하는 예측 모델인 것을 특징으로 하는 컨테이너 기반 클라우드 환경에서의 GPU 자원 회수 방법
|
| 12 |
12
제 9항에 있어서, 상기 전처리 작업을 수행하는 단계에서,상기 전처리부는,상기 데이터 저장부에 저장된 GPU 자원 사용현황 데이터에 결측치가 존재하는 경우, 상기 결측치를 1차적으로 선형 보간법(Linear Interpolation)에 의해 보간하고, 상기 GPU 자원 사용현황 데이터에 결측치가 존재하지 않을 경우, 초단위의 데이터를 지정 시간 단위로 통계 작업을 수행하여, 평균, 최대, 최소, 분위수, 분산, 및 표준편차의 시계열 통계 데이터를 생성한 후, 상기 시계열 통계 데이터를 딥러닝 학습을 수행할 수 있는 구조로 전처리 하는 것을 특징으로 하는 컨테이너 기반 클라우드 환경에서의 GPU 자원 회수 방법
|
| 13 |
13
제 9항에 있어서, 상기 모니터링 UI부는, 데이터 저장부의 실시간 자원 현황 데이터, 전처리부에서 생성된 분/시간/일 통계 데이터, 및 예측 모델에 의해 예측된 GPU 실제 사용여부 예측 결과의 정보를 종합적으로 모니터링 할 수 있는 기능을 제공하며,사용자로부터 상기 모니터링 UI부를 통해 수동으로 GPU 자원 회수 명령이 입력되는 경우, 추후 학습 모델의 재학습을 위하여 회수되는 GPU 자원 사용현황 데이터를 레이블링하여 상기 데이터 저장부에 저장한 후 스케줄링부에 GPU 자원 회수 명령을 전달하며,상기 스케줄링부는, 상기 모니터링 US부에서 전달 받은 GPU 자원 회수 명령을 제어부에 다시 전달하고, 상기 제어부는, 상기 GPU 자원 회수 명령을 처리하여, 컨테이너 기반 클라우드 환경의 컨테이너 오케스트레이션 플랫폼의 API를 제어하여 GPU 자원을 회수하는 것을 특징으로 하는 컨테이너 기반 클라우드 환경에서의 GPU 자원 회수 방법
|
| 14 |
14
제 9항에 있어서, 상기 스케줄링부는,사용하지 않는 GPU 자원을 자동으로 회수하기 위하여, 사용자로부터 설정 UI부를 통하여 GPU 회수 작업 동작 주기, GPU 사용여부 예측 결과 기준 비사용 지속시간, 및 회수 GPU 현황 데이터 레이블링의 GPU 자원 자동 회수를 위한 정보가 설정되면, 상기 GPU 자원 자동 회수를 위한 정보를 설정정보 저장부에 저장하며,상기 설정정보 저장부에 저장된 설정에 따라 지정된 동작 주기가 되면, 예측 모델을 통하여 GPU 실제 사용 여부를 예측하고,상기 GPU 실제 사용 여부 예측 결과가 비사용이라고 예측될 때, 이 예측된 비사용 시간이 관리자가 미리 설정한 임계 시간 이상으로 지속되는 경우, 현재 GPU 자원의 사용현황 데이터를 레이블링하여 데이터 저장부에 저장 한 후, 제어부에 GPU 자원 회수 명령을 전달하여, 상기 제어부가 상기 GPU 자원 회수 명령을 처리하여, 컨테이너 기반 클라우드 환경의 GPU 자원을 회수하게 하는 것을 특징으로 하는 컨테이너 기반 클라우드 환경에서의 GPU 자원 회수 방법
|
| 15 |
15
제 9항에 있어서, 상기 학습부는,사용자에 의한 GPU 자원 수동 회수와 상기 스케줄링부에 의한 GPU 자원 자동 회수 시에 저장되는 자원 사용현황 레이블 데이터를 활용하여 예측 모델을 보다 정교화 하는 재학습을 수행하는 것을 특징으로 하는 컨테이너 기반 클라우드 환경에서의 GPU 자원 회수 방법
|
