| 1 |
1
이종 GPU 클러스터 환경에서 딥러닝 모델을 분산 학습하는 딥러닝(deep learning) 수행 시스템에 있어서,각각의 분산 작업자별 성능을 동적으로 파악하여 상기 분산 작업자의 학습에 사용되는 데이터 배치(batch) 크기를 조절하여 상기 데이터 배치 크기를 재 조정하는 배치 오케스트레이션 서버; 를 포함하는 딥러닝 수행 시스템
|
| 2 |
2
제1항에 있어서,상기 배치 오케스트레이션 서버는,학습에 참여하는 각각의 분산 작업자가 개별적으로 할당된 배치 데이터를 사용하여 현재 파라미터에 대한 기울기를 계산하고 업데이트된 파라미터를 파라미터 서버로부터 받아오는데 소요되는 이터레이션(iteration) 수행시간을 취합하는 프로파일링 모듈; 을 포함하는 딥러닝 수행 시스템
|
| 3 |
3
제2항에 있어서,상기 배치 오케스트레이션 서버는,상기 프로파일링 모듈이 취합한 이터레이션 수행시간을 분석하여 상기 분산 작업자에 스트래글러(straggler)가 존재하는지 판단하는 스트래글러 판단 모듈; 을 포함하는 딥러닝 수행 시스템
|
| 4 |
4
제3항에 있어서,상기 스트래글러 판단 모듈은,전체 분산 작업자들이 스트래글러의 수행 시간으로 인하여 다음 학습을 진행하지 못하는 평균 유휴시간(SE: straggling effect)과, 스트래글러의 이터레이션 최대 시간을 민감도 상수 s로 나눈 값(th)을, 비교하여 상기 평균 유휴시간(SE)이 상기 나눈 값(th)보다 큰 경우 스트래글러로 인한 효과가 존재하는 것으로 판단하는 것을 특징으로 하는 딥러닝 수행 시스템
|
| 5 |
5
제4항에 있어서,상기 스트래글러 판단 모듈은,스트래글러가 존재하는지 확인하기 위한 지표로 활용되는 상기 평균 유휴시간, SE를 수학식, 으로 정의하고,여기서 C는 GPU 작업자로 구성된 클러스터이고, 는 각 분산 작업자에 할당되는 배치 크기이며, 는 상기 배치 크기에 대한 학습 이터레이션 시간인 것을 특징으로 하는 딥러닝 수행 시스템
|
| 6 |
6
제3항에 있어서,상기 배치 오케스트레이션 서버는, 상기 분산 작업자의 학습 성능을 선형 함수로 모델링하고, 상기 선형 함수의 각 파라미터를 통계적 선형 회귀를 통하여 상기 분산 작업자에 대한 선형 회귀 모델을 업데이트하는 회귀 모델 수립 모듈; 을 포함하는 딥러닝 수행 시스템
|
| 7 |
7
제6항에 있어서,상기 회귀 모델 수립 모듈은,각 분산 작업자에 할당되는 배치 크기 에 따른, 상기 분산 작업자의 학습 성능에 해당하는 수행시간 을 선형 함수 수학식 로 모델링하고, 상기 파라미터 , 는 통계적 선형 회귀를 통하여 구하는 각 분산작업자 별로 결정되는 성능 파라미터인 것을 특징으로 하는 딥러닝 수행 시스템
|
| 8 |
8
제6항에 있어서,상기 배치 오케스트레이션 서버는, 상기 회귀 모델 수립 모듈이 업데이트한 상기 분산 작업자에 대한 선형 회귀 모델에 기초하여 가장 느린 작업자의 수행 시간을 최소화하기 위하여 전체 분산 작업자들에 할당되는 배치 크기를 조절하는 배치 반환 모듈; 을 포함하는 딥러닝 수행 시스템
|
| 9 |
9
이종 GPU 클러스터 환경에서 딥러닝 모델을 분산 학습하는 딥러닝(deep learning) 수행 시스템에 있어서,각각의 분산 작업자별 성능을 동적으로 파악하여 상기 분산 작업자의 학습에 사용되는 데이터 배치(batch) 크기를 조절하여 상기 데이터 배치 크기를 재 조정하는 배치 오케스트레이션 방법
|
| 10 |
10
제9항에 있어서,상기 배치 오케스트레이션 방법은,상기 각각의 분산 작업자가 개별적으로 할당된 배치 데이터를 사용하여 현재 파라미터에 대한 기울기를 계산하는 단계;상기 각각의 분산 작업자가 상기 기울기를 계산하고 업데이트된 파라미터를 파라미터 서버로부터 받아오는데 소요되는 이터레이션(iteration) 수행시간을 배치 오케스트레이션 서버에 보고하는 단계;상기 배치 오케스트레이션 서버가 상기 분산 작업자의 학습 성능을 선형 함수로 모델링하고, 상기 선형 함수의 각 파라미터를 통계적 선형 회귀를 통하여 상기 분산 작업자에 대한 선형 회귀 모델을 업데이트하는 하는 단계; 및상기 배치 오케스트레이션 서버가 상기 각각의 분산 작업자의 배치 크기를 재조정하는 배치 오케스트레이션을 수행하는 단계; 를 포함하는 배치 오케스트레이션 방법
|
| 11 |
11
제10항에 있어서,상기 배치 오케스트레이션 방법은,상기 배치 오케스트레이션 서버가 상기 각각의 분산 작업자가 스트래글러(straggler)의 수행 시간으로 인하여 다음 학습을 진행하지 못하는 평균 유휴시간(SE: straggling effect)과, 스트래글러의 이터레이션 최대 시간을 민감도 상수 s로 나눈 값(th)을, 비교하여 상기 평균 유휴시간(SE)이 상기 나눈 값(th)보다 큰 경우 스트래글러로 인한 효과가 존재하는 것으로 판단하는 스트래글러 판단 단계; 를 포함하는 배치 오케스트레이션 방법
|
