| 1 |
1
하나의 바텀 레벨(Bottom level) 서버 및 상기 바텀 레벨 서버를 공유하는 두 개의 탑 레벨(Top level) 서버로 구성되는 완전 이진 트리 구조를 가지는 기계학습 플랫폼의 모든 서버에 대해 가중치를 계산하는 단계;상기 기계학습 플랫폼에 기계학습 태스크가 입력되면, 서로 다른 두 개의 해시 값을 반환하는 단계;반환된 해시 값을 기초로 선택된 탑 레벨 서버의 가중치를 비교하여 기계학습 태스크를 할당할 서버를 초기 할당하는 단계; 및일정 시간마다 또는 기계학습 태스크의 초기 할당에 실패하는 경우, 수행 중인 전체 기계학습 태스크를 대상으로 태스크 재배치를 수행하는 단계;를 포함하는, 이기종 분산 기계학습 플랫폼 환경을 위한 로드 밸런싱 방법
|
| 2 |
2
제1항에 있어서, 상기 기계학습 태스크를 할당할 서버를 초기 할당하는 단계는,할당 대상이 되는 탑 레벨의 두 서버의 가중치를 서로 비교하여 가중치가 더 큰 서버에 기계학습 태스크를 할당하는 단계;를 포함하는, 이기종 분산 기계학습 플랫폼 환경을 위한 로드 밸런싱 방법
|
| 3 |
3
제2항에 있어서, 상기 기계학습 태스크를 할당할 서버를 초기 할당하는 단계는,최소 할당 가중치에 대한 임계값을 설정하는 단계; 및상기 탑 레벨의 두 서버의 가중치가 상기 임계값 이하인 경우 할당 불가능한 것으로 판단하는 단계;를 더 포함하는, 이기종 분산 기계학습 플랫폼 환경을 위한 로드 밸런싱 방법
|
| 4 |
4
제3항에 있어서, 상기 기계학습 태스크를 할당할 서버를 초기 할당하는 단계는,상기 탑 레벨의 두 서버에 모두 할당이 불가능한 경우, 각 탑 레벨의 서버에 대응하는 바텀 레벨의 서버의 가중치를 비교하는 단계; 및가중치가 더 높은 바텀 레벨의 서버에 기계학습 태스크를 할당하는 단계;를 포함하는, 이기종 분산 기계학습 플랫폼 환경을 위한 로드 밸런싱 방법
|
| 5 |
5
제1항에 있어서, 상기 태스크 재배치를 수행하는 단계는,현재 태스크를 수행 중인 서버가 아닌 반대편 서버의 가중치가 현재 태스크를 수행 중인 서버의 가중치보다 큰 경우, 해당 태스크를 상기 반대편 서버에 재할당하는, 이기종 분산 기계학습 플랫폼 환경을 위한 로드 밸런싱 방법
|
| 6 |
6
제5항에 있어서, 상기 태스크 재배치를 수행하는 단계는,상기 반대편 서버의 가중치가 현재 태스크를 수행 중인 서버의 가중치보다 2배 이상 또는 3배 이상 큰 경우에만 태스크를 이동하는, 이기종 분산 기계학습 플랫폼 환경을 위한 로드 밸런싱 방법
|
| 7 |
7
제1항에 있어서, 기계학습 태스크의 초기 할당 실패 후 태스크 재배치에도 실패한 태스크는 할당 대기 상태가 되어 할당이 가능해질 때까지 대기 상태를 유지하는 단계;를 더 포함하는, 이기종 분산 기계학습 플랫폼 환경을 위한 로드 밸런싱 방법
|
| 8 |
8
제1항에 있어서, 상기 가중치는 각 서버의 CPU와 GPU의 성능에 의해 결정되며 시스템 자원 사용량에 비례하여 감소하는, 이기종 분산 기계학습 플랫폼 환경을 위한 로드 밸런싱 방법
|
| 9 |
9
제1항에 있어서, 상기 서로 다른 두 개의 해시 값을 반환하는 단계는,기계학습 태스크의 데이터 셋 크기를 해시 키(key)로 사용하여 해시 함수에 적용하는, 이기종 분산 기계학습 플랫폼 환경을 위한 로드 밸런싱 방법
|
| 10 |
10
제1항에 따른 상기 이기종 분산 기계학습 플랫폼 환경을 위한 로드 밸런싱 방법을 수행하기 위한 컴퓨터 프로그램이 기록된 컴퓨터로 판독 가능한 저장 매체
|
| 11 |
11
하나의 바텀 레벨(Bottom level) 서버 및 상기 바텀 레벨 서버를 공유하는 두 개의 탑 레벨(Top level) 서버로 구성되는 완전 이진 트리 구조를 가지는 기계학습 플랫폼의 모든 서버에 대해 가중치를 계산하는 가중치 계산부;상기 기계학습 플랫폼에 기계학습 태스크가 입력되면, 서로 다른 두 개의 해시 값을 반환하는 해시 함수 적용부;반환된 해시 값을 기초로 선택된 탑 레벨 서버의 가중치를 비교하여 기계학습 태스크를 할당할 서버를 초기 할당하는 태스크 할당부; 및일정 시간마다 또는 기계학습 태스크의 초기 할당에 실패하는 경우, 수행 중인 전체 기계학습 태스크를 대상으로 태스크 재배치를 수행하는 태스크 재배치부;를 포함하는, 이기종 분산 기계학습 플랫폼 환경을 위한 로드 밸런싱 장치
|
| 12 |
12
제11항에 있어서, 상기 태스크 할당부는,할당 대상이 되는 탑 레벨의 두 서버의 가중치를 서로 비교하여 가중치가 더 큰 서버에 기계학습 태스크를 할당하는, 이기종 분산 기계학습 플랫폼 환경을 위한 로드 밸런싱 장치
|
| 13 |
13
제12항에 있어서, 상기 태스크 할당부는,상기 탑 레벨의 두 서버의 가중치가 최소 할당 가중치에 대해 설정된 임계값 이하인 경우 할당 불가능한 것으로 판단하고, 상기 탑 레벨의 두 서버에 모두 할당이 불가능한 경우, 각 탑 레벨의 서버에 대응하는 바텀 레벨의 서버의 가중치를 비교하여 가중치가 더 높은 바텀 레벨의 서버에 기계학습 태스크를 할당하는, 이기종 분산 기계학습 플랫폼 환경을 위한 로드 밸런싱 장치
|
| 14 |
14
제11항에 있어서, 상기 태스크 재배치부는,현재 태스크를 수행 중인 서버가 아닌 반대편 서버의 가중치가 현재 태스크를 수행 중인 서버의 가중치의 미리 설정된 배수보다 큰 경우, 해당 태스크를 상기 반대편 서버에 재할당하는, 이기종 분산 기계학습 플랫폼 환경을 위한 로드 밸런싱 장치
|
