| 1 |
1
처리 시간에 민감한(latency-sensitive) 워크로드와 일괄 처리(batch-processing) 워크로드가 함께 수행 되는 환경에서 메모리 서브시스템 관리 시스템이 수행하는 처리 시간에 민감한 워크로드에 대한 메모리 대역폭을 할당하는 방법에 있어서,(a) 머신 러닝 방식으로 훈련된 예측 모델에 스트레스 정도, QPS, 테일 레이턴시를 입력값으로 적용하여 처리 시간에 민감한 워크로드에 적용되는 메모리 대역폭 크기를 예측하는 단계; 및(b) 상기 (a) 단계에서 예측된 크기의 메모리 대역폭을 처리 시간에 민감한 워크로드에 할당하고, 나머지의 대역폭을 일괄 처리 워크로드에 할당하는 단계;를 포함함을 특징으로 하는 처리 시간에 민감한 워크로드에 대한 메모리 대역폭 할당 방법
|
| 2 |
2
제1항에 있어서, 상기 예측 모델은(a1) 결정 트리 방식의 예측 모델을 생성하는 머신 러닝 알고리즘을 생성하는 단계;(a2) 스트레스 정도, 메모리 대역폭 크기, QPS(Query Per Second)의 값은 임의로 조합하면서 테일 레이턴시(tail latency)를 측정하여 훈련 데이터 세트를 수집하는 단계; 및(a3) 수집된 훈련 데이터 세트로 상기 예측 모델을 훈련하는 단계;를 포함하는 방식으로 훈련되는 것을 특징으로 하는 처리 시간에 민감한 워크로드에 대한 메모리 대역폭 할당 방법
|
| 3 |
3
제2항에 있어서, 상기 (a2) 단계에서 상기 훈련 데이터 세트를 수집하기 위한 시스템 환경에서,처리 시간에 민감한 워크로드를 수행할 코어를 제외한 나머지 코어에서, 일괄처리 워크로드로는 스트림(Stream) 벤치마크를 사용하는 것을 특징으로 하는 처리 시간에 민감한 워크로드에 대한 메모리 대역폭 할당 방법
|
| 4 |
4
제3항에 있어서, 상기 시스템 환경에서처리 시간에 민감한 워크로드와 스트림(stream) 벤치마크가 사용할 메모리 대역폭을 Memguard로 나누어 각각 제공하는 것을 특징으로 하는 처리 시간에 민감한 워크로드에 대한 메모리 대역폭 할당 방법
|
| 5 |
5
제2항에 있어서, 상기 (a) 단계는 결정 트리에서 리프 노드에 도달 했을 때의 테일 레이턴시의 범위가 SLO 이하임이 보장이 되지 않으면, SLO 이하의 값을 만족시키는 노드로 백트랙킹하여 SLO 이하의 범위로 결정하여 메모리 대역폭 크기를 예측하는 것을 특징으로 하는 처리 시간에 민감한 워크로드에 대한 메모리 대역폭 할당 방법
|
| 6 |
6
제2항에 있어서, 상기 머신 러닝 알고리즘은 포스트 프루닝(post pruning) 방식을 사용하는 REPTree 임을 특징으로 하는 처리 시간에 민감한 워크로드에 대한 메모리 대역폭 할당 방법
|
| 7 |
7
처리 시간에 민감한(latency-sensitive) 워크로드와 일괄 처리(batch-processing) 워크로드가 함께 수행 되는 환경에서 메모리 서브시스템의 메모리 대역폭을 할당하는 메모리 서브시스템 관리 시스템에 있어서,머신 러닝 방식으로 훈련된 예측 모델에 스트레스 정도, QPS, 테일 레이턴시를 입력값으로 적용하여 처리 시간에 민감한 워크로드에 적용되는 메모리 대역폭 크기를 예측하는 예측기; 및상기 예측기에서 예측된 크기의 메모리 대역폭을 처리 시간에 민감한 워크로드에 할당하고, 나머지의 대역폭을 일괄 처리 워크로드에 할당하는 메모리 대역폭 매니저;를 포함함을 특징으로 하는 메모리 서브시스템 관리 시스템
|
| 8 |
8
제7항에 있어서, 상기 예측 모델은결정 트리 방식의 예측 모델을 생성하는 머신 러닝 알고리즘을 생성하고, 스트레스 정도, 메모리 대역폭 크기, QPS(Query Per Second)의 값은 임의로 조합하면서 테일 레이턴시(tail latency)를 측정하여 훈련 데이터 세트를 수집하고, 수집된 훈련 데이터 세트로 상기 예측 모델을 훈련하는 방식으로 훈련되는 것을 특징으로 하는 메모리 서브시스템 관리 시스템
|
| 9 |
9
제8항에 있어서, 상기 훈련 데이터 세트를 수집하기 위한 시스템 환경으로,처리 시간에 민감한 워크로드를 수행할 코어를 제외한 나머지 코어에서, 일괄처리 워크로드로는 스트림(Stream) 벤치마크를 사용하는 것을 특징으로 하는 메모리 서브시스템 관리 시스템
|
| 10 |
10
제9항에 있어서, 상기 시스템 환경에서처리 시간에 민감한 워크로드와 스트림(stream) 벤치마크가 사용할 메모리 대역폭을 Memguard로 나누어 각각 제공하는 것을 특징으로 하는 메모리 서브시스템 관리 시스템
|
| 11 |
11
제8항에 있어서, 상기 예측기는결정 트리에서 리프 노드에 도달 했을 때의 테일 레이턴시의 범위가 SLO 이하임이 보장이 되지 않으면, SLO 이하의 값을 만족시키는 노드로 백트랙킹하여 SLO 이하의 범위로 결정하여 메모리 대역폭 크기를 예측하는 것을 특징으로 하는 메모리 서브시스템 관리 시스템
|
| 12 |
12
제8항에 있어서, 상기 머신 러닝 알고리즘은 포스트 프루닝(post pruning) 방식을 사용하는 REPTree 임을 특징으로 하는 메모리 서브시스템 관리 시스템
|
| 13 |
13
제1항 내지 제6항 중 어느 한 항의 처리 시간에 민감한 워크로드에 대한 메모리 대역폭 할당 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체
|
