1 |
1
시간에 따라 변화하는 환경에서의 태스크 분해 추론 모델을 이용한 강화학습 방법에 있어서,Cycle GAN(Generative Adversarial Network)에 기반하여, 복수의 트랜지션 데이터를 포함하는 데이터셋에서 시간에 따라 불변(time-invariant)하는 공통적인 특징과 시간에 따라 변화(time-variant)하는 상이한 환경적 특징을 가지는 복수의 트랜지션쌍을 선별하는 단계;상기 복수의 트랜지션쌍에 대하여 시간에 따라 변화하는 부분과 불변하는 부분 각각을 잠재 공간에 임베딩하도록 오토인코더(Auto Encoder)를 학습시키는 단계; 및상기 학습된 오토인코더를 이용하여, 시간에 따라 변화하는 환경에서 수집된 데이터에 대응되는 트랜지션에 대한 강화학습(Reinforcement Learning)을 수행하는 단계를 포함하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 방법
|
2 |
2
제1항에 있어서, 상기 강화학습을 수행하는 단계는, 강화학습 알고리즘에 직교 경사 하강법(Orthogonal gradient descent)을 적용하여 강화학습을 수행하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 방법
|
3 |
3
제2항에 있어서, 상기 직교 경사 하강법은미리 설정된 크기의 시구간에 대응되는 슬라이딩 윈도우를 이용하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 방법
|
4 |
4
제1항에 있어서, 상기 Cycle GAN의 생성자(Generator)는 상기 공통적인 특징은 유지하면서, 상기 상이한 환경적 특징은 변형하도록 학습된 것을 특징으로 하는 태스크 분해를 이용한 강화학습 방법
|
5 |
5
제1항에 있어서, 상기 오토인코더는인코더가 상기 복수의 트랜지션쌍(τ, τ') 각각을 시간-불변 잠재 벡터(u, u')와 시간-변화 잠재 벡터(v, v')로 임베딩하고, 디코더가 상기 시간-불변 잠재 벡터(u, u')와 상기 시간-변화 잠재 벡터(v, v')를 이용하여 상기 복수의 트랜지션쌍(τ, τ') 각각을 재건하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 방법
|
6 |
6
제5항에 있어서, 상기 오토인코더는상기 시간-불변 잠재 벡터(u, u')가 서로 같은 값을 가지도록 하기 위한 제1 손실함수;상기 시간-불변 잠재 벡터(u, u')만으로 상기 복수의 트랜지션쌍(τ, τ') 각각이 재건되도록 하기 위한 제2 손실함수; 및상기 복수의 트랜지션쌍(τ, τ')이 상기 인코더 및 상기 디코더를 이용하여 재건한 결과와 같아지도록 하기 위한 제3 손실함수에 기반하여 학습되는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 방법
|
7 |
7
시간에 따라 변화하는 환경에서의 태스크 분해 추론 모델을 이용한 강화학습 장치에 있어서,Cycle GAN에 기반하여, 복수의 트랜지션 데이터를 포함하는 데이터셋에서 시간에 따라 불변하는 공통적인 특징과 시간에 따라 변화하는 상이한 환경적 특징을 가지는 복수의 트랜지션쌍을 선별하는 전이모델부;상기 복수의 트랜지션쌍에 대하여 시간에 따라 변화하는 부분과 불변하는 부분 각각을 잠재 공간에 임베딩하도록 오토인코더를 학습시키는 임베딩부; 및상기 학습된 오토인코더를 이용하여, 시간에 따라 변화하는 환경에서 수집된 데이터에 대응되는 트랜지션에 대한 강화학습을 수행하는 강화학습부를 포함하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 장치
|
8 |
8
제7항에 있어서, 상기 강화학습부는 강화학습 알고리즘에 직교 경사 하강법을 적용하여 강화학습을 수행하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 장치
|
9 |
9
제8항에 있어서, 상기 직교 경사 하강법은미리 설정된 크기의 시구간에 대응되는 슬라이딩 윈도우를 이용하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 장치
|
10 |
10
제7항에 있어서, 상기 Cycle GAN의 생성자는 상기 공통적인 특징은 유지하면서, 상기 상이한 환경적 특징은 변형하도록 학습된 것을 특징으로 하는 태스크 분해를 이용한 강화학습 장치
|
11 |
11
제7에 있어서, 상기 오토인코더는인코더가 상기 복수의 트랜지션쌍(τ, τ') 각각을 시간-불변 잠재 벡터(u, u')와 시간-변화 잠재 벡터(v, v')로 임베딩하고, 디코더가 상기 시간-불변 잠재 벡터(u, u')와 상기 시간-변화 잠재 벡터(v, v')를 이용하여 상기 복수의 트랜지션쌍(τ, τ') 각각을 재건하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 장치
|
12 |
12
제11 있어서, 상기 오토인코더는상기 시간-불변 잠재 벡터(u, u')가 서로 같은 값을 가지도록 하기 위한 제1 손실함수;상기 시간-불변 잠재 벡터(u, u')만으로 상기 복수의 트랜지션쌍(τ, τ') 각각이 재건되도록 하기 위한 제2 손실함수; 및상기 복수의 트랜지션쌍(τ, τ')이 상기 인코더 및 상기 디코더를 이용하여 재건한 결과와 같아지도록 하기 위한 제3 손실함수에 기반하여 학습되는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 장치
|