1 |
1
강화 학습 에이전트를 이용한 강화 학습 방법에 있어서, 환경 시스템으로부터 제어 행동에 연관된 즉시적 보상 값과 지연 보상 값을 수신하는 단계, 상기 수신된 즉시적 보상 값과 지연 보상 값을 함께 고려하여 상기 제어 행동에 대응한 최종 보상 값을 생성하는 단계, 및상기 최종 보상 값을 포함하는 전이 튜플을 생성하고, 생성된 전이 튜플을 상기 강화 학습 에이전트에 적용하여 강화 학습을 수행하는 단계를 포함하는 강화 학습 방법
|
2 |
2
제 1항에 있어서, 상기 제어 행동에 연관된 즉시적 보상 값과 지연 보상 값을 수신하는 단계는, 상기 즉시적 보상 값 및 지연 보상 값에 연관된 식별 정보를 함께 수신하는 것을 특징으로 하는 강화 학습 방법
|
3 |
3
제 2항에 있어서, 상기 식별 정보는 제어 요청 아이디(reqID)로 부여되는 것을 특징으로 하는 강화 학습 방법
|
4 |
4
제 2항에 있어서, 상기 제어 행동에 연관된 즉시적 보상 값과 지연 보상 값을 수신하는 단계는, 상기 즉시적 보상 값이 수신된 이후, 기 설정된 시간 이내에 지연 보상 값을 수신하는 것을 특징으로 하는 강화 학습 방법
|
5 |
5
제 4항에 있어서, 상기 즉시적 보상 값이 수신된 이후 상기 기 설정된 시간 이내에 지연 보상 값이 수신된 경우에는, 저장부에 저장된 동일한 식별 정보를 가지는 즉시적 보상 값을 조회하여, 동일한 식별 정보를 가지는 즉시적 보상 값과 지연된 보상 값을 더하여 최종 보상 값을 생성하고, 생성된 최종 보상 값을 적용한 전이 튜플을 생성하는 것을 특징으로 하는 강화 학습 방법
|
6 |
6
제 4항에 있어서, 상기 즉시적 보상 값이 수신된 이후, 상기 기 설정된 시간 이내에 지연 보상 값을 수신하지 못하는 경우에는, 상기 수신된 즉시적 보상 값만으로 전이 튜플을 생성하는 것을 특징으로 하는 강화 학습 방법
|
7 |
7
제 4항에 있어서, 상기 즉시적 보상 값이 수신되면, 저장부에 상기 즉시적 보상 값을 일시 저장하는 단계를 더 포함하는 것을 특징으로 하는 강화 학습 방법
|
8 |
8
제 7항에 있어서, 상기 저장된 즉시적 보상 값은 적어도 상기 기 설정된 시간 동안 저장부에 저장되고, 상기 기 설정된 시간 이후에는 상기 저장부에서 삭제되는 것을 특징으로 하는 강화 학습 방법
|
9 |
9
제 1항에 있어서, 상기 최종 보상 값은, 상기 즉시적 보상 값과 지연 보상 값을 더하여 생성하는 것을 특징으로 하는 강화 학습 방법
|
10 |
10
강화 학습 에이전트를 포함하는 강화 학습 시스템에 있어서, 강화 학습 시스템은 환경 시스템으로부터의 수신된 제어 결정 요청을 상기 강화 학습 에이전트에게 전달하고, 상기 강화 학습 에이전트로부터 수신한 제어 행동 응답을 상기 환경 시스템으로 전달하는 강화 학습 프록시, 및 즉시적 보상 값을 일시 저장하는 저장부를 더 포함하여 구성하되, 상기 강화 학습 프록시는 상기 환경 시스템으로부터 지연된 보상 값을 수신하면, 상기 저장부에 저장된 즉시적 보상 값과 상기 지연된 보상 값을 더하여 완성된 전이 튜플을 생성하고, 생성된 전이 튜플을 상기 강화 학습 에이전트에 통보하는 것을 특징으로 하는 강화 학습 시스템
|
11 |
11
제 10항에 있어서, 상기 강화 학습 프록시는, 상기 즉시적 보상 값과 지연 보상 값을 수신하는 경우에는, 상기 즉시적 보상 값 및 지연 보상 값에 연관된 식별 정보를 함께 수신하는 것을 특징으로 하는 강화 학습 시스템
|
12 |
12
제 11항에 있어서, 상기 식별 정보는 제어 요청 아이디(reqID)로 부여되는 것을 특징으로 하는 강화 학습 시스템
|
13 |
13
제 11항에 있어서, 상기 강화 학습 프록시는, 상기 즉시적 보상 값이 수신된 이후, 기 설정된 시간 이내에 지연 보상 값이 수신되는 지를 확인하는 것을 특징으로 하는 강화 학습 시스템
|
14 |
14
제 13항에 있어서, 상기 강화 학습 프록시는, 상기 즉시적 보상 값이 수신된 이후 상기 기 설정된 시간 이내에 지연 보상 값이 수신된 경우에는, 상기 저장부에 저장된 동일한 식별 정보를 가지는 즉시적 보상 값을 조회하여, 동일한 식별 정보를 가지는 즉시적 보상 값과 지연된 보상 값을 더하여 최종 보상 값을 생성하고, 생성된 최종 보상 값을 적용한 전이 튜플을 생성하는 것을 특징으로 하는 강화 학습 시스템
|
15 |
15
제 13항에 있어서, 상기 강화 학습 프록시는, 상기 즉시적 보상 값이 수신된 이후, 상기 기 설정된 시간 이내에 지연 보상 값을 수신하지 못하는 경우에는, 상기 수신된 즉시적 보상 값만으로 전이 튜플을 생성하는 것을 특징으로 하는 강화 학습 시스템
|
16 |
16
제 13항에 있어서, 상기 강화 학습 프록시는, 상기 즉시적 보상 값이 수신되면, 상기 저장부에 상기 즉시적 보상 값을 일시 저장하는 것을 특징으로 하는 강화 학습 시스템
|
17 |
17
제 16항에 있어서, 상기 강화 학습 프록시는, 상기 저장된 즉시적 보상 값을 적어도 상기 기 설정된 시간 동안 저장부에 저장하되, 상기 기 설정된 시간 이후에는 상기 저장부에서 삭제하는 것을 특징으로 하는 강화 학습 시스템
|
18 |
18
제 10항에 있어서, 상기 즉시적 보상 값과 지연 보상 값을 더하여 최종 보상 값을 생성하는 것을 특징으로 하는 강화 학습 시스템
|
19 |
19
강화 학습 수행이 가능한 컴퓨팅 장치에 있어서, 제어 결정 요청을 수신하고, 수신된 제어 결정 요청에 대응한 제어 행동 응답을 결정하고, 상기 결정된 제어 행동 응답에 대응한 즉시적 보상 값을 수신하는 프로세서(processor), 및상기 즉시적 보상 값을 일시 저장하는 메모리를 포함하되, 상기 프로세서는, 기 설정된 시간 이내에 지연된 보상 값을 수신하면, 상기 메모리에 저장된 즉시적 보상 값과 지연된 보상 값을 더하여 상기 제어 행동 응답에 대응하는 완성된 전이 튜플을 생성하고, 생성된 전이 튜플로 강화 학습을 수행하는 것을 특징으로 하는 컴퓨팅 장치
|