맞춤기술찾기

이전대상기술

지연 보상을 지원하는 강화 학습 시스템 및 강화 학습 방법

  • 기술번호 : KST2020006087
  • 담당센터 : 대전기술혁신센터
  • 전화번호 : 042-610-2279
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 본 발명은 강화 학습 시스템에서 지연 보상을 지원하는 강화 학습 방법에 관한 것이다. 본 발명의 강화 학습 에이전트를 이용한 강화 학습 방법은, 환경 시스템으로부터 제어 행동에 연관된 즉시적 보상 값과 지연 보상 값을 수신하는 단계, 상기 수신된 즉시적 보상 값과 지연 보상 값을 함께 고려하여 상기 제어 행동에 대응한 최종 보상 값을 생성하는 단계, 상기 최종 보상 값을 포함하는 전이 튜플을 생성하고, 생성된 전이 튜플을 상기 강화 학습 에이전트에 적용하여 강화 학습을 수행하는 단계를 포함한다. 본 발명의 실시예에 의해, 환경 시스템에서 지연되어 측정되는 지연 보상 값을 직접 연관된 제어 행동에 적용할 수 있으므로 강화 학습 시스템의 성능과 속도를 높일 수 있게 된다.
Int. CL G06N 20/00 (2019.01.01)
CPC G06N 20/00(2013.01)
출원번호/일자 1020180147199 (2018.11.26)
출원인 한국전자통신연구원
등록번호/일자
공개번호/일자 10-2020-0061653 (2020.06.03) 문서열기
공고번호/일자
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 공개
심사진행상태 수리
심판사항
구분 신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 N
심사청구항수 19

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 한국전자통신연구원 대한민국 대전광역시 유성구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 조충래 대전광역시 유성구
2 신승재 세종특별자치시 다정북로 **
3 윤승현 대전광역시 유성구
4 전홍석 대전광역시 서구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 성병기 대한민국 서울특별시 서초구 사임당로 **, **층 (서초동, 재우빌딩)(마루특허법률사무소)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
최종권리자 정보가 없습니다
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2018.11.26 수리 (Accepted) 1-1-2018-1176484-59
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
강화 학습 에이전트를 이용한 강화 학습 방법에 있어서, 환경 시스템으로부터 제어 행동에 연관된 즉시적 보상 값과 지연 보상 값을 수신하는 단계, 상기 수신된 즉시적 보상 값과 지연 보상 값을 함께 고려하여 상기 제어 행동에 대응한 최종 보상 값을 생성하는 단계, 및상기 최종 보상 값을 포함하는 전이 튜플을 생성하고, 생성된 전이 튜플을 상기 강화 학습 에이전트에 적용하여 강화 학습을 수행하는 단계를 포함하는 강화 학습 방법
2 2
제 1항에 있어서, 상기 제어 행동에 연관된 즉시적 보상 값과 지연 보상 값을 수신하는 단계는, 상기 즉시적 보상 값 및 지연 보상 값에 연관된 식별 정보를 함께 수신하는 것을 특징으로 하는 강화 학습 방법
3 3
제 2항에 있어서, 상기 식별 정보는 제어 요청 아이디(reqID)로 부여되는 것을 특징으로 하는 강화 학습 방법
4 4
제 2항에 있어서, 상기 제어 행동에 연관된 즉시적 보상 값과 지연 보상 값을 수신하는 단계는, 상기 즉시적 보상 값이 수신된 이후, 기 설정된 시간 이내에 지연 보상 값을 수신하는 것을 특징으로 하는 강화 학습 방법
5 5
제 4항에 있어서, 상기 즉시적 보상 값이 수신된 이후 상기 기 설정된 시간 이내에 지연 보상 값이 수신된 경우에는, 저장부에 저장된 동일한 식별 정보를 가지는 즉시적 보상 값을 조회하여, 동일한 식별 정보를 가지는 즉시적 보상 값과 지연된 보상 값을 더하여 최종 보상 값을 생성하고, 생성된 최종 보상 값을 적용한 전이 튜플을 생성하는 것을 특징으로 하는 강화 학습 방법
6 6
제 4항에 있어서, 상기 즉시적 보상 값이 수신된 이후, 상기 기 설정된 시간 이내에 지연 보상 값을 수신하지 못하는 경우에는, 상기 수신된 즉시적 보상 값만으로 전이 튜플을 생성하는 것을 특징으로 하는 강화 학습 방법
7 7
제 4항에 있어서, 상기 즉시적 보상 값이 수신되면, 저장부에 상기 즉시적 보상 값을 일시 저장하는 단계를 더 포함하는 것을 특징으로 하는 강화 학습 방법
8 8
제 7항에 있어서, 상기 저장된 즉시적 보상 값은 적어도 상기 기 설정된 시간 동안 저장부에 저장되고, 상기 기 설정된 시간 이후에는 상기 저장부에서 삭제되는 것을 특징으로 하는 강화 학습 방법
9 9
제 1항에 있어서, 상기 최종 보상 값은, 상기 즉시적 보상 값과 지연 보상 값을 더하여 생성하는 것을 특징으로 하는 강화 학습 방법
10 10
강화 학습 에이전트를 포함하는 강화 학습 시스템에 있어서, 강화 학습 시스템은 환경 시스템으로부터의 수신된 제어 결정 요청을 상기 강화 학습 에이전트에게 전달하고, 상기 강화 학습 에이전트로부터 수신한 제어 행동 응답을 상기 환경 시스템으로 전달하는 강화 학습 프록시, 및 즉시적 보상 값을 일시 저장하는 저장부를 더 포함하여 구성하되, 상기 강화 학습 프록시는 상기 환경 시스템으로부터 지연된 보상 값을 수신하면, 상기 저장부에 저장된 즉시적 보상 값과 상기 지연된 보상 값을 더하여 완성된 전이 튜플을 생성하고, 생성된 전이 튜플을 상기 강화 학습 에이전트에 통보하는 것을 특징으로 하는 강화 학습 시스템
11 11
제 10항에 있어서, 상기 강화 학습 프록시는, 상기 즉시적 보상 값과 지연 보상 값을 수신하는 경우에는, 상기 즉시적 보상 값 및 지연 보상 값에 연관된 식별 정보를 함께 수신하는 것을 특징으로 하는 강화 학습 시스템
12 12
제 11항에 있어서, 상기 식별 정보는 제어 요청 아이디(reqID)로 부여되는 것을 특징으로 하는 강화 학습 시스템
13 13
제 11항에 있어서, 상기 강화 학습 프록시는, 상기 즉시적 보상 값이 수신된 이후, 기 설정된 시간 이내에 지연 보상 값이 수신되는 지를 확인하는 것을 특징으로 하는 강화 학습 시스템
14 14
제 13항에 있어서, 상기 강화 학습 프록시는, 상기 즉시적 보상 값이 수신된 이후 상기 기 설정된 시간 이내에 지연 보상 값이 수신된 경우에는, 상기 저장부에 저장된 동일한 식별 정보를 가지는 즉시적 보상 값을 조회하여, 동일한 식별 정보를 가지는 즉시적 보상 값과 지연된 보상 값을 더하여 최종 보상 값을 생성하고, 생성된 최종 보상 값을 적용한 전이 튜플을 생성하는 것을 특징으로 하는 강화 학습 시스템
15 15
제 13항에 있어서, 상기 강화 학습 프록시는, 상기 즉시적 보상 값이 수신된 이후, 상기 기 설정된 시간 이내에 지연 보상 값을 수신하지 못하는 경우에는, 상기 수신된 즉시적 보상 값만으로 전이 튜플을 생성하는 것을 특징으로 하는 강화 학습 시스템
16 16
제 13항에 있어서, 상기 강화 학습 프록시는, 상기 즉시적 보상 값이 수신되면, 상기 저장부에 상기 즉시적 보상 값을 일시 저장하는 것을 특징으로 하는 강화 학습 시스템
17 17
제 16항에 있어서, 상기 강화 학습 프록시는, 상기 저장된 즉시적 보상 값을 적어도 상기 기 설정된 시간 동안 저장부에 저장하되, 상기 기 설정된 시간 이후에는 상기 저장부에서 삭제하는 것을 특징으로 하는 강화 학습 시스템
18 18
제 10항에 있어서, 상기 즉시적 보상 값과 지연 보상 값을 더하여 최종 보상 값을 생성하는 것을 특징으로 하는 강화 학습 시스템
19 19
강화 학습 수행이 가능한 컴퓨팅 장치에 있어서, 제어 결정 요청을 수신하고, 수신된 제어 결정 요청에 대응한 제어 행동 응답을 결정하고, 상기 결정된 제어 행동 응답에 대응한 즉시적 보상 값을 수신하는 프로세서(processor), 및상기 즉시적 보상 값을 일시 저장하는 메모리를 포함하되, 상기 프로세서는, 기 설정된 시간 이내에 지연된 보상 값을 수신하면, 상기 메모리에 저장된 즉시적 보상 값과 지연된 보상 값을 더하여 상기 제어 행동 응답에 대응하는 완성된 전이 튜플을 생성하고, 생성된 전이 튜플로 강화 학습을 수행하는 것을 특징으로 하는 컴퓨팅 장치
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 미래창조과학부 ETRI ETRI연구개발지원사업 초연결 지능 인프라 원천기술 연구개발