맞춤기술찾기

이전대상기술

태스크 분해를 이용한 강화학습 방법 및 그 장치

  • 기술번호 : KST2023002688
  • 담당센터 : 경기기술혁신센터
  • 전화번호 : 031-8006-1570
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 본 발명의 일 실시예에 따른 시간에 따라 변화하는 환경에서의 태스크 분해 추론 모델을 이용한 강화학습 방법은 Cycle GAN(Generative Adversarial Network)에 기반하여, 복수의 트랜지션 데이터를 포함하는 데이터셋에서 시간에 따라 불변(time-invariant)하는 공통적인 특징과 시간에 따라 변화(time-variant)하는 상이한 환경적 특징을 가지는 복수의 트랜지션쌍을 선별하는 단계; 상기 복수의 트랜지션쌍에 대하여 시간에 따라 변화하는 부분과 불변하는 부분 각각을 잠재 공간에 임베딩하도록 오토인코더(Auto Encoder)를 학습시키는 단계; 및 상기 학습된 오토인코더를 이용하여, 시간에 따라 변화하는 환경에서 수집된 데이터에 대응되는 트랜지션에 대한 강화학습(Reinforcement Learning)을 수행하는 단계를 포함한다.
Int. CL G06N 3/08 (2023.01.01) G06N 3/04 (2023.01.01) G06N 3/063 (2023.01.01)
CPC G06N 3/088(2013.01) G06N 3/049(2013.01) G06N 3/063(2013.01)
출원번호/일자 1020210173678 (2021.12.07)
출원인 성균관대학교산학협력단
등록번호/일자
공개번호/일자 10-2023-0085480 (2023.06.14) 문서열기
공고번호/일자
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 공개
심사진행상태 수리
심판사항
구분 국내출원/신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2021.12.07)
심사청구항수 12

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 성균관대학교산학협력단 대한민국 경기도 수원시 장안구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 유민종 경기도 수원시 장안구
2 유광표 경기도 수원시 장안구
3 우홍욱 경기도 수원시 장안구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 김준석 대한민국 서울특별시 금천구 가산디지털*로 ***(가산동) 에이스비즈포레 ***-***호(키움특허법률사무소)
2 박민욱 대한민국 서울특별시 금천구 가산디지털*로 ***(가산동) 에이스비즈포레 ***-***호 ***호(키움특허법률사무소)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
최종권리자 정보가 없습니다
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2021.12.07 수리 (Accepted) 1-1-2021-1416608-81
2 [출원서 등 보정]보정서
[Amendment to Patent Application, etc.] Amendment
2023.01.12 수리 (Accepted) 1-1-2023-0041948-49
3 [대리인선임]대리인(대표자)에 관한 신고서
[Appointment of Agent] Report on Agent (Representative)
2023.01.26 수리 (Accepted) 1-1-2023-0093543-14
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
시간에 따라 변화하는 환경에서의 태스크 분해 추론 모델을 이용한 강화학습 방법에 있어서,Cycle GAN(Generative Adversarial Network)에 기반하여, 복수의 트랜지션 데이터를 포함하는 데이터셋에서 시간에 따라 불변(time-invariant)하는 공통적인 특징과 시간에 따라 변화(time-variant)하는 상이한 환경적 특징을 가지는 복수의 트랜지션쌍을 선별하는 단계;상기 복수의 트랜지션쌍에 대하여 시간에 따라 변화하는 부분과 불변하는 부분 각각을 잠재 공간에 임베딩하도록 오토인코더(Auto Encoder)를 학습시키는 단계; 및상기 학습된 오토인코더를 이용하여, 시간에 따라 변화하는 환경에서 수집된 데이터에 대응되는 트랜지션에 대한 강화학습(Reinforcement Learning)을 수행하는 단계를 포함하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 방법
2 2
제1항에 있어서, 상기 강화학습을 수행하는 단계는, 강화학습 알고리즘에 직교 경사 하강법(Orthogonal gradient descent)을 적용하여 강화학습을 수행하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 방법
3 3
제2항에 있어서, 상기 직교 경사 하강법은미리 설정된 크기의 시구간에 대응되는 슬라이딩 윈도우를 이용하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 방법
4 4
제1항에 있어서, 상기 Cycle GAN의 생성자(Generator)는 상기 공통적인 특징은 유지하면서, 상기 상이한 환경적 특징은 변형하도록 학습된 것을 특징으로 하는 태스크 분해를 이용한 강화학습 방법
5 5
제1항에 있어서, 상기 오토인코더는인코더가 상기 복수의 트랜지션쌍(τ, τ') 각각을 시간-불변 잠재 벡터(u, u')와 시간-변화 잠재 벡터(v, v')로 임베딩하고, 디코더가 상기 시간-불변 잠재 벡터(u, u')와 상기 시간-변화 잠재 벡터(v, v')를 이용하여 상기 복수의 트랜지션쌍(τ, τ') 각각을 재건하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 방법
6 6
제5항에 있어서, 상기 오토인코더는상기 시간-불변 잠재 벡터(u, u')가 서로 같은 값을 가지도록 하기 위한 제1 손실함수;상기 시간-불변 잠재 벡터(u, u')만으로 상기 복수의 트랜지션쌍(τ, τ') 각각이 재건되도록 하기 위한 제2 손실함수; 및상기 복수의 트랜지션쌍(τ, τ')이 상기 인코더 및 상기 디코더를 이용하여 재건한 결과와 같아지도록 하기 위한 제3 손실함수에 기반하여 학습되는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 방법
7 7
시간에 따라 변화하는 환경에서의 태스크 분해 추론 모델을 이용한 강화학습 장치에 있어서,Cycle GAN에 기반하여, 복수의 트랜지션 데이터를 포함하는 데이터셋에서 시간에 따라 불변하는 공통적인 특징과 시간에 따라 변화하는 상이한 환경적 특징을 가지는 복수의 트랜지션쌍을 선별하는 전이모델부;상기 복수의 트랜지션쌍에 대하여 시간에 따라 변화하는 부분과 불변하는 부분 각각을 잠재 공간에 임베딩하도록 오토인코더를 학습시키는 임베딩부; 및상기 학습된 오토인코더를 이용하여, 시간에 따라 변화하는 환경에서 수집된 데이터에 대응되는 트랜지션에 대한 강화학습을 수행하는 강화학습부를 포함하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 장치
8 8
제7항에 있어서, 상기 강화학습부는 강화학습 알고리즘에 직교 경사 하강법을 적용하여 강화학습을 수행하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 장치
9 9
제8항에 있어서, 상기 직교 경사 하강법은미리 설정된 크기의 시구간에 대응되는 슬라이딩 윈도우를 이용하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 장치
10 10
제7항에 있어서, 상기 Cycle GAN의 생성자는 상기 공통적인 특징은 유지하면서, 상기 상이한 환경적 특징은 변형하도록 학습된 것을 특징으로 하는 태스크 분해를 이용한 강화학습 장치
11 11
제7에 있어서, 상기 오토인코더는인코더가 상기 복수의 트랜지션쌍(τ, τ') 각각을 시간-불변 잠재 벡터(u, u')와 시간-변화 잠재 벡터(v, v')로 임베딩하고, 디코더가 상기 시간-불변 잠재 벡터(u, u')와 상기 시간-변화 잠재 벡터(v, v')를 이용하여 상기 복수의 트랜지션쌍(τ, τ') 각각을 재건하는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 장치
12 12
제11 있어서, 상기 오토인코더는상기 시간-불변 잠재 벡터(u, u')가 서로 같은 값을 가지도록 하기 위한 제1 손실함수;상기 시간-불변 잠재 벡터(u, u')만으로 상기 복수의 트랜지션쌍(τ, τ') 각각이 재건되도록 하기 위한 제2 손실함수; 및상기 복수의 트랜지션쌍(τ, τ')이 상기 인코더 및 상기 디코더를 이용하여 재건한 결과와 같아지도록 하기 위한 제3 손실함수에 기반하여 학습되는 것을 특징으로 하는 태스크 분해를 이용한 강화학습 장치
지정국 정보가 없습니다
순번, 패밀리번호, 국가코드, 국가명, 종류의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 패밀리정보 - 패밀리정보 표입니다.
순번 패밀리번호 국가코드 국가명 종류
1 US20230177348 US 미국 FAMILY

DOCDB 패밀리 정보

순번, 패밀리번호, 국가코드, 국가명, 종류의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 패밀리정보 - DOCDB 패밀리 정보 표입니다.
순번 패밀리번호 국가코드 국가명 종류
1 US2023177348 US 미국 DOCDBFAMILY
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 과학기술정보통신부 (주)아크릴 SW컴퓨팅산업원천기술개발(R&D,정보화) 데이터센터-엣지 NPU 간 연합 추론/학습 기반 대규모 인공지능 응용/개발을 용이하게 하는 SW 프레임워크 개발
2 과학기술정보통신부 (주)티비스톰 차세대인공지능핵심원천기술개발(R&D) 동적인 디바이스 환경에서 적응적 연합학습기술 개발
3 과학기술정보통신부 주식회사 아크릴 DNA+드론기술개발(R&D) 드론을 위한 AI 핵심 S/W개발