맞춤기술찾기

이전대상기술

분포적 강화학습에서의 섭동 기반 탐색 방법 및 장치

  • 기술번호 : KST2023005303
  • 담당센터 : 대전기술혁신센터
  • 전화번호 : 042-610-2279
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 일 실시예에 따른 분포적 강화학습에서의 섭동 기반 탐색 장치가 수행하는 방법은, 트랜지션과 탐색 조건 및 초기값이 포함된 탐색 정보를 입력받는 단계와, 보상분포를 나타내는 확률변수에 대해 기댓값을 대체할 리스크 측도가 반영된 기댓값을 얻기 위한 요소인 섭동을 상기 탐색 정보의 모호집합으로부터 샘플링하는 단계와, 상기 샘플링된 섭동에 기반하여 상기 탐색 정보로부터 상기 리스크 측도를 계산하는 단계와, 상기 계산된 리스크 측도를 기반으로 하였을 때의 기댓값을 가장 최대로 만드는 행동을 설정한 후 이를 타켓으로 하여 벨만 업데이트를 진행하는 단계와, 상기 벨만 업데이트가 진행된 결과를 탐색 결과로서 출력하는 단계를 포함한다.
Int. CL G06N 20/00 (2019.01.01) G06N 7/00 (2023.01.01)
CPC G06N 20/00(2013.01) G06N 7/01(2013.01)
출원번호/일자 1020220123744 (2022.09.28)
출원인 국방과학연구소, 서울대학교산학협력단
등록번호/일자 10-2567929-0000 (2023.08.11)
공개번호/일자
공고번호/일자 (20230818) 문서열기
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 등록
심사진행상태 수리
심판사항
구분 국내출원/신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2022.09.28)
심사청구항수 8

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 국방과학연구소 대한민국 대전광역시 유성구
2 서울대학교산학협력단 대한민국 서울특별시 관악구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 이정우 서울특별시 관악구
2 한승엽 서울특별시 관악구
3 조태현 서울특별시 관악구
4 이희수 서울특별시 관악구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 제일특허법인(유) 대한민국 서울특별시 서초구 마방로 ** (양재동, 동원F&B빌딩)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
1 국방과학연구소 대전광역시 유성구
2 서울대학교산학협력단 서울특별시 관악구
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2022.09.28 수리 (Accepted) 1-1-2022-1025064-17
2 특허고객번호 정보변경(경정)신고서·정정신고서
2022.10.07 수리 (Accepted) 4-1-2022-5235636-01
3 [우선심사신청]심사청구서·우선심사신청서
2022.10.28 수리 (Accepted) 1-1-2022-1146693-75
4 선행기술조사의뢰서
Request for Prior Art Search
2022.11.04 수리 (Accepted) 9-1-9999-9999999-89
5 선행기술조사보고서
Report of Prior Art Search
2022.11.25 발송처리완료 (Completion of Transmission) 9-6-2023-0004914-11
6 의견제출통지서
Notification of reason for refusal
2023.01.13 발송처리완료 (Completion of Transmission) 9-5-2023-0050219-31
7 [지정기간연장]기간 연장신청서·기간 단축신청서·기간 경과 구제신청서·절차 계속신청서
2023.03.13 수리 (Accepted) 1-1-2023-0286330-78
8 [지정기간연장]기간 연장신청서·기간 단축신청서·기간 경과 구제신청서·절차 계속신청서
2023.04.13 수리 (Accepted) 1-1-2023-0419074-60
9 [출원서 등 보완]보정서
2023.05.15 수리 (Accepted) 1-1-2023-0539056-29
10 [명세서등 보정]보정서
[Amendment to Description, etc.] Amendment
2023.05.15 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2023-0539054-38
11 [공지예외적용대상(신규성, 출원시의 특례)증명서류]서류제출서
[Document Verifying Exclusion from Being Publically Known (Novelty, Special Provisions for Application)] Submission of Document
2023.05.15 수리 (Accepted) 1-1-2023-0539055-84
12 [거절이유 등 통지에 따른 의견]의견서·답변서·소명서
2023.05.15 수리 (Accepted) 1-1-2023-0539053-93
13 등록결정서
Decision to grant
2023.06.01 발송처리완료 (Completion of Transmission) 9-5-2023-0501811-18
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
분포적 강화학습에서의 섭동 기반 탐색 장치가 수행하는 방법으로서,트랜지션(transition)과 탐색 조건 및 초기값이 포함된 탐색 정보를 입력받는 단계와,보상분포를 나타내는 확률변수에 대해 기댓값을 대체할 리스크 측도(risk measure)가 반영된 기댓값을 얻기 위한 요소인 섭동을 상기 탐색 정보의 모호집합으로부터 샘플링하는 단계와,상기 샘플링된 섭동에 기반하여 상기 탐색 정보로부터 상기 리스크 측도를 계산하는 단계와,상기 계산된 리스크 측도를 기반으로 하였을 때의 기댓값을 가장 최대로 만드는 행동을 설정한 후 이를 타켓으로 하여 벨만 업데이트를 진행하는 단계와,상기 벨만 업데이트가 진행된 결과를 탐색 결과로서 출력하는 단계를 포함하는분포적 강화학습에서의 섭동 기반 탐색 방법
2 2
제 1 항에 있어서,상기 탐색 조건은 디스카운트(discount), 타임스텝(timestep), 입실론(epsilon) 및 밀집도(concentration)를 포함하고,상기 리스크 측도는 상기 탐색 조건을 반영한 대칭적 디리클레 분포를 통해 구현된 상기 섭동의 집합이 함수로 포함된 가중평균식을 이용해 계산하는분포적 강화학습에서의 섭동 기반 탐색 방법
3 3
제 1 항에 있어서,상기 벨만 업데이트를 진행하는 단계는, 손실함수는 휴버 분위수 손실(huber quantile loss)을 사용하여 경사하강법을 통한 매개변수 업데이트를 진행하는분포적 강화학습에서의 섭동 기반 탐색 방법
4 4
분포적 강화학습에서의 섭동 기반 탐색을 위한 트랜지션(transition)과 탐색 조건 및 초기값이 포함된 탐색 정보를 입력받는 입력부와,상기 탐색 정보에 대한 섭동 기반 탐색을 수행하는 프로세서부와,상기 프로세서부에 의한 탐색 결과를 출력하는 출력부를 포함하고,상기 프로세서부는,보상분포를 나타내는 확률변수에 대해 기댓값을 대체할 리스크 측도(risk measure)가 반영된 기댓값을 얻기 위한 요소인 섭동을 상기 탐색 정보의 모호집합으로부터 샘플링하며,상기 샘플링된 섭동에 기반하여 상기 탐색 정보로부터 상기 리스크 측도를 계산하고,상기 계산된 리스크 측도를 기반으로 하였을 때의 기댓값을 가장 최대로 만드는 행동을 설정한 후 이를 타켓으로 하여 벨만 업데이트를 진행하며,상기 벨만 업데이트가 진행된 결과를 상기 탐색 결과로서 제공하는분포적 강화학습에서의 섭동 기반 탐색 장치
5 5
제 4 항에 있어서,상기 탐색 조건은 디스카운트, 타임스텝, 입실론 및 밀집도를 포함하고,상기 리스크 측도는 상기 탐색 조건을 반영한 대칭적 디리클레 분포를 통해 구현된 상기 섭동의 집합이 함수로 포함된 가중평균식을 이용해 계산하는분포적 강화학습에서의 섭동 기반 탐색 장치
6 6
제 4 항에 있어서,상기 벨만 업데이트를 진행할 때에, 손실함수는 휴버 분위수 손실을 사용하여 경사하강법을 통한 매개변수 업데이트를 진행하는분포적 강화학습에서의 섭동 기반 탐색 장치
7 7
컴퓨터 프로그램을 저장하고 있는 컴퓨터 판독 가능 기록매체로서,상기 컴퓨터 프로그램은, 프로세서에 의해 실행되면,분포적 강화학습에서의 섭동 기반 탐색을 위한 트랜지션과 탐색 조건 및 초기값이 포함된 탐색 정보를 입력받는 단계와,보상분포를 나타내는 확률변수에 대해 기댓값을 대체할 리스크 측도가 반영된 기댓값을 얻기 위한 요소인 섭동을 상기 탐색 정보의 모호집합으로부터 샘플링하는 단계와,상기 샘플링된 섭동에 기반하여 상기 탐색 정보로부터 상기 리스크 측도를 계산하는 단계와,상기 계산된 리스크 측도를 기반으로 하였을 때의 기댓값을 가장 최대로 만드는 행동을 설정한 후 이를 타켓으로 하여 벨만 업데이트를 진행하는 단계와,상기 벨만 업데이트가 진행된 결과를 탐색 결과로서 출력하는 단계를 포함하는 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함하는,컴퓨터 판독 가능한 기록매체
8 8
컴퓨터 판독 가능 기록매체에 저장되어 있는 컴퓨터 프로그램으로서,상기 컴퓨터 프로그램은, 프로세서에 의해 실행되면,분포적 강화학습에서의 섭동 기반 탐색을 위한 트랜지션과 탐색 조건 및 초기값이 포함된 탐색 정보를 입력받는 단계와,보상분포를 나타내는 확률변수에 대해 기댓값을 대체할 리스크 측도가 반영된 기댓값을 얻기 위한 요소인 섭동을 상기 탐색 정보의 모호집합으로부터 샘플링하는 단계와,상기 샘플링된 섭동에 기반하여 상기 탐색 정보로부터 상기 리스크 측도를 계산하는 단계와,상기 계산된 리스크 측도를 기반으로 하였을 때의 기댓값을 가장 최대로 만드는 행동을 설정한 후 이를 타켓으로 하여 벨만 업데이트를 진행하는 단계와,상기 벨만 업데이트가 진행된 결과를 탐색 결과로서 출력하는 단계를 포함하는 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함하는,컴퓨터 프로그램
지정국 정보가 없습니다
패밀리정보가 없습니다
국가 R&D 정보가 없습니다.