맞춤기술찾기

이전대상기술

로봇용 학습 프레임워크 설정방법 및 이를 수행하는 디지털 제어 장치

  • 기술번호 : KST2020007622
  • 담당센터 : 경기기술혁신센터
  • 전화번호 : 031-8006-1570
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 본 발명은 로봇용 학습 프레임워크 설정방법 및 이를 수행하는 디지털 제어 장치에 관한 것이다. 본 발명의 일 실시예에 따르면, (a) 시연자의 시연 정보와 모방 학습을 통해 로봇이 초기 모터 스킬을 학습하는 단계, 및 (b) 강화 학습을 통해 로봇의 초기 모터 스킬을 향상시키고 일반화하는 단계를 포함하는, 로봇용 학습 프레임워크 설정방법을 제공한다.
Int. CL G06N 99/00 (2019.01.01) B25J 9/16 (2006.01.01)
CPC G06N 99/00(2013.01) G06N 99/00(2013.01)
출원번호/일자 1020180153423 (2018.12.03)
출원인 한국생산기술연구원
등록번호/일자
공개번호/일자 10-2020-0072592 (2020.06.23) 문서열기
공고번호/일자
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 등록
심사진행상태 수리
심판사항
구분 신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2018.12.03)
심사청구항수 10

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 한국생산기술연구원 대한민국 충청남도 천안시 서북구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 이상형 서울 도봉구
2 서일홍 서울 성동구
3 조남준 서울 성동구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 특허법인아이엠 대한민국 서울특별시 강남구 봉은사로 ***, ***호 (역삼동, 혜전빌딩)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
최종권리자 정보가 없습니다
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2018.12.03 수리 (Accepted) 1-1-2018-1206758-13
2 의견제출통지서
Notification of reason for refusal
2020.08.19 발송처리완료 (Completion of Transmission) 9-5-2020-0563380-58
3 [명세서등 보정]보정서
[Amendment to Description, etc.] Amendment
2020.10.19 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2020-1100366-14
4 [거절이유 등 통지에 따른 의견]의견서·답변서·소명서
2020.10.19 수리 (Accepted) 1-1-2020-1100361-97
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
(a) 시연자의 시연 정보와 모방 학습을 통해 로봇이 초기 모터 스킬을 학습하는 단계; 및(b) 강화 학습을 통해 로봇의 초기 모터 스킬을 향상시키고 일반화하는 단계;를 포함하는, 로봇용 학습 프레임워크 설정방법
2 2
제1항에 있어서,상기 로봇용 학습 프레임워크 설정방법은, 로봇의 모터 스킬을 학습, 개선 및 일반화하기 위해 펙인홀(Peg-In-Hole) 작업에서 홀-탐색(hole-serch) 모터 스킬 및 펙-삽입(peg-insert) 모터 스킬에 프레임워크를 적용하는, 로봇용 학습 프레임워크 설정방법
3 3
제2항에 있어서,상기 (a) 단계에서는,(a-1) 물리적 상호작용에 의해 발생하는 반발력 및 반발토크를 모델링하기 위하여 시연자의 시연 정보를 은닉 마르코프 모델(hidden Markov models)로 모델링하는 단계;(a-2) 상황에 적합한 로봇 행동 생성을 위하여 작업을 수행하도록 로봇 제어를 위한 동적 행동 프리미티브 모델(dynamic movement primitives models)로 모델링하는 단계; 및(a-3) 상기 은닉 마르코프 모델과 상기 동적 행동 프리미티브 모델을 하나의 초기 모터 스킬로 결합하는 단계;를 포함하는, 로봇용 학습 프레임워크 설정방법
4 4
제3항에 있어서,상기 (a) 단계에서는 상기 은닉 마르코프 모델을 통해 반발력 신호 및 반발토크 신호를 인식하고, 상기 동적 행동 프리미티브 모델을 통해 시연자의 시연에 해당하는 모션 경로를 생성하기 위하여 상기 은닉 마르코프 모델 및 상기 동적 행동 프리미티브 모델의 파라미터를 결합시키는, 로봇용 학습 프레임워크 설정방법
5 5
제4항에 있어서,상기 (a-1) 단계에서는, 작업에 부적합한 반발력 신호 및 반발토크 신호를 제거하기 위하여 로봇은 일련의 시연에 기초한 자기 재현을 통해 작업에 적합한 반발력 신호 및 반발토크 신호 및 해당 제어 신호를 추출하는, 로봇용 학습 프레임워크 설정방법
6 6
제5항에 있어서,상기 (a-1) 단계에서는, 물리적 상호작용을 인식하기 위하여 펙을 기울여 홀을 탐색하는 틸트 서치 모션, 펙을 홀의 제1 지점에 접촉시키는 싱글 포인트 컨택 모션, 펙을 홀의 제1 지점 및 제2 지점에 접촉시키는 투 포인트 컨택 모션, 펙을 기울여 펙과 홀을 정렬시키는 정렬 모션, 및 펙을 홀에 밀어넣는 푸시 모션을 포함하는, 로봇용 학습 프레임워크 설정방법
7 7
제2항에 있어서,상기 홀-탐색(hole-serch) 모터 스킬은 펙과 홀의 부정확한 현재 위치를 기준으로 홀이 있는 방향을 찾는 동작인, 로봇용 학습 프레임워크 설정방법
8 8
제2항에 있어서,상기 펙-삽입(peg-insert) 모터 스킬은 홀 방향에 따라 홀에 펙을 삽입하는 동작인, 로봇용 학습 프레임워크 설정방법
9 9
제3항에 있어서,상기 (b) 단계는,(b-1) 상기 은닉 마르코프 모델을 사용하여 최대 가능성을 갖는 초기 모터 스킬을 선택하는 단계;(b-2) 강화학습을 통해 해당 동적 행동 프리미티브 모델의 파리미터를 재평가하는 단계; 및(b-3) 재평가된 동적 행동 프리미티브 모델에 의해 생성된 모션 경로로부터 상기 은닉 마르코프 모델의 파라미터를 재평가하는 단계;를 포함하는, 로봇용 학습 프레임워크 설정방법
10 10
제9항에 있어서,상기 (b) 단계에서는 모터 스킬을 개선하고 일반화하기 위한 새로운 보상 기능을 설계하여 실행 시간 스텝이나 시간을 줄이고 반환 알고리즘으로 탐색을 가중시켜 정책 학습의 확장에 기초하여 모션 경로를 최적화하는, 로봇용 학습 프레임워크 설정방법
11 11
제10항에 있어서,상기 (b) 단계에서는 반환을 통한 탐색 가중에 따른 정책 학습 알고리즘을 이용하여 해당 정책 파라미터에서 롤아웃의 예상 반환값을 최대화하는 정책 파라미터를 추정하는, 로봇용 학습 프레임워크 설정방법
12 12
제10항에 있어서상기 (b) 단계에서는 개선 및 일반화 과정을 구분하기 위하여 상기 은닉 마르코프 모델로부터 생성된 임계값 모델을 사용하는, 로봇용 학습 프레임워크 설정방법
13 13
제1항 내지 제12항 중 어느 한 항의 로봇용 학습 프레임워크 설정방법을 수행하는 디지털 제어 장치
14 14
제1항 내지 제12항 중 어느 한 항의 로봇용 학습 프레임워크 설정방법이 기록된 컴퓨터 판독 가능한 저장 매체
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 산업통산자원부 한양대학교 산업기술혁신사업 (세부사업: 로봇산업핵심기술개발사업) 심층신경망기반 역 강화학습에 의한 사용자의 의도를 90% 이상 만족하는 테이블 정리정돈 로봇 매니퓰레이터의 조작 시스템 개발