맞춤기술찾기

이전대상기술

사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 방법 및 장치(METHOD AND APPARATUS FOR CONTROLLING INFORMATION DISPLAYED ON SCREEN BY RECOGNIZING HAND GESTURE OF USER)

  • 기술번호 : KST2018003063
  • 담당센터 : 서울동부기술혁신센터
  • 전화번호 : 02-2155-3662
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 본 발명은, 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 방법 및 장치에 관한 것으로서, 상기 방법은 사용자의 손과 손목 위를 포함하는 영상에서 상기 사용자의 손 영역과 손목 위 영역을 분리하는 단계, 상기 사용자의 손 영역과 손목 위 영역이 각각 나타내는 정보에 기초하여 손 모양을 판단하는 단계, 상기 손 모양의 변화에 기초하여 손 동작을 인식하는 단계, 및 상기 손 동작에 대응되는 미리 설정된 실행 명령을 수행함으로써 화면에 표시되는 정보를 제어하는 단계를 수행함으로써, 사용자가 HMD(Head Mounted Display)와 같은 착용형 디스플레이 장치를 장착한 경우, 시선 하단부에서도 손 동작을 인식할 수 있도록 손 영역과 손목 위 영역을 분리하는 방법을 제공한다.
Int. CL G06F 3/01 (2006.01.01) G06F 3/00 (2006.01.01) G06F 3/0484 (2013.01.01) G06K 9/00 (2006.01.01) G02B 27/01 (2006.01.01) G06N 99/00 (2010.01.01)
CPC G06F 3/017(2013.01) G06F 3/017(2013.01) G06F 3/017(2013.01) G06F 3/017(2013.01) G06F 3/017(2013.01) G06F 3/017(2013.01) G06F 3/017(2013.01) G06F 3/017(2013.01)
출원번호/일자 1020160117491 (2016.09.12)
출원인 한국과학기술연구원, 재단법인 실감교류인체감응솔루션연구단
등록번호/일자
공개번호/일자 10-2018-0029488 (2018.03.21) 문서열기
공고번호/일자 문서열기
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 등록
심사진행상태 수리
심판사항
구분 신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2016.09.12)
심사청구항수 14

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 한국과학기술연구원 대한민국 서울특별시 성북구
2 재단법인 실감교류인체감응솔루션연구단 대한민국 서울특별시 성북구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 박지형 대한민국 서울특별시 성북구
2 이준 대한민국 서울특별시 성북구
3 오주영 대한민국 서울특별시 성북구
4 유범재 대한민국 서울특별시 성북구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 김 순 영 대한민국 서울특별시 종로구 종로*길 **, **층 케이씨엘특허법률사무소 (수송동, 석탄회관빌딩)
2 김영철 대한민국 서울특별시 종로구 종로*길 **, **층 케이씨엘특허법률사무소 (수송동, 석탄회관빌딩)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
1 한국과학기술연구원 서울특별시 성북구
2 재단법인 실감교류인체감응솔루션연구단 서울특별시 성북구
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2016.09.12 수리 (Accepted) 1-1-2016-0890628-93
2 선행기술조사의뢰서
Request for Prior Art Search
2017.06.12 수리 (Accepted) 9-1-9999-9999999-89
3 출원인정보변경(경정)신고서
Notification of change of applicant's information
2017.08.10 수리 (Accepted) 4-1-2017-0042500-28
4 선행기술조사보고서
Report of Prior Art Search
2017.08.17 발송처리완료 (Completion of Transmission) 9-6-2017-0123083-80
5 의견제출통지서
Notification of reason for refusal
2017.08.21 발송처리완료 (Completion of Transmission) 9-5-2017-0578645-10
6 [지정기간연장]기간연장(단축, 경과구제)신청서
[Designated Period Extension] Application of Period Extension(Reduction, Progress relief)
2017.10.23 수리 (Accepted) 1-1-2017-1042273-34
7 [명세서등 보정]보정서
[Amendment to Description, etc.] Amendment
2017.11.17 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2017-1143651-81
8 [거절이유 등 통지에 따른 의견]의견(답변, 소명)서
[Opinion according to the Notification of Reasons for Refusal] Written Opinion(Written Reply, Written Substantiation)
2017.11.17 수리 (Accepted) 1-1-2017-1143652-26
9 거절결정서
Decision to Refuse a Patent
2018.03.30 발송처리완료 (Completion of Transmission) 9-5-2018-0222496-33
10 [명세서등 보정]보정서(재심사)
Amendment to Description, etc(Reexamination)
2018.04.30 보정승인 (Acceptance of amendment) 1-1-2018-0426674-46
11 [거절이유 등 통지에 따른 의견]의견(답변, 소명)서
[Opinion according to the Notification of Reasons for Refusal] Written Opinion(Written Reply, Written Substantiation)
2018.04.30 수리 (Accepted) 1-1-2018-0426673-01
12 등록결정서
Decision to Grant Registration
2018.05.08 발송처리완료 (Completion of Transmission) 9-5-2018-0313949-26
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
제어 장치에 의해 수행되는, 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 방법으로서,사용자의 손과 손목 위를 포함하는 영상을 취득하는 단계;상기 사용자의 손과 손목 위를 포함하는 영상에서 상기 사용자의 손 영역과 손목 위 영역을 분리하는 단계;상기 사용자의 손 영역과 손목 위 영역이 각각 나타내는 정보에 기초하여 손 모양을 판단하는 단계; 상기 손 모양의 변화에 기초하여 손 동작을 인식하는 단계; 및상기 손 동작에 대응되는 미리 설정된 실행 명령을 수행함으로써 화면에 표시되는 정보를 제어하는 단계를 포함하되,상기 사용자의 손과 손목 위를 포함하는 영상에서 상기 사용자의 손 영역과 손목 위 영역을 분리하는 단계는,학습을 위해 미리 저장된 영상에서, 손과 손목 위 모양의 테두리에 놓인 일련의 포인트들을 샘플링하여 제1 모양 맥락(shape context)을 계산하는 단계;상기 일련의 포인트와 나머지 포인트들의 상대적인 거리를 구하여, 정의된 구역(bin) 내에 얼마나 많은 점들이 분포하는지 제1 로그-폴라 공간(log-polar space)을 구성하여 특징을 추출하는 단계;상기 제1 모양 맥락 정보와 추출된 특징에 기초하여 SVM(Support Vector Machine) 학습 모델을 생성하는 단계;상기 취득한 사용자의 손과 손목 위 영상에서, 사용자의 손과 손목 위 모양의 테두리에 놓인 일련의 포인트들을 샘플링하여 제2 모양 맥락을 계산하는 단계;상기 제2 모양 맥락을 이용하여 제2 로그-폴라 공간(log-polar space)을 구성하여 특징을 추출하는 단계; 및상기 생성된 SVM 학습 모델을 이용하여 상기 제1 로그-폴라 공간과 제2 로그-폴라 공간의 특징을 비교함으로써, 사용자의 손 영역과 손목 위 영역을 실시간으로 분리하는 단계를 포함하고,상기 사용자의 손 영역과 손목 위 영역이 각각 나타내는 정보에 기초하여 손 모양을 판단하는 단계는,상기 사용자의 손 영역을 포함하는 손 영역 경계박스의 가로길이와 세로길이를 비교하여, 상기 사용자의 손이 눕혀져 있는 모양인지 세워져 있는 모양인지를 판단하는 단계를 포함하고,상기 손 영역 경계박스의 가로길이 대비 세로길이의 비율이 일정 임계 값 이상이면 사용자의 손 모양이 세로로 세워져 있는 모양이라고 판단하되, 그 외의 경우에는 사용자의 손 모양이 가로로 누워 있는 모양이라고 판단하는, 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 방법
2 2
제1항에 있어서,상기 사용자의 손과 손목 위를 포함하는 영상을 취득하는 단계는,상기 사용자의 손과 손목이 사용자의 시선 하단부에 위치하는 경우에, 상기 사용자의 손과 손목 위를 포함하는 영상을 취득하는 것을 특징으로 하는, 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 방법
3 3
삭제
4 4
삭제
5 5
제1항에 있어서, 상기 사용자의 손 모양의 변화에 기초하여 손 동작을 인식하는 단계는,상기 사용자의 손 영역을 포함하는 손 영역 경계박스와 상기 사용자의 손목 위 영역을 포함하는 손목 위 영역 경계박스가 이루는 각도를 계산하여, 상기 사용자의 손 동작이 오른쪽으로 이동하는 동작인지 왼쪽으로 이동하는 동작인지를 판단하는 단계를 포함하는 것을 특징으로 하는, 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 방법
6 6
제1항에 있어서,상기 사용자의 손 모양의 변화에 기초하여 손 동작을 인식하는 단계는,상기 사용자의 손 영역 중 손가락 관절 영역 또는 손바닥 영역에, 하나 이상의 포인트를 매칭(matching)시키는 단계; 및상기 매칭된 하나 이상의 포인트의 위치 변화 또는 깊이 변화에 기초하여 손 동작을 인식하는 단계를 포함하는 것을 특징으로 하는, 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 방법
7 7
제1항에 있어서,상기 사용자의 손과 손목 위를 포함하는 영상에서, 상기 사용자의 손과 손목 위 부분을 제외한 나머지 배경을 제거하는 단계; 및상기 사용자의 손과 손목의 외곽선을 추출하는 단계를 더 포함하는 것을 특징으로 하는, 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 방법
8 8
제1항에 있어서,상기 사용자가 손 동작 정보를 추가적으로 저장하는 단계; 및상기 손 동작 정보에 대응되는 실행 명령을 미리 지정하는 단계를 더 포함하는 것을 특징으로 하는, 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 방법
9 9
제1항, 제2항, 제5항 내지 제8항 중 어느 하나의 청구항에 따라 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 방법을 실행하기 위한, 컴퓨터로 판독 가능한 기록매체에 저장되는 컴퓨터 프로그램
10 10
사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 장치로서,사용자의 손과 손목 위를 포함하는 영상을 취득하는, 영상 취득부;상기 사용자의 손과 손목 위를 포함하는 영상에서 상기 사용자의 손 영역과 손목 위 영역을 분리하는, 손 및 손목 위 영역 분리부;상기 사용자의 손 영역과 손목 위 영역이 각각 나타내는 정보에 기초하여 손 모양을 판단하는, 손 모양 판단부;상기 손 모양의 변화에 기초하여 손 동작을 인식하는, 손 동작 인식부; 및상기 손 동작에 대응되는 미리 설정된 실행 명령을 수행함으로써 화면에 표시되는 정보를 제어하는, 정보 제어부를 포함하고,상기 손 및 손목 위 영역 분리부는,학습을 위해 미리 저장된 영상에서, 손 모양의 테두리에 놓인 일련의 포인트들을 샘플링하여 제1 모양 맥락(shape context)을 계산하고,상기 일련의 포인트와 나머지 포인트들의 상대적인 거리를 구하여, 정의된 구역(bin) 내에 얼마나 많은 점들이 분포하는지 제1 로그-폴라 공간(log-polar space)을 구성하여 특징을 추출하고,상기 제1 모양 맥락 정보와 추출된 특징에 기초하여 SVM(Support Vector Machine) 학습 모델을 생성하고,상기 취득한 사용자의 손과 손목 위 영상에서, 사용자의 손과 손목 위 모양의 테두리에 놓인 일련의 포인트들을 샘플링하여 제2 모양 맥락을 계산하고,상기 제2 모양 맥락을 이용하여 제2 로그-폴라 공간(log-polar space)을 구성하여 특징을 추출하고,상기 생성된 SVM 학습 모델을 이용하여 상기 제1 로그-폴라 공간과 제2 로그-폴라 공간의 특징을 비교함으로써, 사용자의 손 영역과 손목 위 영역을 실시간으로 분리하는 것을 특징으로 하고,상기 손 모양 판단부는,상기 사용자의 손 영역을 포함하는 손 영역 경계박스의 가로길이와 세로길이를 비교하여, 상기 사용자의 손이 눕혀져 있는 모양인지 세워져 있는 모양인지를 판단하되,상기 손 영역 경계박스의 가로길이 대비 세로길이의 비율이 일정 임계 값 이상이면 사용자의 손 모양이 세로로 세워져 있는 모양이라고 판단하되, 그 외의 경우에는 사용자의 손 모양이 가로로 누워 있는 모양이라고 판단하는, 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 장치
11 11
제10항에 있어서, 상기 영상 취득부는,상기 사용자의 손과 손목이 사용자의 시선 하단부에 위치하는 경우에, 상기 사용자의 손과 손목 위를 포함하는 영상을 취득하는 것을 특징으로 하는, 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 장치
12 12
삭제
13 13
삭제
14 14
제10항에 있어서, 상기 손 동작 인식부는,상기 사용자의 손 영역을 포함하는 손 영역 경계박스와 상기 사용자의 손목 위 영역을 포함하는 손목 위 영역 경계박스가 이루는 각도를 계산하여, 상기 사용자의 손 동작이 오른쪽으로 이동하는 동작인지 왼쪽으로 이동하는 동작인지를 판단하는 것을 특징으로 하는, 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 장치
15 15
제10항에 있어서, 상기 손 동작 인식부는,상기 사용자의 손 영역 중 손가락 관절 영역 또는 손바닥 영역에, 하나 이상의 포인트를 매칭(matching)시키고,상기 매칭된 하나 이상의 포인트의 위치 변화 또는 깊이 변화에 기초하여 손 동작을 인식하는 것을 특징으로 하는, 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 장치
16 16
제10항에 있어서, 상기 장치는,상기 사용자의 손과 손목 위를 포함하는 영상에서, 상기 사용자의 손과 손목 위 부분을 제외한 나머지 배경을 제거하는, 배경 제거부; 및상기 사용자의 손과 손목의 외곽선을 추출하는 외곽선 추출부를 더 포함하는 것을 특징으로 하는, 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 장치
17 17
제10항에 있어서, 상기 장치는,상기 사용자가 손 동작 정보를 추가적으로 저장하는, 손 동작 정보 저장부; 및상기 손 동작 정보에 대응되는 실행 명령을 미리 지정하는, 실행 명령 지정부를 더 포함하는 것을 특징으로 하는, 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 장치
18 18
제10항, 제11항, 제14항 내지 제17항 중 어느 한 항에 있어서,상기 장치는 헤드 마운티드 디스플레이(Head Mounted Display) 장치 또는 시스루 디스플레이(See-through display) 장치인 것을 특징으로 하는, 사용자의 손 동작을 인식하여 화면에 표시되는 정보를 제어하는 장치
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 미래창조과학부 한국과학기술연구원 글로벌프론티어지원 몰입형 VST Glasses 기반 공존현실 UI/UX 및 Human Factor 연구개발