맞춤기술찾기

이전대상기술

사용자 인터랙션을 위한 제스처 인식 방법 및 시스템

  • 기술번호 : KST2018010691
  • 담당센터 :
  • 전화번호 :
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 본 발명은 사용자 인터랙션을 위한 제스처 인식 방법에 관한 것으로서, 보다 구체적으로는 클라이언트가, (1) 3차원 센서로부터 제스처 데이터를 획득하는 단계; (2) 보간을 통해 상기 획득한 제스처 데이터에서 손실된 데이터를 보완하는 단계; (3) 상기 단계 (2)에서 보간된 제스처 데이터를 평면에 투영하여 2차원 이미지 데이터를 획득하는 단계; (4) 실시간으로 애플리케이션 실행 중, 상기 단계 (3)에서 획득한 2차원 이미지 데이터를 서버에 전송하여 제스처 인식 모델에 입력하는 단계; 및 (5) 상기 서버로부터 상기 제스처 인식 모델에 의해 도출된 결과를 전달받아, 상기 실행 중인 애플리케이션에 적용하여 실행하는 단계를 포함하는 것을 그 구성상의 특징으로 한다.본 발명은 사용자 인터랙션을 위한 제스처 인식 시스템에 관한 것으로서, 보다 구체적으로는 제스처 인식에 의해 사용자 인터랙션이 수행되는 애플리케이션을 실행하는 클라이언트; 및 딥 러닝 알고리즘에 의한 제스처 인식 모델의 연산을 수행하는 서버를 포함하며, 상기 클라이언트는, 3차원 센서로부터 제스처 데이터를 획득하는 데이터 획득 모듈; 보간을 통해 상기 획득한 제스처 데이터에서 손실된 데이터를 보완하는 데이터 보간 모듈; 상기 데이터 보간 모듈에서 보간된 제스처 데이터를 평면에 투영하여 2차원 이미지 데이터를 획득하는 데이터 변환 모듈; 실시간으로 애플리케이션 실행 중, 상기 데이터 변환 모듈에서 획득한 2차원 이미지 데이터를 서버에 전송하여 상기 제스처 인식 모델에 입력하는 데이터 전송 모듈; 및 상기 서버로부터 상기 제스처 인식 모델에 의해 도출된 결과를 전달받아, 상기 실행 중인 애플리케이션에 적용하여 실행하는 결과 적용 모듈을 포함하는 것을 그 구성상의 특징으로 한다.본 발명에서 제안하고 있는 사용자 인터랙션을 위한 제스처 인식 방법 및 시스템에 따르면, 딥 러닝 알고리즘인 제스처 인식 모델을 활용해서 제스처의 인식률을 효과적으로 높이되, 네트워크 통신을 통해 딥 러닝이 연산하는 부분을 서버에서 전담하여 처리함으로써, 가상현실과 같이 GPU를 실시간으로 사용하는 애플리케이션이 제스처 인식 결과를 서버로부터 수신하여 적용할 수 있으므로, 다양한 플랫폼에 효과적으로 적용할 수 있다.
Int. CL G06F 3/01 (2006.01.01) G06F 3/0346 (2013.01.01) G06K 9/00 (2006.01.01) G06N 3/08 (2006.01.01) G06T 19/00 (2011.01.01)
CPC G06F 3/017(2013.01) G06F 3/017(2013.01) G06F 3/017(2013.01) G06F 3/017(2013.01) G06F 3/017(2013.01)
출원번호/일자 1020170010105 (2017.01.22)
출원인 계명대학교 산학협력단
등록번호/일자
공개번호/일자 10-2018-0086548 (2018.08.01) 문서열기
공고번호/일자 문서열기
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 등록
심사진행상태 수리
심판사항
구분 신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2017.01.22)
심사청구항수 18

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 계명대학교 산학협력단 대한민국 대구광역시 달서구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 이준재 대한민국 대구광역시 수성구
2 채지훈 대한민국 대구광역시 동구
3 임종헌 대한민국 경상북도 경산시 경안로**

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 김건우 대한민국 서울특별시 금천구 가산디지털*로 ***, 에이동 ***호 특허그룹덕원 (가산동, 우림 라이온스밸리)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
1 계명대학교 산학협력단 대구광역시 달서구
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2017.01.22 수리 (Accepted) 1-1-2017-0074726-86
2 공지예외적용주장 증명서류 제출기한 안내문
2017.01.25 발송처리완료 (Completion of Transmission) 1-5-2017-0012990-74
3 [공지예외적용대상(신규성, 출원시의 특례)증명서류]서류제출서
[Document Verifying Exclusion from Being Publically Known (Novelty, Special Provisions for Application)] Submission of Document
2017.02.03 수리 (Accepted) 1-1-2017-0117663-40
4 선행기술조사의뢰서
Request for Prior Art Search
2017.10.13 수리 (Accepted) 9-1-9999-9999999-89
5 선행기술조사보고서
Report of Prior Art Search
2017.12.08 발송처리완료 (Completion of Transmission) 9-6-2017-0181257-76
6 의견제출통지서
Notification of reason for refusal
2017.12.14 발송처리완료 (Completion of Transmission) 9-5-2017-0877273-19
7 [명세서등 보정]보정서
[Amendment to Description, etc.] Amendment
2018.02.09 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2018-0143152-10
8 출원인정보변경(경정)신고서
Notification of change of applicant's information
2018.03.21 수리 (Accepted) 4-1-2018-5049338-19
9 의견제출통지서
Notification of reason for refusal
2018.06.05 발송처리완료 (Completion of Transmission) 9-5-2018-0383576-74
10 [명세서등 보정]보정서
[Amendment to Description, etc.] Amendment
2018.07.09 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2018-0671384-91
11 등록결정서
Decision to grant
2018.10.30 발송처리완료 (Completion of Transmission) 9-5-2018-0737868-59
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
제스처 인식 방법으로서, 클라이언트(100)가,(1) 3차원 센서로부터 제스처 데이터를 획득하는 단계;(2) 보간을 통해 상기 획득한 제스처 데이터에서 손실된 데이터를 보완하는 단계;(3) 상기 단계 (2)에서 보간된 제스처 데이터를 평면에 투영하여 2차원 이미지 데이터를 획득하는 단계;(4) 실시간으로 애플리케이션 실행 중, 상기 단계 (3)에서 획득한 2차원 이미지 데이터를 서버(200)에 전송하여 제스처 인식 모델에 입력하는 단계; 및(5) 상기 서버(200)로부터 상기 제스처 인식 모델에 의해 도출된 결과를 전달받아, 상기 실행 중인 애플리케이션에 적용하여 실행하는 단계를 포함하되,상기 제스처 인식 모델은,콘볼루션 신경망(Convolution Neural Network; CNN) 기반으로 제스처 인식을 학습한 CNN 모델인 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 방법
2 2
삭제
3 3
제1항에 있어서, 상기 단계 (1)에서는,모바일, 퍼스널 컴퓨터 및 가상현실(Virtual Reality; VR)을 포함하는 군에서 선택된 적어도 하나 이상의 환경의 상기 3차원 센서에 적용하기 위하여, 3개의 동작 상태를 정의하여 상기 제스처 데이터를 획득하는 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 방법
4 4
제1항에 있어서, 상기 단계 (2)에서는,하기 수학식 1에 의해 보간을 수행하는 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 방법
5 5
제4항에 있어서, 상기 단계 (2)에서는,보간 범위(t)의 간격을 0
6 6
제1항에 있어서, 상기 단계 (3)에서는,상기 단계 (2)에서 보간된 제스처 데이터를 정사각 형태의 2차원 이미지 데이터로 변환하기 위하여, 2차원 이미지의 한 변의 최대 거리(Max Distance)를 하기 수학식 2에 의해 계산하는 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 방법
7 7
제6항에 있어서, 상기 단계 (3)에서는,상기 단계 (2)에서 보간된 제스처 데이터를 2차원 이미지 데이터로 변환하기 위하여, 상기 계산된 2차원 이미지의 한 변의 최대 거리(Max Distance)를 미리 설정된 이미지의 한 변의 실제 크기(Grid Size)로 나누어, 픽셀 한 개의 한 변의 크기(Cell Size)를 산출하는 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 방법
8 8
제7항에 있어서, 상기 단계 (3)에서는,상기 산출된 픽셀 한 개의 한 변의 크기(Cell Size)를 이용해 상기 2차원 이미지에서의 픽셀 위치를 계산하는 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 방법
9 9
제1항에 있어서, 상기 단계 (3)에서는,상기 단계 (2)에서 보간된 제스처 데이터를 평면에 투영하여 생성된 이미지를 N×N 크기로 변환하는 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 방법
10 10
제1항에 있어서, 상기 단계 (4)에서는,상기 단계 (3)에서 획득한 2차원 이미지 데이터를 이진화하여 TCP/IP 네트워크 프로토콜을 통해 상기 서버(200)에 전송하는 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 방법
11 11
제1항에 있어서, 상기 단계 (5)에서는,상기 제스처 인식 모델에서 인식된 결과를 전달받아 상기 실행 중인 애플리케이션에 결과 값을 적용하기 위해서, 상기 서버(200)와의 쓰레드 동기화를 크리티컬 섹션(Critical section)을 통해 제어하는 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 방법
12 12
제스처 인식 시스템으로서,제스처 인식에 의해 사용자 인터랙션이 수행되는 애플리케이션을 실행하는 클라이언트(100); 및딥 러닝 알고리즘에 의한 제스처 인식 모델의 연산을 수행하는 서버(200)를 포함하며,상기 클라이언트(100)는,3차원 센서로부터 제스처 데이터를 획득하는 데이터 획득 모듈(110);보간을 통해 상기 획득한 제스처 데이터에서 손실된 데이터를 보완하는 데이터 보간 모듈(120);상기 데이터 보간 모듈(120)에서 보간된 제스처 데이터를 평면에 투영하여 2차원 이미지 데이터를 획득하는 데이터 변환 모듈(130);실시간으로 애플리케이션 실행 중, 상기 데이터 변환 모듈(130)에서 획득한 2차원 이미지 데이터를 서버(200)에 전송하여 상기 제스처 인식 모델에 입력하는 데이터 전송 모듈(140); 및상기 서버(200)로부터 상기 제스처 인식 모델에 의해 도출된 결과를 전달받아, 상기 실행 중인 애플리케이션에 적용하여 실행하는 결과 적용 모듈(150)을 포함하되,상기 제스처 인식 모델은,콘볼루션 신경망(Convolution Neural Network; CNN) 기반으로 제스처 인식을 학습한 CNN 모델인 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 시스템
13 13
삭제
14 14
제12항에 있어서,제스처 인식의 학습을 위해 구성한 트레이닝 셋(Training Set) 및 검증을 위해 구성한 테스트 셋(Test Set)의 데이터를 이용하여 상기 제스처 인식 모델을 도출하는 학습 서버(300)를 더 포함하는 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 시스템
15 15
제14항에 있어서, 상기 학습 서버(300)는,3차원 센서로부터 획득한 제스처 데이터를 처리하여 2차원 이미지 데이터를 수집하는 데이터 전처리 모듈(310); 및상기 수집한 2차원 이미지 데이터로 상기 트레이닝 셋 및 테스트 셋을 구성하고, 구성된 상기 트레이닝 셋 및 테스트 셋을 이용하여 상기 제스처 인식 모델을 도출하는 트레이닝 모듈(320)을 포함하는 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 시스템
16 16
제12항에 있어서, 상기 데이터 보간 모듈(120)은,하기 수학식 1에 의해 보간을 수행하는 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 시스템
17 17
제12항에 있어서, 상기 데이터 변환 모듈(130)은,상기 데이터 보간 모듈(120)에서 보간된 제스처 데이터를 정사각 형태의 2차원 이미지 데이터로 변환하기 위하여, 2차원 이미지의 한 변의 최대 거리(Max Distance)를 하기 수학식 2에 의해 계산하는 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 시스템
18 18
제12항에 있어서, 상기 데이터 변환 모듈(130)은,상기 데이터 보간 모듈(120)에서 보간된 제스처 데이터를 2차원 이미지 데이터로 변환하기 위하여, 계산된 2차원 이미지의 한 변의 최대 거리(Max Distance)를 미리 설정된 이미지의 한 변의 실제 크기(Grid Size)로 나누어, 픽셀 한 개의 한 변의 크기(Cell Size)를 산출하고,상기 산출된 픽셀 한 개의 한 변의 크기(Cell Size)를 이용해 상기 2차원 이미지에서의 픽셀 위치를 계산하는 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 시스템
19 19
제12항에 있어서, 상기 데이터 전송 모듈(140)은,상기 데이터 변환 모듈(130)에서 획득한 2차원 이미지 데이터를 이진화하여 TCP/IP 네트워크 프로토콜을 통해 상기 서버(200)에 전송하는 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 시스템
20 20
제12항에 있어서, 상기 결과 적용 모듈(150)은,상기 제스처 인식 모델에서 인식된 결과를 전달받아 상기 실행 중인 애플리케이션에 결과 값을 적용하기 위해서, 상기 서버(200)와의 쓰레드 동기화를 크리티컬 섹션(Critical section)을 통해 제어하는 것을 특징으로 하는, 사용자 인터랙션을 위한 제스처 인식 시스템
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 교육부 계명대학교 산학협력 산학협력 선도대학(LINC) 육성사업 - 산학공동기술개발과제 딥 러닝 기반 가상현실 재활치료 시스템 개발