맞춤기술찾기

이전대상기술

동공검출과 눈꺼풀 곡률을 이용한 시선 추적 장치 및 그 방법

  • 기술번호 : KST2021008866
  • 담당센터 : 서울동부기술혁신센터
  • 전화번호 : 02-2155-3662
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 본 발명은 동공검출과 눈꺼풀 곡률을 이용한 시선 추적 장치 및 그 방법에 관한 것으로, 카메라를 통해 촬영되는 사용자의 눈 영상으로부터 동공과 눈 영역을 검출하여, 상기 검출한 눈 영역에 위치하는 동공의 상대위치를 산출하고, 상기 산출한 동공의 상대위치와 상기 동공의 높낮이에 따라 변화되는 눈꺼풀의 곡률을 이용하여, 상하좌우 방향으로 움직이는 사용자의 시선을 실시간으로 정확하게 추적할 수 있도록 하는 동공검출과 눈꺼풀 곡률을 이용한 시선 추적 장치 및 그 방법에 관한 것이다.
Int. CL G06K 9/00 (2006.01.01) G06K 9/38 (2006.01.01) G06K 9/40 (2006.01.01) G06K 9/46 (2006.01.01)
CPC G06K 9/00597(2013.01) G06K 9/38(2013.01) G06K 9/40(2013.01) G06K 9/4604(2013.01)
출원번호/일자 1020190159782 (2019.12.04)
출원인 서울대학교산학협력단
등록번호/일자
공개번호/일자 10-2021-0069933 (2021.06.14) 문서열기
공고번호/일자
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 등록
심사진행상태 수리
심판사항
구분 국내출원/신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2019.12.04)
심사청구항수 6

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 서울대학교산학협력단 대한민국 서울특별시 관악구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 신영길 서울특별시 서초구
2 이상화 서울특별시 강남구
3 한상윤 서울특별시 강남구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 김견수 대한민국 서울특별시 강남구 테헤란로*길 ** (역삼동, 한덕빌딩) ***호(다함특허법률사무소)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
최종권리자 정보가 없습니다
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2019.12.04 수리 (Accepted) 1-1-2019-1253316-72
2 의견제출통지서
Notification of reason for refusal
2020.11.17 발송처리완료 (Completion of Transmission) 9-5-2020-0797653-94
3 출원인정보변경(경정)신고서
Notification of change of applicant's information
2020.11.25 수리 (Accepted) 4-1-2020-5265458-48
4 [명세서등 보정]보정서
[Amendment to Description, etc.] Amendment
2021.01.18 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2021-0062575-80
5 [거절이유 등 통지에 따른 의견]의견서·답변서·소명서
2021.01.18 수리 (Accepted) 1-1-2021-0062549-03
6 거절결정서
Decision to Refuse a Patent
2021.05.28 발송처리완료 (Completion of Transmission) 9-5-2021-0426165-58
7 [거절이유 등 통지에 따른 의견]의견서·답변서·소명서
2021.06.28 수리 (Accepted) 1-1-2021-0740994-11
8 [명세서등 보정]보정서(재심사)
Amendment to Description, etc(Reexamination)
2021.06.28 수리 (Accepted) 1-1-2021-0741024-38
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
사용자의 눈 영상을 이진영상으로 변환하여 상기 눈 영상으로부터 에지를 검출하는 에지 검출부;상기 검출한 에지로부터 동공을 검출하는 동공 검출부;상기 검출한 동공 및 에지로부터 눈꺼풀의 윤곽선을 검출하여, 눈 영역을 검출하는 눈 영역 검출부; 및상기 검출한 동공, 눈꺼풀의 윤곽선 및 눈 영역을 이용하여 상기 사용자의 시선을 실시간으로 추적하는 시선 추적부;를 포함하며,상기 검출한 눈 영역에서 상기 검출한 동공의 높낮이에 따라 변화되는 상기 눈꺼풀의 윤곽선에 대한 곡률을 이용하여 상기 사용자의 시선에 대한 방향을 인식하는 것을 특징으로 하는 시선 추적 장치
2 2
청구항 1에 있어서,상기 눈 영역 검출부는,상기 추출한 동공을 기준으로 상기 변환한 이진영상에 사전에 설정한 크기의 윈도우를 설정하고, 상기 동공의 가장자리에 인접한 눈꺼풀의 에지를 중심으로 눈꺼풀의 에지가 지속되는 눈꺼풀의 가장자리 경계까지 상기 설정한 윈도우를 좌우 방향으로 확장하고, 상기 눈꺼풀의 에지에 대한 상하 경계까지 상기 설정한 윈도우를 상하 방향으로 확장 또는 축소하여 상기 눈꺼풀의 윤곽선을 검출함으로써, 상기 눈 영역을 검출하는 것을 특징으로 하는 시선 추적 장치
3 3
청구항 1에 있어서,상기 시선 추적 장치는,상기 검출한 눈 영역에 대한 상기 검출한 동공의 상대위치를 검출하는 동공 상대위치 산출부; 및 상기 검출한 눈꺼풀의 윤곽선을 2차 곡선으로 정합하는 눈꺼풀 2차 곡선 정합부;를 더 포함하며,상기 동공의 상대위치는,상기 검출한 전체 눈 영역에서, 상기 검출한 눈꺼풀의 윤곽선에 대한 좌측 가장자리의 끝점인 눈 앞꼬리에 대한 위치좌표와 상기 정합한 2차 곡선의 꼭짓점에 대한 위치좌표를 내분한 내분점을 상기 시선의 정면 응시 기준점으로 설정하고, 상기 설정한 정면 응시 기준점을 원점으로 하여 상기 검출한 동공의 위치를 계산함으로써, 산출되는 것을 특징으로 하는 시선 추적 장치
4 4
청구항 3에 있어서,상기 시선 추적 장치는,상기 검출한 눈꺼풀의 윤곽선에 대해 정합한 2차 곡선의 곡률을 산출하여, 상기 눈꺼풀의 곡률을 산출하는 눈꺼풀 곡률 산출부;를 더 포함하며, 상기 시선 추적부는,상기 산출한 동공의 상대위치를 토대로 좌우상하 방향에 대한 상기 사용자의 시선을 추정하고, 상기 산출한 눈꺼풀의 곡률과 상기 설정한 정면 응시 기준점에 따른 정중앙 방향으로의 시선에 대하여 산출되는 눈꺼풀의 곡률을 토대로, 상기 정중앙 방향으로의 시선에서 상기 추정한 시선에 대한 눈꺼풀의 곡률변화를 산출하고, 상기 추정한 시선에 상기 산출한 곡률변화를 반영하여 상기 추정한 시선의 상하방향을 보정함으로써, 상기 사용자의 시선을 추적하는 것을 특징으로 하는 시선 추적 장치
5 5
청구항 1에 있어서,상기 시선 추적 장치는,상기 사용자에 대한 눈 영상을 가시광영상이나 적외선 영상으로 획득하는 영상 획득부; 및상기 시선을 추적한 결과를 제공하는 시선 추적 결과 제공부;를 더 포함하며,상기 에지 검출부는, 상기 획득한 눈 영상의 노이즈를 제거하여 상기 이진영상으로 변환하는 것을 더 포함하는 것을 특징으로 하는 시선 추적 장치
6 6
사용자의 눈 영상을 이진영상으로 변환하여 상기 눈 영상으로부터 에지를 검출하는 에지 검출 단계;상기 검출한 에지로부터 동공을 검출하는 동공 검출 단계;상기 검출한 동공 및 에지로부터 눈꺼풀의 윤곽선을 검출하여, 눈 영역을 검출하는 눈 영역 검출 단계; 및상기 검출한 동공, 눈꺼풀의 윤곽선 및 눈 영역을 이용하여 상기 사용자의 시선을 실시간으로 추적하는 시선 추적 단계;를 포함하며,상기 검출한 눈 영역에서 상기 검출한 동공의 높낮이에 따라 변화되는 상기 눈꺼풀의 윤곽선에 대한 곡률을 이용하여 상기 사용자의 시선에 대한 방향을 인식하는 것을 특징으로 하는 시선 추적 방법
7 7
청구항 6에 있어서,상기 눈 영역 검출 단계는,상기 추출한 동공을 기준으로 상기 변환한 이진영상에 사전에 설정한 크기의 윈도우를 설정하고, 상기 동공의 가장자리에 인접한 눈꺼풀의 에지를 중심으로 눈꺼풀의 에지가 지속되는 눈꺼풀의 가장자리 경계까지 상기 설정한 윈도우를 좌우 방향으로 확장하고, 상기 눈꺼풀의 에지에 대한 상하 경계까지 상기 설정한 윈도우를 상하 방향으로 확장 또는 축소하여 상기 눈꺼풀의 윤곽선을 검출함으로써, 상기 눈 영역을 검출하는 것을 특징으로 하는 시선 추적 방법
8 8
청구항 6에 있어서,상기 시선 추적 방법은,상기 검출한 눈 영역에 대한 상기 검출한 동공의 상대위치를 검출하는 동공 상대위치 산출 단계; 및 상기 검출한 눈꺼풀의 윤곽선을 2차 곡선으로 정합하는 눈꺼풀 2차 곡선 정합 단계;를 더 포함하며,상기 동공의 상대위치는,상기 검출한 전체 눈 영역에서, 상기 검출한 눈꺼풀의 윤곽선에 대한 좌측 가장자리의 끝점인 눈 앞꼬리에 대한 위치좌표와 상기 정합한 2차 곡선의 꼭짓점에 대한 위치좌표를 내분한 내분점을 상기 시선의 정면 응시 기준점으로 설정하고, 상기 설정한 정면 응시 기준점을 원점으로 하여 상기 검출한 동공의 위치를 계산함으로써, 산출되는 것을 특징으로 하는 시선 추적 방법
9 9
청구항 8에 있어서,상기 시선 추적 방법은,상기 검출한 눈꺼풀의 윤곽선에 대해 정합한 2차 곡선의 곡률을 산출하여, 상기 눈꺼풀의 곡률을 산출하는 눈꺼풀 곡률 산출 단계;를 더 포함하며, 상기 시선 추적 단계는,상기 산출한 동공의 상대위치를 토대로 좌우상하 방향에 대한 상기 사용자의 시선을 추정하고, 상기 산출한 눈꺼풀의 곡률과 상기 설정한 정면 응시 기준점에 따른 정중앙 방향으로의 시선에 대하여 산출되는 눈꺼풀의 곡률을 토대로, 상기 정중앙 방향으로의 시선에서 상기 추정한 시선에 대한 눈꺼풀의 곡률변화를 산출하고, 상기 추정한 시선에 상기 산출한 곡률변화를 반영하여 상기 추정한 시선의 상하방향을 보정함으로써, 상기 사용자의 시선을 추적하는 것을 특징으로 하는 시선 추적 방법
10 10
청구항 6에 있어서,상기 시선 추적 방법은,상기 사용자에 대한 눈 영상을 가시광영상이나 적외선 영상으로 획득하는 영상 획득 단계; 및상기 시선을 추적한 결과를 제공하는 시선 추적 결과 제공 단계;를 더 포함하며,상기 에지 검출 단계는, 상기 획득한 눈 영상의 노이즈를 제거하여 상기 이진영상으로 변환하는 것을 더 포함하는 것을 특징으로 하는 시선 추적 방법
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 과학기술정보통신부 서울대학교 산학협력단 정보통신방송연구개발사업 (K-AR 1세부) AR기반 수술용 개발툴킷 및 응용개발