맞춤기술찾기

이전대상기술

에이에이엠 및 추정된 깊이 정보를 이용하는 3차원 얼굴 포즈 및 표정 변화 추정 방법

  • 기술번호 : KST2015195400
  • 담당센터 : 서울동부기술혁신센터
  • 전화번호 : 02-2155-3662
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 본 발명은 AAM 및 추정된 깊이 정보를 이용하는 3차원 얼굴 포즈 및 표정 변화 추정 방법에 관한 것으로서, 보다 구체적으로는 (1) 정면 및 양 측면 얼굴을 나타내는 입력 영상에 특징점(land-mark)을 표기하여 삼각형 메쉬(mesh)를 형성하는 단계, (2) 상기 특징점을 표기한 입력 영상 중 정면 얼굴에 대하여 AAM(Active Appearance Model)에 의한 학습과정에서 정의되는 AAM 모델 파라미터로부터 2차원의 AAM 얼굴모델을 생성하는 단계, (3) 상기 생성된 AAM 얼굴모델에 2차원 변환 파라미터를 적용하고 상기 입력 영상에 피팅(fitting)하는 단계, (4) 상기 입력 영상의 정면 및 양 측면 얼굴로부터 3차원의 얼굴 깊이 정보를 추정하는 단계, (5) 상기 AAM 얼굴모델에 상기 추정된 얼굴 깊이 정보를 z축으로 추가하여 3차원의 얼굴모델을 생성하는 단계, (6) 상기 생성된 3차원의 얼굴모델에 3차원 변환 파라미터를 적용하고 상기 입력 영상에 피팅하는 단계, 및 (7) 3차원으로 변화하는 얼굴 포즈 및 표정에 따라 입력되는 영상 프레임마다 상기 단계 (1) 내지 단계 (6)을 반복 수행하여 상기 2차원 및 3차원 변환 파라미터를 갱신하는 단계를 포함하는 것을 그 구성상의 특징으로 한다.본 발명에서 제안하고 있는 AAM 및 추정된 깊이 정보를 이용하는 3차원 얼굴 포즈 및 표정 변화 추정 방법에 따르면, 정면 얼굴의 입력 영상에 대해 AAM을 이용하여 학습하고, 정면과 양 측면얼굴의 입력 영상으로부터 추정된 얼굴의 깊이 정보를 AAM과 결합함으로써 사전 학습에 의존적이지 않고 폭넓은 얼굴 포즈에 대해 얼굴 피팅을 수행할 수 있다.또한, 본 발명에 따르면, 얼굴 포즈 변화로 인해 발생하는 자기 가림(self-occlusion)에 대해 메쉬의 방향성을 이용한 가중치 처리를 수행함으로써 학습된 정면 얼굴과 다른 얼굴 포즈에 대해서도 효과적인 얼굴 피팅을 수행할 수 있다.
Int. CL G06T 17/20 (2006.01)
CPC G06T 17/205(2013.01) G06T 17/205(2013.01) G06T 17/205(2013.01) G06T 17/205(2013.01)
출원번호/일자 1020120020657 (2012.02.28)
출원인 가톨릭대학교 산학협력단
등록번호/일자 10-1333836-0000 (2013.11.21)
공개번호/일자 10-2013-0098824 (2013.09.05) 문서열기
공고번호/일자 (20131129) 문서열기
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 등록
심사진행상태 수리
심판사항
구분 신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2012.02.28)
심사청구항수 6

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 가톨릭대학교 산학협력단 대한민국 서울특별시 서초구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 강행봉 대한민국 서울 용산구
2 주명호 대한민국 서울 광진구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 김건우 대한민국 서울특별시 금천구 가산디지털*로 ***, 에이동 ***호 특허그룹덕원 (가산동, 우림 라이온스밸리)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
1 가톨릭대학교 산학협력단 서울특별시 서초구
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2012.02.28 수리 (Accepted) 1-1-2012-0165623-11
2 선행기술조사의뢰서
Request for Prior Art Search
2013.03.13 수리 (Accepted) 9-1-9999-9999999-89
3 선행기술조사보고서
Report of Prior Art Search
2013.04.09 수리 (Accepted) 9-1-2013-0028797-09
4 의견제출통지서
Notification of reason for refusal
2013.04.25 발송처리완료 (Completion of Transmission) 9-5-2013-0282328-94
5 [거절이유 등 통지에 따른 의견]의견(답변, 소명)서
[Opinion according to the Notification of Reasons for Refusal] Written Opinion(Written Reply, Written Substantiation)
2013.06.25 수리 (Accepted) 1-1-2013-0569859-77
6 [명세서등 보정]보정서
[Amendment to Description, etc.] Amendment
2013.06.25 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2013-0569858-21
7 등록결정서
Decision to grant
2013.10.31 발송처리완료 (Completion of Transmission) 9-5-2013-0753522-60
8 출원인정보변경(경정)신고서
Notification of change of applicant's information
2015.03.05 수리 (Accepted) 4-1-2015-0012383-55
9 출원인정보변경(경정)신고서
Notification of change of applicant's information
2019.11.21 수리 (Accepted) 4-1-2019-5245084-94
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
(1) 정면 및 양 측면 얼굴을 나타내는 입력 영상에 특징점(land-mark)을 표기하여 삼각형 메쉬(mesh)를 형성하는 단계;(2) 상기 특징점을 표기한 입력 영상 중 정면 얼굴에 대하여 AAM(Active Appearance Model)에 의한 학습과정에서 정의되는 AAM 모델 파라미터로부터 2차원의 AAM 얼굴모델을 생성하는 단계;(3) 상기 생성된 AAM 얼굴모델에 2차원 변환 파라미터를 적용하고 상기 입력 영상에 피팅(fitting)하는 단계;(4) 상기 입력 영상의 정면 및 양 측면 얼굴로부터 3차원의 얼굴 깊이 정보를 추정하는 단계;(5) 상기 AAM 얼굴모델에 상기 추정된 얼굴 깊이 정보를 z축으로 추가하여 3차원의 얼굴모델을 생성하는 단계;(6) 상기 생성된 3차원의 얼굴모델에 3차원 변환 파라미터를 적용하고 상기 입력 영상에 피팅(fitting)함으로써, 임의의 얼굴 포즈 및 표정을 갖는 입력 영상으로부터 얼굴 파라미터를 추정하는 단계;(7) 3차원으로 변화하는 얼굴 포즈 및 표정에 따라 입력되는 영상 프레임마다 상기 단계 (1) 내지 단계 (6)을 반복 수행하여 상기 2차원 및 3차원 변환 파라미터를 갱신하는 단계; 및(8) 자기 가림이 발생한 영역에 대해 메쉬의 방향성을 판별하여, 2차원에 투영된 삼각형으로 정의되는 얼굴 모델 메쉬의 방향이 반대의 방향성을 가질 경우 삼각형 내의 얼굴 질감을 평균 질감으로 대체하여 가려진 메쉬에 대한 가중치를 0으로 처리하는 단계를 포함하는 것을 특징으로 하는, AAM 및 추정된 깊이 정보를 이용하는 3차원 얼굴 포즈 및 표정 변화 추정 방법
2 2
삭제
3 3
제1항에 있어서, 상기 단계 (1)에서,상기 특징점은 86개이고, 상기 메쉬는 138개인 것을 특징으로 하는, AAM 및 추정된 깊이 정보를 이용하는 3차원 얼굴 포즈 및 표정 변화 추정 방법
4 4
제1항에 있어서, 상기 단계 (2)는,(2-1) 상기 특징점으로부터 추출되는 정면 얼굴의 형태 벡터를 Procustes Analysis 방법을 이용하여 평균 얼굴 형태 로 정렬하고, PCA(Principal Component Analysis)를 적용하여 형태 모델을 생성하는 단계로서, 상기 형태 모델은 형태고유 벡터와 형태 파라미터의 선형결합으로 정의되는, 형태 모델 생성 단계;(2-2) 상기 정면 얼굴을 상기 평균 얼굴 형태 로 와핑(warping)하여 형태를 정규화한 후, 질감 벡터에 대해 PCA를 적용하여 질감 모델을 생성하는 단계로서, 상기 질감 모델은 질감 고유 벡터와 질감 파라미터의 선형 결합과 평균 질감 벡터의 합으로 정의되는, 질감 모델 생성 단계;(2-3) 상기 형태 모델과 질감 모델을 결합하기 위해 상기 형태 파라미터와 질감 파라미터를 연결하고, PCA를 수행함으로써 AAM 모델 고유 행렬과 AAM 모델 파라미터를 생성하는 단계; 및(2-4) 상기 생성된 AAM 모델 파라미터로부터 AAM 얼굴모델을 생성하는 단계를 포함하는 것을 특징으로 하는, AAM 및 추정된 깊이 정보를 이용하는 3차원 얼굴 포즈 및 표정 변화 추정 방법
5 5
제1항에 있어서, 상기 단계 (4)는,(4-1) 상기 정면 얼굴로부터 3차원 얼굴 형태의 x,y축을 정의하는 단계;(4-2) 상기 양 측면 얼굴로부터 깊이 정보를 정의하는 단계; 및(4-3) 상기 측면 얼굴의 영상을 정면 얼굴의 영상으로 정렬하는 단계를 포함하는 것을 특징으로 하는, AAM 및 추정된 깊이 정보를 이용하는 3차원 얼굴 포즈 및 표정 변화 추정 방법
6 6
제5항에 있어서, 상기 단계 (4-3)은,상기 정면 얼굴 및 측면 얼굴은 3차원 얼굴 형태에서 y축만을 공유하며, 하기의 수학식에 의해 y축 간의 에러 E를 최소화함으로써 정렬하는 것을 특징으로 하는, AAM 및 추정된 깊이 정보를 이용하는 3차원 얼굴 포즈 및 표정 변화 추정 방법
7 7
제1항에 있어서, 상기 단계 (7)은,상기 단계 (6)에서 하기의 수학식에 따라 추정되는 얼굴 파라미터 p가 최적화될 때까지 반복 수행되는 것을 특징으로 하는, AAM 및 추정된 깊이 정보를 이용하는 3차원 얼굴 포즈 및 표정 변화 추정 방법
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 문화체육관광부 가톨릭대학교 2011 콘텐츠산업기술지원사업 저피로/고실감 3D 콘텐츠 제작을 위한 융합기술 개발 과제