요약 | 본 발명은 실시간 카메라 트래킹을 이용한 실사 영상 합성 시스템 및 그 방법에 관한 것으로, 2차원 특징점 추적 데이터에서 적합한 특징점들을 선별하여 상태(state) 예측기를 통해 카메라의 위치, 각도를 실시간으로 예측할 수 있다. 그리고 특징점들을 3차원으로 복원시킨 공간좌표를 DB의 도심 모델정보와 비교하여 도심모델 공간의 절대좌표계에서 카메라의 위치와 각도를 실시간으로 추정함으로써, 차량용 네비게이터에서 길안내 및 주변정보를 실사영상과 실시간으로 합성하여 출력할 수 있어 정확도와 실시간성을 보장할 수 있다. 합성, 카메라, 움직임, 예측 |
---|---|
Int. CL | H04N 13/00 (2006.01) |
CPC | G01C 21/3647(2013.01) G01C 21/3647(2013.01) G01C 21/3647(2013.01) G01C 21/3647(2013.01) G01C 21/3647(2013.01) |
출원번호/일자 | 1020070132360 (2007.12.17) |
출원인 | 한국전자통신연구원 |
등록번호/일자 | 10-0922544-0000 (2009.10.13) |
공개번호/일자 | 10-2009-0064967 (2009.06.22) 문서열기 |
공고번호/일자 | (20091021) 문서열기 |
국제출원번호/일자 | |
국제공개번호/일자 | |
우선권정보 | |
법적상태 | 소멸 |
심사진행상태 | 수리 |
심판사항 | |
구분 | 신규 |
원출원번호/일자 | |
관련 출원번호 | |
심사청구여부/일자 | Y (2007.12.17) |
심사청구항수 | 7 |
번호 | 이름 | 국적 | 주소 |
---|---|---|---|
1 | 한국전자통신연구원 | 대한민국 | 대전광역시 유성구 |
번호 | 이름 | 국적 | 주소 |
---|---|---|---|
1 | 유정재 | 대한민국 | 경기 성남시 분당구 |
2 | 김재헌 | 대한민국 | 대전 서구 |
3 | 김혜미 | 대한민국 | 대전 서구 |
4 | 김진호 | 대한민국 | 대전 유성구 |
5 | 최병태 | 대한민국 | 대전광역시 유성구 |
번호 | 이름 | 국적 | 주소 |
---|---|---|---|
1 | 장성구 | 대한민국 | 서울특별시 서초구 마방로 ** (양재동, 동원F&B빌딩)(제일특허법인(유)) |
2 | 김원준 | 대한민국 | 서울특별시 서초구 마방로 ** (양재동, 동원F&B빌딩)(제일특허법인(유)) |
번호 | 이름 | 국적 | 주소 |
---|---|---|---|
1 | 주식회사 인트윈 | 서울특별시 동작구 |
번호 | 서류명 | 접수/발송일자 | 처리상태 | 접수/발송번호 |
---|---|---|---|---|
1 | [특허출원]특허출원서 [Patent Application] Patent Application |
2007.12.17 | 수리 (Accepted) | 1-1-2007-0906114-46 |
2 | 선행기술조사의뢰서 Request for Prior Art Search |
2008.07.08 | 수리 (Accepted) | 9-1-9999-9999999-89 |
3 | 선행기술조사보고서 Report of Prior Art Search |
2008.08.12 | 수리 (Accepted) | 9-1-2008-0052302-79 |
4 | [명세서등 보정]보정서 [Amendment to Description, etc.] Amendment |
2009.07.20 | 보정승인간주 (Regarded as an acceptance of amendment) | 1-1-2009-0440232-08 |
5 | 의견제출통지서 Notification of reason for refusal |
2009.07.29 | 발송처리완료 (Completion of Transmission) | 9-5-2009-0313127-13 |
6 | 출원인정보변경(경정)신고서 Notification of change of applicant's information |
2009.08.04 | 수리 (Accepted) | 4-1-2009-5150899-36 |
7 | [명세서등 보정]보정서 [Amendment to Description, etc.] Amendment |
2009.09.14 | 보정승인간주 (Regarded as an acceptance of amendment) | 1-1-2009-0563660-21 |
8 | [거절이유 등 통지에 따른 의견]의견(답변, 소명)서 [Opinion according to the Notification of Reasons for Refusal] Written Opinion(Written Reply, Written Substantiation) |
2009.09.14 | 수리 (Accepted) | 1-1-2009-0563661-77 |
9 | 등록결정서 Decision to grant |
2009.10.09 | 발송처리완료 (Completion of Transmission) | 9-5-2009-0418180-07 |
10 | 출원인정보변경(경정)신고서 Notification of change of applicant's information |
2015.02.02 | 수리 (Accepted) | 4-1-2015-0006137-44 |
번호 | 청구항 |
---|---|
1 |
1 영상에 대한 특징점들중 3차원 위치가 복원된 특징점들만을 두개의 카메라 중심으로부터 각 이미지 플렌 상의 영역 안 경계선을 이어 생성된 원뿔모양의 방사형 내부의 공간을 통해 선별하는 특징점 예측 및 선별부와, 선별한 상기 특징점들에 대하여 2차원 특징점 추적 데이터를 입력으로 하는 확장형 칼만 필터(Extended Kalman Filter : EKF)를 통해 카메라 움직임 정보를 예측하는 카메라 움직임 예측부와, 카메라의 현재 위치와, 도심 배경기하 모델 데이터베이스(DB)로부터 가져온 주변공간의 배경기하 모델 간을 비교 및 매칭시켜 로컬 좌표(Local Coordinate)에서 계산된 카메라의 위치 및 각도를 월드 좌표(World Coordinate)에서의 값으로 변환하는 매칭부와, 상기 예측된 카메라 움직임 정보를 지도 및 주변 정보 DB에서 가져온 길안내 및 주변정보의 실사영상에 합성하여 출력하는 합성부 를 포함하는 실시간 카메라 트래킹을 이용한 실사 영상 합성 시스템 |
2 |
2 제 1 항에 있어서, 상기 카메라 움직임 예측부는, 상기 선별된 특징점들을 이용하여 상태 벡터(state vector) 안에 적정 수준의 특징점 변수들을 유지하고, 화면에서 벗어난 특징점과 새로 추가된 특징점들로 갱신하는 상태 벡터 갱신부와, 현재 프레임에서 다음 프레임에서의 상태 벡터를 예측하는 예측부와, 상기 예측된 상태 벡터를 칼만게인(Kalman Gain)으로 계산하는 계산부와, 상기 예측된 상태 벡터와 상기 계산된 값을 결합하여 최종 예측값으로 업데이트하는 업데이트부 를 포함하는 실시간 카메라 트래킹을 이용한 실사 영상 합성 시스템 |
3 |
3 제 2 항에 있어서, 상기 업데이트부는, 수학식 (여기서, x(t|t-1)은 이전 프레임에서 예측된 상태 벡터이고, 은 예측 메트릭스(prediction matrix)이며, K(t)는 Kalman Gain이며, y(t)는 현재 프레임에서의 관찰치이며, h(x(t|t-1))은 이전 프레임에서 예측된 특징점의 3차원 좌표를 현재 프레임의 카메라 사영행렬을 통해 사영시켰을 때 예측되는 좌표를 의미한다 |
4 |
4 삭제 |
5 |
5 제 1 항에 있어서, 상기 시스템은, 상기 카메라의 초기 위치를 예측하는 카메라 초기 위치 예측부와, 영상 입력에 대하여 네츄럴 특징점(Natural Feature)들을 실시간으로 추출하는 특징점 추출부와, 상기 추출된 특징점들을 일정 구간 N3 프레임동안 데이터를 누적시키며 상기 N3프레임 이상 일관되게 관찰된 특징점들만을 상기 특징점 예측 및 선별부에 제공하는 버퍼 를 더 포함하는 실시간 카메라 트래킹을 이용한 실사 영상 합성 시스템 |
6 |
6 제 1 항에 있어서, 상기 카메라의 현재 위치는, GPS(Global Positioning System)에 의해 수신되는 것을 특징으로 하는 실시간 카메라 트래킹을 이용한 실사 영상 합성 시스템 |
7 |
7 영상에 대한 특징점들중 3차원 위치가 복원된 특징점들만을 두개의 카메라 중심으로부터 각 이미지 플렌 상의 영역 안 경계선을 이어 생성된 원뿔모양의 방사형 내부의 공간을 통해 선별하는 단계와, 선별한 상기 특징점들에 대하여 2차원 특징점 추적 데이터를 입력으로 하는 확장형 칼만 필터(Extended Kalman Filter)를 통해 카메라 움직임 정보를 예측하는 단계와, 카메라의 현재 위치와, 도심 배경기하 모델 데이터베이스(DB)로부터 가져온 주변공간의 배경기하 모델 간을 비교하여 매칭시켜 로컬 좌표에서 계산된 카메라의 위치 및 각도를 월드 좌표에서의 값으로 변환하는 단계와, 상기 예측된 카메라 움직임 정보를 지도 및 주변 정보 DB에서 가져온 길안내 및 주변정보의 실사영상에 합성하여 출력하는 단계 를 포함하는 실시간 카메라 트래킹을 이용한 실사 영상 합성 방법 |
8 |
8 제 7 항에 있어서, 상기 특징점들은, 두개의 카메라 중심으로부터 각 이미지 플렌 상의 영역 안의 경계선을 이을때 S1, S2 와 같은 원뿔모양의 방사형 내부의 공간을 형성하며, 이는 수학식 (여기서, S3가 작을수록 이 특징점이 공간상에서 존재할 수 있는 불확실성 영역은 좁아지며 이 특징점은 상대적으로 정확하게 3차원 복원된 특징점으로 간주할 수 있으며, RPE(Reprojection Error)가 작아서 두 원뿔(S1, S2)의 폭이 좁아야 하며, 프레임 구간동안 움직인 카메라의 이동, 회전이 커야하며, S3의 부피를 특징점의 3차원 복원 정확도의 척도로 삼는다 |
지정국 정보가 없습니다 |
---|
패밀리정보가 없습니다 |
---|
국가 R&D 정보가 없습니다. |
---|
특허 등록번호 | 10-0922544-0000 |
---|
표시번호 | 사항 |
---|---|
1 |
출원 연월일 : 20071217 출원 번호 : 1020070132360 공고 연월일 : 20091021 공고 번호 : 특허결정(심결)연월일 : 20091009 청구범위의 항수 : 4 유별 : H04N 13/00 발명의 명칭 : 실시간 카메라 트래킹을 이용한 실사 영상 합성 시스템 및 그 방법 존속기간(예정)만료일 : 20191014 |
순위번호 | 사항 |
---|---|
1 |
(권리자) 한국전자통신연구원 대전광역시 유성구... |
2 |
(의무자) 한국전자통신연구원 대전광역시 유성구... |
2 |
(권리자) 주식회사 한국직업개발원 서울특별시 마포구... |
3 |
(권리자) 주식회사 인트윈 서울특별시 동작구... |
3 |
(의무자) 주식회사 한국직업개발원 서울특별시 마포구... |
제 1 - 3 년분 | 금 액 | 159,000 원 | 2009년 10월 14일 | 납입 |
제 4 년분 | 금 액 | 194,000 원 | 2012년 10월 11일 | 납입 |
제 5 년분 | 금 액 | 128,000 원 | 2013년 09월 23일 | 납입 |
제 6 년분 | 금 액 | 89,600 원 | 2014년 09월 26일 | 납입 |
제 7 년분 | 금 액 | 252,000 원 | 2015년 09월 25일 | 납입 |
제 8 년분 | 금 액 | 259,560 원 | 2016년 11월 01일 | 납입 |
제 9 년분 | 금 액 | 267,120 원 | 2017년 11월 23일 | 납입 |
제 10 년분 | 금 액 | 460,000 원 | 2018년 08월 20일 | 납입 |
번호 | 서류명 | 접수/발송일자 | 처리상태 | 접수/발송번호 |
---|---|---|---|---|
1 | [특허출원]특허출원서 | 2007.12.17 | 수리 (Accepted) | 1-1-2007-0906114-46 |
2 | 선행기술조사의뢰서 | 2008.07.08 | 수리 (Accepted) | 9-1-9999-9999999-89 |
3 | 선행기술조사보고서 | 2008.08.12 | 수리 (Accepted) | 9-1-2008-0052302-79 |
4 | [명세서등 보정]보정서 | 2009.07.20 | 보정승인간주 (Regarded as an acceptance of amendment) | 1-1-2009-0440232-08 |
5 | 의견제출통지서 | 2009.07.29 | 발송처리완료 (Completion of Transmission) | 9-5-2009-0313127-13 |
6 | 출원인정보변경(경정)신고서 | 2009.08.04 | 수리 (Accepted) | 4-1-2009-5150899-36 |
7 | [명세서등 보정]보정서 | 2009.09.14 | 보정승인간주 (Regarded as an acceptance of amendment) | 1-1-2009-0563660-21 |
8 | [거절이유 등 통지에 따른 의견]의견(답변, 소명)서 | 2009.09.14 | 수리 (Accepted) | 1-1-2009-0563661-77 |
9 | 등록결정서 | 2009.10.09 | 발송처리완료 (Completion of Transmission) | 9-5-2009-0418180-07 |
10 | 출원인정보변경(경정)신고서 | 2015.02.02 | 수리 (Accepted) | 4-1-2015-0006137-44 |
기술정보가 없습니다 |
---|
과제고유번호 | 1375000323 |
---|---|
세부과제번호 | 2-07-1205-001-10000-00-001 |
연구과제명 | 디지털크리쳐제작S/W개발 |
성과구분 | 등록 |
부처명 | 문화체육관광부 |
연구관리전문기관명 | 한국문화콘텐츠진흥원 |
연구주관기관명 | 한국전자통신연구원 |
성과제출연도 | 2007 |
연구기간 | 200705~200804 |
기여율 | 0.5 |
연구개발단계명 | 개발연구 |
6T분류명 | CT(문화기술) |
과제고유번호 | 1415099664 |
---|---|
세부과제번호 | KI001732 |
연구과제명 | 디지털크리쳐제작기술개발 |
성과구분 | 등록 |
부처명 | 지식경제부 |
연구관리전문기관명 | 한국산업기술평가관리원 |
연구주관기관명 | 한국전자통신연구원 |
성과제출연도 | 2009 |
연구기간 | 200705~201004 |
기여율 | 0.5 |
연구개발단계명 | 응용연구 |
6T분류명 | IT(정보기술) |
[1020090127714] | 실내외 상황인식 기반의 모바일 혼합현실 콘텐츠 운용 장치 및 방법 | 새창보기 |
---|---|---|
[1020090123342] | 모션 캡쳐 데이터의 포즈 검색 장치 및 방법 | 새창보기 |
[1020090100738] | 카메라 트래킹 시스템, 트래킹 방법 및 이를 이용한 실사영상 합성 시스템 | 새창보기 |
[1020090032205] | 관찰 방향 및 조명을 고려한 피부 질감 렌더링 방법 및 그 장치 | 새창보기 |
[1020090027583] | 서피스 텍스처 매핑 장치 및 그 방법 | 새창보기 |
[1020090026454] | 카메라간 영상 보정 장치 및 방법 | 새창보기 |
[1020090024051] | 멀티코어 멀티스레드 기반의 KLT 특징점 추적 방법 및 그 장치 | 새창보기 |
[1020090023985] | 다중 영상 스트림 녹화 방법 및 그 장치 | 새창보기 |
[1020090023570] | 원격 쉐이딩 기반의 3D스트리밍 장치 및 방법 | 새창보기 |
[1020090021064] | 군중 애니메이션 제작 장치 및 방법 | 새창보기 |
[1020080131662] | 광역 이동을 고려한 실시간 카메라 트래킹 장치 및 방법 | 새창보기 |
[1020080131371] | 동적 압축 장치 및 방법 | 새창보기 |
[1020080131370] | 평행사변형 기반의 무한 호모그래피 산출 방법과 이를 이용한 건물 구조 복원 방법 | 새창보기 |
[1020080131237] | 모션캡쳐 데이터베이스의 구축 방법과 이를 이용한 모션 합성 방법 | 새창보기 |
[1020080130778] | 그래픽 털 운동 생성 방법 및 그 장치 | 새창보기 |
[1020070133674] | 칼만 필터를 이용한 실시간 카메라 움직임 추정시스템에서의 움직임 추정 방법 및 장치 | 새창보기 |
[1020070132360] | 실시간 카메라 트래킹을 이용한 실사 영상 합성 시스템 및 그 방법 | 새창보기 |
[1020070131832] | 디지털 영상 촬영 방법 및 촬영 장치 | 새창보기 |
[1020070131831] | 영상 다면체 구조를 이용한 영상 분할 및 합성 방법 | 새창보기 |
[1020070131821] | 2차원 환경에서 3차원 모델의 텍스쳐 맵 제작 방법 및시스템 | 새창보기 |
[1020070131820] | 올라타기 동작을 이용한 이동 동작 애니메이션 제작 시스템및 방법 | 새창보기 |
[1020070131819] | 군중 시뮬레이션을 위한 인터페이스의 처리 방법 | 새창보기 |
[1020070129392] | 샘플 텍스처 합성에 의한 서피스 텍스처 맵핑 시스템 | 새창보기 |
[1020070082290] | 대규모 가상 군중 동작의 획득 및 편집 방법 및 그 장치 | 새창보기 |
[KST2016020452][한국전자통신연구원] | 공통 홀로그래픽 데이터 포맷 및 부복호화 장치 및 방법(COMMON HOLOGRAPHIC DATA FORMAT AND METHOD AND APPARATUS FOR ENCODING AND DECODING) | 새창보기 |
---|---|---|
[KST2015231084][한국전자통신연구원] | 다시점 텔레프레즌스 서비스 제공 방법 및 장치(MULTIVIEW TELEPRESENCE SERVICE PROVIDING METHOD AND APPARAUS THEREOF) | 새창보기 |
[KST2016015366][한국전자통신연구원] | 3DTV 방송 송수신 장치(APPARATUS AND METHOD FOR TRANSMITTING AND RECEIVING 3DTV BROADCASTING) | 새창보기 |
[KST2016008187][한국전자통신연구원] | RGB-D 영상을 이용한 실감형 증강현실 구현 장치 및 방법(Apparatus and method for implementing immersive augmented reality with RGB-D data) | 새창보기 |
[KST2016009125][한국전자통신연구원] | 동공 간격에 기반하여 입체 영상의 깊이를 설정하는 방법 및 장치(Method and apparatus for setting of depth of 3D images based on pupil spacing) | 새창보기 |
[KST2016015375][한국전자통신연구원] | 다중 입력 영상 보정 장치 및 방법(DEVICE AND METHOD FOR MULTIVIEW IMAGE CALIBRATION) | 새창보기 |
[KST2016017365][한국전자통신연구원] | 계층적 스테레오 정합 방법 및 장치(METHOD AND APPARATUS FOR HIERARCHICAL STEREO MATCHING) | 새창보기 |
[KST2014032296][한국전자통신연구원] | 입체감 조절방법 및 조절장치와 이를 이용한 3D 비디오 인코더 및 3D 단말 | 새창보기 |
[KST2014045338][한국전자통신연구원] | 영상 시스템에서 영상 표시 장치 및 방법 | 새창보기 |
[KST2014045122][한국전자통신연구원] | 방송 신호 수신 방법 | 새창보기 |
[KST2014045083][한국전자통신연구원] | 다이내믹 레인지 삼차원 영상 시스템 | 새창보기 |
[KST2016017359][한국전자통신연구원] | 영상 변환 장치 및 방법(APPARATUS AND METHOD FOR TRANSFORMING IMAGE) | 새창보기 |
[KST2016012949][한국전자통신연구원] | 초다시점 영상 시스템 및 이의 구동방법(Super Multi-View image system and Driving Method Thereof) | 새창보기 |
[KST2016011093][한국전자통신연구원] | 다시점 영상 생성 장치 및 방법(Apparatus and method for making multi-viewpoint image) | 새창보기 |
[KST2014045054][한국전자통신연구원] | 3D 입체감 적응 장치 및 방법 | 새창보기 |
[KST2016011021][한국전자통신연구원] | 3DTV 방송 송수신 장치 및 방법(APPARATUS AND METHOD FOR TRANSMITTING AND RECEIVING 3DTV BROADCASTING) | 새창보기 |
[KST2016016854][한국전자통신연구원] | 전정 재활 운동을 위한 실감 효과 장치 및 방법(APPARATUS AND METHOD FOR PROVIDING SENSORY EFFECT FOR VESTIBULAR REHABILITATION THERAPY) | 새창보기 |
[KST2016006447][한국전자통신연구원] | 스테레오 매칭 방법 및 이를 수행하는 장치(METHOD OF STEREO MATCHING AND APPARATUS FOR PERFORMING THE METHOD) | 새창보기 |
[KST2019002636][한국전자통신연구원] | 혼합현실 콘텐츠를 제공하는 장치 및 방법 | 새창보기 |
[KST2016014379][한국전자통신연구원] | 3D 방송 서비스 제공 방법 및 상기 방법을 수행하는 3D 방송 제공 장치(3D BROADCASTING SERVICE PROVIDER METHOD AND 3D BROADCASTING PROVIDER APPARATUS FOR PERFORMING THE METHOD) | 새창보기 |
[KST2014045877][한국전자통신연구원] | 통신 시스템에서 데이터 송수신 장치 및 방법 | 새창보기 |
[KST2016010691][한국전자통신연구원] | 영상 시점 처리 장치 및 방법(Apparatus and method for processing view-point of image) | 새창보기 |
[KST2016018713][한국전자통신연구원] | 3차원 영상 부호화 및 복호화에 있어서 적응적 병합 후보 선택 장치 및 방법(Apparatus And Method For Adaptably Selecting Merging Candidates In 3 Dimensional Image Encoding And Decoding) | 새창보기 |
[KST2016009030][한국전자통신연구원] | 디지털 홀로그래픽 테이블탑형 디스플레이 장치 및 그 방법(Digital holographic table-top display apparatus and method thereof) | 새창보기 |
[KST2014009859][한국전자통신연구원] | 깊이 정보 기반 스테레오 / 다시점 영상 정합 장치 및 방법 | 새창보기 |
[KST2016006443][한국전자통신연구원] | 깊이 맵 생성 장치 및 방법(APPARATUS AND METHOD FOR GENERATING DEPTH MAP) | 새창보기 |
[KST2019005981][한국전자통신연구원] | 플렌옵틱 영상 생성 방법 및 장치 | 새창보기 |
[KST2014045123][한국전자통신연구원] | 방송 신호 전송 방법 | 새창보기 |
[KST2014045827][한국전자통신연구원] | 디지털 방송 시스템에서 방송 서비스 모니터링 장치 및 방법 | 새창보기 |
[KST2016016332][한국전자통신연구원] | 다시점 실감 콘텐츠 생성 방법 및 그 장치(DEVICE FOR GENERATING MULTI-VIEW IMMERSIVE CONTENTS AND METHOD THEREOF) | 새창보기 |
심판사항 정보가 없습니다 |
---|