맞춤기술찾기

이전대상기술

RGB-D 카메라의 트래킹을 통한 3D 모델의 생성 방법 및 장치

  • 기술번호 : KST2021012201
  • 담당센터 : 인천기술혁신센터
  • 전화번호 : 032-420-3580
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 RGB-D 카메라의 트래킹을 통한 3D 모델의 생성 방법 및 장치가 개시된다. 본 발명의 일실시예에 따른 3D 모델 생성 방법은 RGB-D 카메라로부터 획득한 RGB 영상과 깊이 영상을 식별하는 단계; 상기 깊이 영상 및 상기 RGB 영상의 각 원본 프레임 별 상기 RGB-D 카메라의 초기 카메라 포즈를 지정하는 단계; 상기 깊이 영상 및 상기 RGB 영상에서 시간 순으로 인접하는 두 개의 원본 프레임 중 상기 초기 카메라 위치에 따라 변환된 원본 프레임과 나머지 원본 프레임 간의 차이를 이용하여 상기 초기 카메라 포즈를 업데이트함으로써 각 원본 프레임 별 최종 카메라 포즈를 결정하는 단계; 상기 깊이 영상 및 상기 RGB 영상의 각 원본 프레임에 대응하는 원본 버텍스(Vertex)들 중 모든 버텍스들을 커버할 수 있는 키 버텍스들을 선택하는 단계; 및 상기 깊이 영상 및 상기 RGB 영상의 원본 프레임에서 상기 키 버텍스들에 대응하는 키 프레임들과 상기 키 프레임에 대응하는 최종 카메라 포즈를 이용하여 3D 모델을 생성하는 단계를 포함할 수 있다.
Int. CL G06T 17/20 (2006.01.01) G06T 7/70 (2017.01.01) G06T 7/593 (2017.01.01) G06T 7/90 (2017.01.01) G06T 7/292 (2017.01.01)
CPC G06T 17/20(2013.01) G06T 7/70(2013.01) G06T 7/593(2013.01) G06T 7/90(2013.01) G06T 7/292(2013.01)
출원번호/일자 1020200065244 (2020.05.29)
출원인 이화여자대학교 산학협력단
등록번호/일자 10-2298098-0000 (2021.08.30)
공개번호/일자
공고번호/일자 (20210903) 문서열기
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 등록
심사진행상태 수리
심판사항
구분 국내출원/신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2020.05.29)
심사청구항수 17

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 이화여자대학교 산학협력단 대한민국 서울특별시 서대문구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 김영준 서울특별시 서초구
2 한경민 서울특별시 서대문구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 특허법인 무한 대한민국 서울특별시 강남구 언주로 ***, *층(역삼동,화물재단빌딩)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
1 이화여자대학교 산학협력단 서울특별시 서대문구
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2020.05.29 수리 (Accepted) 1-1-2020-0550361-40
2 선행기술조사의뢰서
Request for Prior Art Search
2020.08.12 수리 (Accepted) 9-1-9999-9999999-89
3 선행기술조사보고서
Report of Prior Art Search
2020.09.08 발송처리완료 (Completion of Transmission) 9-6-2021-0093752-06
4 의견제출통지서
Notification of reason for refusal
2021.05.21 발송처리완료 (Completion of Transmission) 9-5-2021-0402877-96
5 [출원서 등 보정]보정서
[Amendment to Patent Application, etc.] Amendment
2021.05.25 수리 (Accepted) 1-1-2021-0597855-62
6 [출원서 등 보정]보정서
[Amendment to Patent Application, etc.] Amendment
2021.05.26 수리 (Accepted) 1-1-2021-0605401-92
7 [명세서등 보정]보정서
[Amendment to Description, etc.] Amendment
2021.07.20 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2021-0835558-23
8 [거절이유 등 통지에 따른 의견]의견서·답변서·소명서
2021.07.20 수리 (Accepted) 1-1-2021-0835559-79
9 등록결정서
Decision to grant
2021.08.26 발송처리완료 (Completion of Transmission) 9-5-2021-0678647-41
10 [명세서등 보정]보정서(심사관 직권보정)
2021.09.01 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2021-5022273-19
11 [출원서 등 보정]보정서
[Amendment to Patent Application, etc.] Amendment
2021.09.15 수리 (Accepted) 1-1-2021-1067337-15
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
RGB-D 카메라로부터 획득한 RGB 영상과 깊이 영상을 식별하는 단계; 상기 깊이 영상 및 상기 RGB 영상의 각 원본 프레임 별 상기 RGB-D 카메라의 초기 카메라 포즈를 지정하는 단계;상기 깊이 영상 및 상기 RGB 영상에서 시간 순으로 인접하는 두 개의 원본 프레임 중 상기 초기 카메라 포즈에 따라 변환된 원본 프레임과 나머지 원본 프레임 간의 차이를 이용하여 상기 초기 카메라 포즈를 업데이트함으로써 각 원본 프레임 별 최종 카메라 포즈를 결정하는 단계; 상기 깊이 영상 및 상기 RGB 영상의 각 원본 프레임에 대응하는 원본 버텍스(Vertex)들 중 모든 원본 버텍스들을 커버할 수 있는 키 버텍스들을 선택하는 단계; 및상기 깊이 영상 및 상기 RGB 영상의 원본 프레임에서 상기 키 버텍스들에 대응하는 키 프레임들과 상기 키 프레임에 대응하는 최종 카메라 포즈를 이용하여 3D 모델을 생성하는 단계를 포함하고,상기 초기 카메라 포즈에 따라 변환된 원본 프레임과 나머지 원본 프레임 간의 차이는,상기 초기 카메라 포즈에 따라 변환된 현재 원본 프레임에 포함된 3차원 포인트와 이전 원본 프레임에 포함된 3차원 포인트들 각각의 좌표 상 차이를 의미하고, 상기 키 버텍스들을 선택하는 단계는,상기 깊이 영상 및 상기 RGB 영상의 각 원본 프레임에 대응하는 원본 버텍스(Vertex)들 중 상기 깊이 영상 및 상기 RGB 영상의 원본 프레임들 간의 시각적 연관성의 존부를 나타낸 엣지(Edge)들을 통해 상기 모든 원본 버텍스들과 연결될 수 있는 최소한의 원본 버텍스들을 키 버텍스들로 선택하는,3D 모델 생성 방법
2 2
제1항에 있어서,상기 초기 카메라 포즈는,인접하는 두 원본 프레임에서 이전 원본 프레임의 시점부터 현재 원본 프레임의 시점까지 상기 RGB-D 카메라의 위치 및 각도가 변한 정도를 나타내는, 3D 모델 생성 방법
3 3
제1항에 있어서,상기 최종 카메라 포즈를 결정하는 단계는,상기 깊이 영상에서 인접하는 두 개의 원본 프레임 중 상기 초기 카메라 포즈에 따라 변환된 원본 프레임에 포함된 3차원 포인트와 나머지 원본 프레임에 포함된 3차원 포인트 간의 좌표 상 차이를 최소화하도록 상기 초기 카메라 포즈를 수정함으로써 최종 카메라 포즈를 결정하는, 3D 모델 생성 방법
4 4
제1항에 있어서,상기 최종 카메라 포즈를 결정하는 단계는,상기 RGB 영상에서 인접하는 두 개의 원본 프레임 중 상기 초기 카메라 포즈에 따라 변환된 원본 프레임에 포함된 픽셀들과 나머지 원본 프레임에 포함된 픽셀들 간의 픽셀 강도 차이를 최소화하도록 상기 초기 카메라 포즈를 수정함으로써 최종 카메라 포즈를 결정하는, 3D 모델 생성 방법
5 5
삭제
6 6
제1항에 있어서,상기 깊이 영상 및 상기 RGB 영상의 원본 프레임들 중 원본 프레임들 간의 유사도를 고려하여 루프-클로징(loop-closing) 쌍을 이루는 원본 프레임들을 결정하고, 상기 루프-클로징 쌍을 이루는 원본 프레임들의 상대적 카메라 포즈에 기초하여 최종 카메라 포즈를 업데이트하는 단계를 더 포함하는, 3D 모델 생성 방법
7 7
RGB-D 카메라로부터 획득한 RGB 영상과 깊이 영상을 식별하는 단계; 상기 깊이 영상 및 상기 RGB 영상의 원본 프레임 별로 상기 RGB-D 카메라의 초기 카메라 포즈를 지정하는 단계- 상기 초기 카메라 포즈는 이전 원본 프레임의 시점부터 현재 원본 프레임의 시점까지 상기 RGB-D 카메라의 위치 및 각도가 변한 정도를 나타냄;상기 깊이 영상의 인접한 두 원본 프레임들 중 상기 초기 카메라 포즈에 따라 변환된 현재 원본 프레임에 포함된 3차원 포인트와 이전 원본 프레임에 포함된 3차원 포인트를 비교함으로써 두 원본 프레임의 정합에 대한 제1 트위스트(twist)를 결정하는 단계; 상기 RGB 영상의 인접한 두 원본 프레임들 중 상기 초기 카메라 포즈에 따라 변환된 현재 원본 프레임에 포함된 픽셀들과 이전 원본 프레임에 포함된 픽셀들 간의 픽셀 강도 차이를 비교함으로써 픽셀 강도에 대한 제2 트위스트를 결정하는 단계; 상기 제1 트위스트와 제2 트위스트에 기초하여 상기 깊이 영상 및 상기 RGB 영상의 원본 프레임 별 최종 카메라 포즈를 결정하는 단계; 상기 깊이 영상 및 상기 RGB 영상의 각 원본 프레임에 대응하는 원본 버텍스(Vertex)들 중 상기 깊이 영상 및 상기 RGB 영상의 원본 프레임들 간의 시각적 연관성의 존부를 나타낸 엣지(Edge)들을 통해 모든 원본 버텍스들과 연결될 수 있는 최소한의 원본 버텍스들을 키 버텍스들로 선택하는 단계; 및상기 깊이 영상 및 상기 RGB 영상의 원본 프레임에서 상기 키 버텍스들에 대응하는 키 프레임들과 상기 키 프레임에 대응하는 최종 카메라 포즈를 이용하여 3D 모델을 생성하는 단계를 포함하는 3D 모델 생성 방법
8 8
제7항에 있어서,상기 제1 트위스트를 결정하는 단계는,상기 초기 카메라 포즈에 따라 변환된 상기 깊이 영상의 원본 프레임의 3차원 포인트들과 상기 깊이 영상의 이전 원본 프레임의 3차원 포인트들 간의 좌표 상 차이가 최소화되도록 제1 트위스트를 업데이트하는, 3D 모델 생성 방법
9 9
제7항에 있어서,상기 제2 트위스트를 결정하는 단계는,상기 초기 카메라 포즈에 따라 변환된 상기 RGB 영상의 원본 프레임의 픽셀들과 상기 RGB 영상의 이전 원본 프레임의 픽셀들 간의 픽셀 강도 차이가 최소화되도록 제2 트위스트를 업데이트하는, 3D 모델 생성 방법
10 10
제7항에 있어서,상기 키 버텍스들이 상기 엣지를 통해 서로 연결되지 않는 경우, 상기 원본 버텍스들 중 상기 키 버텍스들이 상기 엣지를 통해 연결되게 하는 브릿징(bridging) 버텍스들을 결정하는 단계를 더 포함하고,상기 3D 모델을 생성하는 단계는,상기 깊이 영상 및 상기 RGB 영상의 원본 프레임에서 상기 키 버텍스 및 상기 브릿징 버텍스들에 대응하는 키 프레임들과 상기 키 프레임에 대응하는 최종 카메라 포즈를 이용하여 3D 모델을 생성하는, 3D 모델 생성 방법
11 11
제7항에 있어서,상기 깊이 영상 및 상기 RGB 영상의 원본 프레임들 중 원본 프레임들 간의 유사도를 고려하여 루프-클로징(loop-closing) 쌍을 이루는 원본 프레임들을 결정하고, 상기 루프-클로징 쌍을 이루는 원본 프레임들의 상대적 카메라 포즈에 기초하여 최종 카메라 포즈를 업데이트하는 단계를 더 포함하는 3D 모델 생성 방법
12 12
제1항 내지 제4항 및 제6항 내지 제11항 중 어느 한 항의 방법을 실행하기 위한 프로그램이 기록된 컴퓨터에서 판독 가능한 기록 매체
13 13
3D 모델 생성 장치는 프로세서를 포함하고,상기 프로세서는,RGB-D 카메라로부터 획득한 RGB 영상과 깊이 영상을 식별하고, 상기 깊이 영상 및 상기 RGB 영상의 각 원본 프레임 별 상기 RGB-D 카메라의 초기 카메라 포즈를 지정하고, 상기 깊이 영상 및 상기 RGB 영상에서 시간 순으로 인접하는 두 개의 원본 프레임 중 상기 초기 카메라 포즈에 따라 변환된 원본 프레임과 나머지 원본 프레임 간의 차이를 이용하여 상기 초기 카메라 포즈를 업데이트함으로써 각 원본 프레임 별 최종 카메라 포즈를 결정하고, 상기 깊이 영상 및 상기 RGB 영상의 각 원본 프레임에 대응하는 원본 버텍스(Vertex)들 중 모든 원본 버텍스들을 커버할 수 있는 키 버텍스들을 선택하고, 상기 깊이 영상 및 상기 RGB 영상의 원본 프레임에서 상기 키 버텍스들에 대응하는 키 프레임들과 상기 키 프레임에 대응하는 최종 카메라 포즈를 이용하여 3D 모델을 생성하고,상기 초기 카메라 포즈에 따라 변환된 원본 프레임과 나머지 원본 프레임 간의 차이는,상기 초기 카메라 포즈에 따라 변환된 현재 원본 프레임에 포함된 3차원 포인트와 이전 원본 프레임에 포함된 3차원 포인트들 각각의 좌표 상 차이를 의미하고,상기 프로세서는,상기 깊이 영상 및 상기 RGB 영상의 각 원본 프레임에 대응하는 원본 버텍스(Vertex)들 중 상기 깊이 영상 및 상기 RGB 영상의 원본 프레임들 간의 시각적 연관성의 존부를 나타낸 엣지(Edge)들을 통해 상기 원본 버텍스들과 연결될 수 있는 최소한의 원본 버텍스들을 키 버텍스들로 선택하는,3D 모델 생성 장치
14 14
제13항에 있어서,상기 프로세서는,상기 깊이 영상에서 인접하는 두 개의 원본 프레임 중 상기 초기 카메라 포즈에 따라 변환된 원본 프레임에 포함된 3차원 포인트와 나머지 원본 프레임에 포함된 3차원 포인트 간의 좌표 상 차이를 최소화하도록 상기 초기 카메라 포즈를 수정함으로써 최종 카메라 포즈를 결정하는, 3D 모델 생성 장치
15 15
제13항에 있어서,상기 프로세서는,상기 RGB 영상에서 인접하는 두 개의 원본 프레임 중 상기 초기 카메라 포즈에 따라 변환된 원본 프레임에 포함된 픽셀들과 나머지 원본 프레임에 포함된 픽셀들 간의 픽셀 강도 차이를 최소화하도록 상기 초기 카메라 포즈를 수정함으로써 최종 카메라 포즈를 결정하는, 3D 모델 생성 장치
16 16
삭제
17 17
3D 모델 생성 장치는 프로세서를 포함하고,상기 프로세서는,RGB-D 카메라로부터 획득한 RGB 영상과 깊이 영상을 식별하고, 상기 깊이 영상 및 상기 RGB 영상의 원본 프레임 별로 상기 RGB-D 카메라의 초기 카메라 포즈를 지정하고, 상기 깊이 영상의 인접한 두 원본 프레임들 중 상기 초기 카메라 포즈에 따라 변환된 현재 원본 프레임에 포함된 3차원 포인트와 이전 원본 프레임에 포함된 3차원 포인트를 비교함으로써 두 원본 프레임의 정합에 대한 제1 트위스트(twist)를 결정하고, 상기 RGB 영상의 인접한 두 원본 프레임들 중 상기 초기 카메라 포즈에 따라 변환된 현재 원본 프레임에 포함된 픽셀들과 이전 원본 프레임에 포함된 픽셀들 간의 픽셀 강도 차이를 비교함으로써 픽셀 강도에 대한 제2 트위스트를 결정하고, 상기 제1 트위스트와 제2 트위스트에 기초하여 상기 깊이 영상 및 상기 RGB 영상의 원본 프레임 별 최종 카메라 포즈를 결정하고, 상기 깊이 영상 및 상기 RGB 영상의 각 원본 프레임에 대응하는 원본 버텍스(Vertex)들 중 상기 깊이 영상 및 상기 RGB 영상의 원본 프레임들 간의 시각적 연관성의 존부를 나타낸 엣지(Edge)들을 통해 상기 원본 버텍스들과 연결될 수 있는 최소한의 원본 버텍스들을 키 버텍스들로 선택하고, 상기 깊이 영상 및 상기 RGB 영상의 원본 프레임에서 상기 키 버텍스들에 대응하는 키 프레임들과 상기 키 프레임에 대응하는 최종 카메라 포즈를 이용하여 3D 모델을 생성하고,상기 초기 카메라 포즈는 이전 원본 프레임의 시점부터 현재 원본 프레임의 시점까지 상기 RGB-D 카메라의 위치 및 각도가 변한 정도를 나타내는,3D 모델 생성 장치
18 18
제17항에 있어서,상기 프로세서는,상기 키 버텍스들이 상기 엣지를 통해 서로 연결되지 않는 경우, 상기 원본 버텍스들 중 상기 키 버텍스들이 상기 엣지를 통해 연결되게 하는 브릿징(bridging) 버텍스들을 결정하고, 상기 깊이 영상 및 상기 RGB 영상의 원본 프레임에서 상기 키 버텍스 및 상기 브릿징 버텍스들에 대응하는 키 프레임들과 상기 키 프레임에 대응하는 최종 카메라 포즈를 이용하여 3D 모델을 생성하는, 3D 모델 생성 장치
19 19
제17항에 있어서,상기 프로세서는,상기 깊이 영상 및 상기 RGB 영상의 원본 프레임들 중 원본 프레임들 간의 유사도를 고려하여 루프-클로징(loop-closing) 쌍을 이루는 원본 프레임들을 결정하고, 상기 루프-클로징 쌍을 이루는 원본 프레임들의 상대적 카메라 포즈에 기초하여 최종 카메라 포즈를 업데이트하는, 3D 모델 생성 장치
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 과학기술정보통신부 이화여자대학교 개인기초연구(과기정통부)(R&D) 거대 캔버스를 지원하는 VR기반 3D 볼륨 페인팅 시스템
2 교육부 이화여자대학교 이공학학술연구기반구축(R&D) 대규모 동적 환경에서의 영상기반 로봇 위치인식 및 지도작성 연구
3 과학기술정보통신부 이화여자대학교산학협력단 정보통신방송혁신인재양성(R&D) Simulated Reality 콘텐츠 구현을 위한 핵심기술 연구 및 인력양성