맞춤기술찾기

이전대상기술

RGB-D 영상 기반 사람 영역 추출 장치 및 그 방법(Apparatus and method for extracting person domain based on RGB-Depth image)

  • 기술번호 : KST2017005727
  • 담당센터 : 대전기술혁신센터
  • 전화번호 : 042-610-2279
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 본 발명은 RGB-D(Red/Green/Blue-Depth) 디바이스를 사용하여 공간과 객체의 깊이 정보를 바탕으로 객체 인식을 하는 관련기술에 있어서 사람을 정확하게 배경에서 분리하기 위한 RGB-D 영상 기반 사람 영역 추출장치 및 방법에 관한 것으로서, 상기 장치는, 입력되는 RGB 영상과 깊이 영상을 정합하여 정합된 RGB-D 영상데이터를 출력하는 데이터 입력부; 상기 데이터 입력부로부터 출력되는 정합된 RGB-D 영상 데이터로부터 배경 이미지를 제거하고, 배경 이미지가 제거된 영상으로부터 사람의 대략적인 영역과 상기 영역에 기 설정된 3차원 사람 모델을 적용시켜 관심 영역을 추출하는 관심 영역 추출부; 상기 관심 영역 추출부에서 추출된 관심 영역에 대하여 정합된 RGB-D 영상 데이터의 유사도를 분석하여 깊이 영상을 보정하는 깊이 정보 보정부; 및 상기 깊이 정보 보정부에서 보정된 깊이 영상으로부터 사람영역을 추출하는 사람 영역 추출부를 포함한다.
Int. CL G06K 9/00 (2006.01.01) G06K 9/32 (2006.01.01) G06K 9/62 (2006.01.01)
CPC G06K 9/00369(2013.01) G06K 9/00369(2013.01) G06K 9/00369(2013.01) G06K 9/00369(2013.01)
출원번호/일자 1020150125417 (2015.09.04)
출원인 한국전자통신연구원
등록번호/일자
공개번호/일자 10-2017-0028605 (2017.03.14) 문서열기
공고번호/일자 문서열기
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 등록
심사진행상태 수리
심판사항
구분 신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2017.08.03)
심사청구항수 18

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 한국전자통신연구원 대한민국 대전광역시 유성구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 정성욱 대한민국 대전광역시 유성구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 특허법인지명 대한민국 서울특별시 강남구 남부순환로**** 차우빌딩*층

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
1 한국전자통신연구원 대전광역시 유성구
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2015.09.04 수리 (Accepted) 1-1-2015-0861739-48
2 [심사청구]심사청구(우선심사신청)서
[Request for Examination] Request for Examination (Request for Preferential Examination)
2017.08.03 수리 (Accepted) 1-1-2017-0749772-19
3 선행기술조사의뢰서
Request for Prior Art Search
2018.02.06 수리 (Accepted) 9-1-9999-9999999-89
4 선행기술조사보고서
Report of Prior Art Search
2018.03.28 수리 (Accepted) 9-1-2018-0012752-19
5 의견제출통지서
Notification of reason for refusal
2018.06.07 발송처리완료 (Completion of Transmission) 9-5-2018-0387834-42
6 [명세서등 보정]보정서
[Amendment to Description, etc.] Amendment
2018.07.31 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2018-0758743-41
7 등록결정서
Decision to grant
2018.12.26 발송처리완료 (Completion of Transmission) 9-5-2018-0886766-51
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
입력되는 RGB 영상과 깊이 영상을 정합하여 정합된 RGB-D 영상데이터를 출력하는 데이터 입력부; 상기 데이터 입력부로부터 출력되는 정합된 RGB-D 영상 데이터로부터 배경 이미지를 제거하고, 배경 이미지가 제거된 영상으로부터 사람영역을 추출하기 위한 후보영역과 상기 후보영역에 기 설정된 3차원 사람 모델을 적용시켜 관심 영역을 추출하는 관심 영역 추출부; 상기 관심 영역 추출부에서 추출된 관심 영역에 대하여 정합된 RGB-D 영상 데이터의 유사도를 분석하여 깊이 영상을 보정하는 깊이 정보 보정부; 및 상기 깊이 정보 보정부에서 보정된 깊이 영상으로부터 사람영역을 추출하는 사람 영역 추출부를 포함하고, 상기 깊이 정보 보정부는, 상기 정합된 RGB 칼라 영상과 깊이 영상 데이터중 깊이 영상 데이터와 대응되는 RGB 영상데이터를 관심 영역 패치로 분할하고, 상기 분할된 각각의 관심 영역 패치에 대해서 영상 템플릿 유사도를 비교하여, 패치별 깊이 데이터를 보완하며, 상기 처리된 각각의 패치들을 통합하며, 통합된 패치들에 대하여 데이터 노이즈를 제거하기 위해서 패치 가장자리부분을 가우시안 필터링(Gaussian Filtering)과 같은 후처리를 수행하여 깊이 데이터를 보정하는 것인 RGB-D 영상 기반 사람 영역 추출 장치
2 2
제1항에 있어서, 상기 데이터 입력부는, RGB 영상과 깊이 영상이 각각 입력되면, 카메라 내부 파라미터가 존재하는지 판단하고, 판단 결과, 두 카메라의 내부 파라미터(Intrinsic parameter)가 존재하는 경우, 상기 두 영상간 동일점을 추출하여 추출된 동일점의 매칭을 통한 영상 매칭 관계를 계산한 후, 계산된 매칭 관계에 따라 영상을 동기화시키는 것인 RGB-D 영상 기반 사람 영역 추출 장치
3 3
제2항에 있어서, 상기 데이터 입력부에서의 영상 동기화는, 카메라의 내부 파라미터의 존재 여부에 따른 결과로서 두 영상간의 대응되는 점의 위치를 계산하고, 두 영상중 해상도가 적은 영상을 기준으로 같은 크기를 가지고 대응하는 픽셀이 같은 위치에 존재하는 칼라 영상과 깊이 데이터를 동기화시키는 것인 RGB-D 영상 기반 사람 영역 추출 장치
4 4
제2항에 있어서, 상기 데이터 입력부는, 상기 판단 결과, 카메라의 내부 파라미터가 존재하지 않는 경우, RGB 영상과 깊이 영상간 동일점을 추출하고, 추출된 동일점의 매칭을 통한 영상 매칭관계를 계산하여 계산된 매칭 관계에 따라 2D 호모그래피 행렬(Homography Matrix)을 계산한 후 영상을 동기화하는 것인 RGB-D 영상 기반 사람 영역 추출장치
5 5
제1항에 있어서, 상기 관심 영역 추출부는, 상기 데이터 입력부를 통해 정합된 RGB-D 영상 데이터의 각 프레임간 영상의 모션 정보를 이용하여 정합된 RGB 영상과 깊이 영상으로부터 배경을 제거하고, 배경이 제거된 포그라운드 영상에 대해서 각각의 윤곽선을 계산하여 그룹핑한 후, 윤곽선으로 이루어진 데이터를 x, y 축으로 프로젝션시켜 바운딩 박스로 영역을 지정하며, 지정된 바운딩 박스 영역에서 스켈레톤 정보를 추출하여 관심 영역을 추출하는 것인 RGB-D 영상 기반 사람 영역 추출 장치
6 6
제5항에 있어서, 상기 관심 영역 추출부는, 상기 추출된 스켈레톤 3차원 위치에 기 모델링된 3차원 원통형 모델을 정합시켜 정합된 3차원 원통형 모델의 영역이 사람이 있을 것으로 추측되는 관심영역으로 추출하는 것인 RGB-D 영상 기반 사람 영역 추출 장치
7 7
삭제
8 8
제1항에 있어서, 상기 깊이 정보 보정부에서의 영상 템플릿 유사도를 비교는, Anat Levin의 colorization 방법을 이용하는 것인 RGB-D 영상 기반 사람 영역 추출 장치
9 9
제1항에 있어서, 상기 사람 영역 추출부는, 깊이 데이터가 보정된 RGB-D 영상 데이가 입력되면, 3차원 거리 기반으로 상기 관심 영역 추출부에서 추출된 관심 영역을 그룹핑하고, 유효한 그룹을 찾기 위해서 스켈레톤 정보를 이용해서 유효하지 않은 그룹들을 제거한 후, 상기 그룹핑된 깊이 데이터 값과 대응되는 칼라 영상의 픽셀을 추출하며, 상기 추출된 RGB 픽셀을 이용하여 원본 영상에서 사람에 대한 RGB 영역을 추출하는 것인 RGB-D 영상 기반 사람 영역 추출 장치
10 10
제9항에 있어서, 상기 사람 영역 추출부에서, 관심 영역 그룹핑은 K-mean 클러스터링(Clustering) 방법을 이용하여 그룹핑하는 것인 RGB-D 영상 기반 사람 영역 추출 장치
11 11
입력되는 RGB 영상과 깊이 영상을 RGB-D 영상 데이터로 정합하는 단계; 상기 정합된 RGB-D 영상 데이터로부터 배경 이미지를 제거하고, 배경 이미지가 제거된 영상으로부터 사람영역을 추출하기 위한 후보영역과 상기 후보영역에 기 설정된 3차원 사람 모델을 적용시켜 관심 영역을 추출하는 단계; 상기 추출된 관심 영역에 대하여 정합된 RGB-D 영상 데이터의 유사도를 분석하여 깊이 영상을 보정하는 단계; 및상기 보정된 깊이 영상으로부터 사람영역을 추출하는 사람 영역 추출부를 포함하고, 상기 깊이 영상을 보정하는 단계는, 상기 정합된 RGB 칼라 영상과 깊이 영상 데이터 중 깊이 영상 데이터와 대응되는 RGB 영상데이터를 관심 영역 패치로 분할하는 단계; 상기 분할된 각각의 관심 영역 패치에 대해서 영상 템플릿 유사도를 비교하는 단계; 상기 패치별 깊이 데이터를 보완하여, 상기 처리된 각각의 패치들을 통합하는 단계; 및상기 통합된 패치들에 대하여 데이터 노이즈를 제거하기 위해서 패치 가장자리부분을 가우시안 필터링(Gaussian Filtering)과 같은 후처리를 수행하여 깊이 데이터를 보정하는 단계를 포함하는 것인 RGB-D 영상 기반 사람 영역 추출 방법
12 12
제11항에 있어서, 상기 정합하는 단계는, RGB 영상과 깊이 영상이 각각 입력되면, 카메라 내부 파라미터가 존재하는지 판단하는 단계; 판단 결과, 두 카메라의 내부 파라미터(Intrinsic parameter)가 존재하는 경우, 상기 두 영상간 동일점을 추출하여 추출된 동일점의 매칭을 통한 영상 매칭 관계를 계산하는 단계; 및상기 계산된 매칭 관계에 따라 영상을 동기화시켜 정합하는 단계를 포함하는 것인 RGB-D 영상 기반 사람 영역 추출 방법
13 13
제12항에 있어서, 상기 영상을 동기화시켜 정합하는 단계는, 카메라의 내부 파라미터의 존재 여부에 따라 두 영상간의 대응되는 점의 위치를 계산하는 단계; 두 영상중 해상도가 적은 영상을 기준으로 같은 크기를 가지고 대응하는 픽셀이 같은 위치에 존재하는 칼라 영상과 깊이 데이터를 동기화시키는 단계를 포함하는 것인 RGB-D 영상 기반 사람 영역 추출 방법
14 14
제12항에 있어서, 상기 카메라 내부 파라미터가 존재하는지 판단하는 단계에서, 카메라의 내부 파라미터가 존재하지 않는 경우, RGB 영상과 깊이 영상간 동일점을 추출하는 단계; 상기 추출된 동일점의 매칭을 통한 영상 매칭관계를 계산하여 계산된 매칭 관계에 따라 2D 호모그래피 행렬(Homography Matrix)을 계산한 후 영상을 동기화하는 단계를 더 포함하는 것인 RGB-D 영상 기반 사람 영역 추출 방법
15 15
제11항에 있어서, 상기 관심 영역을 추출하는 단계는, 상기 정합된 RGB-D 영상 데이터의 각 프레임간 영상의 모션 정보를 이용하여 정합된 RGB 영상과 깊이 영상으로부터 배경을 제거하는 단계; 상기 배경이 제거된 포그라운드 영상에 대해서 각각의 윤곽선을 계산하여 그룹핑하는 단계; 상기 그룹핑된 윤곽선에 대한 데이터를 x, y 축으로 프로젝션시켜 바운딩 박스로 영역을 지정하는 단계; 및상기 지정된 바운딩 박스 영역에서 스켈레톤 정보를 추출하여 관심 영역을 추출하는 단계를 포함하는 것인 RGB-D 영상 기반 사람 영역 추출 방법
16 16
제15항에 있어서, 상기 관심 영역을 추출하는 단계는, 상기 추출된 스켈레톤 3차원 위치에 기 모델링된 3차원 원통형 모델을 정합시켜 정합된 3차원 원통형 모델의 영역이 사람이 있을 것으로 추측되는 관심영역으로 추출하는 것인 RGB-D 영상 기반 사람 영역 추출 방법
17 17
삭제
18 18
제11항에 있어서, 상기 영상 템플릿 유사도를 비교하는 단계에서, 영상 템플릿 유사도 비교는 Anat Levin의 colorization 방법을 이용하는 것인 RGB-D 영상 기반 사람 영역 추출 방법
19 19
제11항에 있어서, 상기 사람 영역을 추출하는 단계는, 깊이 데이터가 보정된 RGB-D 영상 데이터가 입력되면, 3차원 거리 기반으로 상기 관심 영역 추출부에서 추출된 관심 영역을 그룹핑하는 단계; 유효한 그룹을 찾기 위해서 스켈레톤 정보를 이용해서 유효하지 않은 그룹들을 제거하는 단계; 상기 그룹핑된 깊이 데이터 값과 대응되는 칼라 영상의 픽셀을 추출하는 단계; 상기 추출된 RGB 픽셀을 이용하여 원본 영상에서 사람에 대한 RGB 영역을 추출하는 단계를 포함하는 것인 RGB-D 영상 기반 사람 영역 추출 방법
20 20
제19항에 있어서, 상기 관심 영역 그룹핑은 K-mean 클러스터링(Clustering) 방법을 이용하여 그룹핑하는 것인 RGB-D 영상 기반 사람 영역 추출 방법
지정국 정보가 없습니다
순번, 패밀리번호, 국가코드, 국가명, 종류의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 패밀리정보 - 패밀리정보 표입니다.
순번 패밀리번호 국가코드 국가명 종류
1 US20170069071 US 미국 FAMILY

DOCDB 패밀리 정보

순번, 패밀리번호, 국가코드, 국가명, 종류의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 패밀리정보 - DOCDB 패밀리 정보 표입니다.
순번 패밀리번호 국가코드 국가명 종류
1 US2017069071 US 미국 DOCDBFAMILY
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 미래창조과학부 ETRI 디지털콘텐츠원천기술개발사업 참여형 양방향 콘텐츠 및 협력 학습환경 기반 학습자 맞춤형 상호작용 창의학습 튜터링 기술