맞춤기술찾기

이전대상기술

캐릭터 위치 및 사물 위치를 반영한 증강현실 대화 시스템 및 방법

  • 기술번호 : KST2019013728
  • 담당센터 : 대전기술혁신센터
  • 전화번호 : 042-610-2279
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 본 발명은 증강현실에 인공지능 캐릭터를 합성하여 디스플레이하는 증강현실 대화 시스템 및 방법에 관한 것으로, 더욱 상세하게는 캐릭터의 위치와 카메라를 통해 촬영되는 현실의 사물 위치를 반영하여 캐릭터를 합성한 증강현실 영상을 디스플레이하고, 이에 따른 오디오 처리 및 대화를 수행할 수 있도록 하는 캐릭터 위치 및 사물 위치를 반영한 증강현실 대화 시스템 및 방법에 관한 것이다.
Int. CL G06T 19/00 (2011.01.01) G06T 13/40 (2011.01.01) G10L 13/08 (2006.01.01) G01S 19/14 (2010.01.01) G01S 17/08 (2006.01.01) G01S 15/08 (2006.01.01) H04W 4/02 (2018.01.01)
CPC G06T 19/006(2013.01) G06T 19/006(2013.01) G06T 19/006(2013.01) G06T 19/006(2013.01) G06T 19/006(2013.01) G06T 19/006(2013.01) G06T 19/006(2013.01)
출원번호/일자 1020180028497 (2018.03.12)
출원인 순천향대학교 산학협력단
등록번호/일자 10-1983496-0000 (2019.05.22)
공개번호/일자
공고번호/일자 (20190528) 문서열기
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 등록
심사진행상태 수리
심판사항
구분 신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2018.03.12)
심사청구항수 12

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 순천향대학교 산학협력단 대한민국 충청남도 아산시

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 정영섭 충청남도 아산시

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 특허법인현 대한민국 서울특별시 구로구 디지털로**길 ** ***호(구로동, 삼성아이티밸리)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
1 순천향대학교 산학협력단 대한민국 충청남도 아산시
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2018.03.12 수리 (Accepted) 1-1-2018-0243887-72
2 [대리인선임]대리인(대표자)에 관한 신고서
[Appointment of Agent] Report on Agent (Representative)
2018.08.23 수리 (Accepted) 1-1-2018-0837777-79
3 [우선심사신청]심사청구(우선심사신청)서
[Request for Preferential Examination] Request for Examination (Request for Preferential Examination)
2018.08.23 수리 (Accepted) 1-1-2018-0837808-07
4 [우선심사신청]선행기술조사의뢰서
[Request for Preferential Examination] Request for Prior Art Search
2018.08.28 수리 (Accepted) 9-1-9999-9999999-89
5 [우선심사신청]선행기술조사보고서
[Request for Preferential Examination] Report of Prior Art Search
2018.09.03 수리 (Accepted) 9-1-2018-0044603-19
6 의견제출통지서
Notification of reason for refusal
2019.01.04 발송처리완료 (Completion of Transmission) 9-5-2019-0011804-55
7 [거절이유 등 통지에 따른 의견]의견(답변, 소명)서
[Opinion according to the Notification of Reasons for Refusal] Written Opinion(Written Reply, Written Substantiation)
2019.02.28 수리 (Accepted) 1-1-2019-0210636-02
8 [명세서등 보정]보정서
[Amendment to Description, etc.] Amendment
2019.02.28 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2019-0210637-47
9 등록결정서
Decision to grant
2019.05.17 발송처리완료 (Completion of Transmission) 9-5-2019-0354049-90
10 출원인정보변경(경정)신고서
Notification of change of applicant's information
2020.11.11 수리 (Accepted) 4-1-2020-5248644-91
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
렌즈의 화각에 들어오는 화상을 촬영하여 현실 영상을 출력하는 카메라;증강현실 영상을 디스플레이하는 디스플레이부;음성데이터를 스피커를 통해 가청음으로 출력하고, 마이크를 통해 입력되는 가청음을 음성데이터로 변환하여 출력하는 오디오 처리부;현재의 위치를 측정하기 위한 위치정보를 수신하여 출력하는 위치추적부;방향을 포함하는 자세를 측정하여 자세정보를 출력하는 자세 측정부;적어도 하나 이상의 캐릭터에 대한 영상정보 및 증강현실 시나리오를 저장하는 저장부; 및상기 위치정보로부터 현재 위치를 계산하고, 상기 위치 추적부에서 출력되는 현재 위치를 반영하여 상기 카메라를 통해 획득되는 현실 영상에 포함된 사물들의 위치를 분석하고, 분석된 사물의 위치 및 상기 방향을 포함하는 자세에 따라 사용자가 선택한 시나리오에 따른 캐릭터의 위치인 캐릭터 위치를 결정하고, 상기 현실 영상에 상기 결정된 캐릭터의 위치를 합성한 증강현실 영상을 생성하여 상기 디스플레이부에 표시한 후, 상기 시나리오에 따른 음성데이터 및 상기 오디오 처리부를 통해 입력되는 음성데이터에 대응하는 응답 음성데이터를 상기 캐릭터의 위치에 대응하는 오디오 처리를 수행한 후 상기 오디오 처리부의 스피커를 통해 출력하는 제어부를 포함하되,상기 자세 측정부는,상기 카메라의 렌즈가 향하는 방향에 대응하는 방향을 특정하여 출력하는 방향 측정부; 및중력 방향을 기준으로 한 기울기를 측정하여 출력하는 기울기 측정부를 포함하되,상기 제어부는,상기 캐릭터의 위치 결정 시 방향 및 기울기를 동시에 반영하여 캐릭터의 위치를 결정하고,상기 위치 추적부는,다수의 GPS 위성들 중 적어도 셋 이상의 GPS 위성으로부터 상기 위치정보인 위치데이터를 수신하여 출력하는 GPS 모듈; 및주변에 설치된 적어도 하나 이상의 기지국으로부터 무선통신신호를 수신하여 상기 위치정보인 상기 기지국의 위치정보 및 상기 무선통신신호의 수신신호전계강도를 상기 제어부로 출력하는 통신부 중 적어도 하나 이상을 포함하며, 상기 통신부는,이동통신망의 기지국으로부터 수신되는 이동통신망 기지국의 위치정보 및 상기 무선통신신호인 이동통신신호의 수신신호전계강도를 출력하는 제1무선통신부; 및와이파이망의 액세스 포인트로부터 수신되는 상기 액세스 포인트의 위치정보 및 상기 무선통신신호인 와이파이망 액세스 포인트 신호를 출력하는 제2무선통신부 중 적어도 어느 하나 이상을 포함하는 것을 특징으로 하는 캐릭터 위치 및 사물 위치를 반영한 증강현실 대화 시스템
2 2
렌즈의 화각에 들어오는 화상을 촬영하여 현실 영상을 출력하는 카메라;증강현실 영상을 디스플레이하는 디스플레이부;음성데이터를 스피커를 통해 가청음으로 출력하고, 마이크를 통해 입력되는 가청음을 음성데이터로 변환하여 출력하는 오디오 처리부;현재의 위치를 측정하기 위한 위치정보를 수신하여 출력하는 위치추적부;방향을 포함하는 자세를 측정하여 자세정보를 출력하는 자세 측정부;적어도 하나 이상의 캐릭터에 대한 영상정보 및 증강현실 시나리오를 저장하는 저장부; 및상기 위치정보로부터 현재 위치를 계산하고, 상기 위치 추적부에서 출력되는 현재 위치를 반영하여 상기 카메라를 통해 획득되는 현실 영상에 포함된 사물들의 위치를 분석하고, 분석된 사물의 위치 및 상기 방향을 포함하는 자세에 따라 사용자가 선택한 시나리오에 따른 캐릭터의 위치인 캐릭터 위치를 결정하고, 상기 현실 영상에 상기 결정된 캐릭터의 위치를 합성한 증강현실 영상을 생성하여 상기 디스플레이부에 표시한 후, 상기 시나리오에 따른 음성데이터 및 상기 오디오 처리부를 통해 입력되는 음성데이터에 대응하는 응답 음성데이터를 상기 캐릭터의 위치에 대응하는 오디오 처리를 수행한 후 상기 오디오 처리부의 스피커를 통해 출력하는 제어부를 포함하되,상기 자세 측정부는,상기 카메라의 렌즈가 향하는 방향에 대응하는 방향을 특정하여 출력하는 방향 측정부; 및중력 방향을 기준으로 한 기울기를 측정하여 출력하는 기울기 측정부를 포함하되,상기 제어부는,상기 캐릭터의 위치 결정 시 방향 및 기울기를 동시에 반영하여 캐릭터의 위치를 결정하고,상기 제어부는,디스플레이부에 상기 저장부에 저장되어 있는 증강현실 시나리오들 중 하나 및 캐릭터들 중 하나를 선택할 수 있는 시나리오 및 캐릭터 선택 사용자 인터페이스 수단을 제공하여 임의의 시나리오 및 캐릭터를 선택받아 설정하는 서비스 선택부;상기 위치정보로부터 현재 위치를 계산하고, 상기 카메라를 통해 획득되는 현실 영상을 상기 위치 추적부에서 출력되는 현재 위치를 반영하여 사물들의 위치를 분석하고, 분석된 사물의 위치 및 상기 방향을 포함하는 자세에 따라 사용자가 선택한 시나리오에 따른 캐릭터의 위치인 캐릭터 위치를 추적하는 캐릭터 위치 추적부;마이크를 통해 입력되는 음성신호에 대한 음성데이터를 상기 오디오 처리부로부터 입력받아 음성인식을 수행하여 음성 인식된 사용자 음성에 대한 텍스트 데이터를 출력하는 음성인식부;상기 음성인식부를 통해 입력된 텍스트 데이터에 대응하는 응답 음성데이터를 찾아 오디오 처리부에서 추적된 상기 캐릭터 위치를 반영한 오디오 처리를 수행한 후 스피커를 통해 음성으로 출력하는 대화 처리부;상기 선택된 캐릭터를 상기 추적된 캐릭터 위치에 따른 캐릭터 영상을 생성하여 출력하는 가상캐릭터 영상 생성부; 및상기 현실 영상에 상기 캐릭터 영상을 합성하여 증강현실 영상을 생성한 후 상기 디스플레이부에 표시하는 증강현실 영상획득부를 포함하는 것을 특징으로 하는 캐릭터 위치 및 사물 위치를 반영한 증강현실 대화 시스템
3 3
삭제
4 4
삭제
5 5
제2항에 있어서,상기 현실 영상에 포함된 사물들의 거리를 측정하는 거리 측정부를 더 포함하되,상기 제어부는,상기 거리측정부에 의해 측정되는 거리를 반영하여 상기 사물의 위치를 결정하는 것을 특징으로 하는 캐릭터 위치 및 사물 위치를 반영한 증강현실 대화 시스템
6 6
제5항에 있어서,상기 거리 측정부는,적외선 거리 측정기 및 초음파 거리 측정기 중 어느 하나 이상을 포함하는 것을 특징으로 하는 캐릭터 위치 및 사물 위치를 반영한 증강현실 대화 시스템
7 7
삭제
8 8
제2항에 있어서,상기 위치 추적부는,다수의 GPS 위성들 중 적어도 셋 이상의 GPS 위성으로부터 상기 위치정보인 위치데이터를 수신하여 출력하는 GPS 모듈; 및주변에 설치된 적어도 하나 이상의 기지국으로부터 무선통신신호를 수신하여 상기 위치정보인 상기 기지국의 위치정보 및 상기 무선통신신호의 수신신호전계강도를 상기 제어부로 출력하는 통신부를 포함하고,상기 캐릭터 위치 추적부는,상기 GPS 모듈로부터 입력되는 적어도 셋 이상의 위치데이터에 의해 현재 위치를 계산하는 GPS 위치 추적부;상기 통신부로부터 입력되는 기지국의 위치정보에 의한 기지국 위치 및 수신신호전계강도에 의한 현재 위치를 계산하는 무선통신 위치 추적부;상기 자세 측정부로부터 방향 및 기울기를 포함하는 자세정보를 획득하는 자세정보 획득부;상기 카메라를 통해 획득되는 현실 영상을 상기 위치 추적부에서 출력되는 현재 위치를 반영하여 사물들의 위치를 분석하는 사물 위치추적부; 및분석된 사물의 위치 및 상기 방향을 포함하는 자세에 따라 사용자가 선택한 시나리오에 따른 캐릭터의 위치인 캐릭터 위치를 결정하는 캐릭터 위치 결정부를 포함하는 것을 특징으로 하는 캐릭터 위치 및 사물 위치를 반영한 증강현실 대화 시스템
9 9
제8항에 있어서,상기 사물 위치 추적부는,현재 위치를 반영하여 사물들의 위치를 분석하되, 영상에서 사물과 사물의 경계 및 겹침에 의해 발생하는 경계선을 검출하고, 저장부에 미리 저장되어 있는 사물 패턴 특징 정보들에 의한 사물의 종류를 판단하고, 경계선과 상기 카메라의 중심점이 상기 경계선을 향할 때의 기울기 및 상기 카메라의 높이를 반영하여 상기 사물과의 거리를 결정하고, 상기 현재 위치, 상기 경계선, 상기 거리 및 사물의 종류의 판단에 의한 사물의 위치 및 구조를 결정하는 것을 특징으로 하는 캐릭터 위치 및 사물 위치를 반영한 증강현실 대화 시스템
10 10
제8항에 있어서,적외선을 조사하여 사물과의 거리를 측정하는 거리측정부를 더 포함하되,상기 사물 위치 추적부는,현재 위치를 반영하여 사물들의 위치를 분석하되, 영상에서 사물과 사물의 경계 및 겹침에 의해 발생하는 경계선을 검출하고, 저장부에 미리 저장되어 있는 사물 패턴 특징 정보들에 의한 사물의 종류를 판단하고, 상기 경계선을 기준으로 한 상기 거리 측정부로부터 출력되는 거리정보에 의해 상기 사물과의 거리를 결정하고, 상기 현재 위치, 상기 경계선, 상기 거리 및 사물의 종류의 판단에 의한 사물의 위치 및 구조를 결정하는 것을 특징으로 하는 캐릭터 위치 및 사물 위치를 반영한 증강현실 대화 시스템
11 11
제어부가 위치추적부에 의해 획득되는 위치정보로부터 현재 위치를 계산하는 위치 추적 과정;상기 제어부가 카메라를 통해 획득되는 현실 영상을 획득하는 현실 영상 획득 과정;상기 제어부가 자세 측정부를 통해 상기 카메라가 향한 방향을 포함하는 자세정보를 획득하는 자세정보 획득 과정;상기 제어부가 현재 위치를 반영하여 상기 획득된 현실 영상에 포함된 사물들의 위치를 분석하고, 분석된 사물의 위치 및 상기 방향을 포함하는 자세에 따라 사용자가 선택한 시나리오에 따른 캐릭터의 위치인 캐릭터 위치를 결정하는 사물 위치 결정 과정;상기 현실 영상에 상기 결정된 캐릭터의 위치를 합성한 증강현실 영상을 생성하여 디스플레이부에 표시하는 증강현실 영상 디스플레이 과정; 및상기 증강현실 영상을 디스플레이 한 후, 상기 시나리오에 따른 음성데이터 및 오디오 처리부를 통해 입력되는 음성데이터에 대응하는 응답 음성데이터를 상기 캐릭터의 위치에 대응하는 오디오 처리를 수행한 후 상기 오디오 처리부의 스피커를 통해 출력하는 증강현실 대화 과정을 포함하되,상기 사물 위치 결정 과정은,상기 제어부가 상기 제어부가 현재 위치를 반영하여 상기 획득된 현실 영상에 포함된 사물들의 위치를 분석하는 사물 위치 분석 단계; 및분석된 사물의 위치와, 상기 방향 및 기울기를 포함하는 자세에 따라 사용자가 선택한 시나리오에 따른 캐릭터의 위치인 캐릭터 위치를 결정하는 캐릭터 위치 단계를 포함하는 것을 특징으로 하는 캐릭터 위치 및 사물 위치를 반영한 증강현실 대화 방법
12 12
제11항에 있어서,상기 위치 추적 과정은,상기 제어부가 GPS 모듈을 통해 GPS 위성으로부터 상기 위치정보인 위치데이터가 수신되는지를 검사하는 GPS 신호 수신 여부 확인 단계;위치데이터가 수신되면 적어도 셋 이상의 GPS 위성에 대한 위치데이터에 의해 현재 위치를 계산하는 GPS 이용 현재 위치 계산 단계; 및위치데이터가 수신되지 않으면 통신부를 통해 수신되는 무선통신신호를 송신한 기지국 위치정보 및 상기 무선통신신호의 수신신호전계강도를 상기 위치정보로 이용하여 현재 위치를 계산하는 기지국 이용 현재 위치 계산 단계를 포함하는 것을 특징으로 하는 캐릭터 위치 및 사물 위치를 반영한 증강현실 대화 방법
13 13
제11항에 있어서,상기 자세정보 획득 과정은,상기 제어부가 자세 측정부의 방향측정부를 통해 상기 카메라가 향하는 방향을 측정하는 방향 측정 단계; 및상기 제어부가 자세 측정부의 기울기 측정부를 통해 상기 카메라가 기울어진 기울기를 측정하는 기울기 측정 단계를 포함하되,상기 사물 위치 결정 과정에서 상기 제어부가 상기 방향 및 기울기를 포함하는 자세에 따라 사용자가 선택한 시나리오에 따른 캐릭터의 위치인 캐릭터 위치를 결정하는 것을 특징으로 하는 캐릭터 위치 및 사물 위치를 반영한 증강현실 대화 방법
14 14
삭제
15 15
제11항에 있어서,상기 사물 위치 분석 단계는,영상에서 사물과 사물의 경계 및 겹침에 의해 발생하는 경계선을 검출하고, 저장부에 미리 저장되어 있는 사물 패턴 특징 정보들에 의한 사물의 종류를 판단하는 사물 종류 판단 단계;상기 경계선과 상기 카메라의 중심점이 상기 경계선을 향할 때의 기울기 및 상기 카메라의 높이를 반영하여 상기 사물과의 거리를 결정하는 사물간 거리 결정 단계; 및상기 현재 위치, 상기 경계선, 상기 거리 및 사물의 종류의 판단에 의한 사물의 위치 및 구조를 결정하는 사물 위치 및 구조 결정 단계를 포함하는 것을 특징으로 하는 캐릭터 위치 및 사물 위치를 반영한 증강현실 대화 방법
16 16
제11항에 있어서,상기 사물 위치 분석 단계는,영상에서 사물과 사물의 경계 및 겹침에 의해 발생하는 경계선을 검출하고, 저장부에 미리 저장되어 있는 사물 패턴 특징 정보들에 의한 사물의 종류를 판단하는 사물 종류 판단 단계;상기 경계선을 기준으로 한 거리 측정부로부터 출력되는 거리정보에 의해 상기 사물과의 거리를 결정하는 사물간 거리 결정 단계; 및상기 현재 위치, 상기 경계선, 상기 거리 및 사물의 종류의 판단에 의한 사물의 위치 및 구조를 결정하는 사물 위치 및 구조 결정 단계를 포함하는 것을 특징으로 하는 캐릭터 위치 및 사물 위치를 반영한 증강현실 대화 방법
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 미래창조과학부 순천향대학교 생애첫연구사업 인공지능형 대화시스템을 위한 Out-Of-Domain 판별