맞춤기술찾기

이전대상기술

이미지 캡션 자동 생성 방법 및 시스템

  • 기술번호 : KST2019018254
  • 담당센터 : 경기기술혁신센터
  • 전화번호 : 031-8006-1570
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 이미지 캡션 자동 생성 방법 및 시스템이 제공된다. 본 발명의 실시예에 따른 자동 이미지 캡션 생성 방법은, 학습 이미지의 예시 캡션들로부터 의미 정보(Distinctive-attribute)를 추출하고, 추출된 의미 정보와 학습 이미지 쌍을 이용하여 이미지로부터 의미 정보를 예측하기 위한 뉴럴 네트워크를 학습하며, 학습된 뉴럴 네트워크에 학습 이미지를 입력하여 의미 정보를 추론하고, 추론된 의미 정보와 학습 이미지 쌍을 이용하여 이미지의 캡션을 생성하기 위한 뉴럴 네트워크를 학습한다. 이에 의해, 주어진 이미지에 대해 보다 정확하고 다른 이미지들과의 차이점이 보다 확연하게 구별되는 주어진 이미지에 대한 특징이 잘 나타나는 캡션을 자동으로 생성할 수 있게 된다.
Int. CL G06N 3/08 (2006.01.01) G06N 3/04 (2006.01.01)
CPC G06N 3/08(2013.01) G06N 3/08(2013.01) G06N 3/08(2013.01)
출원번호/일자 1020180029832 (2018.03.14)
출원인 한국전자기술연구원
등록번호/일자 10-2169925-0000 (2020.10.20)
공개번호/일자 10-2019-0108378 (2019.09.24) 문서열기
공고번호/일자 (20201026) 문서열기
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 등록
심사진행상태 수리
심판사항
구분 신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2018.05.18)
심사청구항수 9

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 한국전자기술연구원 대한민국 경기도 성남시 분당구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 김보은 서울특별시 광진구
2 조충상 경기도 성남시 수정구
3 정혜동 서울특별시 송파구
4 이영한 경기도 용인시 기흥구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 남충우 대한민국 서울 강남구 언주로 ***, *층(역삼동, 광진빌딩)(알렉스국제특허법률사무소)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
1 한국전자기술연구원 대한민국 경기도 성남시 분당구
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2018.03.14 수리 (Accepted) 1-1-2018-0256623-30
2 [심사청구]심사청구(우선심사신청)서
[Request for Examination] Request for Examination (Request for Preferential Examination)
2018.05.18 수리 (Accepted) 1-1-2018-0490111-09
3 의견제출통지서
Notification of reason for refusal
2020.02.25 발송처리완료 (Completion of Transmission) 9-5-2020-0143846-93
4 [명세서등 보정]보정서
[Amendment to Description, etc.] Amendment
2020.05.07 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2020-0460324-27
5 [거절이유 등 통지에 따른 의견]의견서·답변서·소명서
2020.05.07 수리 (Accepted) 1-1-2020-0460315-16
6 출원인정보변경(경정)신고서
Notification of change of applicant's information
2020.08.24 수리 (Accepted) 4-1-2020-5189497-57
7 거절결정서
Decision to Refuse a Patent
2020.08.28 발송처리완료 (Completion of Transmission) 9-5-2020-0593668-49
8 [명세서등 보정]보정서(재심사)
Amendment to Description, etc(Reexamination)
2020.09.28 보정승인 (Acceptance of amendment) 1-1-2020-1029747-17
9 [거절이유 등 통지에 따른 의견]의견서·답변서·소명서
2020.09.28 수리 (Accepted) 1-1-2020-1029695-20
10 등록결정서
Decision to Grant Registration
2020.10.13 발송처리완료 (Completion of Transmission) 9-5-2020-0703277-04
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
학습 이미지의 예시 캡션들로부터 의미 정보(Distinctive-attribute)를 추출하는 단계;추출된 의미 정보와 학습 이미지 쌍을 이용하여, 이미지로부터 의미 정보를 예측하기 위한 제1 뉴럴 네트워크를 학습하는 단계;학습된 제1 뉴럴 네트워크에 학습 이미지를 입력하여, 의미 정보를 추론하는 단계; 및추론된 의미 정보와 학습 이미지 쌍을 이용하여, 이미지의 캡션을 생성하기 위한 제2 뉴럴 네트워크를 학습하는 단계;를 포함하고,제1 뉴럴 네트워크는,학습 이미지의 예시 캡션들로부터 추출된 의미 정보와 학습 이미지 쌍으로 학습되어, 이미지로부터 의미 정보를 추론하는 뉴럴 네트워크이고,제2 뉴럴 네트워크는,제1 뉴럴 네트워크에 의해 추론된 의미 정보와 학습 이미지 쌍으로 학습되어, 이미지로부터 이미지의 캡션을 생성하는 뉴럴 네트워크이며,추출 단계는,예시 캡션들에 포함된 단어들 중 일부를 선택하는 단계;선택 단계에서 선택된 단어들 각각이 학습 이미지의 특성을 나타내는 정도를 점수로 계산하는 단계; 및단어들과 해당 점수들의 대응 관계를 의미 정보로 출력하는 단계;를 포함하고,선택 단계는,단어들이 학습 이미지 이외의 다른 학습 이미지의 예시 캡션들에 등장하는 빈도를 기초로, 단어들 중 정해진 개수를 선택하는 것을 특징으로 하는 자동 이미지 캡션 생성 방법
2 2
삭제
3 3
삭제
4 4
청구항 1에 있어서,선택 단계는,예시 캡션들에 포함된 단어들을 전처리하여 어근들만을 추출하고, 추출된 어근들 중 정해진 개수를 선택하는 것을 특징으로 하는 자동 이미지 캡션 생성 방법
5 5
삭제
6 6
청구항 1에 있어서,계산 단계는,단어들에 대해, 학습 이미지의 예시 캡션들에 등장하는 횟수에 비례하도록 점수를 부여하는 것을 특징으로 하는 자동 이미지 캡션 생성 방법
7 7
청구항 6에 있어서,계산 단계는,단어들에 대해, 다른 학습 이미지의 예시 캡션들에 등장하는 횟수에 반비례하도록 점수를 부여하는 것을 특징으로 하는 자동 이미지 캡션 생성 방법
8 8
청구항 1에 있어서,계산 단계는,단어들에 대해, 다른 학습 이미지의 예시 캡션들에 등장하는 횟수에 반비례하도록 점수를 부여하는 것을 특징으로 하는 자동 이미지 캡션 생성 방법
9 9
청구항 1에 있어서,제2 뉴럴 네트워크 학습 단계 이후에, 캡션을 생성하고자 하는 추론 이미지를 입력 받는 단계;입력된 추론 이미지를 학습된 제1 뉴럴 네트워크에 입력하여, 의미 정보를 추론하는 단계;추론된 의미 정보와 추론 이미지 쌍을 학습된 제2 뉴럴 네트워크에 입력하여, 캡션을 생성하는 단계;를 포함하는 것을 특징으로 하는 자동 이미지 캡션 생성 방법
10 10
학습 이미지의 예시 캡션들로부터 의미 정보(Distinctive-attribute)를 추출하는 단계;추출된 의미 정보와 학습 이미지 쌍을 이용하여, 이미지로부터 의미 정보를 예측하기 위한 제1 뉴럴 네트워크를 학습하는 단계;학습된 제1 뉴럴 네트워크에 학습 이미지를 입력하여, 의미 정보를 추론하는 단계; 및추론된 의미 정보와 학습 이미지 쌍을 이용하여, 이미지의 캡션을 생성하기 위한 제2 뉴럴 네트워크를 학습하는 단계;를 포함하고,제1 뉴럴 네트워크는,학습 이미지의 예시 캡션들로부터 추출된 의미 정보와 학습 이미지 쌍으로 학습되어, 이미지로부터 의미 정보를 추론하는 뉴럴 네트워크이고,제2 뉴럴 네트워크는,제1 뉴럴 네트워크에 의해 추론된 의미 정보와 학습 이미지 쌍으로 학습되어, 이미지로부터 이미지의 캡션을 생성하는 뉴럴 네트워크이며,추출 단계는,예시 캡션들에 포함된 단어들 중 일부를 선택하는 단계;선택 단계에서 선택된 단어들 각각이 학습 이미지의 특성을 나타내는 정도를 점수로 계산하는 단계; 및단어들과 해당 점수들의 대응 관계를 의미 정보로 출력하는 단계;를 포함하고,선택 단계는,단어들이 학습 이미지 이외의 다른 학습 이미지의 예시 캡션들에 등장하는 빈도를 기초로, 단어들 중 정해진 개수를 선택하는 것을 특징으로 하는 자동 이미지 캡션 생성 방법을 수행할 수 있는 프로그램이 수록된 컴퓨터로 읽을 수 있는 기록 매체
11 11
캡션을 생성하고자 하는 추론 이미지를 입력 받는 단계;입력된 추론 이미지를 학습된 제1 뉴럴 네트워크에 입력하여, 의미 정보를 추론하는 단계;추론된 의미 정보와 추론 이미지 쌍을 학습된 제2 뉴럴 네트워크에 입력하여, 캡션을 생성하는 단계;를 포함하고,제1 뉴럴 네트워크는,학습 이미지의 예시 캡션들로부터 추출된 의미 정보(Distinctive-attribute)와 학습 이미지 쌍으로 학습되어, 이미지로부터 의미 정보를 추론하는 뉴럴 네트워크이고,제2 뉴럴 네트워크는,제1 뉴럴 네트워크에 의해 추론된 의미 정보와 학습 이미지 쌍으로 학습되어, 이미지로부터 이미지의 캡션을 생성하는 뉴럴 네트워크이며,의미 정보는,학습 이미지의 예시 캡션들에 포함된 단어들 중 일부를 선택하고, 선택된 단어들 각각이 학습 이미지의 특성을 나타내는 정도를 점수로 계산한 다음, 단어들과 해당 점수들의 대응 관계를 출력하여 추출하되, 단어들이 학습 이미지 이외의 다른 학습 이미지의 예시 캡션들에 등장하는 빈도를 기초로 단어들 중 정해진 개수를 선택하는 것을 특징으로 하는 자동 이미지 캡션 생성 방법
12 12
캡션을 생성하고자 하는 추론 이미지를 입력 받는 통신부; 및입력된 추론 이미지를 학습된 제1 뉴럴 네트워크에 입력하여 의미 정보를 추론하고, 추론된 의미 정보와 추론 이미지 쌍을 학습된 제2 뉴럴 네트워크에 입력하여 캡션을 생성하는 프로세서;를 포함하고,제1 뉴럴 네트워크는,학습 이미지의 예시 캡션들로부터 추출된 의미 정보(Distinctive-attribute)와 학습 이미지 쌍으로 학습되어, 이미지로부터 의미 정보를 추론하는 뉴럴 네트워크이고,제2 뉴럴 네트워크는,제1 뉴럴 네트워크에 의해 추론된 의미 정보와 학습 이미지 쌍으로 학습되어, 이미지로부터 이미지의 캡션을 생성하는 뉴럴 네트워크이며,의미 정보는,학습 이미지의 예시 캡션들에 포함된 단어들 중 일부를 선택하고, 선택된 단어들 각각이 학습 이미지의 특성을 나타내는 정도를 점수로 계산한 다음, 단어들과 해당 점수들의 대응 관계를 출력하여 추출하되, 단어들이 학습 이미지 이외의 다른 학습 이미지의 예시 캡션들에 등장하는 빈도를 기초로 단어들 중 정해진 개수를 선택하는 것을 특징으로 하는 자동 이미지 캡션 생성 시스템
지정국 정보가 없습니다
순번, 패밀리번호, 국가코드, 국가명, 종류의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 패밀리정보 - 패밀리정보 표입니다.
순번 패밀리번호 국가코드 국가명 종류
1 US10726289 US 미국 FAMILY
2 US20190286931 US 미국 FAMILY

DOCDB 패밀리 정보

순번, 패밀리번호, 국가코드, 국가명, 종류의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 패밀리정보 - DOCDB 패밀리 정보 표입니다.
순번 패밀리번호 국가코드 국가명 종류
1 US10726289 US 미국 DOCDBFAMILY
2 US2019286931 US 미국 DOCDBFAMILY
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 과학기술정보통신부 전자부품연구원 ICT융합산업원천기술개발 (지능정보-총괄/1세부) 자율지능 디지털 동반자 프레임워크 및 응용 연구개발