맞춤기술찾기

이전대상기술

시퀀스-투-시퀀스 요약모델의 반복 생성 제어를 위한 학습 방법

  • 기술번호 : KST2020007666
  • 담당센터 : 대구기술혁신센터
  • 전화번호 : 053-550-1450
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 시퀀스-투-시퀀스 요약모델의 학습 방법이 개시된다. 상기 방법은, 인코더가, 상기 시퀀스-투-시퀀스 요약모델이 생성해낸 요약문에 대한 히든 상태 벡터를 출력하는 단계와, 디코더가, 상기 히든 상태 벡터를 이용하여 각 단계마다, 상기 요약문 내의 단어들 각각이 생성될 확률을 계산하고, 계산된 확률 중에서 가장 높은 확률에 해당하는 단어를 생성하는 단계와, 상기 디코더가 생성한 단어들의 이력을 이용하여, 상기 시퀀스-투-시퀀스 요약모델이 이전에 출력한 단어를 중복해서 출력하지 않도록 학습하는 단계를 포함한다.
Int. CL G06N 3/08 (2006.01.01) G06F 40/20 (2020.01.01)
CPC G06N 3/08(2013.01) G06N 3/08(2013.01) G06N 3/08(2013.01)
출원번호/일자 1020180154444 (2018.12.04)
출원인 경북대학교 산학협력단
등록번호/일자
공개번호/일자 10-2020-0071846 (2020.06.22) 문서열기
공고번호/일자
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 공개
심사진행상태 수리
심판사항
구분 신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2018.12.04)
심사청구항수 6

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 경북대학교 산학협력단 대한민국 대구광역시 북구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 박세영 대구광역시 북구
2 류재현 대구광역시 달서구
3 노윤석 경상북도 경산시 대학로**길 *

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 김종선 대한민국 서울특별시 강남구 역삼로*길 **, 광성빌딩 **층 (역삼동)(케이엘피특허법률사무소)
2 이형석 대한민국 서울특별시 강남구 역삼로*길 **, 광성빌딩 **층 (역삼동)(케이엘피특허법률사무소)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
최종권리자 정보가 없습니다
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2018.12.04 수리 (Accepted) 1-1-2018-1213615-57
2 의견제출통지서
Notification of reason for refusal
2020.05.28 발송처리완료 (Completion of Transmission) 9-5-2020-0367231-11
3 출원인정보변경(경정)신고서
Notification of change of applicant's information
2020.06.23 수리 (Accepted) 4-1-2020-5136893-04
4 거절결정서
Decision to Refuse a Patent
2020.08.10 발송처리완료 (Completion of Transmission) 9-5-2020-0546218-26
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
시퀀스-투-시퀀스 요약모델의 학습 방법에 있어서,인코더가, 상기 시퀀스-투-시퀀스 요약모델이 생성해낸 요약문에 대한 히든 상태 벡터를 출력하는 단계;디코더가, 상기 히든 상태 벡터를 이용하여 각 단계마다, 상기 요약문 내의 단어들 각각이 생성될 확률을 계산하고, 계산된 확률 중에서 가장 높은 확률에 해당하는 단어를 생성하는 단계; 및상기 디코더가 생성한 단어들의 이력을 이용하여, 상기 시퀀스-투-시퀀스 요약모델이 이전에 출력한 단어를 중복해서 출력하지 않도록 학습하는 단계;를 포함하는 시퀀스-투-시퀀스 요약모델의 학습 방법
2 2
제1항에 있어서, 상기 학습하는 단계는,상기 각 단계마다, 현재 생성될 단어가 정답 단어일 확률이 최대가 되도록 학습함과 동시에 이전에 생성된 단어들이 생성될 확률이 최소가 되도록 학습하는 것을 특징으로 하는 시퀀스-투-시퀀스 요약모델의 학습 방법
3 3
제2항에 있어서, 상기 학습하는 단계는,상기 각 단계마다, 이전에 생성된 단어들을 이용하여 상기 이전에 생성된 단어들이 현재 생성될 확률을 추출하고, 추출된 확률을 모두 더하여 반복 손실 함수를 계산하는 단계; 및상기 반복 손실 함수의 값이 최소가 되도록 상기 인코더와 상기 디코더를 이용한 학습을 반복하는 단계;를 포함하는 시퀀스-투-시퀀스 요약모델의 학습 방법
4 4
제3항에 있어서, 상기 학습하는 단계는,상기 각 단계의 반복 손실 함수를 모두 더하여 전체 반복 손실 함수를 계산하는 단계;상기 각 단계마다, 현재 생성될 단어가 정답 단어일 확률을 추출하고, 추출된 확률을 모두 더하여 교차 엔트로피 손실(cross entropy loss) 함수를 계산하는 단계; 상기 전체 반복 손실 함수와 상기 교차 엔트로피 손실 함수를 더하여 전체 손실 함수를 계산하는 단계; 및상기 전체 손실 함수의 값이 최소가 되도록 상기 인코더와 상기 디코더를 이용한 학습을 반복하는 단계;를 포함하는 시퀀스-투-시퀀스 요약모델의 학습 방법
5 5
시퀀스-투-시퀀스 요약모델을 학습하는 전자장치에 있어서,인공 신경망(artificial neural network)을 이용하여 상기 시퀀스-투-시퀀스 요약모델의 학습을 수행하는 프로세서;를 포함하고,상기 프로세서는 상기 시퀀스-투-시퀀스 요약모델이 생성해낸 요약문을 이용하여, 상기 시퀀스-투-시퀀스 요약모델이 이전에 출력한 단어를 중복해서 출력하지 않도록 학습을 수행하는 것을 특징으로 하는 전자장치
6 6
제5항에 있어서,상기 프로세서는,각 단계마다, 이전에 생성된 단어들을 이용하여 상기 이전에 생성된 단어들이 현재 생성될 확률을 추출하고, 추출된 확률을 모두 더하여 반복 손실 함수를 계산하고, 상기 반복 손실 함수의 값이 최소가 되도록 학습을 반복하는 것을 특징으로 하는 전자장치
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 과학기술정보통신부 경북대학교 산학협력단 SW컴퓨팅산업원천기술개발(정보화) (기반SW-창조씨앗2단계) 어떤 주제에 대한 빅데이터를 스마트 보고서로 요약하는 기술 개발