1 |
1
LSTM(Long-short term memory network) 셀 기반의 양방향 인코더에서 입력 단어와 상기 입력 단어의 임베딩 벡터 및 이전 스텝의 히든 스테이트와 셀 스테이트를 이용하여 입력 스텝의 히든 스테이트를 계산하는 단계;단방향 디코더에서 매 디코딩 스텝마다 상기 디코더의 셀 스테이트와 상기 인코더의 히든 스테이드를 기초로, 상기 입력 스텝의 중요도(Attention weight)를 계산하는 단계;상기 입력 스텝의 중요도와 상기 입력 스텝의 히든 스테이트의 가중합을 기초로, 상기 입력 단어에 대한 콘텍스트 벡터(context vector)를 계산하는 단계;상기 콘텍스트 벡터와 상기 디코더의 히든 스테이트를 기초로, 현재 스텝에서 생성 확률이 가장 높은 단어를 생성하는 단계; 및계산된 모든 스텝의 콘텍스트 벡터를 누적한 콘텍스트 커버리지 벡터(Context Coverage vector)를 기초로, 정렬 에너지를 계산하여 상기 단어를 나열하는 단계;를 포함하는, 문서 맥락 기반 커버리지를 이용한 자동 요약 방법
|
2 |
2
제1항에 있어서, 상기 입력 스텝의 히든 스테이트를 계산하는 단계는,상기 인코더의 최종 스텝의 히든 스테이트를 전방향 스텝의 히든 스테이트와 후방향 히든 스테이트의 연접(concatenation) 벡터로 정의하고,상기 인코더의 최초 스텝의 히든 스테이트를 제로 벡터로 정의하는, 문서 맥락 기반 커버리지를 이용한 자동 요약 방법
|
3 |
3
제1항에 있어서,상기 입력 단어와 상기 입력 단어의 임베딩 벡터를 이용하여 상기 디코더의 히든 스테이트를 학습하는 단계를 더 포함하는, 문서 맥락 기반 커버리지를 이용한 자동 요약 방법
|
4 |
4
제3항에 있어서, 상기 입력 단어와 상기 입력 단어의 임베딩 벡터를 이용하여 상기 디코더의 히든 스테이트를 학습하는 단계는,상기 디코더의 최초 스텝을 상기 인코더의 최종 스테이트로 정의하는, 문서 맥락 기반 커버리지를 이용한 자동 요약 방법
|
5 |
5
제4항에 있어서,상기 인코더의 차원 수가 상기 디코더의 차원 보다 클 경우, 상기 디코더의 최초 스텝의 가중치 행렬을 이용하여 차원을 축소하는, 문서 맥락 기반 커버리지를 이용한 자동 요약 방법
|
6 |
6
제1항에 있어서,상기 문서 맥락 기반 커버리지를 이용한 자동 요약 방법을 수행하기 위한 컴퓨터 프로그램이 기록된 컴퓨터로 판독 가능한 저장 매체
|
7 |
7
입력 단어와 상기 입력 단어의 임베딩 벡터 및 이전 스텝의 히든 스테이트와 셀 스테이트를 이용하여 입력 스텝의 히든 스테이트를 계산하는 LSTM(Long-short term memory network) 셀 기반의 양방향 인코더;매 디코딩 스텝마다 상기 디코더의 셀 스테이트와 상기 인코더의 히든 스테이드를 기초로, 상기 입력 스텝의 중요도(Attention weight)를 계산하는 중요도 계산부;상기 입력 스텝의 중요도와 상기 입력 스텝의 히든 스테이트의 가중합을 기초로, 상기 입력 단어에 대한 콘텍스트 벡터(context vector)를 계산하는 콘텍스트 벡터부;상기 콘텍스트 벡터부에서 계산된 모든 스텝의 콘텍스트 벡터를 누적한 콘텍스트 커버리지 벡터(Context Coverage vector)를 기초로, 정렬 에너지를 계산하는 콘텍스트 커버리지부; 및상기 콘텍스트 벡터와 상기 디코더의 히든 스테이트를 기초로 현재 스텝에서 생성 확률이 가장 높은 단어를 생성하고, 상기 콘텍스트 커버리지 벡터와 상기 정렬 에너지를 기초로 상기 단어를 나열하는 단방향 디코더;를 포함하는, 문서 맥락 기반 커버리지를 이용한 자동 요약 장치
|
8 |
8
제7항에 있어서, 상기 양방향 인코더는,상기 인코더의 최종 스텝의 히든 스테이트를 전방향 스텝의 히든 스테이트와 후방향 히든 스테이트의 연접(concatenation) 벡터로 정의하고,상기 인코더의 최초 스텝의 히든 스테이트를 제로 벡터로 정의하는, 문서 맥락 기반 커버리지를 이용한 자동 요약 장치
|
9 |
9
제7항에 있어서, 상기 단방향 디코더는,상기 입력 단어와 상기 입력 단어의 임베딩 벡터를 이용하여 상기 디코더의 히든 스테이트를 학습하는, 문서 맥락 기반 커버리지를 이용한 자동 요약 장치
|
10 |
10
제9항에 있어서, 상기 단방향 디코더는,상기 디코더의 최초 스텝을 상기 인코더의 최종 스테이트로 정의하는, 문서 맥락 기반 커버리지를 이용한 자동 요약 장치
|
11 |
11
제10항에 있어서, 상기 단방향 디코더는,상기 인코더의 차원 수가 상기 디코더의 차원 보다 클 경우, 상기 디코더의 최초 스텝의 가중치 행렬을 이용하여 차원을 축소하는, 문서 맥락 기반 커버리지를 이용한 자동 요약 장치
|