| 1 |
1
일관된 주제의 텍스트 생성 방법에 있어서,학습 데이터의 단어를 순차적으로 입력하여 다음 단어를 예측하도록 RNN(Recurrent Neural Network) 언어 모델을 학습시키는 단계;패러그래프 벡터 학습 모델을 이용하여 상기 학습 데이터로부터 패러그래프 벡터(paragraph vector)를 추출하는 단계; 및상기 학습된 RNN 언어 모델과 상기 추출된 패러그래프 벡터를 이용하여 텍스트를 생성하는 단계를 포함하고,상기 텍스트를 생성하는 단계는 한 문장의 생성을 완료한 후 다음 문장의 생성을 시작할 때 현재 생성된 문장의 패러그래프 벡터와 상기 학습 데이터 내의 문장들의 패러그래프 벡터를 비교하여 유사도가 특정 임계값 이상인 패러그래프 벡터를 가지는 문장들의 시작 단어들 중 하나를 랜덤하게 선택하여 다음 문장의 시작 단어로 입력하는 것을 특징으로 하는 일관된 주제의 텍스트 생성 방법
|
| 2 |
2
제1항에 있어서,상기 패러그래프 벡터(paragraph vector)를 추출하는 단계에서는사용자가 미리 지정한 학습 기법 또는 학습 기법 지정 알고리즘에 따라 선택된 학습 기법을 이용하여 상기 패러그래프 벡터를 추출하는 것을 특징으로 하는, 일관된 주제의 텍스트 생성 방법
|
| 3 |
3
제2항에 있어서,상기 학습 기법은 PV-DM(paragraph vector with distributed memory) 및 PV-DBOW(paragraph vector with distributed bag-of-words) 중 어느 하나이거나 둘을 조합한 것인, 일관된 주제의 텍스트 생성 방법
|
| 4 |
4
제1항에 있어서,상기 텍스트 생성 단계는상기 학습된 RNN 언어 모델과 상기 추출된 패러그래프 벡터를 이용하여 단어 단위의 텍스트를 생성하는 단계; 및상기 학습된 RNN 언어 모델과 상기 추출된 패러그래프 벡터를 이용하여 문장 간 텍스트를 생성하는 단계를 포함하되, 수집된 데이터가 모두 입력될 때까지 상기 단어 단위의 텍스트를 생성하는 단계와 상기 문장 간 텍스트를 생성하는 단계를 반복하는 것을 특징으로 하는, 일관된 주제의 텍스트 생성 방법
|
| 5 |
5
제4항에 있어서,상기 단어 단위의 텍스트를 생성하는 단계는상기 학습된 RNN 언어 모델을 이용하여 현재 입력 단어에 대해 다음 단어를 확률적으로 예측하여 생성하는 제1단계; 상기 생성된 다음 단어가 포함된 제1 문장번호 리스트와 이전에 생성된 단어가 포함된 제2 문장 번호 리스트를 체크하는 제2단계;상기 제1 문장 번호 리스트 및 상기 제2 문장 번호 리스트의 문장들에 대응하는 패러그래프 벡터들을 각각 추출하는 제3단계;상기 제1 문장 번호 리스트에 대해 추출된 패러그래프 벡터들과 상기 제2 문장 번호 리스트에 대해 추출된 패러그래프 벡터들 간의 유사도의 평균을 계산하는 제4단계; 및상기 계산된 유사도의 평균이 소정의 임계값 미만일 경우 다음 단어를 다시 생성하는 제5단계를 포함하되, 문장의 끝을 나타내는 토큰이 출력될 때까지 제1단계부터 제5단계를 반복하는 것을 특징으로 하는, 일관된 주제의 텍스트 생성 방법
|
| 6 |
6
삭제
|
| 7 |
7
제1항에 있어서,상기 RNN 언어 모델을 학습시키는 단계 전에 적어도 하나의 데이터 소스로부터 데이터를 수집하는 단계; 및상기 수집된 데이터를 상기 RNN 언어 모델의 학습과 상기 패러그래프 벡터 추출을 위한 학습 데이터 형태로 가공하기 위해 데이터를 처리하는 단계를 더 포함하는, 일관된 주제의 텍스트 생성 방법
|
| 8 |
8
제7항에 있어서,상기 데이터를 처리하는 단계에서는 상기 수집된 데이터의 워드 벡터와 패러그래프 벡터를 생성하고, 각 단어가 포함된 문장 번호 리스트를 생성하는 것을 특징으로 하는, 일관된 주제의 텍스트 생성 방법
|
| 9 |
9
일관된 주제의 텍스트 생성 방법을 수행하는 텍스트 생성 장치에 있어서,학습 데이터의 단어를 순차적으로 입력하여 다음 단어를 예측하도록 RNN(Recurrent Neural Network) 언어 모델을 학습시키는 RNN 모델 학습부;패러그래프 벡터 학습 모델을 이용하여 상기 학습 데이터로부터 패러그래프 벡터(paragraph vector)를 추출하는 PV 추출부; 및상기 학습된 RNN 언어 모델과 상기 추출된 패러그래프 벡터를 이용하여 텍스트를 생성하는 텍스트 생성부를 포함하고,상기 텍스트 생성부는 한 문장의 생성을 완료한 후 다음 문장의 생성을 시작할 때 현재 생성된 문장의 패러그래프 벡터와 상기 학습 데이터 내의 문장들의 패러그래프 벡터를 비교하여 유사도가 특정 임계값 이상인 패러그래프 벡터를 가지는 문장들의 시작 단어들 중 하나를 랜덤하게 선택하여 다음 문장의 시작 단어로 입력하는 것을 특징으로 하는 텍스트 생성 장치
|
| 10 |
10
제9항에 있어서,상기 PV 추출부는사용자가 미리 지정한 학습 기법 또는 학습 기법 지정 알고리즘에 따라 선택된 학습 기법을 이용하여 상기 패러그래프 벡터를 추출하는 것을 특징으로 하는, 텍스트 생성 장치
|
| 11 |
11
제10항에 있어서,상기 학습 기법은 PV-DM(paragraph vector with distributed memory) 및 PV-DBOW(paragraph vector with distributed bag-of-words) 중 어느 하나이거나 둘을 조합한 것인, 텍스트 생성 장치
|
| 12 |
12
제9항에 있어서,상기 텍스트 생성부는상기 학습된 RNN 언어 모델과 상기 추출된 패러그래프 벡터를 이용하여 단어 단위의 텍스트를 생성하는 단어 단위 텍스트 생성부; 및상기 학습된 RNN 언어 모델과 상기 추출된 패러그래프 벡터를 이용하여 문장 간 텍스트를 생성하는 문장 간 텍스트 생성부를 포함하되, 수집된 데이터가 모두 입력될 때까지 단어 단위의 텍스트를 생성하는 것과 문장 간 텍스트를 생성하는 것을 반복하는 것을 특징으로 하는, 텍스트 생성 장치
|
| 13 |
13
제12항에 있어서,상기 단어 단위 텍스트 생성부는상기 학습된 RNN 언어 모델을 이용하여 현재 입력 단어에 대해 다음 단어를 확률적으로 예측하여 생성하는 제1단계; 상기 생성된 다음 단어가 포함된 제1 문장번호 리스트와 이전에 생성된 단어가 포함된 제2 문장 번호 리스트를 체크하는 제2단계;상기 제1 문장 번호 리스트 및 상기 제2 문장 번호 리스트의 문장들에 대응하는 패러그래프 벡터들을 각각 추출하는 제3단계;상기 제1 문장 번호 리스트에 대해 추출된 패러그래프 벡터들과 상기 제2 문장 번호 리스트에 대해 추출된 패러그래프 벡터들 간의 유사도의 평균을 계산하는 제4단계; 및상기 계산된 유사도의 평균이 소정의 임계값 미만일 경우 다음 단어를 다시 생성하는 제5단계를 수행하되, 문장의 끝을 나타내는 토큰이 출력될 때까지 제1단계부터 제5단계를 반복하여 수행하는 것을 특징으로 하는, 텍스트 생성 장치
|
| 14 |
14
삭제
|
| 15 |
15
제9항에 있어서,적어도 하나의 데이터 소스로부터 데이터를 수집하는 데이터 수집부; 및상기 수집된 데이터를 상기 RNN 언어 모델의 학습과 상기 패러그래프 벡터 추출을 위한 학습 데이터 형태로 가공하기 위해 데이터를 처리하는 데이터 처리부를 더 포함하는, 텍스트 생성 장치
|
| 16 |
16
제15항에 있어서,상기 데이터 처리부는 상기 수집된 데이터의 워드 벡터와 패러그래프 벡터를 생성하고, 각 단어가 포함된 문장 번호 리스트를 생성하는 것을 특징으로 하는, 텍스트 생성 장치
|
