| 1 |
1
합성곱 신경망(Convolutional Neural Network, CNN)과 LSTM 순환 신경망(Long Short-Term Memory Recurrent Neural Network)을 이용하여 사용자의 발화(utterance)를 분석하는 사용자 의도분석 시스템에 있어서,사용자의 발화(utterance)를 입력받아 상기 합성곱 신경망(Convolutional Neural Network, CNN)을 토대로 화행(Speech act) 분류를 위한 화행 임베딩 벡터(Speech act embedding vector)와 서술자(Predicator) 분류를 위한 서술자 임베딩 벡터(Predicator embedding vector) 및 감정(Sentiment) 분류를 위한 감정 임베딩 벡터(Sentiment embedding vector)를 추출하는 발화 임베딩 모델(Utterance embedding model);상기 발화 임베딩 모델로부터 화행 임베딩 벡터를 입력받아 화행을 분류하는 화행 분류 모델(Speech-act classifier model);상기 발화 임베딩 모델로부터 서술자 임베딩 벡터를 입력받아 서술자를 분류하는 서술자 분류 모델(Predicator classifier model); 및상기 발화 임베딩 모델로부터 감정 임베딩 벡터를 입력받아 감정을 분류하는 감정 분류 모델(Predicator classifier model)을 포함하는 사용자 의도분석 시스템
|
| 2 |
2
제 1항에 있어서,상기 발화 임베딩 모델은상기 합성곱 신경망(CNN)을 토대로 상기 화행(speech act)과 서술자(predicator) 간의 공유 계층을 이용하여 화행(speech act)과 서술자(predicator) 간 상호작용이 반영되게 상기 발화(utterance)를 임베딩(embedding)하는 것을 특징으로 하는 사용자 의도분석 시스템
|
| 3 |
3
제 1항에 있어서,상기 화행 분류 모델은상기 LSTM 순환 신경망을 토대로 대화의 문맥을 반영하여 상기 발화(utterance)를 분석하고, 상기 화행을 분류하는 것을 특징으로 하는 사용자 의도분석 시스템
|
| 4 |
4
제 1항에 있어서,상기 서술자 분류 모델은상기 LSTM 순환 신경망을 토대로 대화의 문맥을 반영하여 상기 발화(utterance)를 분석하고, 상기 서술자를 분류하는 것을 특징으로 하는 사용자 의도분석 시스템
|
| 5 |
5
제 1항에 있어서,상기 합성곱 신경망(CNN)에서 상기 각 임베딩 벡터(embedding vector)를 추출하기 위해 부분 오차 역전파(Partial error backpropagations)가 수행되는 것을 특징으로 하는 사용자 의도분석 시스템
|
| 6 |
6
제 5항에 있어서,상기 부분 오차 역전파(Partial error backpropagations)가 수행되는 동안 상기 화행, 서술자 및 감정에 대한 기설정된 카테고리(categories)와 출력 카테고리(categories) 사이의 유사성을 최대화하기 위해 교차 엔트로피(cross-entropies)가 수행되는 것을 특징으로 하는 사용자 의도분석 시스템
|
| 7 |
7
제 1항에 있어서,상기 화행 분류 모델(Speech-act classifier model)에서 원핫코드(one-hot code)로 표현되는 이전 화행 임베딩 벡터(Previous speech act embedding vector)가 현재의 화행 식별을 위해 현재 화행 임베딩 벡터에 연결되는 것을 특징으로 하는 사용자 의도분석 시스템
|
| 8 |
8
합성곱 신경망(Convolutional Neural Network, CNN)과 LSTM 순환 신경망(Long Short-Term Memory Recurrent Neural Network)을 이용하여 사용자의 발화(utterance)를 분석하는 사용자 의도분석 방법에 있어서,효과적인 추상화를 위해 사용자의 발화(utterance)에서 화행(speech act), 서술자(predicator) 및 감정(sentiment)의 각각에 영향을 미치는 은닉층 노드와 서로 공유하는 은닉층 노드를 분리하는 단계(S10);대화 내에 존재하는 각 발화(utterance)를 상기 은닉층 노드를 토대로 상기 합성곱 신경망(CNN)을 이용하여 추상화하는 단계(S20);학습 시에 화행, 서술자 및 감정 각각에 대한 최적의 추상화 정보를 얻기 위해서 상기 추상화된 결과를 상기 화행, 서술자, 감정에 연결된 노드들에만 오류를 역전파하는 부분 오류 역전파(partial error backpropagation)를 수행하여 학습하는 단계(S30);상기 학습된 각 발화에 대한 추상화 정보(임베딩 벡터)를 토대로 상기 대화 전체를 LSTM 순환 신경망(Long Short-Term Memory Recurrent Neural Network)에 입력하여 문맥을 학습하는 단계(S40); 및상기 발화에 대한 화행, 서술자 및 감정을 분류하는 단계(S50)를 포함하는 사용자 의도분석 방법
|
| 9 |
9
제 8항에 있어서,상기 (S40) 단계는상기 (S30) 단계에서 학습된 은닉층의 값들(화행에 연결된 노드 가중치들, 서술자에 연결된 노드 가중치들, 감정에 연결된 노드 가중치들)을 화행 분석, 서술자 분석 및 감정 분석을 위한 추상화 정보(임베딩 벡터)로 사용하는 것을 특징으로 하는 사용자 의도분석 방법
|
