| 1 |
1
프로세서에 의해 구현되는 지식기반 질문 응답 방법에 있어서,질문 문장을 수신하는 단계;상기 질문 문장과 적어도 하나의 엔티티(entity) 및 릴레이션(relation)을 포함하는 후보 입력군(Candidate fact)을 복수 개 생성하는 단계; 상기 후보 입력군 각각을 통합 계산 모델(Integrated Scoring Model)에 입력하여, 상기 후보 입력군 각각에 대한 정답 스코어(Fact Score)를 계산하는 단계; 및계산된 정답 스코어 중 가장 높은 값을 가지는 정답 스코어와 매칭되는 정답을 제공하는 단계; 를 포함하되,상기 통합 계산 모델은, 상기 후보 입력군을 구성하는 토큰화된 요소들의 정보가 상호 반영된 입력 벡터 시퀀스를 이용하는, 지식기반 질문 응답 방법
|
| 2 |
2
제1항에 있어서,상기 통합 계산 모델은,상기 후보 입력군을 구성하는 토큰들의 단어 단위, 위치, 속성을 기준으로 임베딩된 벡터들의 조합을 입력 시퀀스로 하는 인풋 임베딩 레이어,상기 입력 벡터 시퀀스를 획득하는 인코딩 레이어,상기 입력 벡터 시퀀스에서 속성 별로 마스크를 씌워 질문 문장 벡터(rq1)(rq2), 엔티티 벡터(rs), 릴레이션 벡터(rp)를 계산하는 마스크 어텐션 레이어, 와상기 질문 문장 벡터, 상기 엔티티 벡터 및 상기 릴레이션 벡터를 이용하여 상기 정답 스코어를 계산하는 스코어 레이어, 를 포함하는 지식기반 질문 응답 방법
|
| 3 |
3
제2항에 있어서,상기 후보 입력군은,상기 토큰화된 질문 문장, 엔티티, 릴레이션에서 각 속성의 마지막 순서에 적어도 하나의 특수 토큰이 삽입되는, 지식기반 질문 응답 방법
|
| 4 |
4
제3항에 있어서,상기 마스크 어텐션 레이어는,상기 특수 토큰이 삽입된 위치를 기준으로 상기 복수의 토큰들 각각의 속성 별로 마스크를 씌우고, 상기 질문 문장, 상기 엔티티 및 상기 릴레이션을 고정된 길이의 벡터로 계산하는, 지식기반 질문 응답 방법
|
| 5 |
5
제3항에 있어서,상기 스코어 레이어는,상기 질문 문장 벡터와 상기 엔티티 벡터 이용하여 엔티티 매칭 스코어를 계산하고, 상기 질문 문장 벡터와 릴레이션 벡터를 이용하여 릴레이션 매칭 스코어를 계산하며, 상기 엔티티 매칭 스코어와 상기 릴레이션 매칭 스코어에 학습된 파라미터를 적용하여, 상기 정답 스코어를 계산하는, 지식기반 질문 응답 방법
|
| 6 |
6
제2항에 있어서,상기 인코딩 레이어는,트랜스포머 엔코더(Transformer Encoder), LSTM 및 Bi-LSTM 중 어느 하나의 네트워크 구조가 적용된, 지식기반 질문 응답 방법
|
| 7 |
7
제1항에 있어서,상기 엔티티는,지식 베이스(Knowledge Base, KB) 내 모든 엔티티에 상기 질문 문장을 구성하는 단어 단위를 대입하고, 대입된 단어 단위와 일치하는 엔티티가 존재하는 경우, 해당 단어 단위를 엔티티로서 하나의 후보 입력군에 포함시키는, 지식기반 질문 응답 방법
|
| 8 |
8
제1항에 있어서,상기 제공하는 단계 이후에,상기 질문 문장의 정답에 해당하지 않은 후보 입력군 중 어느 하나의 후보 입력군에서 엔티티를 손상시킨 제1 네거티브 샘플, 릴레이션을 손상시킨 제2 네거티브 샘플을 생성하는 단계, 와상기 질문 문장의 정답에 해당하는 후보 입력군을 포지티브 샘플로 설정하고, 상기 포지티브 샘플, 상기 제1 및 제2 네거티브 샘플을 하기 [수학식 1]에 대입하여, 상기 질문 문장과 상기 정답을 학습하는 단계, 를 더 포함하는 지식기반 질문 응답 방법
|
| 9 |
9
저장부;통신부; 및상기 저장부, 상기 통신부와 동작 가능하게 연결된 프로세서를 포함하되,상기 프로세서는, 질문 문장을 수신하고, 상기 질문 문장과 적어도 하나의 엔티티(entity) 및 릴레이션(relation)을 포함하는 후보 입력군(Candidate fact)을 복수 개 생성하며,상기 후보 입력군 각각을 통합 계산 모델(Integrated Scoring Model)에 입력하여, 상기 후보 입력군 각각에 대한 정답 스코어(Fact Score)를 계산하고,계산된 정답 스코어 중 가장 높은 값을 가지는 정답 스코어와 매칭되는 정답을 제공하되,상기 통합 계산 모델은, 상기 후보 입력군을 구성하는 토큰화된 요소들의 정보가 상호 반영된 입력 벡터 시퀀스를 이용하는, 지식기반 질문 응답 장치
|
| 10 |
10
제9항에 있어서,상기 통합 계산 모델은,상기 후보 입력군을 구성하는 토큰들의 단어 단위, 위치, 속성을 기준으로 임베딩된 벡터들의 조합을 입력 시퀀스로 하는 인풋 임베딩 레이어,상기 입력 벡터 시퀀스를 획득하는 인코딩 레이어,상기 입력 벡터 시퀀스에서 속성 별로 마스크를 씌워 질문 문장 벡터(rq1)(rq2), 엔티티 벡터(rs), 릴레이션 벡터(rp)를 계산하는 마스크 어텐션 레이어, 와상기 질문 문장 벡터, 상기 엔티티 벡터 및 상기 릴레이션 벡터를 이용하여 상기 정답 스코어를 계산하는 스코어 레이어, 를 포함하는 지식기반 질문 응답 장치
|
| 11 |
11
제10항에 있어서,상기 후보 입력군은,상기 토큰화된 질문 문장, 엔티티, 릴레이션에서 각 속성의 마지막 순서에 적어도 하나의 특수 토큰이 삽입되는, 지식기반 질문 응답 장치
|
| 12 |
12
제11항에 있어서,상기 마스크 어텐션 레이어는,상기 특수 토큰이 삽입된 위치를 기준으로 상기 복수의 토큰들 각각의 속성 별로 마스크를 씌우고, 상기 질문 문장, 상기 엔티티 및 상기 릴레이션을 고정된 길이의 벡터로 계산하는, 지식기반 질문 응답 장치
|
| 13 |
13
제11항에 있어서,상기 스코어 레이어는,상기 질문 문장 벡터와 상기 엔티티 벡터 이용하여 엔티티 매칭 스코어를 계산하고, 상기 질문 문장 벡터와 릴레이션 벡터를 이용하여 릴레이션 매칭 스코어를 계산하며, 상기 엔티티 매칭 스코어와 상기 릴레이션 매칭 스코어에 학습된 파라미터를 적용하여, 상기 정답 스코어를 계산하는, 지식기반 질문 응답 장치
|
| 14 |
14
제10항에 있어서,상기 인코딩 레이어는,트랜스포머 엔코더(Transformer Encoder), LSTM 및 Bi-LSTM 중 어느 하나의 네트워크 구조가 적용된, 지식기반 질문 응답 장치
|
| 15 |
15
제9항에 있어서,상기 엔티티는,지식 베이스(Knowledge Base, KB) 내 모든 엔티티에 상기 질문 문장을 구성하는 단어 단위를 대입하고, 대입된 단어 단위와 일치하는 엔티티가 존재하는 경우, 해당 단어 단위를 엔티티로서 하나의 후보 입력군에 포함시키는, 지식기반 질문 응답 장치
|
| 16 |
16
제9항에 있어서,상기 프로세서는, 정답을 제공한 이후에, 상기 질문 문장의 정답에 해당하지 않은 후보 입력군 중 어느 하나의 후보 입력군에서 엔티티를 손상시킨 제1 네거티브 샘플, 릴레이션을 손상시킨 제2 네거티브 샘플을 생성하고,상기 질문 문장의 정답에 해당하는 후보 입력군을 포지티브 샘플로 설정하고, 상기 포지티브 샘플, 상기 제1 및 제2 네거티브 샘플을 하기 [수학식 1]에 대입하여, 상기 질문 문장과 상기 정답을 학습하는, 지식기반 질문 응답 장치
|
