1 |
1
자연어로 이루어진 컨텍스트 및 질문을 수신하는 단계;상기 컨텍스트 및 질문에 기초하여 임베딩 벡터를 생성하는 단계;상기 임베딩 벡터에 기초하여 적어도 한 번의 인코딩을 수행하는 단계; 및인코딩된 임베딩 벡터에 기초하여 상기 질문에 대한 정답을 예측하는 단계를 포함하는 기계 독해 방법
|
2 |
2
제1항에 있어서,상기 임베딩 벡터를 생성하는 단계는,상기 컨텍스트에 기초하여 제1 임베딩 벡터를 생성하는 단계; 및상기 질문에 기초하여 제2 임베딩 벡터를 생성하는 단계를 포함하는 기계 독해 방법
|
3 |
3
제2항에 있어서,상기 제1 임베딩 벡터 및 상기 제2 임베딩 벡터에 기초하여 어텐션을 수행함으로써 상기 컨텍스트와 상기 질문에 포함된 단어들을 매칭하는 단계를 더 포함하는 기계 독해 방법
|
4 |
4
제1항에 있어서,상기 인코딩을 수행하는 단계는,상기 임베딩 벡터에 포지셔널 인코딩(positional encoding)을 수행하는 단계;포지셔널 인코딩이 수행된 임베딩 벡터에 컨볼루션 연산을 수행함으로써 지역 특징(local feature)를 추출하는 단계; 및상기 지역 특징에 기초하여 셀프 어텐션을 수행함으로써 전역 특징(global feature)을 추출하는 단계를 포함하는 기계 독해 방법
|
5 |
5
제1항에 있어서,상기 적어도 한 번의 인코딩을 수행하는 단계는,잔차 블록(residual block)을 포함하는 뉴럴 네트워크에 의해 수행되는기계 독해 방법
|
6 |
6
제1항에 있어서,상기 인코딩된 임베딩 벡터에 기초하여 인코딩을 수행함으로써 상기 컨텍스트 및 상기 질문에 포함된 문장에 대한 점수를 계산하는 단계를 더 포함하는 기계 독해 방법
|
7 |
7
제1항에 있어서,상기 정답을 예측하는 단계는,상기 정답의 시작 단어의 확률을 계산하는 단계;상기 정답의 끝 단어의 확률을 계산하는 단계; 및상기 시작 단어의 확률 및 상기 끝 단어의 확률에 기초하여 상기 정답을 예측하는 단계를 포함하는 기계 독해 방법
|
8 |
8
제7항에 있어서,상기 정답을 예측하는 단계는,상기 컨텍스트 및 상기 질문에 포함된 문장에 대한 점수에 기초하여 예측된 정답을 보정하는 단계를 더 포함하는 기계 독해 방법
|
9 |
9
하드웨어와 결합되어 제1항 내지 제8항 중 어느 하나의 항의 방법을 실행시키기 위하여 매체에 저장된 컴퓨터 프로그램
|
10 |
10
자연어로 이루어진 컨텍스트 및 질문을 수신하는 수신기; 및상기 컨텍스트 및 질문에 기초하여 임베딩 벡터를 생성하고, 상기 임베딩 벡터에 기초하여 적어도 한 번의 인코딩을 수행하고, 인코딩된 임베딩 벡터에 기초하여 상기 질문에 대한 정답을 예측하는 프로세서를 포함하는 기계 독해 장치
|
11 |
11
제10항에 있어서,상기 프로세서는,상기 컨텍스트에 기초하여 제1 임베딩 벡터를 생성하고,상기 질문에 기초하여 제2 임베딩 벡터를 생성하는기계 독해 장치
|
12 |
12
제11항에 있어서,상기 프로세서는,상기 제1 임베딩 벡터 및 상기 제2 임베딩 벡터에 기초하여 어텐션을 수행함으로써 상기 컨텍스트와 상기 질문에 포함된 단어들을 매칭하는기계 독해 장치
|
13 |
13
제10항에 있어서,상기 프로세서는,상기 임베딩 벡터에 포지셔널 인코딩(positional encoding)을 수행하고,포지셔널 인코딩이 수행된 임베딩 벡터에 컨볼루션 연산을 수행함으로써 지역 특징(local feature)를 추출하고,상기 지역 특징에 기초하여 셀프 어텐션을 수행함으로써 전역 특징(global feature)을 추출하는기계 독해 장치
|
14 |
14
제10항에 있어서,상기 프로세서는,잔차 블록(residual block)을 포함하는 뉴럴 네트워크를 이용하여 상기 적어도 한 번의 인코딩을 수행하는기계 독해 장치
|
15 |
15
제10항에 있어서,상기 프로세서는,상기 인코딩된 임베딩 벡터에 기초하여 인코딩을 수행함으로써 상기 컨텍스트 및 상기 질문에 포함된 문장에 대한 점수를 계산하는기계 독해 장치
|
16 |
16
제10항에 있어서,상기 프로세서는,상기 정답의 시작 단어의 확률을 계산하고,상기 정답의 끝 단어의 확률을 계산하고,상기 시작 단어의 확률 및 상기 끝 단어의 확률에 기초하여 상기 정답을 예측하는기계 독해 장치
|
17 |
17
제10항에 있어서,상기 프로세서는,상기 컨텍스트 및 상기 질문에 포함된 문장에 대한 점수에 기초하여 예측된 정답을 보정하는기계 독해 장치
|