1 |
1
한국어 의미역 결정 분석 시스템이 술어 정보를 이용하여 한국어 의미역을 결정하는 방법으로서,형태소 품사가 부착된 어절 단위의 말뭉치를 입력 받아, 형태소 단위의 입력 임베딩을 생성하는 단계,상기 말뭉치의 양방향 어순을 고려하여 상기 입력 임베딩의 벡터 차원보다 고차원 벡터의 임베딩을 생성하는 단계,상기 고차원 벡터의 임베딩을 입력으로 받고, 계산된 동적 가중치와 상기 고차원 벡터의 임베딩을 행렬곱 연산하여 의미역 태그의 확률 분포 값을 계산하는 단계, 그리고상기 계산한 의미역 태그의 확률 분포 값을 의미역 태그로 변환하여 출력하는 단계를 포함하는, 한국어 의미역 결정 방법
|
2 |
2
제1항에 있어서,상기 입력 임베딩을 생성하는 단계는,상기 어절 단위의 말뭉치로부터 각각 벡터로 표현되어 있는 형태소 임베딩, 벡터 임베딩, 술어 정보, 음절 임베딩, 그리고 동적 단어 임베딩을 생성하여 상기 입력 임베딩으로 생성하는, 한국어 의미역 결정 방법
|
3 |
3
제2항에 있어서,상기 입력 임베딩을 생성하는 단계는,상기 어절 단위의 말뭉치를 형태소 단위로 변형하고, 기 설정된 개수의 슬롯들로 구성된 입력을 생성하는 단계를 포함하는, 한국어 의미역 결정 방법
|
4 |
4
제3항에 있어서,상기 입력 임베딩을 생성하는 단계는,상기 슬롯들로 구성된 입력을 기초로 형태소별 벡터로 표현된 상기 형태소 임베딩을 생성하고, 상기 형태소 임베딩에 포함된 형태소들의 품사 정보를 벡터로 표현한 상기 벡터 임베딩을 생성하는 단계,상기 말뭉치에 포함된 적어도 하나의 술어를 벡터로 표현하여 상기 술어 정보를 생성하는 단계,상기 어절 단위의 말뭉치에서 음절 자질을 추출하여 상기 음절 임베딩을 생성하는 단계, 그리고상기 말뭉치의 입력 어절의 첫 번째 형태소와 마지막 형태소에 대한 은닉 계층 값을 벡터로 표현하여 상기 동적 단어 임베딩을 생성하는 단계를 포함하는, 한국어 의미역 결정 방법
|
5 |
5
제4항에 있어서,상기 음절 임베딩은 Bi-LSTM(Bidirectional Long Short Term Memory) 모델을 통해 생성되고, 상기 동적 단어 임베딩은 ELMo(Embedding From Language Model) 모델을 통해 생성되는, 한국어 의미역 결정 방법
|
6 |
6
제1항에 있어서,상기 확률 분포 값을 계산하는 단계는,상기 고차원 벡터의 임베딩과 행렬곱 연산할 동적 가중치를 생성하는 단계를 포함하는, 한국어 의미역 결정 방법
|
7 |
7
제6항에 있어서,상기 동적 가중치를 생성하는 단계는,상기 말뭉치에 포함된 술어의 기본형인 술어 정보, 의미역 태그 임베딩, 그리고 상기 술어 정보와 의미역 태그 임베딩을 더한 값을 결합한 제1 행렬을 생성하는 단계, 그리고상기 제1 행렬에 학습 가중치 행렬을 행렬곱 연산하여, 상기 동적 가중치를 생성하는 단계를 포함하는, 한국어 의미역 결정 방법
|
8 |
8
제6항에 있어서,상기 동적 가중치를 생성하는 단계는,술어와 의미역 태그 사이의 어텐션 스코어를 계산하는 단계,상기 계산된 어텐션 스코어를 의미역 태그의 개수만큼 복사하여 술어 정보, 의미역 태그 가중치, 그리고 술어 정보와 의미역 태그 가중치를 더한 값에 결합한 제2 행렬을 생성하는 단계, 그리고상기 제2 행렬에 학습 가중치 행렬을 행렬곱 연산하여, 상기 동적 가중치를 생성하는 단계를 포함하는, 한국어 의미역 결정 방법
|
9 |
9
제8항에 있어서,상기 어텐션 스코어는,의미역 태그의 임베딩, 입력 술어의 기본형에 대한 임베딩, 학습 가중치 행렬 및 학습 가중치 벡터를 통해 계산되는, 한국어 의미역 결정 방법
|
10 |
10
한국어 의미역을 결정하는 시스템으로서,외부로부터 형태소 품사가 부착된 어절 단위의 말뭉치를 수신하는 인터페이스, 그리고프로세서를 포함하고,상기 프로세서는,상기 말뭉치로부터 형태소 단위의 입력 임베딩을 생성하고, 상기 말뭉치의 양방향 어순을 고려하여 상기 입력 임베딩의 벡터 차원보다 고차원인 고차원 벡터 임베딩을 생성하고, 상기 고차원 벡터 임베딩의 값과 동적 가중치 사이의 행렬곱 연산을 통해 의미역 태그의 확률 분포 값을 계산하고, 상기 계산한 의미역 태그의 확률 분포 값을 의미역 태그로 변환하여 출력하는, 한국어 의미역 결정 시스템
|
11 |
11
제10항에 있어서,상기 프로세서는,상기 어절 단위의 말뭉치를 형태소 단위로 변형하고, 기 설정된 개수의 슬롯들로 구성된 입력을 생성하는, 한국어 의미역 결정 시스템
|
12 |
12
제11항에 있어서,상기 프로세서는,상기 어절 단위의 말뭉치로부터 각각 벡터로 표현되어 있는 형태소 임베딩, 벡터 임베딩, 술어 정보, 음절 임베딩, 그리고 동적 단어 임베딩을 생성하여 상기 입력 임베딩으로 생성하는, 한국어 의미역 결정 시스템
|
13 |
13
제12항에 있어서,상기 음절 임베딩은 Bi-LSTM(Bidirectional Long Short Term Memory) 모델을 통해 생성되고, 상기 동적 단어 임베딩은 ELMo(Embedding From Language Model) 모델을 통해 생성되는, 한국어 의미역 결정 시스템
|
14 |
14
제13항에 있어서,상기 프로세서는,상기 말뭉치에 포함된 술어의 기본형인 술어 정보, 의미역 태그 임베딩, 그리고 상기 술어 정보와 의미역 태그 임베딩을 더한 값을 결합한 제1 행렬을 생성하고, 상기 제1 행렬에 학습 가중치 행렬을 행렬곱 연산하여 상기 동적 가중치를 생성하는, 한국어 의미역 결정 시스템
|
15 |
15
제13항에 있어서,상기 프로세서는,술어와 의미역 태그 사이의 어텐션 스코어를 계산하고, 상기 계산된 어텐션 스코어를 의미역 태그의 개수만큼 복사하여 술어 정보, 의미역 태그 가중치, 그리고 술어 정보와 의미역 태그 가중치를 더한 값에 결합한 제2 행렬을 생성하며, 상기 제2 행렬에 학습 가중치 행렬을 행렬곱 연산하여, 상기 동적 가중치를 생성하는, 한국어 의미역 결정 시스템
|