1 |
1
딥 러닝(Deep Learning) 모델인 Bidirectional LSTM CRF(Long Short-term Memory Conditional Random Fields)를 이용하는 분석기에서 언어 분석기별 정답 레이블 분포를 이용한 자연어 이해를 위하여,(A) 학습 모델로 Bidirectional LSTM CRF를 이용하여 입력 계층(Input Layer)을 통하여 입력 문자열을 양방향으로 받아서 한국어 개체명을 인식하는 단계와,(B) Bidirectional LSTM CRF의 입력 계층(Input Layer)에서 사전 학습된 단어 임베딩 벡터, 품사 임베딩 벡터, 음절 기반 단어 임베딩 벡터 중 적어도 하나를 사용하여 입력되는 단어 표상을 확장하는 단계와,(C) Bidirectional LSTM CRF의 은닉 계층(Hidden Layer)에서 forward의 마지막 상태와 backward의 마지막 상태를 결합하여 단어 단위 임베딩 벡터로 사용하고, 상기 확장된 단어 표상으로 LSTM을 이용하여 단어를 이루고 있는 음절 단위의 벡터들을 결합하여 단어 단위 벡터 및 분석기별 정답 레이블 분포 벡터를 결합하는 단계와,(D) 분포 벡터에 활성화 함수인 소프트맥스(softmax)를 이용하여 확률로 변환하여 모델로 입력하는 단계를 포함하고, (A) ~ (D) 단계를 딥 러닝(Deep Learning) 모델인 Bidirectional LSTM CRF(Long Short-term Memory Conditional Random Fields)를 이용하는 분석기에서 수행하는 것을 특징으로 하는 언어 분석기별 정답 레이블 분포를 이용한 자연어 이해 방법
|
2 |
2
제 1 항에 있어서, 상기 (A) 단계는 LSTM에 입력 문자열을 양방향으로 받아서 각 단어 별로 은닉 계층의 결과를 얻고, 그 결과 간의 의존성을 추가하는 것을 특징으로 하는 언어 분석기별 정답 레이블 분포를 이용한 자연어 이해 방법
|
3 |
3
제 1 항에 있어서, 상기 (B) 단계에서 단어 임베딩 벡터는 3GB의 뉴스 말뭉치 및 word2vec의 CBOW 모델을 사용하여 단어 임베딩을 사전 학습하는 것을 특징으로 하는 언어 분석기별 정답 레이블 분포를 이용한 자연어 이해 방법
|
4 |
4
제 3 항에 있어서,상기 사전 학습되는 단어의 단위는 형태소와 품사태그가 결합된 형태로 사용되는 것을 특징으로 하는 언어 분석기별 정답 레이블 분포를 이용한 자연어 이해 방법
|
5 |
5
제 1 항에 있어서, 상기 (B) 단계에서 품사 임베딩 벡터는 3GB의 뉴스 말뭉치를 형태소 분석 후 단어를 삭제한 뒤 품사를 임베딩의 단위로 사용하여 품사 단위를 사전 학습하는 것을 특징으로 하는 언어 분석기별 정답 레이블 분포를 이용한 자연어 이해 방법
|
6 |
6
제 1 항에 있어서, 상기 (B) 단계에서 음절 기반 단어 임베딩 벡터는 단어 단위의 임베딩 벡터로 확장한 벡터인 것을 특징으로 하는 언어 분석기별 정답 레이블 분포를 이용한 자연어 이해 방법
|
7 |
7
제 6 항에 있어서, 상기 음절 기반 단어 임베딩 벡터는 음절별로 각 개체명 태그별 분포를 벡터로 만들어서 사용하는 것을 특징으로 하는 언어 분석기별 정답 레이블 분포를 이용한 자연어 이해 방법
|
8 |
8
제 1 항에 있어서, 상기 (C) 단계에서 분석기별 정답 레이블 분포 벡터는 입력되는 단어에 대응되는 분석기별 정답 레이블이 학습 데이터에서 얼마나 출현했는지를 분포로 계산하여 벡터로 나타낸 것을 특징으로 하는 언어 분석기별 정답 레이블 분포를 이용한 자연어 이해 방법
|
9 |
9
삭제
|