| 1 |
1
컴퓨터를 통해 구동되는 인코더-디코더 메커니즘 기반의 신경망 기계번역 모델의 학습을 위하여, 원문 및 이 원문에 대한 번역문이 포함된 학습데이터를 생성하는 방법에 있어서,(1) 컴퓨터 내 저장장치에 기록되어 학습에 사용될 이중언어 말뭉치의 문장으로부터 컴퓨터에서 동작하는 형태소 분석 또는 개체명 인식 단계를 통한 기본 어휘 경계를 분리하는 단계; (2) 컴퓨터의 CPU를 통해, 학습에 사용될 이중언어 말뭉치의 문장으로부터 명시적 어휘정렬 정보를 추출하는 단계;(3) 컴퓨터의 CPU를 통해, 단계 1에 의해 분리된 어휘 경계를, 컴퓨터 내 저장장치에 기록되어 있는 부분어휘 분리 모델과 부분어휘 토큰으로 분리하는 단계; (4) 단계 1에 의해 처리되어 컴퓨터 내 저장장치에 기록된 원문언어 결과물과, 단계 3에 의해 처리된 원문언어 결과물을 사용하여, 컴퓨터의 CPU를 통해 새로운 원문언어 학습데이터를 생성하는 단계;(5) 단계 2에서 생성된 명시적 어휘정렬 정보와, 단계 1 및 3에 의해 처리된 대역언어 결과물을 사용하여, 컴퓨터의 CPU를 통해 새로운 대역언어 학습데이터를 생성하는 단계를 포함하되, 상기 단계 (4)는 입력된 원문언어의 문장을 구성하는 부분어휘 토큰을 직접 치환하지 않고, 단계 (1)에서 추출된 어휘순서 정보를 단계 (3)에서 분리된 부분어휘 토큰마다 추가 정보로서 삽입하여 인코더의 입력 형태로 표현하는 것을 특징으로 하고,상기 단계 (5)는 대역언어 문장을 구성하는 부분어휘 토큰을 직접 치환하지 않고, 단계 (2)에서 추출된 명시적 어휘정렬 정보와 단계 (1)에 의해 처리되어 생성된 원문언어 문장에 부착된 어휘순서 정보를 결합하고, 단계 (3)에 의해 생성된 대역 문장내 부분어휘 토큰마다 변형된 정렬 정보를 삽입하여 디코더에 의해 생성하고자 하는 표현으로 기록하는 것을 특징으로 하는 신경망 기계번역을 위한 학습데이터 생성 방법
|
| 2 |
2
제1항에 있어서, 컴퓨터에 의해 처리되는 상기 단계 (1) 및 단계 (3)은 원문언어 및 대역언어 모두에 적용되는 것을 특징으로 하는 신경망 기계번역을 위한 학습데이터 생성 방법
|
| 3 |
3
제1항에 있어서, 컴퓨터에 의해 처리되는 상기 단계 (1) 및 단계 (3)은 원문언어 및 대역언어 중 하나의 언어에 적용되는 것을 특징으로 하는 신경망 기계번역을 위한 학습데이터 생성 방법
|
| 4 |
4
삭제
|
| 5 |
5
삭제
|
| 6 |
6
삭제
|
| 7 |
7
제1항 내지 제3항 중 어느 한 항에 기재된 학습데이터 생성 방법에 의해 생성된 학습데이터를 기초로, 컴퓨터의 연산 장치를 통해 인코더-디코더 메커니즘 기반의 신경망 기계번역 모델을 학습시키고, 학습된 신경망을 사용하여 대역문과 원문의 연결 관계 생성을 수행하는 신경망을 이용하는 신경망 기계번역 방법으로서, 상기 학습 및 대역문-원문의 연결 관계 생성을 수행하는 신경망은, 상기 단계 (4) 또는 단계 (5)의 결과로부터, 원문 및 대역부 어휘열을 구성하는 각각의 부분어휘 토큰을, 컴퓨터의 CPU를 통해, 신경망 학습을 위한 워드 임베딩 벡터로 1:1 치환하는 단계, 상기 단계 (4) 또는 단계 (5)의 결과에 부착된 명시적 어휘정렬 정보를 각각의 어휘열 순서에 맞는 자질을 추가시키기 위하여, 컴퓨터의 CPU에 의해, 자질 임베딩 벡터 치환을 수행하는 단계;인코더의 입력을 생성하기 위하여, 치환된 자질 임베딩 벡터와 해당 위치의 입력 어휘에 의한 워드 임베딩 벡터를 결합하는 단계; 그리고 바로 직전의 어휘와 현재 어휘, 그리고 직전의 자질을 결합·학습하고, 상기제1항 내지 제3항 중 어느 한 항에 기재된 방법으로 학습된 모델로, 입력이 인코더에 의해 추상화된 벡터열을 입력으로 하는 디코더를 통해 예측된 어휘열의 바로 직전 어휘를 가리키는 명시적 정렬정보 자질 벡터를 생성하는 단계를 수행하는 것을 특징으로 하는 신경망 기계번역 방법
|
| 8 |
8
제7항에 있어서, 상기 자질 임베딩 벡터와 워드 임베딩 벡터를 결합하는 단계는, 시계열 기준으로 동일한 부분어휘 토큰을 가리키는 부분어휘와 그와 연관된 정렬 정보를, 컴퓨터의 CPU를 통해, 단순 결합하여 긴 길이의 벡터로 생성하는 단순 결합(concatenation) 방식으로 수행되는 것을 특징으로 하는 신경망 기계번역 방법
|
| 9 |
9
삭제
|
| 10 |
10
제1항 내지 제3항 중 어느 한 항에 기재된 학습데이터 생성 방법으로 학습데이터를 생성하는 학습데이터 처리부; 및 상기 학습데이터 처리부로부터 생성된 학습데이터를 기초로 신경망을 학습시키고, 대역문과 원문의 연결 관계 생성을 수행하는 데 이용되는 자동 번역 모델을 생성하는 모델 생성부를 포함하는 신경망을 이용한 신경망 기계번역 장치로서, 상기 신경망의 모델 생성부는상기 단계 (4) 또는 단계 (5)의 결과로부터, 원문 및 대역부 어휘열을 구성하는 각각의 부분어휘 토큰을 신경망 학습을 위한 워드 임베딩 벡터로 치환하는 워드 임베딩 벡터; 상기 단계 (4) 또는 단계 (5)의 결과에 부착된 명시적 어휘정렬 정보를 각각의 어휘열 순서에 맞는 자질을 추가시키기 위하여 자질 임베딩 벡터 치환을 수행하는 자질 임베딩 벡터;치환된 자질 임베딩 벡터와 해당 위치의 입력 어휘에 의한 워드 임베딩 벡터를 결합하는 결합 계층; 그리고바로 직전의 어휘와 현재 어휘, 그리고 직전의 자질을 결합·학습하고, 학습 단계에서 예측된 어휘열의 바로 직전 어휘를 가리키는 명시적 정렬정보 자질 벡터를 생성하는 디코더를 포함하는 신경망 기계번역 장치
|
| 11 |
11
제10항에 있어서, 상기 모델 생성부의 상기 자질 임베딩 벡터와 워드 임베딩 벡터를 결합하는 결합 계층은, 시계열 기준으로 동일한 부분어휘 토큰을 가리키는 부분어휘와 그와 연관된 정렬 정보를 단순 결합하여 긴 길이의 벡터로 생성하는 단순 결합(concatenation) 방식으로 수행되는 것을 특징으로 하는 신경망 기계번역 장치
|
