| 1 |
1
코드 생성을 요청하는 문장을 입력받아 상기 문장의 의도에 대응되는 H[CLS] 특징 벡터를 출력하는 BERT 신경망;상기 BERT 신경망에서 출력되는 상기 H[CLS] 특징 벡터를 입력받아 다수의 의도 클래스 중 어느 하나의 의도 클래스를 출력하는 분류 신경망;상기 문장 및 상기 분류 신경망에서 출력되는 의도 클래스를 입력받아 사용자가 요청한 문장에 상응하는 코드를 생성하는 코드 생성부를 포함하되,상기 BERT 신경망 및 상기 분류 신경망은 문장 및 문장에 대해 레이블이 부여된 초기 학습 자료를 이용하여 초기 학습이 이루어지고,상기 초기 학습 시 상기 BERT 신경망의 H[CLS] 특징 벡터와 단어별 특징 벡터를 이용하여 각 의도 클래스별로 클래스 사전을 생성 및 갱신하며,레이블이 부여되지 않은 임의의 문장에 대해 상기 클래스 사전 및 상기 분류 신경망의 확률을 이용하여 레이블을 부여하고, 레이블이 부여된 임의의 문장을 이용하여 상기 BERT 신경망 및 상기 분류 신경망에 대한 추가 학습이 이루어지며,상기 추가 학습 시 상기 클래스 사전을 갱신 하는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 장치
|
| 2 |
2
제1항에 있어서, 상기 BERT 신경망의 H[CLS] 특징 벡터와 단어별 특징 벡터들간의 유사도를 연산하고, 유사도가 높은 미리 설정된 k개의 단어별 특징 벡터에 대응되는 단어를 학습되는 문장의 의도에 상응하는 클래스 사전에 추가하는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 장치
|
| 3 |
3
제2항에 있어서, 상기 클래스 사전에는 추가된 단어의 출연 빈도가 저장되는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 장치
|
| 4 |
4
제3항에 있어서, 상기 레이블이 부여되지 않은 임의의 문장에 포함된 단어와 각 클래스 사전의 단어들과의 매칭을 통해 클래스별 클래스 사전 스코어를 연산하고, 가장 높은 클래스 사전 스코어를 가지는 클래스를 클래스 사전 레이블로 지정하는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 장치
|
| 5 |
5
제4항에 있어서, 상기 임의의 문장에 대해 상기 분류 신경망에서 출력되는 클래스별 확률들 중 가장 높은 확률을 가지는 클래스를 신경망 레이블로 지정하는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 장치
|
| 6 |
6
제5항에 있어서,상기 클래스 사전 레이블의 클래스와 상기 신경망 레이블의 클래스가 일치할 경우 해당 클래스를 상기 임의의 문장의 레이블로 지정하는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 장치
|
| 7 |
7
제4항에 있어서,가장 높은 사전 클래스 스코어와 차순위의 사전 클래스 스코어 사이의 비가 미리 설정된 제1 경계값 이하일 경우 상기 클래스 사전 레이블을 지정하지 않는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 장치
|
| 8 |
8
제5항에 있어서,상기 가장 높은 확률을 가지는 클래스의 확률이 미리 설정된 제2 경계값 이하일 경우 상기 신경망 레이블을 지정하지 않는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 장치
|
| 9 |
9
BERT 신경망에 코드 생성을 요청하는 문장을 입력하여 상기 문장의 의도에 대응되는 H[CLS] 특징 벡터를 출력하는 단계(a);상기 단계 (a)에서 출력되는 상기 H[CLS] 특징 벡터를 분류 신경망에 입력하여 다수의 의도 클래스 중 어느 하나의 의도 클래스를 출력하는 단계(b);상기 문장 및 상기 분류 신경망에서 출력되는 의도 클래스를 입력받아 사용자가 요청한 문장에 상응하는 코드를 생성하는 단계(c)를 포함하되,상기 BERT 신경망 및 상기 분류 신경망은 문장 및 문장에 대해 레이블이 부여된 초기 학습 자료를 이용하여 초기 학습이 이루어지고,상기 초기 학습 시 상기 BERT 신경망의 H[CLS] 특징 벡터와 단어별 특징 벡터를 이용하여 각 의도 클래스별로 클래스 사전을 생성 및 갱신하며,레이블이 부여되지 않은 임의의 문장에 대해 상기 클래스 사전 및 상기 분류 신경망의 확률을 이용하여 레이블을 부여하고, 레이블이 부여된 임의의 문장을 이용하여 상기 BERT 신경망 및 상기 분류 신경망에 대한 추가 학습이 이루어지며,상기 추가 학습 시 상기 클래스 사전을 갱신 하는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 방법
|
| 10 |
10
제9항에 있어서, 상기 BERT 신경망의 H[CLS] 특징 벡터와 단어별 특징 벡터들간의 유사도를 연산하고, 유사도가 높은 미리 설정된 k개의 단어별 특징 벡터에 대응되는 단어를 학습되는 문장의 의도에 상응하는 클래스 사전에 추가하는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 방법
|
| 11 |
11
제19항에 있어서, 상기 클래스 사전에는 추가된 단어의 출연 빈도가 저장되는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 방법
|
| 12 |
12
제11항에 있어서, 상기 레이블이 부여되지 않은 임의의 문장에 포함된 단어와 각 클래스 사전의 단어들과의 매칭을 통해 클래스별 클래스 사전 스코어를 연산하고, 가장 높은 클래스 사전 스코어를 가지는 클래스를 클래스 사전 레이블로 지정하는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 방법
|
| 13 |
13
제12항에 있어서, 상기 임의의 문장에 대해 상기 분류 신경망에서 출력되는 클래스별 확률들 중 가장 높은 확률을 가지는 클래스를 신경망 레이블로 지정하는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 방법
|
| 14 |
14
제13항에 있어서,상기 클래스 사전 레이블의 클래스와 상기 신경망 레이블의 클래스가 일치할 경우 해당 클래스를 상기 임의의 문장의 레이블로 지정하는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 방법
|
| 15 |
15
제12항에 있어서,가장 높은 사전 클래스 스코어와 차순위의 사전 클래스 스코어 사이의 비가 미리 설정된 제1 경계값 이하일 경우 상기 클래스 사전 레이블을 지정하지 않는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 방법
|
| 16 |
16
제13항에 있어서,상기 가장 높은 확률을 가지는 클래스의 확률이 미리 설정된 제2 경계값 이하일 경우 상기 신경망 레이블을 지정하지 않는 것을 특징으로 하는 사용자의 의도를 반영한 코드 생성 방법
|
