| 1 |
1
사용자 질문에 대한 지식을 생성하기 위한 지식 생성 신경망과 상기 지식을 기반으로 사용자 질문에 대한 답변을 생성하는 대화 생성 신경망을 포함하도록 컴퓨팅 장치에 의해 프로그래밍 되고 실행되는 인공지능 에이전트의 지식 증강 방법에서,복합 모달 표현부에서, 현재의 사용자 질문, 상기 지식 생성 신경망에 의해 생성된 과거의 지식과 상기 대화 생성 신경망에 의해 생성된 과거의 답변을 특정 차원의 임베딩 벡터값으로 각각 변환하는 단계;불확실성 계산부에서, 드롭아웃 기법을 적용한 상기 지식 생성 신경망을 이용하여 상기 임베딩 벡터값에 대한 복수의 출력값을 산출하고, 상기 산출된 복수의 출력값을 기반으로 상기 지식 생성 신경망의 불확실성을 계산하는 단계; 및자율 샘플링부에서, 상기 계산된 불확실성을 기반으로 데이터베이스를 검색하여 학습용 데이터를 획득하고, 상기 획득된 학습용 데이터를 기반으로 상기 지식 생성 신경망과 상기 대화 생성 신경망을 훈련시켜서 지식 증강을 수행하는 단계를 포함하는 신경망의 불확실성에 기반한 지식 증강 방법
|
| 2 |
2
제1항에서,상기 불확실성을 계산하는 단계는,상기 드롭아웃 기법을 기반으로 상기 지식 생성 신경망에 포함된 일부 뉴런들을 삭제하는 단계;상기 일부 뉴런들을 삭제하는 방법의 개수에 대응하는 상기 복수의 출력값을 상기 지식 생성 신경망으로부터 획득하는 단계; 및상기 복수의 출력값에 대한 평균과 분산을 기반으로 상기 불확실성을 계산하는 단계를 포함하는 신경망의 불확실성에 기반한 지식 증강 방법
|
| 3 |
3
제1항에서,상기 불확실성을 계산하는 단계는,데이터의 모델링 과정에서 발생하는 불확실성과 상기 데이터 내의 잡음으로 인해 발생하는 불확실성 계산하는 단계인 신경망의 불확실성에 기반한 지식 증강 방법
|
| 4 |
4
제1항에서, 상기 불확실성을 계산하는 단계는,상기 드롭아웃 기법을 적용한 상기 지식 생성 신경망을 이용하여 상기 임베딩 벡터값에 대한 상기 복수의 출력값에 대한 평균을 계산하는 단계;상기 계산된 평균을 기반으로 데이터의 모델링 과정에서 발생하는 제1 불확실성을 계산하는 단계;상기 복수의 출력값에 대한 분산을 계산하는 단계;상기 계산된 분산을 기반으로 상기 데이터 내의 잡음으로 인해 발생하는 제2 불확실성을 계산하는 단계; 및상기 제1 불확실성과 상기 제2 불확실성을 합산하여, 상기 지식 생성 신경망의 불확실성을 계산하는 단계를 포함하는 신경망의 불확실성에 기반한 지식 증강 방법
|
| 5 |
5
제1항에서, 상기 지식 증강을 수행하는 단계는,상기 계산된 불확실성을 기반으로 상기 임베딩 벡터값에 대응하는 사용자 요구사항에 대한 상기 지식이 부족한지를 결정하는 단계; 및상기 지식이 부족한 것으로 결정된 경우, 상기 데이터베이스를 검색하여 상기 학습용 데이터를 획득하는 단계를 포함하는 신경망의 불확실성에 기반한 지식 증강 방법
|
| 6 |
6
제5항에서,상기 지식이 부족한지를 결정하는 단계는,상기 계산된 불확실성과 사전에 설정한 임계값을 비교하여, 그 비교결과에 따라 상기 지식이 부족한지를 결정하는 단계인 신경망의 불확실성에 기반한 지식 증강 방법
|
| 7 |
7
제5항에서, 상기 학습용 데이터를 생성하는 단계는,상기 계산된 불확실성을 선형 변환하여, 보상값을 계산하는 단계; 및상기 임베딩 벡터를 쿼리값으로 이용하여 상기 계산된 보상값을 갖는 학습용 데이터를 상기 데이터베이스로부터 획득하는 단계 를 포함하는 신경망의 불확실성에 기반한 지식 증강 방법
|
| 8 |
8
제1항에서, 상기 지식 증강을 수행하는 단계는,상기 지식 생성 신경망과 상기 대화 생성 신경망을 지도 학습으로 훈련시키는 단계인 것인 신경망의 불확실성에 기반한 지식 증강 방법
|
| 9 |
9
제1항에서,상기 인공지능 에이전트는 상기 지식과 상기 답변의 정확도를 기반으로 상기 지식 생성 신경망과 상기 대화 생성 신경망을 강화 학습으로 훈련시키기 위한 파라미터를 생성하도록 프로그래밍된 가치 추정 신경망을 더 포함하고,상기 지식 증강을 수행하는 단계는,상기 생성된 학습용 데이터를 기반으로 상기 가치 추정 신경망을 더 훈련시키는 단계인 것인 신경망의 불확실성에 기반한 지식 증강 방법
|
| 10 |
10
사용자 질문에 대한 지식을 생성하기 위한 지식 생성 신경망과 상기 지식을 기반으로 사용자 질문에 대한 답변을 생성하는 대화 생성 신경망을 포함하도록 프로그래밍된 인공지능 에이전트를 저장하는 저장소와 상기 저장소에 저장된 상기 인공지능 에이전트를 실행하는 프로세서를 포함하는 지식 증강 장치에서, 상기 인공지능 에이전트는,현재의 사용자 질문, 상기 신경망에 의해 생성된 과거의 지식과 과거의 답변을 특정 차원의 임베딩 벡터값으로 각각 변환하는 데이터 전처리부;드롭아웃 기법을 적용한 상기 지식 생성 신경망을 이용하여 상기 임베딩 벡터값에 대한 복수의 출력값을 생성하고, 상기 생성된 복수의 출력값을 기반으로 상기 지식 생성 신경망의 불확실성을 계산하는 불확실성 계산부; 및상기 계산된 불확실성을 선형 변환하여 보상값을 계산하고, 상기 계산된 보상값을 갖는 학습용 데이터를 비지도 학습으로 구축된 데이터베이스로부터 획득하고, 상기 획득된 학습용 데이터를 기반으로 상기 지식 생성 신경망과 상기 대화 생성 신경망을 훈련시켜서 지식 증강을 수행하는 자율 샘플링부를 더 포함하는 지식 증강 장치
|
| 11 |
11
제10항에서,상기 불확실성 계산부는,상기 복수의 출력값에 대한 평균을 기반으로 데이터의 모델링 과정에서 발생하는 제1 불확실성을 계산하고, 상기 복수의 출력값에 대한 분산을 기반으로 상기 데이터 내의 잡음으로 인해 발생하는 제2 불확실성을 계산하고, 상기 제1 불확실성과 상기 제2 불확실성을 합산하여, 상기 지식 생성 신경망의 출력에 대한 불확실성을 계산하는 것인 지식 증강 장치
|
| 12 |
12
제10항에서, 상기 자율 샘플링부는,상기 계산된 불확실성이 사전에 설정한 임계값을 비교하여, 그 비교결과에 따라 상기 지식이 부족한지를 결정하고, 상기 지식이 부족한 것으로 결정된 경우, 상기 데이터베이스를 검색하여 상기 학습용 데이터를 획득하는 것인 지식 증강 장치
|
| 13 |
13
제10항에서, 상기 자율 샘플링부는,상기 임베딩 벡터값을 쿼리값으로 이용하여 상기 데이터베이스로부터 부족한 지식에 대응하는 상기 학습용 데이터를 획득하는 것인 지식 증강 장치
|
| 14 |
14
제10항에서,상기 자율 샘플링부는,상기 지식 생성 신경망과 상기 대화 생성 신경망을 지도 학습으로 훈련시켜서 지식 증강을 수행하는 것인 지식 증강 장치
|
| 15 |
15
제10항에서,상기 인공지능 에이전트는 상기 지식과 상기 답변의 정확도를 기반으로 상기 지식 생성 신경망과 상기 대화 생성 신경망을 강화 학습으로 훈련시키기 위한 파라미터를 생성하도록 프로그래밍된 가치 추정 신경망을 더 포함하고,상기 자율 샘플링부는,상기 생성된 학습용 데이터를 기반으로 상기 가치 추정 신경망을 더 훈련시키는 단계인 것인 신경망의 불확실성에 기반한 지식 증강 방법
|
