| 1 |
1
대화 이력에 따라 조건화된 최근 도메인과 해당 대화 상태를 예측하는 대화 상태 예측부; 대화 이력과 대화 상태를 조건으로 하는 탈어휘화 토큰(delexicalized tokens)으로 시스템 동작을 예측하는 시스템 동작 예측부; 시스템 동작에 데이터베이스로부터의 외부 정보가 필요한 경우 쿼리 모듈을 통해 후보들을 검색하고, 후보들 중 제약 조건을 만족하는 쿼리를 반환하는 쿼리 검색부; 및 대화 이력, 대화 상태 및 시스템 동작에 따라 탈어휘화 토큰을 사용하여 시스템 응답을 생성하고, 생성된 시스템 응답의 탈어휘화 토큰을 쿼리 결과로 업데이트하는 시스템 응답 생성부를 포함하는 엔드 투 엔드 파이프라인 대화 시스템
|
| 2 |
2
제1항에 있어서, 시스템 동작 예측부는, 대화 상황에 따른 정보를 제공하기 위해 참조 번호, 이름, 우편 번호, 전화 번호, 주소를 포함하는 요청 가능한 슬롯에 대한 모든 값을 코퍼스에 나타나는 도메인 및 슬롯 네임으로 탈어휘화를 수행하는 엔드 투 엔드 파이프라인 대화 시스템
|
| 3 |
3
제2항에 있어서, 시스템 동작 예측부는, MultiWOZ 데이터셋의 탈어휘화 버전에 적용된 미리 훈련된 GPT-2 모델을 사용하여 대화 관리 파이프라인을 따르도록 미세 조정(finetuned)을 수행하는 엔드 투 엔드 파이프라인 대화 시스템
|
| 4 |
4
제3항에 있어서, 미리 훈련된 GPT-2 모델을 사용하여 대화 관리 파이프라인을 따르도록 미세 조정(finetuned)을 수행하기 위해 언어 모델링 및 차세대 발화 분류의 가중치 합계를 최적화하고, 언어 모델링을 통해 이전 단어 토큰으로부터 다음 단어 토큰의 우도(likelihood)를 계산하고, 차세대 발화 분류를 통해 대화 이력이 주어지는 디스트랙터(distractor)로부터 골드 응답(gold response)을 분류하는 엔드 투 엔드 파이프라인 대화 시스템
|
| 5 |
5
제1항에 있어서, 쿼리 검색부는, 시스템 동작에 데이터베이스로부터의 외부 정보가 필요한 경우 쿼리 모듈을 통해 후보들을 검색하고, 후보들 중 제약 조건을 만족하는 쿼리가 없는 경우 빈 쿼리 결과에 해당하는 시스템 응답을 생성하도록 하고, 현재 시스템 동작을 업데이트하는 엔드 투 엔드 파이프라인 대화 시스템
|
| 6 |
6
제1항에 있어서, 시스템 응답 생성부는, 대화 상태 및 시스템 동작에 따라 탈어휘화 토큰을 사용하여 시스템 응답을 생성하기 위해 미리 훈련된 GPT-2 모델을 통해 학습하고, 이후 탈어휘화 토큰을 후처리 코드를 사용하는 데이터베이스 쿼리의 실제 정보로 대체하는 엔드 투 엔드 파이프라인 대화 시스템
|
| 7 |
7
제6항에 있어서, 대화 상태 및 시스템 동작에 따라 탈어휘화 토큰을 사용하여 시스템 응답을 생성할 때 최종 출력은 각 위치에서 단어 토큰의 확률 분포이고, 상기 단어 토큰의 확률 분포를 사용하여 단어 토큰을 생성하는 디코딩을 수행하며, 디코딩을 통해 모델의 성능을 평가하고 인적 평가를 통해 최적의 모델을 선택하는 엔드 투 엔드 파이프라인 대화 시스템
|
| 8 |
8
대화 상태 예측부를 통해 대화 이력에 따라 조건화된 최근 도메인과 해당 대화 상태를 예측하는 단계; 시스템 동작 예측부가 대화 이력과 대화 상태를 조건으로 하는 탈어휘화 토큰(delexicalized tokens)으로 시스템 동작을 예측하는 단계; 쿼리 검색부가 시스템 동작에 데이터베이스로부터의 외부 정보가 필요한 경우 쿼리 모듈을 통해 후보들을 검색하고, 후보들 중 제약 조건을 만족하는 쿼리를 반환하는 단계; 시스템 응답 생성부가 대화 이력, 대화 상태 및 시스템 동작에 따라 탈어휘화 토큰을 사용하여 시스템 응답을 생성하는 단계; 및 시스템 응답 생성부가 생성된 시스템 응답의 탈어휘화 토큰을 쿼리 결과로 업데이트하는 단계를 포함하는 엔드 투 엔드 파이프라인 대화 시스템의 동작 방법
|
| 9 |
9
제8항에 있어서,대화 상태 예측부를 통해 대화 이력과 대화 상태를 조건으로 하는 탈어휘화 토큰으로 시스템 동작을 예측하는 단계는, 대화 상황에 따른 정보를 제공하기 위해 참조 번호, 이름, 우편 번호, 전화 번호, 주소를 포함하는 요청 가능한 슬롯에 대한 모든 값을 코퍼스에 나타나는 도메인 및 슬롯 네임으로 탈어휘화를 수행하는 엔드 투 엔드 파이프라인 대화 시스템의 동작 방법
|
| 10 |
10
제9항에 있어서, MultiWOZ 데이터셋의 탈어휘화 버전에 적용된 미리 훈련된 GPT-2 모델을 사용하여 대화 관리 파이프라인을 따르도록 미세 조정(finetuned)을 수행하는 엔드 투 엔드 파이프라인 대화 시스템의 동작 방법
|
| 11 |
11
제10항에 있어서, 미리 훈련된 GPT-2 모델을 사용하여 대화 관리 파이프라인을 따르도록 미세 조정(finetuned)을 수행하기 위해 언어 모델링 및 차세대 발화 분류의 가중치 합계를 최적화하고, 언어 모델링을 통해 이전 단어 토큰으로부터 다음 단어 토큰의 우도(likelihood)를 계산하고, 차세대 발화 분류를 통해 대화 이력이 주어지는 디스트랙터(distractor)로부터 골드 응답(gold response)을 분류하는 엔드 투 엔드 파이프라인 대화 시스템의 동작 방법
|
| 12 |
12
제8항에 있어서, 쿼리 검색부가 시스템 동작에 데이터베이스로부터의 외부 정보가 필요한 경우 쿼리 모듈을 통해 후보들을 검색하고, 후보들 중 제약 조건을 만족하는 쿼리를 반환하는 단계는, 시스템 동작에 데이터베이스로부터의 외부 정보가 필요한 경우 쿼리 모듈을 통해 후보들을 검색하고, 후보들 중 제약 조건을 만족하는 쿼리가 없는 경우 빈 쿼리 결과에 해당하는 시스템 응답을 생성하도록 하고, 현재 시스템 동작을 업데이트하는 엔드 투 엔드 파이프라인 대화 시스템의 동작 방법
|
| 13 |
13
제8항에 있어서, 시스템 응답 생성부가 대화 이력, 대화 상태 및 시스템 동작에 따라 탈어휘화 토큰을 사용하여 시스템 응답을 생성하는 단계는, 대화 상태 및 시스템 동작에 따라 탈어휘화 토큰을 사용하여 시스템 응답을 생성하기 위해 미리 훈련된 GPT-2 모델을 통해 학습하는 엔드 투 엔드 파이프라인 대화 시스템의 동작 방법
|
| 14 |
14
제13항에 있어서, 시스템 응답 생성부가 생성된 시스템 응답의 탈어휘화 토큰을 쿼리 결과로 업데이트하는 단계는, 생성된 시스템 응답의 탈어휘화 토큰을 후처리 코드를 사용하는 데이터베이스 쿼리의 실제 정보로 대체하는 엔드 투 엔드 파이프라인 대화 시스템의 동작 방법
|
| 15 |
15
제13항에 있어서, 대화 상태 및 시스템 동작에 따라 탈어휘화 토큰을 사용하여 시스템 응답을 생성할 때 최종 출력은 각 위치에서 단어 토큰의 확률 분포이고, 상기 단어 토큰의 확률 분포를 사용하여 단어 토큰을 생성하는 디코딩을 수행하며, 디코딩을 통해 모델의 성능을 평가하고 인적 평가를 통해 최적의 모델을 선택하는 엔드 투 엔드 파이프라인 대화 시스템의 동작 방법
|
