맞춤기술찾기

홈으로 가기
맞춤기술찾기
이전대상기술
프린트하기

이전대상기술

적응형 마스킹과 비방향성 특징을 가진 언어이해생성 시스템 및 그 방법

  • 기술번호 : KST2022008152
  • 담당센터 : 대전기술혁신센터
  • 전화번호 : 042-610-2279
상담신청 PDF 받기
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 본 발명은 적응형 마스킹과 비방향성 특징을 가진 언어이해생성 시스템 및 그 방법에 관한 것이다. 본 발명에 따른 적응형 마스킹과 비방향성 특징을 가진 언어이해생성 시스템은 학습 데이터에 마스킹을 수행하는 적응형 마스킹 블록, 마스킹된 단어를 복원하는 언어 생성기, 복원된 문장 구성 단어들의 원본 여부를 판별하는 인코더를 포함하는 인코더부 및 다음 생성될 단어의 위치를 파악하는 생성 단어 위치 판별기, 해당 위치에 적합한 단어를 결정하는 언어생성기 및 디코더 학습을 위한 비방향성 학습 데이터 생성기를 포함하는 디코더부를 포함한다.
Int. CL G06N 3/08 (2006.01.01) G06F 40/56 (2020.01.01) G06F 40/58 (2020.01.01) G06F 40/284 (2020.01.01) G06F 40/211 (2020.01.01)
CPC G06N 3/08(2013.01) G06F 40/56(2013.01) G06F 40/58(2013.01) G06F 40/284(2013.01) G06F 40/211(2013.01)
출원번호/일자 1020200168645 (2020.12.04)
출원인 한국전자통신연구원
등록번호/일자
공개번호/일자 10-2022-0079163 (2022.06.13) 문서열기
공고번호/일자
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 공개
심사진행상태 수리
심판사항
구분 국내출원/신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2021.09.02)
심사청구항수 10

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 한국전자통신연구원 대한민국 대전광역시 유성구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 정의석 대전광역시 유성구
2 김현우 대전광역시 서구
3 박경문 대전광역시 서구
4 박전규 대전광역시 서구
5 송화전 대전광역시 유성구
6 유병현 대전광역시 유성구
7 한란 대전광역시 유성구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 특허법인지명 대한민국 서울특별시 강남구 남부순환로**** 차우빌딩*층

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
최종권리자 정보가 없습니다
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application		 2020.12.04 수리 (Accepted) 1-1-2020-1316236-42
2 [심사청구]심사청구서·우선심사신청서
 2021.09.02 수리 (Accepted) 1-1-2021-1019380-10
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
학습 데이터에 마스킹을 수행하는 적응형 마스킹 블록, 마스킹된 단어를 복원하는 언어 생성기, 복원된 문장 구성 단어들의 원본 여부를 판별하는 인코더를 포함하는 인코더부; 및다음 생성될 단어의 위치를 파악하는 생성 단어 위치 판별기, 해당 위치에 적합한 단어를 결정하는 언어생성기 및 디코더 학습을 위한 비방향성 학습 데이터 생성기를 포함하는 디코더부를 포함하는 적응형 마스킹과 비방향성 특징을 가진 언어이해생성 시스템
2 2
제1항에 있어서, 상기 적응형 마스킹 블록은 일정 비율의 단어를 특수 심볼로 변환하여 마스킹을 수행하는 것인 적응형 마스킹과 비방향성 특징을 가진 언어이해생성 시스템
3 3
제1항에 있어서, 상기 언어 생성기는 마스킹 단어들을 복원하여 변환된 입력 스트링을 구하는 것인 적응형 마스킹과 비방향성 특징을 가진 언어이해생성 시스템
4 4
제1항에 있어서, 상기 인코더는 입력 스트링과 상기 변환된 입력 스트링을 비교하여 변경토큰 예측을 수행하는 것인 적응형 마스킹과 비방향성 특징을 가진 언어이해생성 시스템
5 5
제1항에 있어서, 상기 디코더부는 문맥을 입력으로 단어를 생성하고, 문맥과 이전 생성된 단어를 입력으로 다음 단어 생성 위치를 결정하고, 결정된 단어 생성 위치에 문맥과 이전 생성된 단어를 입력으로 다음 단어를 생성하고, 생성 단어가 문장 종료 심볼인 경우 비방향성 언어생성 절차를 중단하는 것인 적응형 마스킹과 비방향성 특징을 가진 언어이해생성 시스템
6 6
제1항에 있어서, 상기 생성 단어 위치 판별기는 해당 언어 생성 순서를 가진 비방향성 학습 데이터를 이용하여 현재 컨텍스트와 생성 부분 결과를 입력으로 상기 다음 생성될 단어의 위치를 도출하는 것인 적응형 마스킹과 비방향성 특징을 가진 언어이해생성 시스템
7 7
제1항에 있어서, 상기 비방향성 학습 데이터 생성기는 입력 컨텍스트와 관련성이 큰 언어 생성 순서를 도출하는 것인 적응형 마스킹과 비방향성 특징을 가진 언어이해생성 시스템
8 8
제1항에 있어서, 상기 디코더부는 언어 생성 시점에 패러럴 디코딩을 수행하는 것인 적응형 마스킹과 비방향성 특징을 가진 언어이해생성 시스템
9 9
제1항에 있어서, 상기 인코더부는 마스킹을 진행할 때 학습이 진행 중인 언어 생성기의 특성을 반영하여 마스킹 비율을 조정하는 것인 적응형 마스킹과 비방향성 특징을 가진 언어이해생성 시스템
10 10
제1항에 있어서, 상기 언어생성기의 성능이 향상됨에 따라 구성 어휘에 대한 마스킹 확률 값을 높여 입력 문장의 노이즈를 기설정된 비율 이상 유지시키는 것인 적응형 마스킹과 비방향성 특징을 가진 언어이해생성 시스템
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 과학기술정보통신부 한국전자통신연구원 정부출연금사업(기관고유사업) 자율성장형 AI 핵심원천기술 연구