맞춤기술찾기

이전대상기술

개체명 마스킹을 통한 사전 학습된 임상 퇴원 요약 관련 언어 표현 향상 방법

  • 기술번호 : KST2022014099
  • 담당센터 : 대전기술혁신센터
  • 전화번호 : 042-610-2279
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 본 발명의 실시 형태에 따른 개체명 마스킹을 통한 사전 학습된 Clinical Discharge Summaries 관련 언어 표현 향상 기술은 Subword 단위 Masked 언어 모델 단계; 개체명 단위 Masked 언어 모델 단계를 포함한다. Subword 단위 Masked 언어 모델 단계는 Subword 단위 마스킹 단계, Subword 마스킹 토큰에 대한 사전 학습 단계를 포함할 수 있다. 개체명 단위 Masked 언어 모델 단계는 개체명 도메인 특화 개체명 마스킹 단계, 도메인 특화 개체명 마스킹 토큰에 대한 사전 학습 단계를 포함할 수 있다. 이 기술을 통해 일반적인 언어학적 표현 뿐만 아니라 의료 도메인 관련 전문 지식이 필요한 Clinical Discharge Summaries 관련 문장들에 대해서도 외부의 별다른 사전 지식 없이 기계가 정밀하게 이해할 수 있다.
Int. CL G06N 3/08 (2006.01.01) G06N 3/04 (2006.01.01) G06F 40/295 (2020.01.01)
CPC G06N 3/08(2013.01) G06N 3/0427(2013.01) G06F 40/295(2013.01)
출원번호/일자 1020210009306 (2021.01.22)
출원인 한국과학기술원
등록번호/일자
공개번호/일자 10-2022-0106419 (2022.07.29) 문서열기
공고번호/일자
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 공개
심사진행상태 수리
심판사항
구분 국내출원/신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2022.02.25)
심사청구항수 7

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 한국과학기술원 대한민국 대전광역시 유성구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 최호진 대전광역시 유성구
2 이영준 대전광역시 유성구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 박영우 대한민국 서울특별시 강남구 논현로 ***, *층 **세기특허법률사무소 (역삼동, 세일빌딩)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
최종권리자 정보가 없습니다
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2021.01.22 수리 (Accepted) 1-1-2021-0087428-17
2 청구범위 제출유예 안내서
Notification for Deferment of Submission of Claims
2021.01.25 발송처리완료 (Completion of Transmission) 1-5-2021-0015436-44
3 [임시명세서보정(특허)]보정서
2022.02.25 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2022-0218651-56
4 [심사청구]심사청구서·우선심사신청서
2022.02.25 수리 (Accepted) 1-1-2022-0218670-13
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
입력 문장의 서브워드(subword) 단위 마스킹을 통해 얻어지는 마스킹된 문장에 대해 언어 모델을 학습하는 서브워드 단위 Masked 언어 모델 단계; 및상기 입력 문장 내에 존재하는 의료 도메인 특화 개체명 정보를 추출하여 그 추출된 개체명 정보에 대해서만 마스킹을 진행하여 그 마스킹된 개체명에 대해 언어 모델을 학습하는 의료 도메인 특화 개체명 단위 Masked 언어 모델 단계를 포함하여,Subword 단위 Masked 언어 모델과 의료 도메인 특화 개체명 Masked 언어 모델 사전 학습 방법을 통해 임상시험 도메인 관련 문장 언어 표현의 이해를 향상시키는 것을 특징으로 하는 개체명 마스킹을 통한 사전 학습된 임상 퇴원 요약 관련 언어 표현 향상 방법
2 2
제1항에 있어서, 상기 Subword 단위 Masked 언어 모델 단계는,자연어로 이루어진 상기 입력 문장을 subword 단위로 분절화를 진행하고, 임의의 토큰에 대해서 마스킹을 진행하는 Subword 단위 마스킹 단계; 및 마스킹 된 입력 문장에 대해 언어 모델 학습을 수행하는 Subword 단위 마스킹 토큰에 대한 사전 학습 단계를 포함하는 것을 특징으로 하는 개체명 마스킹을 통한 사전 학습된 임상 퇴원 요약 관련 언어 표현 향상 방법
3 3
제2항에 있어서, 상기 분절화를 위해 사용하는 토크나이저는 BERT-base 모델에서 사용하는 토크나이저인 것을 특징으로 하는 개체명 마스킹을 통한 사전 학습된 임상 퇴원 요약 관련 언어 표현 향상 방법
4 4
제2항에 있어서, 상기 Subword 단위 마스킹 단계에서, 상기 분절된 토큰들 중에 15% 확률의 값으로 임의의 토큰을 특별 토큰인 MASK 토큰으로 마스킹을 진행하는 것을 특징으로 하는 개체명 마스킹을 통한 사전 학습된 임상 퇴원 요약 관련 언어 표현 향상 방법
5 5
제2항에 있어서, Subword 단위 마스킹 토큰에 대한 사전 학습 단계는 BERT-base 모델 구조를 사용하여 수행되는 것을 특징으로 하는 개체명 마스킹을 통한 사전 학습된 임상 퇴원 요약 관련 언어 표현 향상 방법
6 6
제1항에 있어서, 상기 의료 도메인 특화 개체명 단위 Masked 언어 모델 단계는, 자연어로 이루어진 입력 문장을 서브워드 단위로 분절화 하여 그 입력 문장 내 의료 도메인 특화 개체명 정보를 추출하고, 추출된 개체명 정보의 위치를 파악하여 subword 단위로 분절화된 입력 문장에서 개체명 정보의 위치와 상응하는 토큰들을 특별 토큰인 'MASK' 토큰으로 마스킹을 진행하는 의료 도메인 특화 개체명 마스킹 단계; 및 상기 의료 도메인 관련 개체명 마스킹 단계에서 마스킹 된 개체명 정보에 대해 언어 모델 학습을 수행하는 의료 도메인 특화 개체명 마스킹 토큰에 대한 사전 학습 단계를 포함하는 것을 특징으로 하는 개체명 마스킹을 통한 사전 학습된 임상 퇴원 요약 관련 언어 표현 향상 방법
7 7
제6항에 있어서, 상기 언어 모델 학습을 위해 사용하는 데이터는 Clinical Discharge Summaries 관련 말뭉치인 MIMIC III 데이터를 사용하는 것을 특징으로 하는 개체명 마스킹을 통한 사전 학습된 임상 퇴원 요약 관련 언어 표현 향상 방법
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 중소벤처기업부 주식회사보인정보기술 창업성장기술개발(R&D) 의료정보 특화 자연어처리(Bio-NLP) 기술 기반 임상시험 지원용 지능형 대화 서비스 API 개발