맞춤기술찾기

이전대상기술

제로 패딩을 사용하는 언어 모델 학습 방법 및 이를 사용하는 장치

  • 기술번호 : KST2019008419
  • 담당센터 : 서울동부기술혁신센터
  • 전화번호 : 02-2155-3662
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 제로 패딩을 사용하는 언어 모델 학습 방법 및 이를 사용하는 장치가 개시된다. 일 실시예에 따른 복수 개의 문장을 분류하는 언어 모델 학습 방법은 제1 문장의 앞과 뒤에 제로 패딩을 할당하여 제2 문장을 생성하는 단계와, 상기 제2 문장으로부터 특징 벡터를 획득하는 단계와, 상기 제1 문장 및 상기 특징 벡터에 기초하여 합성곱 신경망을 사용하는 언어 모델을 학습시키는 단계를 포함하고, 상기 복수 개의 문장은 상기 제1 문장을 포함한다.
Int. CL G10L 15/183 (2013.01.01) G10L 15/16 (2006.01.01) G10L 15/06 (2006.01.01) G06N 3/08 (2006.01.01)
CPC G10L 15/183(2013.01) G10L 15/183(2013.01) G10L 15/183(2013.01) G10L 15/183(2013.01)
출원번호/일자 1020170164007 (2017.12.01)
출원인 건국대학교 산학협력단
등록번호/일자
공개번호/일자 10-2019-0064803 (2019.06.11) 문서열기
공고번호/일자
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 공개
심사진행상태 수리
심판사항
구분 신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2017.12.01)
심사청구항수 14

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 건국대학교 산학협력단 대한민국 서울특별시 광진구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 하영국 경기도 성남시 분당구
2 박경식 서울특별시 송파구
3 박성훈 서울특별시 중랑구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 특허법인 무한 대한민국 서울특별시 강남구 언주로 ***, *층(역삼동,화물재단빌딩)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
최종권리자 정보가 없습니다
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2017.12.01 수리 (Accepted) 1-1-2017-1201828-15
2 의견제출통지서
Notification of reason for refusal
2019.03.07 발송처리완료 (Completion of Transmission) 9-5-2019-0172905-44
3 [거절이유 등 통지에 따른 의견]의견(답변, 소명)서
[Opinion according to the Notification of Reasons for Refusal] Written Opinion(Written Reply, Written Substantiation)
2019.05.07 수리 (Accepted) 1-1-2019-0464732-11
4 [명세서등 보정]보정서
[Amendment to Description, etc.] Amendment
2019.05.07 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2019-0464733-67
5 거절결정서
Decision to Refuse a Patent
2019.09.17 발송처리완료 (Completion of Transmission) 9-5-2019-0667535-20
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
복수 개의 문장을 분류하는 방법에 있어서,제1 문장의 앞과 뒤에 제로 패딩(zero padding)을 할당하여 제2 문장을 생성하는 단계;상기 제2 문장으로부터 특징 벡터(feature vector)를 획득하는 단계; 및상기 제1 문장 및 상기 특징 벡터에 기초하여 합성곱 신경망(Convolutional Neural Network(CNN))을 사용하는 언어 모델(language model)을 학습시키는 단계를 포함하고,상기 복수 개의 문장은 상기 제1 문장을 포함하는 언어 모델 학습 방법
2 2
제1항에 있어서,상기 복수 개의 문장에 대하여 상기 제1 문장과 같은 방법을 수행하는 단계를 더 포함하는 언어 모델 학습 방법
3 3
제1항에 있어서,상기 제2 문장을 생성하는 단계는,상기 합성곱 신경망의 필터(filter)의 크기(size)에 기초하여 상기 제로 패딩의 개수를 결정하는 단계를 포함하는 언어 모델 학습 방법
4 4
제1항에 있어서,상기 제2 문장을 생성하는 단계는,상기 제1 문장의 앞에 상기 필터의 크기만큼 상기 제로 패딩을 할당하는 단계를 포함하는 언어 모델 학습 방법
5 5
제1항에 있어서,상기 제2 문장을 생성하는 단계는,상기 복수 개의 문장 중에서 최대 문장 길이에 기초하여 상기 제로 패딩의 개수를 결정하는 단계를 포함하는 언어 모델 학습 방법
6 6
제5항에 있어서,상기 제2 문장을 생성하는 단계는,상기 최대 문장 길이 및 상기 합성곱 신경망의 필터의 크기에 기초하여 상기 제로 패딩의 개수를 결정하는 단계를 포함하는 언어 모델 학습 방법
7 7
제6항에 있어서,상기 제2 문장을 생성하는 단계는,상기 제1 문장의 뒤에 상기 필터의 크기만큼 상기 제로 패딩을 할당하는 단계; 및상기 제1 문장의 뒤에 상기 최대 문장 길이와 상기 제1 문장의 길이의 차이만큼 상기 제로 패딩을 할당하는 단계를 포함하는 언어 모델 학습 방법
8 8
제1항에 있어서,상기 언어 모델을 학습시키는 단계는,상기 제1 문장 및 상기 특징 벡터에 기초하여 상기 합성곱 신경망에 포함된 인공 뉴런들(artificial neurons) 간의 연결 가중치를 업데이트하는 단계를 포함하는 언어 모델 학습 방법
9 9
복수 개의 문장을 분류하는 장치에 있어서,제1 문장의 앞과 뒤에 제로 패딩을 할당하여 제2 문장을 생성하는 전처리 모듈(preprocessing module); 및상기 제2 문장으로부터 특징 벡터를 획득하고, 상기 제1 문장 및 상기 특징 벡터에 기초하여 합성곱 신경망(CNN)을 사용하는 언어 모델을 학습시키는 언어 모델 학습부를 포함하고,상기 복수 개의 문장은 상기 제1 문장을 포함하는 언어 모델 학습 장치
10 10
제9항에 있어서,상기 언어 모델 학습부는,상기 복수 개의 문장에 대하여 상기 제1 문장과 같은 방법을 수행하는언어 모델 학습 장치
11 11
제9항에 있어서,상기 전처리 모듈은,상기 합성곱 신경망의 필터(filter)의 크기(size)에 기초하여 상기 제로 패딩의 개수를 결정하는언어 모델 학습 장치
12 12
제9항에 있어서,상기 전처리 모듈은,상기 제1 문장의 앞에 상기 필터의 크기만큼 상기 제로 패딩을 할당하는언어 모델 학습 장치
13 13
제9항에 있어서,상기 전처리 모듈은,상기 복수 개의 문장 중에서 최대 문장 길이에 기초하여 상기 제로 패딩의 개수를 결정하는언어 모델 학습 장치
14 14
제13항에 있어서,상기 전처리 모듈은,상기 최대 문장 길이 및 상기 합성곱 신경망의 필터의 크기에 기초하여 상기 제로 패딩의 개수를 결정하는언어 모델 학습 장치
15 15
제14항에 있어서,상기 전처리 모듈은,상기 제1 문장의 뒤에 상기 필터의 크기만큼 상기 제로 패딩을 할당하고,상기 제1 문장의 뒤에 상기 최대 문장 길이와 상기 제1 문장의 길이의 차이만큼 상기 제로 패딩을 할당하는언어 모델 학습 장치
16 16
제1항에 있어서,상기 언어 모델 학습부는,상기 제1 문장 및 상기 특징 벡터에 기초하여 상기 합성곱 신경망에 포함된 인공 뉴런들 간의 연결 가중치를 업데이트하는언어 모델 학습 장치
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 과학기술정보통신부 건국대학교 산학협력단 대학ICT연구센터육성지원사업 지능정보서비스를 위한 고성능 하이브리드 클라우드 컴퓨팅 기술 개발 및 인력양성