맞춤기술찾기

이전대상기술

인공 신경망의 학습 성능을 향상시키기 위한 구형화 패널티 방법 및 장치

  • 기술번호 : KST2019027488
  • 담당센터 : 서울동부기술혁신센터
  • 전화번호 : 02-2155-3662
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 구형화 패널티를 부가하는 인공 신경망 학습 방법 및 장치가 개시된다. 일 실시예에 따른 인공 신경망 학습 방법은 입력 정보에 기초하여 인공 신경망의 레이어(layer)들에서 히든 벡터(hidden vector)들을 생성하는 단계와, 상기 히든 벡터들에 기초하여 비용 함수(cost function)를 생성하는 단계와, 상기 비용 함수에 구형화(sphericalizing) 패널티를 부가하는 단계를 포함한다.
Int. CL G06N 3/08 (2006.01.01) G06N 3/04 (2006.01.01)
CPC G06N 3/082(2013.01) G06N 3/082(2013.01)
출원번호/일자 1020170054113 (2017.04.27)
출원인 건국대학교 산학협력단
등록번호/일자 10-1819857-0000 (2018.01.11)
공개번호/일자
공고번호/일자 (20180117) 문서열기
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 등록
심사진행상태 수리
심판사항
구분 신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2017.04.27)
심사청구항수 17

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 건국대학교 산학협력단 대한민국 서울특별시 광진구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 김강일 대한민국 서울특별시 광진구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 특허법인 무한 대한민국 서울특별시 강남구 언주로 ***, *층(역삼동,화물재단빌딩)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
1 건국대학교 산학협력단 대한민국 서울특별시 광진구
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2017.04.27 수리 (Accepted) 1-1-2017-0412347-14
2 [우선심사신청]심사청구(우선심사신청)서
[Request for Preferential Examination] Request for Examination (Request for Preferential Examination)
2017.08.02 수리 (Accepted) 1-1-2017-0747166-14
3 [우선심사신청]선행기술조사의뢰서
[Request for Preferential Examination] Request for Prior Art Search
2017.08.04 수리 (Accepted) 9-1-9999-9999999-89
4 [우선심사신청]선행기술조사보고서
[Request for Preferential Examination] Report of Prior Art Search
2017.08.11 수리 (Accepted) 9-1-2017-0027408-34
5 의견제출통지서
Notification of reason for refusal
2017.10.27 발송처리완료 (Completion of Transmission) 9-5-2017-0746745-18
6 [명세서등 보정]보정서
[Amendment to Description, etc.] Amendment
2017.11.15 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2017-1136726-42
7 [거절이유 등 통지에 따른 의견]의견(답변, 소명)서
[Opinion according to the Notification of Reasons for Refusal] Written Opinion(Written Reply, Written Substantiation)
2017.11.15 수리 (Accepted) 1-1-2017-1136724-51
8 등록결정서
Decision to grant
2017.12.29 발송처리완료 (Completion of Transmission) 9-5-2017-0912247-98
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
인공 신경망 학습 장치가 입력 정보에 기초하여 인공 신경망의 레이어(layer)들에서 히든 벡터(hidden vector)들을 생성하는 단계;상기 인공 신경망 학습 장치가 상기 히든 벡터들에 기초하여 비용 함수(cost function)를 생성하는 단계; 및상기 인공 신경망 학습 장치가 상기 비용 함수에 히든 벡터 공간 상의 구형 표면 내부와 외부에 서로 상이한 패널티가 적용되는 구형화(sphericalizing) 패널티를 부가하는 단계를 포함하는 인공 신경망 학습 방법
2 2
제1항에 있어서,상기 구형화 패널티를 부가하는 단계는,상기 히든 벡터 공간(space)을 히든 벡터 희귀도(sparsity)에 기초하여 제1 히든 벡터 공간 및 제2 히든 벡터 공간으로 구별(distinguish)하는 단계; 및상기 제1 히든 벡터 공간 및 상기 제2 히든 벡터 공간에 상이한 패널티를 적용하는 단계를 포함하는 인공 신경망 학습 방법
3 3
제2항에 있어서,상기 구별하는 단계는,상기 히든 벡터 공간 상에 원점을 중심으로 하는 n 차원 구형 표면을 생성하는 단계;상기 구형 표면의 내부를 상기 제1 히든 벡터 공간으로 설정하는 단계; 및상기 구형 표면의 외부를 상기 제2 히든 벡터 공간으로 설정하는 단계를 포함하는 인공 신경망 학습 방법
4 4
제2항에 있어서,상기 패널티를 적용하는 단계는,상기 제1 히든 벡터 공간에 0인 패널티를 적용하는 단계; 및상기 제2 히든 벡터 공간에 원점으로부터의 유클리디안 거리(Euclidean Distance)에 선형적으로 비례하여 증가하는 패널티를 적용하는 단계를 포함하는 인공 신경망 학습 방법
5 5
제4항에 있어서,상기 유클리디안 거리는 차원 수(number of dimension)의 제곱근 값을 한도로 하는인공 신경망 학습 방법
6 6
제1항에 있어서,상기 패널티를 부가하는 단계는,상기 히든 벡터들을 생성하는 상기 레이어들 중 적어도 하나의 레이어에 패널티를 부가하는 단계를 포함하는 인공 신경망 학습 방법
7 7
제1항에 있어서,상기 구형화 패널티를 부가하는 단계는,하기의 수학식에 기초하여 패널티를 부가하는 단계를 포함하는 인공 신경망 학습 방법
8 8
제7항에 있어서,상기 패널티 함수는 하기 수학식에 기초하여 결정되는인공 신경망 학습 방법
9 9
입력 정보를 수신하는 입력부; 및상기 입력 정보에 기초하여 인공 신경망의 레이어들에서 히든 벡터들을 생성하고, 상기 히든 벡터들에 기초하여 비용 함수를 생성하고, 상기 비용 함수에 히든 벡터 공간 상의 구형 표면 내부와 외부에 서로 상이한 패널티가 적용되는 구형화(sphericalizing) 패널티를 부가하는 컨트롤러를 포함하는 인공 신경망 학습 장치
10 10
제9항에 있어서,상기 컨트롤러는,입력 정보에 기초하여 인공 신경망 레이어들에서 히든 벡터들을 생성하는 벡터 생성 모듈;상기 히든 벡터에 기초하여 비용 함수를 생성하는 비용 함수 생성 모듈; 및상기 비용 함수에 상기 히든 벡터 공간 상의 구형 표면 내부와 외부에 서로 상이한 패널티가 적용되는 구형화 패널티를 부가하는 패널티 부가 모듈을 포함하는 인공 신경망 학습 장치
11 11
제10항에 있어서,상기 패널티 부가 모듈은,상기 히든 벡터 공간을 히든 벡터 희귀도에 기초하여 제1 히든 벡터 공간 및 제2 히든 벡터 공간으로 구별하는 구별 모듈; 및상기 제1 히든 벡터 공간 및 상기 제2 히든 벡터 공간에 상이한 패널티를 적용하는 패널티 적용 모듈(penalty application module)을 포함하는 인공 신경망 학습 장치
12 12
제11항에 있어서,상기 구별 모듈은,상기 히든 벡터 공간 상에 원점을 중심으로 하는 n 차원 구형 표면을 생성하는 구형화 모듈(sphericalizing module); 및상기 구형 표면의 내부를 상기 제1 히든 벡터 공간으로 설정하고, 상기 구형 표면의 외부를 상기 제2 히든 벡터 공간으로 설정하는 공간 분배 모듈(space distribution module)을 포함하는 인공 신경망 학습 장치
13 13
제11항에 있어서,상기 패널티 적용 모듈은,상기 제1 히든 벡터 공간에 0인 패널티를 적용하고, 상기 제2 히든 벡터 공간에 원점으로부터의 유클리디안 거리에 선형적으로 비례하여 증가하는 패널티를 적용하는인공 신경망 학습 장치
14 14
제13항에 있어서,상기 유클리디안 거리는 차원 수의 제곱근 값을 한도로 하는인공 신경망 학습 장치
15 15
제10항에 있어서,상기 패널티 부가 모듈은,상기 히든 벡터들을 생성하는 상기 레이어들 중 적어도 하나의 레이어에 패널티를 부가하는인공 신경망 학습 장치
16 16
제10항에 있어서,상기 패널티 부가 모듈은,하기의 수학식에 기초하여 패널티를 부가하는인공 신경망 학습 장치
17 17
제16항에 있어서,상기 패널티 함수는 하기 수학식에 기초하여 결정되는인공 신경망 학습 장치
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 미래창조과학부 건국대학교 산학협력단 대학ICT연구센터육성지원사업 지능정보서비스를 위한 고성능 하이브리드 클라우드 컴퓨팅 기술 개발 및 인력양성