맞춤기술찾기

이전대상기술

적응적 프루닝 및 가중치 공유를 사용하는 컨볼루션 신경망 시스템 및 그것의 동작 방법(CONVOLUTIONAL NEURAL NETWORK SYSTEM USING ADAPTIVE PRUNING AND WEIGHT SHARING AND OPERATION METHOD THEREROF)

  • 기술번호 : KST2018003976
  • 담당센터 : 대전기술혁신센터
  • 전화번호 : 042-610-2279
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 본 발명은 파라미터의 수를 줄이고, 계산량을 줄일 수 있는 신경망 시스템 및 그것의 동작 방법에 관한 것이다. 본 발명의 컨볼루션 신경망 시스템의 동작 방법은, 입력 데이터를 사용하여 신경망 노드들 간의 가중치들에 대한 학습을 수행하는 단계, 상기 가중치들 중에서 문턱값보다 작은 크기를 갖는 가중치를 제거한 후에 상기 입력 데이터를 사용하는 학습을 수행하는 적응형 파라미터 제거 단계, 그리고 상기 적응형 파라미터 제거 단계에서 생존한 가중치들을 복수의 대표값에 맵핑시키는 적응형 가중치 공유 단계를 포함한다.
Int. CL G06N 3/04 (2006.01.01) G06N 3/08 (2006.01.01)
CPC
출원번호/일자 1020170027951 (2017.03.03)
출원인 한국전자통신연구원
등록번호/일자
공개번호/일자 10-2018-0037558 (2018.04.12) 문서열기
공고번호/일자
국제출원번호/일자
국제공개번호/일자
우선권정보 대한민국  |   1020160127854   |   2016.10.04
법적상태 등록
심사진행상태 수리
심판사항
구분 신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2020.02.24)
심사청구항수 16

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 한국전자통신연구원 대한민국 대전광역시 유성구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 김진규 대한민국 세종특별자치시 누
2 이주현 대한민국 대전시 유성구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 특허법인 고려 대한민국 서울특별시 강남구 테헤란로 *길 ** *층(역삼동)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
최종권리자 정보가 없습니다
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2017.03.03 수리 (Accepted) 1-1-2017-0218798-96
2 [심사청구]심사청구(우선심사신청)서
[Request for Examination] Request for Examination (Request for Preferential Examination)
2020.02.24 수리 (Accepted) 1-1-2020-0189766-58
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
컨볼루션 신경망 시스템의 동작 방법에 있어서:입력 데이터를 사용하여 신경망 노드들 간의 가중치들에 대한 학습을 수행하는 단계;상기 가중치들 중에서 문턱값보다 작은 크기를 갖는 가중치를 제거한 후에 상기 입력 데이터를 사용하는 학습을 수행하는 적응형 파라미터 제거 단계; 그리고상기 적응형 파라미터 제거 단계에서 생존한 가중치들을 복수의 대표값에 맵핑시키는 적응형 가중치 공유 단계를 포함하는 동작 방법
2 2
제 1 항에 있어서,상기 학습을 수행하는 단계에서, 상기 신경망의 모든 노드들을 포함하는 상태에서 상기 학습이 수행되며, 상기 모든 노드들 사이의 연결들에 대한 학습된 가중치들이 생성되는 동작 방법
3 3
제 1 항에 있어서,상기 적응형 파라미터 제거 단계는:상기 신경망의 모든 레이어별로 초기 문턱값을 결정하는 단계;상기 초기 문턱값을 사용한 가중치 제거 및 학습을 수행하는 단계; 그리고상기 초기 문턱값보다 큰 값을 갖는 상향 문턱값을 사용한 가중치 제거 및 학습을 수행하는 단계를 포함하는 동작 방법
4 4
제 3 항에 있어서,상기 초기 문턱값을 결정하는 단계는, 상기 모든 레이어들 각각의 초기 문턱값은 다른 레이어들의 연결을 유지한 상태에서 조정된 문턱값을 순차적으로 가변하여 적용하고, 기준 정확도보다 낮아지는 문턱값을 상기 레이어들 각각의 상기 초기 문턱값으로 결정하는 동작 방법
5 5
제 3 항에 있어서,상기 초기 문턱값을 사용한 가중치 제거 및 학습을 수행하는 단계는: 상기 모든 레이어들 각각의 가중치들 중에서 상기 초기 문턱값보다 작은 크기의 가중치들을 제거하는 단계; 그리고상기 초기 문턱값보다 작은 크기의 가중치들이 제거된 생존 가중치들에 대한 학습을 수행하는 단계를 포함하는 동작 방법
6 6
제 5 항에 있어서,상기 초기 문턱값보다 적은 크기의 가중치들을 제거하는 단계와, 상기 생존 가중치들에 대한 학습을 수행하는 단계는 반복 루프를 구성하고, 상기 반복 루프는 상기 초기 문턱값보다 작은 크기의 가중치들이 제거될 때까지 반복되는 동작 방법
7 7
제 3 항에 있어서,상기 초기 문턱값보다 큰 값을 갖는 상향 문턱값을 사용한 가중치 제거 및 학습을 수행하는 단계는:생존 가중치들 중에서 상기 상향 문턱값보다 작은 크기의 가중치들을 제거하는 단계; 그리고상기 상향 문턱값보다 같거나 큰 크기의 가중치들에 대한 학습을 수행하는 단계를 포함하는 동작 방법
8 8
제 7 항에 있어서,상기 상향 문턱값보다 작은 크기의 가중치들을 제거하는 단계와, 상기 상향 문턱값보다 같거나 큰 크기의 가중치들에 대한 학습을 수행하는 단계는 반복 루프를 구성하고, 상기 반복 루프는 상기 상향 문턱값보다 작은 크기의 가중치들이 제거될 때까지 반복되는 동작 방법
9 9
제 1 항에 있어서,상기 적응형 가중치 공유 단계에서, 복수의 대표값은 상기 생존한 가중치들의 센트로이드 값으로 결정되는 동작 방법
10 10
제 9 항에 있어서,상기 센트로이드 값은 상기 생존한 가중치의 재학습을 통해서 정제(Fefine)되는 동작 방법
11 11
컨볼루션 신경망 시스템에 있어서:입력 데이터를 버퍼링하는 입력 버퍼;복수의 신경망 노드들 간의 파라미터를 상기 입력 데이터를 사용하여 학습시키는 연산 유닛;상기 연산 유닛의 학습 결과를 저장하고 업데이트하는 출력 버퍼; 상기 복수의 신경망 노드들 간의 파라미터를 상기 연산 유닛에 전달하고, 상기 학습의 결과에 따라 상기 파라미터를 업데이트하는 파라미터 버퍼; 그리고상기 신경망 노드들 간의 가중치들 중에서 문턱값보다 작은 크기의 가중치들을 제거하도록 상기 파라미터 버퍼를 제어하고, 상기 가중치들 중에서 생존 가중치들을 적어도 하나의 대표값에 맵핑시키는 제어 유닛을 포함하는 신경망 시스템
12 12
제 11 항에 있어서,상기 제어 유닛은, 상기 입력 데이터를 사용하여 신경망 노드들 간의 가중치들에 대한 학습을 수행하고, 상기 가중치들 중에서 문턱값보다 작은 크기를 갖는 가중치를 제거한 후에 재학습을 수행하고, 그리고 상기 생존 가중치들을 복수의 대표값에 맵핑시키는 신경망 시스템
13 13
제 12 항에 있어서,상기 제어 유닛은 상기 신경망의 모든 레이어별로 상기 문턱값을 결정하는 신경망 시스템
14 14
제 13 항에 있어서,상기 제어 유닛은 상기 가중치들 중에서 제 1 문턱값보다 작은 가중치들을 제거하여 학습을 수행하는 제 1 반복 루프를 실행하여 제 1 생존 가중치들을 생성하고, 상기 제 1 문턱값보다 큰 제 2 문턱값을 사용하여 상기 제 1 생존 가중치들 중에서 제 2 문턱값보다 작은 가중치들을 제거하는 제 2 반복 루프를 실행하여 상기 생존 가중치를 생성하는 신경망 시스템
15 15
제 14 항에 있어서,상기 대표값은 센트로이드에 대응하는 신경망 시스템
16 16
제 14 항에 있어서,상기 제어 유닛은, 상기 대표값이 맵핑된 센트로이드 인덱스와 상기 센트로이드의 맵핑 테이블을 저장하고, 상기 센트로이드 인덱스를 상기 생존 가중치로 외부 메모리와 교환하는 신경망 시스템
지정국 정보가 없습니다
순번, 패밀리번호, 국가코드, 국가명, 종류의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 패밀리정보 - 패밀리정보 표입니다.
순번 패밀리번호 국가코드 국가명 종류
1 US20180096249 US 미국 FAMILY

DOCDB 패밀리 정보

순번, 패밀리번호, 국가코드, 국가명, 종류의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 패밀리정보 - DOCDB 패밀리 정보 표입니다.
순번 패밀리번호 국가코드 국가명 종류
DOCDB 패밀리 정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 미래창조과학부 한국전자통신연구원 정보통신방송기술개발사업 신경모사 인지형 모바일 컴퓨팅 지능형반도체 기술개발