맞춤기술찾기

이전대상기술

상이한 희소 수준을 갖는 신경망 다중 프루닝 장치 및 방법

  • 기술번호 : KST2021006771
  • 담당센터 : 경기기술혁신센터
  • 전화번호 : 031-8006-1570
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 상이한 희소 수준을 갖는 신경망 다중 프루닝 장치 및 방법과 SIMD 기반의 신경망 프루닝 방법이 개시되며, 본원의 일 실시예에 따른 SIMD 기반의 신경망 프루닝 방법은, 신경망 내 레이어에 적용되는 노드 간 가중치 커널을 GEMM 변환하는 단계 및 상기 GEMM 변환된 가중치 커널을 기 설정된 SIMD 너비를 단위로 하여 프루닝하는 단계를 포함할 수 있다.
Int. CL G06N 3/08 (2006.01.01) G06N 3/04 (2006.01.01) G06N 3/063 (2006.01.01)
CPC G06N 3/08(2013.01) G06N 3/04(2013.01) G06N 3/063(2013.01)
출원번호/일자 1020190148658 (2019.11.19)
출원인 아주대학교산학협력단
등록번호/일자
공개번호/일자 10-2021-0060980 (2021.05.27) 문서열기
공고번호/일자
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 등록
심사진행상태 수리
심판사항
구분
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2019.11.19)
심사청구항수 16

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 아주대학교산학협력단 대한민국 경기도 수원시 영통구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 양회석 경기도 수원시 팔달구
2 장정규 충청북도 청주시 청원구
3 최규식 경기도 수원시 팔달구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 박기갑 대한민국 서울특별시 강남구 논현로 ***(역삼동) 여산빌딩 *층 ***호(온유특허법률사무소)
2 한선희 대한민국 서울시 강남구 논현로 *** 여산빌딩 *층 ***호(온유특허법률사무소)
3 유민규 대한민국 서울특별시 강남구 논현로 *** , *층 ***호 (역삼동, 여산빌딩)(온유특허법률사무소)
4 안병규 대한민국 서울특별시 강남구 논현로 ***, 여산빌딩 *층 ***호(온유특허법률사무소)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
최종권리자 정보가 없습니다
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2019.11.19 수리 (Accepted) 1-1-2019-1187755-19
2 의견제출통지서
Notification of reason for refusal
2021.05.07 발송처리완료 (Completion of Transmission) 9-5-2021-0364371-14
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
SIMD 기반의 신경망 프루닝 방법에 있어서,신경망 내 레이어에 적용되는 노드 간 가중치 커널을 GEMM 변환하는 단계; 및상기 GEMM 변환된 가중치 커널을 기 설정된 SIMD 너비를 단위로 하여 프루닝하는 단계,를 포함하는, 신경망 프루닝 방법
2 2
제1항에 있어서,상기 프루닝 하는 단계는,상기 GEMM 변환된 가중치 커널을 상기 SIMD 너비를 고려하여 복수의 단위 벡터로 분할하는 단계;분할된 상기 단위 벡터 각각의 크기값을 계산하는 단계; 및상기 크기값이 기 설정된 문턱값보다 작은 상기 단위 벡터를 상기 GEMM 변환된 가중치 커널로부터 제거하는 단계,를 포함하는 것인, 신경망 프루닝 방법
3 3
제2항에 있어서,상기 GEMM 변환된 가중치 커널로부터 제거하는 단계는,상기 GEMM 변환된 가중치 커널에 대하여 기 설정된 소정의 방향을 따라 상기 단위 벡터를 탐색하면서 상기 단위 벡터의 크기값과 상기 기 설정된 문턱값을 비교하는 단계를 포함하는 것인, 신경망 프루닝 방법
4 4
제3항에 있어서,SIMD 기능을 구비한 CPU에 의해 수행되는 것을 특징으로 하고,상기 SIMD 너비는 상기 CPU의 SIMD 처리 능력에 기초하여 결정되는 것인, 신경망 프루닝 방법
5 5
제4항에 있어서,상기 SIMD 너비는,상기 GEMM 변환된 가중치 커널의 4개 내지 8개 중 어느 한 개수의 연속된 셀을 포함하도록 결정되는 것인, 신경망 프루닝 방법
6 6
제1항에 있어서,상기 프루닝된 신경망 내의 노드 간 가중치 커널 중 적어도 일부를 회복시키고, 상기 회복된 노드 간 가중치 커널에 대한 재훈련을 수행하는 단계를 더 포함하는 것인, 신경망 프루닝 방법
7 7
상이한 희소 수준을 갖는 신경망 다중 프루닝 방법에 있어서,신경망 내 레이어 중 어느 하나에 대하여 커널 단위의 조립 수준 프루닝을 수행하는 단계; 및상기 조립 수준 프루닝 수행 결과에 대하여 SIMD 단위의 세립 수준 프루닝을 수행하는 단계,를 포함하는, 신경망 다중 프루닝 방법
8 8
제7항에 있어서,상기 세립 수준 프루닝을 수행하는 단계는,상기 조립 수준 프루닝 수행 결과에 대한 가중치 커널을 GEMM 변환하는 단계; 및상기 GEMM 변환된 가중치 커널을 기 설정된 SIMD 너비를 단위로 하여 프루닝하는 단계,를 포함하는 것인, 신경망 다중 프루닝 방법
9 9
제8항에 있어서,상기 SIMD 너비를 단위로 하여 프루닝하는 단계는,상기 GEMM 변환된 가중치 커널을 상기 SIMD 너비를 단위로 하는 복수의 단위 벡터로 분할하는 단계;분할된 상기 단위 벡터 각각의 크기값을 계산하는 단계; 및상기 크기값이 기 설정된 문턱값보다 작은 상기 단위 벡터를 상기 GEMM 변환된 가중치 커널로부터 제거하는 단계,를 포함하는 것인, 신경망 다중 프루닝 방법
10 10
제7항에 있어서,상기 조립 수준 프루닝을 수행하는 단계는,GEMM 변환되지 않은 원본 가중치 커널의 적어도 일부의 연속적인 영역을 상기 원본 가중치 커널로부터 제거하는 것인, 신경망 다중 프루닝 방법
11 11
제7항에 있어서,상기 프루닝된 신경망 내의 노드 간 가중치 커널 중 적어도 일부를 회복시키고, 상기 회복된 노드 간 가중치 커널에 대한 재훈련을 수행하는 단계를 더 포함하는 것인, 신경망 다중 프루닝 방법
12 12
상이한 희소 수준을 갖는 신경망 다중 프루닝 장치에 있어서,신경망 내 레이어 중 어느 하나에 대하여 커널 단위의 조립 수준 프루닝을 수행하는 제1프루닝부; 및상기 조립 수준 프루닝 수행 결과에 대하여 SIMD 단위의 세립 수준 프루닝을 수행하는 제2프루닝부,를 포함하는, 다중 프루닝 장치
13 13
제12항에 있어서,상기 제2프루닝부는,상기 조립 수준 프루닝 수행 결과에 대한 가중치 커널을 GEMM 변환하고, 상기 GEMM 변환된 가중치 커널을 기 설정된 SIMD 너비를 단위로 하여 프루닝하는 것인, 다중 프루닝 장치
14 14
제13항에 있어서,상기 제2프루닝부는,상기 GEMM 변환된 가중치 커널을 상기 SIMD 너비를 단위로 하는 복수의 단위 벡터로 분할하고, 분할된 상기 단위 벡터 각각의 크기값을 계산하고, 상기 크기값이 기 설정된 문턱값보다 작은 상기 단위 벡터를 상기 GEMM 변환된 가중치 커널로부터 제거하는 것인, 다중 프루닝 장치
15 15
제12항에 있어서,상기 제1프루닝부는,GEMM 변환되지 않은 원본 가중치 커널의 적어도 일부의 연속적인 영역을 상기 원본 가중치 커널로부터 제거하는 것인, 다중 프루닝 장치
16 16
제14항에 있어서,프루닝된 신경망 내의 노드 간 가중치 커널 중 적어도 일부를 회복시키고, 상기 회복된 노드 간 가중치 커널에 대한 재훈련을 수행하는 회복 재훈련부를 더 포함하는 것인, 다중 프루닝 장치
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 미래창조과학부 한국전자통신연구원 정보통신. 방송 연구개발사업 인공지능 시스템을 위한 뉴로모픽 SW 플랫폼 기술 개발