맞춤기술찾기

이전대상기술

딥러닝 네트워크의 양자화 방법

  • 기술번호 : KST2022009912
  • 담당센터 : 서울서부기술혁신센터
  • 전화번호 : 02-6124-6930
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 본 발명은 고정 소수점을 사용하는 심층 신경망 양자화 방법에 관한 것으로, 양자화 비율을 점진적으로 증가시키면서 반복적인 재학습을 수행하고, 그리드 탐색 기법을 사용하여 각 계층에서 사용될 최적의 양자화 비트를 찾는 것을 특징으로 한다. 본 발명에서 제안하는 양자화 기법에 따르면, 하드웨어 구조에 적합한 계산을 가능하게 하고 빠른 동작을 지원하는 동시에 임베디드 플랫폼의 계산 복잡성과 전력 소비를 크게 줄일 수 있는 장점이 있으며, 정확도와 계산 복잡성 사이의 절충안 측면에서 객체 분류 및 객제 탐지 모두에서 기존 양자화 방법 보다 우수한 성능을 구현할 수 있다. 구체적으로, 본 발명에서 제안하는 양자화 방법을 대표적인 1 단계 객체 검출기인 You Only Look Once v3 및 v4 (YOLOv3 0026# YOLOv4)에 적용하면 하드웨어 구현에 적합한 고정 소수점 기반 양자화의 장점을 유지하면서, 평균 정밀도(mAP) 0.1% 정도의 무시할 수 있는 감소와 함께, 약 80 %의 가중치 변수를 감소시키는 효과가 도출된다.
Int. CL G06N 3/08 (2006.01.01) G06N 3/04 (2006.01.01)
CPC G06N 3/08(2013.01) G06N 3/04(2013.01)
출원번호/일자 1020200189753 (2020.12.31)
출원인 서울과학기술대학교 산학협력단
등록번호/일자
공개번호/일자 10-2022-0096904 (2022.07.07) 문서열기
공고번호/일자
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 공개
심사진행상태 수리
심판사항
구분 국내출원/신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2020.12.31)
심사청구항수 5

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 서울과학기술대학교 산학협력단 대한민국 서울특별시 노원구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 김현 서울특별시 성동구
2 김성래 경기도 안산시 상록구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 특허법인지원 대한민국 서울특별시 금천구 가산디지털*로 ***, ***호, ***호

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
최종권리자 정보가 없습니다
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2020.12.31 수리 (Accepted) 1-1-2020-1441525-31
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
딥러닝 네트워크의 양자화 방법에 있어서,미리 학습된 복수의 가중치(weight)를 포함하는 가중치 데이터와 입력 데이터를 입력받는 단계;상기 가중치 데이터를 이용하여 가중치 평균과, 영(0)중심 가중치를 산출하는 단계;상기 영(0)중심 가중치를 가중치 비율이 미리 설정된 기준치에 도달할 때까지 반복적으로 재학습을 수행하는 단계;상기 영(0)중심 가중치의 재학습이 완료된 후, 재학습된 영(0)중심 가중치와 상기 가중치 평균을 합산하는 단계 및상기 합산된 결과를 출력하는 단계를 포함하는 것을 특징으로 하는 딥러닝 네트워크의 양자화 방법
2 2
제1항에 있어서,상기 영(0)중심 가중치를 산출하는 단계는,상기 학습된 가중치로부터 상기 가중치 평균을 차감하는 과정을 포함하는 것을 특징으로 하는 딥러닝 네트워크의 양자화 방법
3 3
제1항에 있어서,상기 재학습을 수행하는 단계는,상기 영(0)중심 가중치와, 상기 딥러닝 네트워크의 입력 데이터의 컨볼루션 연산을 수행하는 과정을 포함하는 것을 특징으로 하는 딥러닝 네트워크의 양자화 방법
4 4
제3항에 있어서,상기 재학습을 수행하는 단계는,제1 양자화 범위에 근거하여, 제1 재학습을 수행하는 과정과,상기 제1 재학습이 수행된 후 상기 가중치 비율이 상기 기준치이 이하이면, 상기 제1 양자화 범위보다 큰 제2 양자화 범위에 근거하여, 제2 재학습을 수행하는 과정을 포함하는 것을 특징으로 하는 딥러닝 네트워크의 양자화 방법
5 5
제4항에 있어서,상기 재학습을 수행하는 단계는,상기 학습된 가중치의 분포에 근거하여, 양자화의 거리를 설정하는 과정을 포함하는 것을 특징으로 하는 딥러닝 네트워크의 양자화 방법
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 과학기술정보통신부 에스케이텔레콤(주) 정보통신방송기술개발및표준화사업 2,000 TFLOPS급 서버 인공지능 딥러닝 프로세서 및 모듈 개발