맞춤기술찾기

이전대상기술

딥 뉴럴 네트워크를 위한 GPU 메모리 관리 방법 및 그를 수행하는 연산 장치

  • 기술번호 : KST2019013950
  • 담당센터 : 서울동부기술혁신센터
  • 전화번호 : 02-2155-3662
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 본 명세서에서 개시되는 실시예들은 딥 뉴럴 네트워크를 위한 GPU 메모리 관리 방법 및 그를 수행하는 연산 장치에 관한 것으로서, GPU의 딥 뉴럴 네트워크의 수행을 관찰하여 GPU 메모리에 입력되어야 할 데이터의 크기를 줄임으로써 GPU의 성능을 확장하는 GPU 메모리 관리 방법 및 그를 수행하는 연산 장치에 관한 것이다. 일 실시예에 따르면, GPU 및 CPU를 포함하는 연산 장치가 수행하는 딥 뉴럴 네트워크를 위한 GPU 메모리 관리 방법으로서, 상기 딥 뉴럴 네트워크에 포함된 단위작업에 대한 상기 GPU의 처리에 기초하여 GPU 메모리 관리 스케줄을 생성하는 단계 및 상기 스케줄에 기초하여 상기 딥 뉴럴 네트워크의 수행에 필요한 데이터를 상기 GPU 메모리와 상기 CPU 메모리 사이에서 이동시키는 단계를 포함하는 GPU 메모리 관리 방법이 개시된다.
Int. CL G06F 9/50 (2018.01.01) G06N 3/08 (2006.01.01)
CPC G06F 9/5016(2013.01) G06F 9/5016(2013.01)
출원번호/일자 1020180003587 (2018.01.10)
출원인 서울대학교산학협력단
등록번호/일자
공개번호/일자 10-2019-0085444 (2019.07.18) 문서열기
공고번호/일자 문서열기
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 등록
심사진행상태 수리
심판사항
구분 신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2018.01.10)
심사청구항수 10

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 서울대학교산학협력단 대한민국 서울특별시 관악구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 이재진 서울특별시 서초구
2 박정호 서울특별시 관악구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 특허법인 아이스퀘어 대한민국 서울특별시 강남구 선릉로 ***, **층 ***호(대치동)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
1 서울대학교산학협력단 서울특별시 관악구
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application
2018.01.10 수리 (Accepted) 1-1-2018-0032771-92
2 [출원서등 보정]보정서
[Amendment to Patent Application, etc.] Amendment
2018.01.11 수리 (Accepted) 1-1-2018-0033113-48
3 선행기술조사의뢰서
Request for Prior Art Search
2018.10.12 수리 (Accepted) 9-1-9999-9999999-89
4 선행기술조사보고서
Report of Prior Art Search
2018.12.06 발송처리완료 (Completion of Transmission) 9-6-2018-0149565-17
5 의견제출통지서
Notification of reason for refusal
2019.01.09 발송처리완료 (Completion of Transmission) 9-5-2019-0023104-39
6 [지정기간연장]기간연장(단축, 경과구제)신청서
[Designated Period Extension] Application of Period Extension(Reduction, Progress relief)
2019.03.11 수리 (Accepted) 1-1-2019-0248812-65
7 [지정기간연장]기간연장(단축, 경과구제)신청서
[Designated Period Extension] Application of Period Extension(Reduction, Progress relief)
2019.04.09 수리 (Accepted) 1-1-2019-0363654-67
8 [지정기간연장]기간연장(단축, 경과구제)신청서
[Designated Period Extension] Application of Period Extension(Reduction, Progress relief)
2019.05.09 수리 (Accepted) 1-1-2019-0476067-93
9 출원인정보변경(경정)신고서
Notification of change of applicant's information
2019.05.13 수리 (Accepted) 4-1-2019-5093546-10
10 출원인정보변경(경정)신고서
Notification of change of applicant's information
2019.05.23 수리 (Accepted) 4-1-2019-5101798-31
11 [거절이유 등 통지에 따른 의견]의견(답변, 소명)서
[Opinion according to the Notification of Reasons for Refusal] Written Opinion(Written Reply, Written Substantiation)
2019.06.03 수리 (Accepted) 1-1-2019-0565727-84
12 [명세서등 보정]보정서
[Amendment to Description, etc.] Amendment
2019.06.03 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2019-0565726-38
13 출원인정보변경(경정)신고서
Notification of change of applicant's information
2019.08.02 수리 (Accepted) 4-1-2019-5154561-59
14 의견제출통지서
Notification of reason for refusal
2019.10.29 발송처리완료 (Completion of Transmission) 9-5-2019-0785248-66
15 [거절이유 등 통지에 따른 의견]의견(답변, 소명)서
[Opinion according to the Notification of Reasons for Refusal] Written Opinion(Written Reply, Written Substantiation)
2019.12.30 수리 (Accepted) 1-1-2019-1352308-51
16 [명세서등 보정]보정서
[Amendment to Description, etc.] Amendment
2019.12.30 보정승인간주 (Regarded as an acceptance of amendment) 1-1-2019-1352309-07
17 등록결정서
Decision to grant
2020.05.06 발송처리완료 (Completion of Transmission) 9-5-2020-0315485-48
18 출원인정보변경(경정)신고서
Notification of change of applicant's information
2020.11.25 수리 (Accepted) 4-1-2020-5265458-48
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
GPU 및 CPU 를 포함하는 연산 장치가 수행하는 딥 뉴럴 네트워크를 위한 GPU 메모리 관리 방법에 있어서, 상기 딥 뉴럴 네트워크에 포함된 단위작업을 상기 GPU 가 미리 설정된 횟수만큼 반복하여 처리한 결과에 기초하여 GPU 메모리 관리 스케줄을 생성하는 단계; 및 상기 GPU 상에서 상기 단위작업을 반복적으로 수행하되, 상기 스케줄에 기초하여 상기 딥 뉴럴 네트워크의 딥러닝에 필요한 데이터를 CPU 메모리로부터 GPU 메모리로 스왑인하거나 상기 GPU 에서 처리 완료된 데이터를 상기 CPU 메모리로 스왑아웃하여 이동시키는 단계를 포함하는, GPU 메모리 관리 방법
2 2
제1항에 있어서,상기 이동시키는 단계는,상기 딥 뉴럴 네트워크의 딥러닝에 필요한 데이터를 CPU 메모리로부터 GPU 메모리로 스왑인하되, 상기 스케줄에 기초하여 상기 단위작업 및 상기 단위작업의 후순위 작업 중 적어도 하나에 대응하는 필요데이터를 상기 CPU 메모리로부터 상기 GPU 메모리로 스왑인하는 것을 특징으로 하는, GPU 메모리 관리 방법
3 3
제1항에 있어서,상기 이동시키는 단계는,상기 설정된 횟수 이후의 상기 단위작업의 반복 처리에 대하여 상기 스케줄을 적용하는 것을 특징으로 하는, GPU 메모리 관리 방법
4 4
제1항에 있어서,상기 스케줄을 생성하는 단계는,상기 단위작업에 대응하는 하나 이상의 필요데이터를 스왑인하는 단계;상기 단위작업의 처리를 진행함에 따라 발생하는 호출을 후킹하는 단계; 및상기 호출에 기초하여 단위작업 처리 정보를 획득하여 상기 필요데이터 각각에 대한 스케줄을 생성하는 단계를 포함하는, GPU 메모리 관리 방법
5 5
제4항에 있어서,상기 필요데이터 각각에 대한 스케줄을 생성하는 단계는,상기 단위작업에 대한 실행 정보, 상기 필요데이터에 대한 정보 및 상기 GPU 메모리에 대한 정보 중 적어도 하나를 포함하는 단위작업 처리 정보를 상기 호출에 기초하여 획득하는 단계; 및상기 단위작업 처리 정보를 선형계획법에 적용하여 상기 딥 뉴럴 네트워크의 딥러닝의 실행 시간이 최소화되는 스케줄을 생성하는 단계를 포함하는, GPU 메모리 관리 방법
6 6
제1항에 있어서,상기 스케줄을 생성하는 단계는,상기 단위작업에 대응하는 하나 이상의 필요데이터를 스왑인하고, 상기 단위작업에 따라 처리된 필요데이터를 스왑아웃함에 있어서, 스왑인 및 스왑아웃하는 데 소요되는 시간이 상기 단위작업의 처리 시간을 초과하면, 상기 단위작업의 선순위 작업에서 처리될 수 있는 스왑인 명령어를 탐색하여 상기 선순위 작업의 진행 중에 처리되도록 스케줄을 생성하는 것을 특징으로 하는, GPU 메모리 관리 방법
7 7
제1항에 있어서,상기 스케줄을 생성하는 단계 이전에,딥 뉴럴 네트워크를 위한 입력 데이터를 분할하는 단계를 더 포함하고,상기 스케줄을 생성하는 단계는,상기 분할된 입력 데이터 각각에 대하여 수행되는 것을 특징으로 하는, GPU 메모리 관리 방법
8 8
제 1 항에 기재된 방법을 수행하는 프로그램이 기록된 컴퓨터 판독 가능한 기록매체
9 9
연산 장치에 의해 수행되며, 제 1 항에 기재된 방법을 수행하기 위해 기록매체에 저장된 컴퓨터 프로그램
10 10
GPU 및 CPU를 포함하고, 딥 뉴럴 네트워크에 포함된 단위작업을 상기 GPU가 미리 설정된 횟수만큼 반복하여 처리한 결과에 기초하여 GPU 메모리 관리 스케줄을 생성하고, 상기 GPU 상에서 상기 단위작업을 반복적으로 수행하되, 상기 스케줄에 기초하여 상기 딥 뉴럴 네트워크의 수행에 필요한 데이터를 CPU 메모리로부터 GPU 메모리로 스왑인하거나 상기 GPU 에서 처리 완료된 데이터를 상기 CPU 메모리로 스왑아웃하여 이동시키는 연산부를 포함하는, 연산 장치
지정국 정보가 없습니다
순번, 패밀리번호, 국가코드, 국가명, 종류의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 패밀리정보 - 패밀리정보 표입니다.
순번 패밀리번호 국가코드 국가명 종류
1 WO2019139253 WO 세계지적재산권기구(WIPO) FAMILY

DOCDB 패밀리 정보

순번, 패밀리번호, 국가코드, 국가명, 종류의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 패밀리정보 - DOCDB 패밀리 정보 표입니다.
순번 패밀리번호 국가코드 국가명 종류
1 WO2019139253 WO 세계지적재산권기구(WIPO) DOCDBFAMILY
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 과학기술정보통신부 서울대학교 개인기초연구(미래부) 매니코어 프로그래밍 연구단