| 1 |
1
취득한 영상을 엣지 디바이스와 함께 분할 추론하는 클라우드를 포함하는 심층신경망 기반 실시간 추론 장치에 있어서,상기 엣지 디바이스의 제1 인공지능 모델과 동일한 제2 인공지능 모델의 정보를 저장하는 메모리; 및상기 메모리를 제어하는 프로세서를 포함하고,상기 프로세서는, 상기 제1 인공지능 모델에 포함된 복수의 레이어 중에서 소정의 분할점에 해당하는 제1 레이어의 출력에 대해 양자화된 피처를 수신하고,상기 양자화된 피처를 상기 제1 레이어 직후에 대응하는 상기 제2 인공지능 모델의 제2 레이어에 입력하여 상기 제2 인공지능 모델을 기반으로 상기 영상에 대한 처리 결과를 도출하는 것을 특징으로 하는 심층신경망 기반 실시간 추론 장치
|
| 2 |
2
제 1 항에 있어서,상기 클라우드는,상기 양자화된 피처를 상기 인공지능 모델에 입력하여 상기 영상 속 객체를 탐지하는 것을 특징으로 하는 심층신경망 기반 실시간 추론 장치
|
| 3 |
3
제 1 항에 있어서,상기 제1 인공지능 모델 및 상기 제2 인공지능 모델은,학습용 영상, 각 레이어마다 양자화된 피처와 양자화되지 않은 단일 피처에 대해 학습된 심층신경망인 것을 특징으로 하는 심층신경망 기반 실시간 추론 장치
|
| 4 |
4
제 1 항에 있어서,상기 환경 조건은, 상기 엣지 디바이스 및 상기 클라우드 간 네트워크 속도, 및 상기 엣지 디바이스 및 상기 클라우드의 성능 중 적어도 하나를 포함하는 것을 특징으로 하는 심층신경망 기반 실시간 추론 장치
|
| 5 |
5
제 1 항에 있어서,상기 제1 인공지능 모델 및 상기 제2 인공지능 모델은,각 레이어의 피처를 양자화하는 경로 및 상기 각 레이어의 피처를 양자화하지 않고 통과시키는 경로를 스위칭하는 양자화 스위치를 더 포함하고,상기 양자화 스위치는 상기 인공지능 모델의 상기 레이어마다 구비되는 것을 특징으로 하는 심층신경망 기반 실시간 추론 장치
|
| 6 |
6
제 1 항에 있어서,상기 제1 인공지능 모델 및 상기 제2 인공지능 모델은,상기 분할점 직후에 상기 제1 레이어에서 출력된 피처의 분포를 평균과 분산을 통해 정규화하는 피처 분포 매칭부를 동적으로 적용하는 것을 특징으로 하는 심층신경망 기반 실시간 추론 장치
|
| 7 |
7
제 6 항에 있어서,상기 피처 분포 매칭부는,상기 양자화된 피처에 대해 피처의 정밀도를 복원하는 컨볼루션 레이어를 적용하는 것을 특징으로 하는 심층신경망 기반 실시간 추론 장치
|
| 8 |
8
취득한 영상을 처리한 양자화된 피처를 클라우드에 전송하는 엣지 디바이스를 포함하는 심층신경망 기반 실시간 추론 장치에 있어서,상기 클라우드의 제2 인공지능 모델과 동일한 제1 인공지능 모델의 정보를 저장하는 메모리; 및상기 메모리를 제어하는 프로세서를 포함하고,상기 프로세서는, 환경 조건을 분석하여, 상기 제1 인공지능 모델에 포함된 복수의 레이어 중에서 소정의 분할점에 해당하는 제1 레이어를 상기 환경 조건에 대한 분석 결과에 따라 선택하며, 상기 제1 레이어의 피처만 양자화하여, 양자화된 상기 피처를 상기 클라우드로 전송하는 것을 특징으로 하는 심층신경망 기반 실시간 추론 장치
|
| 9 |
9
제 8 항에 있어서,상기 클라우드는,양자화된 상기 피처를 상기 제1 레이어 직후의 상기 제2 인공지능 모델에 대응하는 제2 레이어에 입력하여 상기 제2 인공지능 모델을 기반으로 상기 영상에 대한 처리 결과를 도출하는 것을 특징으로 하는 심층신경망 기반 실시간 추론 장치
|
| 10 |
10
제 8 항에 있어서,상기 제1 인공지능 모델 및 상기 제2 인공지능 모델은,학습용 영상, 각 레이어마다 양자화된 피처와 양자화되지 않은 단일 피처에 대해 학습된 심층신경망인 것을 특징으로 하는 심층신경망 기반 실시간 추론 장치
|
| 11 |
11
제 8 항에 있어서,상기 환경 조건은, 상기 엣지 디바이스 및 상기 클라우드 간 네트워크 속도, 및 상기 엣지 디바이스 및 상기 클라우드의 성능 중 적어도 하나를 포함하는 것을 특징으로 하는 심층신경망 기반 실시간 추론 장치
|
| 12 |
12
제 8 항에 있어서,상기 제1 인공지능 모델 및 상기 제2 인공지능 모델은,각 상기 레이어의 피처를 양자화하는 경로 및 상기 각 레이어의 피처를 양자화하지 않고 통과시키는 경로를 스위칭하는 양자화 스위치를 더 포함하고,상기 양자화 스위치는 상기 인공지능 모델의 상기 레이어마다 구비되는 것을 특징으로 하는 심층신경망 기반 실시간 추론 장치
|
| 13 |
13
제 8 항에 있어서,상기 제1 인공지능 모델 및 상기 제2 인공지능 모델은,상기 분할점 직후에 상기 제1 레이어에서 출력된 피처의 분포를 평균과 분산을 통해 정규화하는 피처 분포 매칭부를 동적으로 적용하는 것을 특징으로 하는 심층신경망 기반 실시간 추론 장치
|
| 14 |
14
엣지 디바이스로부터 영상을 취득하는 단계;엣지 디바이스 및 클라우드 관련 환경 조건을 분석하는 단계;상기 엣지 디바이스의 기 학습된 제1 인공지능 모델에 포함된 복수의 레이어 중에서 분할점에 해당하는 제1 레이어를 상기 환경 조건에 대한 분석 결과에 따라 선택하는 단계;상기 분할점에 해당하는 상기 제1 레이어의 피처만 양자화하는 단계; 및상기 양자화된 피처를 클라우드로 전송하는 단계;를 포함하는 것을 특징으로 하는 심층신경망 기반 실시간 추론 방법
|
| 15 |
15
제 14 항에 있어서,상기 환경 조건을 분석하는 단계는,상기 엣지 디바이스 및 상기 클라우드 간 네트워크 속도, 및 상기 엣지 디바이스 및 상기 클라우드의 성능 중 적어도 하나를 분석하는 것을 특징으로 하는 심층신경망 기반 실시간 추론 방법
|
| 16 |
16
제 14항에 있어서,상기 제1 인공지능 모델 및 상기 제2 인공지능 모델은,학습용 영상을 입력으로, 각 레이어마다 양자화된 피처와 양자화되지 않은 단일 피처에 대해 학습된 심층신경망인 것을 특징으로 하는 심층신경망 기반 실시간 추론 방법
|
| 17 |
17
심층신경망 기반 실시간 추론 방법에 있어서, 엣지 디바이스로부터 영상을 취득하는 단계;엣지 디바이스 및 클라우드 관련 환경 조건을 분석하는 단계;상기 엣지 디바이스의 기 학습된 제1 인공지능 모델에 포함된 복수의 레이어 중에서 분할점에 해당하는 제1 레이어를 상기 환경 조건에 대한 분석 결과에 따라 선택하는 단계;상기 분할점에 해당하는 상기 제1 레이어의 피처만 양자화하는 단계;상기 양자화된 피처를 클라우드로 전송하는 단계;상기 클라우드가 상기 제1 인공지능 모델과 동일한 제2 인공지능 모델에 포함된 복수의 레이어 중 상기 제1 레이어 직후에 대응하는 제2 레이어에 상기 양자화된 피처를 입력하는 단계; 및상기 제2 인공지능 모델을 기반으로 상기 영상에 대한 처리 결과를 도출하는 단계를 포함하는 것을 특징으로 하는 심층신경망 기반 실시간 추론 방법
|
| 18 |
18
제 17 항에 있어서,상기 환경 조건을 분석하는 단계는,상기 엣지 디바이스 및 상기 클라우드 간 네트워크 속도, 및 상기 엣지 디바이스 및 상기 클라우드의 성능 중 적어도 하나를 분석하는 것을 특징으로 하는 심층신경망 기반 실시간 추론 방법
|
| 19 |
19
제 17 항에 있어서,상기 제1 인공지능 모델 및 상기 제2 인공지능 모델은,각 상기 레이어의 피처를 양자화하는 경로 및 상기 각 레이어의 피처를 양자화하지 않고 통과시키는 경로를 스위칭하는 양자화 스위치를 더 포함하고,상기 양자화 스위치는 상기 인공지능 모델의 상기 레이어마다 구비되는 것을 특징으로 하는 심층신경망 기반 실시간 추론 방법
|
| 20 |
20
제 17 항에 있어서,상기 제1 인공지능 모델 및 상기 제2 인공지능 모델은,상기 분할점 직후에 상기 제1 레이어에서 출력된 피처의 분포를 평균과 분산을 통해 정규화하는 피처 분포 매칭부를 동적으로 적용하는 것을 특징으로 하는 심층신경망 기반 실시간 추론 방법
|
| 21 |
21
컴퓨터 판독 가능한 기록매체에 저장되어 있는 컴퓨터 프로그램으로서,상기 컴퓨터 프로그램은, 프로세서에 의해 실행되면,엣지 디바이스로부터 영상을 취득하는 단계;엣지 디바이스 및 클라우드 관련 환경 조건을 분석하는 단계;상기 엣지 디바이스의 기 학습된 제1 인공지능 모델에 포함된 복수의 레이어 중에서 분할점에 해당하는 제1 레이어를 상기 환경 조건에 대한 분석 결과에 따라 선택하는 단계;상기 분할점에 해당하는 상기 제1 레이어의 피처만 양자화하는 단계; 및상기 양자화된 피처를 클라우드로 전송하는 단계를 포함하는 심층신경망 기반 실시간 추론 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함하는컴퓨터 프로그램
|
| 22 |
22
컴퓨터 프로그램을 저장하고 있는 컴퓨터 판독 가능 기록매체로서,엣지 디바이스로부터 영상을 취득하는 단계;엣지 디바이스 및 클라우드 관련 환경 조건을 분석하는 단계;상기 엣지 디바이스의 기 학습된 제1 인공지능 모델에 포함된 복수의 레이어 중에서 분할점에 해당하는 제1 레이어를 상기 환경 조건에 대한 분석 결과에 따라 선택하는 단계;상기 분할점에 해당하는 상기 제1 레이어의 피처만 양자화하는 단계; 및상기 양자화된 피처를 클라우드로 전송하는 단계를 포함하는 심층신경망 기반 실시간 추론 방법을 프로세서가 수행하도록 하기 위한 명령어를 포함하는컴퓨터 판독 가능한 기록매체
|
