| 1 |
1
온디바이스 AI 지원 시스템이, 성능이 서로 다른 복수의 AI 칩을 이용하여 복수의 AI 모델을 학습시키는 단계;온디바이스 AI 지원 시스템이, 학습된 AI 모델별 연산 성능을 정리하여 리스트를 생성하는 단계; 및 온디바이스 AI 지원 시스템이, 리스트를 기반으로 특정 AI 모델 실행 시 사용될 AI 칩을 선택하는 단계;를 포함하는 온디바이스 AI 지원 방법
|
| 2 |
2
청구항 1에 있어서,리스트를 생성하는 단계는, 학습된 AI 모델별 연산 성능을 AI 칩별로 정리하여 리스트를 생성하는 것을 특징으로 하는 온디바이스 AI 지원 방법
|
| 3 |
3
청구항 2에 있어서,AI 칩을 선택하는 단계는, 복수의 AI 칩을 이용하여 라이브러리가 구성되면, AI 칩별로 생성된 리스트를 기반으로 특정 AI 모델 실행 시, 구성된 라이브러리에 포함된 복수의 AI 칩 중 어느 하나를 사용될 AI 칩으로 선택하는 것을 특징으로 하는 온디바이스 AI 지원 방법
|
| 4 |
4
청구항 3에 있어서,라이브러리는,뉴로모픽 라이브러리(Neuromorphic Library), NPU(Numeric Processing Unit) 및 VPU(Vision Processing Unit) 라이브러리, CPU 라이브러리 및 하드웨어 드라이브 중 적어도 하나 이상을 포함하는 것을 특징으로 하는 온디바이스 AI 지원 방법
|
| 5 |
5
청구항 2에 있어서,AI 칩을 선택하는 단계는, AI 칩별로 생성된 리스트를 기반으로 AI 모델을 실행하는 프로세서 엔진에서 동적으로 AI 모델의 연산 종류를 파악하여, 각 AI 모델별 최적의 성능을 보장하는 AI 칩을 선택하는 것을 특징으로 하는 온디바이스 AI 지원 방법
|
| 6 |
6
청구항 5에 있어서,AI 칩을 선택하는 단계는,다른 AI 모델이 선택된 AI 칩을 사용하는 경우, 성능순으로 차선의 성능을 보장하는 AI 칩을 선택하는 것을 특징으로 하는 온디바이스 AI 지원 방법
|
| 7 |
7
청구항 2에 있어서,리스트를 생성하는 단계는,AI 칩별로 각각의 학습된 AI 모델의 성능을 비교 평가하여 리스트를 생성하는 것을 특징으로 하는 온디바이스 AI 지원 시스템
|
| 8 |
8
청구항 1에 있어서,온디바이스 AI 지원 시스템이, 컨텍스트 정보를 이용하여 수집되는 데이터 내 관심 영역을 설정하는 단계;를 더 포함하고,AI 칩을 선택하는 단계는, 관심 영역으로 설정된 데이터를 처리하는 제1 AI 모델과 관심 영역이 아닌 데이터를 처리하는 제2 AI 모델에 대하여 서로 다른 성능의 AI 칩을 선택하는 것을 특징으로 하는 온디바이스 AI 지원 방법
|
| 9 |
9
청구항 8에 있어서,AI 칩을 선택하는 단계는, 제1 AI 모델 선택 시, 최적의 성능을 보장하는 AI 칩을 선택하고, 제2 AI 모델 선택 시, 기설정된 임계 성능 이상을 보장하는 AI 칩 중 리소스 부하가 가장 적은 AI칩을 선택하는 것을 특징으로 하는 온디바이스 AI 지원 방법
|
| 10 |
10
성능이 서로 다른 복수의 AI 칩을 이용하여 복수의 AI 모델을 학습시키고, 학습된 AI 모델별 연산 성능을 정리하여 리스트를 생성하며, 리스트를 기반으로 특정 AI 모델 실행 시 사용될 AI 칩을 선택하는 프로세서; 및리스트를 저장하는 저장부;를 포함하는 온디바이스 AI 지원 시스템
|
| 11 |
11
온디바이스 AI 지원 시스템이, 성능이 서로 다른 복수의 AI 칩을 이용하여 학습된 AI 모델별 연산 성능을 AI 칩별로 정리하여 리스트를 생성하는 단계; 및 온디바이스 AI 지원 시스템이, AI 칩별로 생성된 리스트를 기반으로 특정 AI 모델 실행 시 사용될 AI 칩을 선택하는 단계;를 포함하는 온디바이스 AI 지원 방법
|
| 12 |
12
성능이 서로 다른 복수의 AI 칩을 이용하여 학습된 AI 모델별 연산 성능을 AI 칩별로 정리하여 리스트를 생성하고, AI 칩별로 생성된 리스트를 기반으로 특정 AI 모델 실행 시 사용될 AI 칩을 선택하는 프로세서; 및 AI 칩별로 생성된 리스트를 저장하는 저장부;를 포함하는 온디바이스 AI 지원 시스템
|
