| 1 |
1
심층 신경망 기반으로 구성된 적어도 하나의 엣지 노드 및 클라우드 노드를 포함하는 추론 서비스 제공 방법에 있어서,상기 심층 신경망으로의 입력 데이터에 대한 추론 요청에 대응하여 엣지 노드의 미리 정의된 레이어까지 추론 연산을 수행하는 단계;상기 엣지 노드에서 상기 추론 연산에 따른 결과(이하, 제1추론 결과)로 상기 입력 데이터에 대한 각 결과 값에 상응하는 확률 벡터를 기반으로 하는 엔트로피(Entropy) 값을 산출하는 단계;상기 엣지 노드에서 복수의 미리 설정된 임계 값과 상기 엔트로피 값을 비교하는 단계; 및상기 복수의 임계 값과의 비교 결과에 기초하여 상기 제1 추론 결과에 상응하는 결과 값 또는 추론 결과 미정(unknown)을 결과 값으로 제공하거나, 상기 제1 추론 결과를 상기 클라우드 노드로 전달하는 단계를 포함하되,상기 클라우드 노드는 상기 엣지 노드로부터 전달된 제1 추론 결과를 수신하여 추론 연산을 수행하여 최종적인 제2 추론 결과를 결과 값으로 제공하는 것인,심층 신경망 기반으로 구성된 적어도 하나의 엣지 노드 및 클라우드 노드를 포함하는 추론 서비스 제공 방법
|
| 2 |
2
제1항에 있어서,상기 엣지 노드에서 복수의 미리 설정된 임계 값과 상기 엔트로피 값을 비교하는 단계는,상기 복수의 미리 설정된 임계 값으로 제1 임계 값 및 상기 제1 임계 값보다 크도록 설정된 제2 임계 값을 상기 엔트로피 값과 각각 비교하는 것인,심층 신경망 기반으로 구성된 적어도 하나의 엣지 노드 및 클라우드 노드를 포함하는 추론 서비스 제공 방법
|
| 3 |
3
제2항에 있어서,상기 복수의 임계 값과의 비교 결과에 기초하여 상기 제1 추론 결과에 상응하는 결과 값 또는 추론 결과 미정(unknown)을 결과 값으로 제공하거나, 상기 제1 추론 결과를 상기 클라우드 노드로 전달하는 단계는,상기 엔트로피 값이 상기 제1 임계 값 미만인 경우, 상기 입력 데이터의 각 결과 값에 상응하는 확률 벡터 중 가장 큰 값의 확률 벡터를 갖는 결과 값을 상기 제1 추론 결과에 상응하는 결과 값으로 제공하는 것인,심층 신경망 기반으로 구성된 적어도 하나의 엣지 노드 및 클라우드 노드를 포함하는 추론 서비스 제공 방법
|
| 4 |
4
제2항에 있어서,상기 제1 추론 결과에 상응하는 결과 값을 제공함에 따라, 상기 엣지 노드는 다음 입력 데이터에 대한 추론 요청에 대응하는 추론 연산을 수행하는 단계를 더 포함하는,심층 신경망 기반으로 구성된 적어도 하나의 엣지 노드 및 클라우드 노드를 포함하는 추론 서비스 제공 방법
|
| 5 |
5
제2항에 있어서,상기 복수의 임계 값과의 비교 결과에 기초하여 상기 제1 추론 결과에 상응하는 결과 값 또는 추론 결과 미정(unknown)을 결과 값으로 제공하거나, 상기 제1 추론 결과를 상기 클라우드 노드로 전달하는 단계는,상기 엔트로피 값이 제1 임계 값 이상이며 상기 제2 임계 값 미만인 경우, 상기 제1 추론 결과를 상기 클라우드 노드로 전달하는 것인,심층 신경망 기반으로 구성된 적어도 하나의 엣지 노드 및 클라우드 노드를 포함하는 추론 서비스 제공 방법
|
| 6 |
6
제2항에 있어서,상기 복수의 임계 값과의 비교 결과에 기초하여 상기 제1 추론 결과에 상응하는 결과 값 또는 추론 결과 미정(unknown)을 결과 값으로 제공하거나, 상기 제1 추론 결과를 상기 클라우드 노드로 전달하는 단계는,상기 엔트로피 값이 상기 제2 임계 값을 초과하는 경우, 상기 추론 결과 미정을 결과 값으로 제공하는 것인,심층 신경망 기반으로 구성된 적어도 하나의 엣지 노드 및 클라우드 노드를 포함하는 추론 서비스 제공 방법
|
| 7 |
7
제6항에 있어서, 상기 추론 결과 미정을 결과 값으로 제공함에 따라, 상기 엣지 노드는 다음 입력 데이터에 대한 추론 요청에 대응하는 추론 연산을 수행하는 단계를 더 포함하는,심층 신경망 기반으로 구성된 적어도 하나의 엣지 노드 및 클라우드 노드를 포함하는 추론 서비스 제공 방법
|
| 8 |
8
제2항에 있어서,테스트 노드에 학습을 위한 입력 데이터(이하, 학습 데이터) 및 상기 학습 데이터에 상응하는 결과 값을 미리 준비하는 단계;상기 학습 데이터에 상응하는 상기 엣지 노드 및 클라우드 노드에서의 각 결과 값에 기초하여 상기 테스트 노드에서 상기 제2 임계 값을 갱신하는 단계;상기 갱신된 제2 임계 값을 상기 엣지 노드에 전달하는 단계; 및상기 갱신된 제2 임계 값을 상기 엣지 노드에 적용시키는 단계를 더 포함하는,심층 신경망 기반으로 구성된 적어도 하나의 엣지 노드 및 클라우드 노드를 포함하는 추론 서비스 제공 방법
|
| 9 |
9
제8항에 있어서,상기 학습 데이터에 상응하는 상기 엣지 노드 및 클라우드 노드에서의 각 결과 값에 기초하여 상기 테스트 노드에서 상기 제2 임계 값을 갱신하는 단계는,상기 테스트 노드가 상기 학습 데이터를 상기 엣지 노드로 전달하는 단계;상기 엣지 노드에서 상기 학습 데이터에 대한 추론 요청에 대응하여 상기 엣지 노드의 미리 정의된 레이어까지 추론 연산을 수행하는 단계;상기 엣지 노드에서 상기 학습 데이터의 추론 연산에 따른 결과(이하, 제3 추론 결과)로 상기 학습 데이터에 대한 각 결과 값에 상응하는 확률 벡터를 기반으로 하는 엔트로피(Entropy) 값을 산출하는 단계;상기 엣지 노드에서 복수의 미리 설정된 임계 값과 상기 엔트로피 값을 비교하는 단계; 상기 복수의 임계 값과의 비교 결과에 기초하여 상기 제3 추론 결과에 상응하는 결과 값 또는 추론 결과 미정(unknown)을 결과 값으로 제공하거나, 상기 제3 추론 결과를 상기 클라우드 노드로 전달하는 단계; 및상기 클라우드 노드가 상기 엣지 노드로부터 전달된 제3 추론 결과를 수신하여 추론 연산을 수행하여 최종적인 제4 추론 결과를 결과 값으로 제공하는 단계를 포함하는,심층 신경망 기반으로 구성된 적어도 하나의 엣지 노드 및 클라우드 노드를 포함하는 추론 서비스 제공 방법
|
| 10 |
10
제9항에 있어서,상기 학습 데이터에 상응하는 상기 엣지 노드 및 클라우드 노드에서의 각 결과 값에 기초하여 상기 테스트 노드에서 상기 제2 임계 값을 갱신하는 단계는,상기 엣지 노드로부터 수신한 결과 값이 상기 제3 추론 결과에 상응하는 결과 값인 경우 이전 제2 임계 값이 유지되도록 제2 임계 값을 갱신하고, 상기 엣지 노드로부터 수신한 결과 값이 상기 추론 결과 미정(unknown)의 결과 값인 경우 이전 제2 임계 값이 증가되도록 제2 임계 값을 갱신하는 것인,심층 신경망 기반으로 구성된 적어도 하나의 엣지 노드 및 클라우드 노드를 포함하는 추론 서비스 제공 방법
|
| 11 |
11
제9항에 있어서,상기 학습 데이터에 상응하는 상기 엣지 노드 및 클라우드 노드에서의 각 결과 값에 기초하여 상기 테스트 노드에서 상기 제2 임계 값을 갱신하는 단계는,상기 클라우드 노드로부터 수신한 결과 값이 미리 준비된 결과 값과 일치하는 경우 이전 제2 임계 값이 증가되도록 제2 임계 값을 갱신하고,상기 클라우드 노드로부터 수신한 결과 값이 미리 준비된 결과 값과 상이한 경우 이전 제2 임계 값이 감소되도록 제2 임계 값을 갱신하는 것인,심층 신경망 기반으로 구성된 적어도 하나의 엣지 노드 및 클라우드 노드를 포함하는 추론 서비스 제공 방법
|
| 12 |
12
제9항에 있어서,상기 학습 데이터에 상응하는 상기 엣지 노드 및 클라우드 노드에서의 각 결과 값에 기초하여 상기 테스트 노드에서 상기 제2 임계 값을 갱신하는 단계는,상기 제2 임계 값에 0과 1 사이의 미리 설정된 가중치를 부여하는 단계;상기 테스트 노드에서 수신한 결과 값이 상기 엣지 노드 및 클라우드 노드 중 어느 노드에서 수신한 것인지 여부를 확인하는 단계; 및상기 확인 결과에 기초하여, 상기 가중치가 부여된 제2 임계 값에 양의 값, 0, 음의 값 중 어느 하나로 결정되는 지시자(Indicator)를 부가하여 상기 제2 임계 값을 갱신하는 단계를 포함하는,심층 신경망 기반으로 구성된 적어도 하나의 엣지 노드 및 클라우드 노드를 포함하는 추론 서비스 제공 방법
|
| 13 |
13
심층 신경망 기반의 추론 서비스 제공 시스템에 있어서,상기 심층 신경망으로의 입력 데이터에 대한 추론 요청에 대응하여 미리 정의된 레이어까지 추론 연산을 수행하고, 상기 추론 연산에 따른 결과(이하, 제1 추론 결과)로 상기 입력 데이터에 대한 각 결과 값에 상응하는 확률 벡터를 기반으로 하는 엔트로피(Entropy) 값을 산출하며, 상기 엔트로피 값과 미리 설정된 복수의 임계 값을 비교한 결과에 기초하여, 상기 제1 추론 결과에 상응하는 결과 값 또는 추론 결과 미정(unknown)을 결과 값으로 제공하는 적어도 하나의 엣지 노드, 상기 엣지 노드에서의 엔트로피 값과 미리 설정된 복수의 임계 값을 비교한 결과에 기초하여 상기 엣지 노드로부터 상기 제1 추론 결과를 수신하고, 추론 연산을 수행하여 최종적인 제2 추론 결과를 결과 값으로 제공하는 클라우드 노드 및상응하는 결과 값을 포함하는 학습을 위한 입력 데이터(이하, 학습 데이터)에 대한 상기 엣지 노드 및 클라우드 노드에서의 각 결과 값에 기초하여 상기 임계 값을 갱신하고, 상기 갱신된 임계 값을 상기 엣지 노드로 전달하는 테스트 노드를 포함하는,심층 신경망 기반의 추론 서비스 제공 시스템
|
| 14 |
14
심층 신경망 기반의 추론 서비스 제공 시스템에 있어서,상기 심층 신경망으로의 입력 데이터에 대한 추론 요청에 대응하여 미리 정의된 레이어까지 추론 연산을 수행하고, 상기 추론 연산에 따른 결과(이하, 제1 추론 결과)로 상기 입력 데이터에 대한 각 결과 값에 상응하는 확률 벡터를 기반으로 하는 엔트로피(Entropy) 값을 산출하며, 상기 엔트로피 값과 미리 설정된 복수의 임계 값을 비교한 결과에 기초하여, 상기 제1 추론 결과에 상응하는 결과 값 또는 추론 결과 미정(unknown)을 결과 값으로 제공하는 적어도 하나의 엣지 노드 및상기 엣지 노드에서의 엔트로피 값과 미리 설정된 복수의 임계 값을 비교한 결과에 기초하여 상기 엣지 노드로부터 상기 제1 추론 결과를 수신하고, 추론 연산을 수행하여 최종적인 제2 추론 결과를 결과 값으로 제공하는 클라우드 노드를 포함하는,심층 신경망 기반의 추론 서비스 제공 시스템
|
| 15 |
15
제14항에 있어서,상기 복수의 미리 설정된 임계 값은 제1 임계 값 및 상기 제1 임계 값보다 크도록 설정된 제2 임계 값이고,상기 엣지 노드는 상기 엔트로피 값이 상기 제1 임계 값 미만인 경우, 상기 입력 데이터의 각 결과 값에 상응하는 확률 벡터 중 가장 큰 값의 확률 벡터를 갖는 결과 값을 상기 제1 추론 결과에 상응하는 결과 값으로 제공하고,상기 엔트로피 값이 제1 임계 값 이상이며 상기 제2 임계 값 미만인 경우, 상기 제1 추론 결과를 상기 클라우드 노드로 전달하며,상기 엔트로피 값이 상기 제2 임계 값을 초과하는 경우, 상기 추론 결과 미정을 결과 값으로 제공하는 것인,심층 신경망 기반의 추론 서비스 제공 시스템
|
| 16 |
16
제15항에 있어서,상응하는 결과 값을 포함하는 학습을 위한 입력 데이터(이하, 학습 데이터)에 대한 상기 엣지 노드 및 클라우드 노드에서의 각 결과 값에 기초하여 상기 제2 임계 값을 갱신하고, 상기 갱신된 제2 임계 값을 상기 엣지 노드로 전달하는 테스트 노드를 더 포함하며,상기 엣지 노드는 상기 제2 임계 값을 수신하여 적용시키는 것인,심층 신경망 기반의 추론 서비스 제공 시스템
|
| 17 |
17
제16항에 있어서,상기 테스트 노드는 상기 학습 데이터를 상기 엣지 노드로 전달하며, 상기 엣지 노드는 상기 학습 데이터에 대한 추론 요청에 대응하여 미리 정의된 레이어까지 추론 연산을 수행하고, 상기 추론 연산에 따른 결과(이하, 제3 추론 결과)로 상기 학습 데이터에 대한 각 결과 값에 상응하는 확률 벡터를 기반으로 하는 엔트로피(Entropy) 값을 산출하며, 상기 엔트로피 값과 미리 설정된 복수의 임계 값을 비교한 결과에 기초하여, 상기 제3 추론 결과에 상응하는 결과 값 또는 추론 결과 미정(unknown)을 결과 값으로 제공하거나, 상기 제3 추론 결과를 상기 클라우드 노드로 전달하고,상기 클라우드 노드는 상기 엣지 노드로부터 전달된 제3 추론 결과를 수신하여 추론 연산을 수행하여 최종적인 제4 추론 결과를 결과 값으로 제공하는 것인,심층 신경망 기반의 추론 서비스 제공 시스템
|
| 18 |
18
제17항에 있어서,상기 테스트 노드는,상기 엣지 노드로부터 수신한 결과 값이 상기 제3 추론 결과에 상응하는 결과 값인 경우 이전 제2 임계 값이 유지되도록 제2 임계 값을 갱신하고, 상기 엣지 노드로부터 수신한 결과 값이 상기 추론 결과 미정(unknown)의 결과 값인 경우 이전 제2 임계 값이 증가되도록 제2 임계 값을 갱신하는 것인,심층 신경망 기반의 추론 서비스 제공 시스템
|
| 19 |
19
제17항에 있어서,상기 테스트 노드는,상기 클라우드 노드로부터 수신한 결과 값이 상기 미리 준비된 결과 값과 일치하는 경우 이전 제2 임계 값이 증가되도록 제2 임계 값을 갱신하고,상기 클라우드 노드로부터 수신한 결과 값이 상기 미리 준비된 결과 값과 상이한 경우 이전 제2 임계 값이 감소되도록 제2 임계 값을 갱신하는 것인,심층 신경망 기반의 추론 서비스 제공 시스템
|
| 20 |
20
제17항에 있어서,상기 테스트 노드는,상기 제2 임계 값에 0과 1 사이의 미리 설정된 가중치를 부여하고, 상기 엣지 노드 및 클라우드 노드 중 어느 노드에서 결과 값을 수신하였는지 여부를 확인하여, 상기 가중치가 부여된 제2 임계 값에 양의 값, 0, 음의 값 중 어느 하나로 결정되는 지시자(Indicator)를 부가하여 상기 제2 임계 값을 갱신하는 것인,심층 신경망 기반의 추론 서비스 제공 시스템
|
