| 1 |
1
프로세서에 의해 실행되는, 뉴럴 네트워크를 이용하는 데이터 처리 방법에 있어서,상기 뉴럴 네트워크에 포함된 레이어들을 순차적으로 실행하다가 상기 뉴럴 네트워크의 일부에 대한 복수의 실행 경로들 중 어느 하나를 선택하는 연산자를 식별하는 단계;상기 뉴럴 네트워크의 추론에 남은 시간에 기초하여, 상기 복수의 실행 경로들 중 어느 하나를 선택하는 단계; 및상기 선택된 실행 경로를 통해 상기 뉴럴 네트워크의 추론 결과를 획득하는 단계를 포함하는데이터 처리 방법
|
| 2 |
2
제1항에 있어서,상기 선택하는 단계는상기 뉴럴 네트워크에서 상기 연산자 이후에 해당하는 나머지 부분의 최소 실행시간과 상기 남은 시간 간 비교에 기초하여 상기 복수의 실행 경로들 중 어느 하나를 선택하는,데이터 처리 방법
|
| 3 |
3
제1항에 있어서,상기 남은 시간은 상기 뉴럴 네트워크의 추론이 완료되어야 하는 데드라인과 상기 뉴럴 네트워크의 추론이 시작된 후 상기 연산자가 실행되기까지 경과 시간에 기반하여 결정되는 상기 데드라인까지 남은 시간; 또는상기 뉴럴 네트워크에서 수행되는 추론 동작들 중 일부에 설정된 중간 기준시간과 상기 경과 시간에 기반하여 결정되는 상기 중간 기준시간까지 남은 시간을 포함하는,데이터 처리 방법
|
| 4 |
4
제1항에 있어서,상기 연산자는 하나 이상의 레이어들을 포함하는 서브넷의 실행여부를 결정하는 스킵 연산자이고,상기 선택하는 단계는상기 서브넷을 실행하는 경로와 상기 서브넷을 스킵하는 경로 중 어느 하나를 선택하는,데이터 처리 방법
|
| 5 |
5
제4항에 있어서,상기 선택하는 단계는상기 서브넷의 실행시간과 상기 뉴럴 네트워크에서 서브넷 이후의 최소 실행시간의 합이 상기 남은 시간보다 작거나 같은 경우에 응답하여, 상기 서브넷을 실행하는 경로를 선택하는,데이터 처리 방법
|
| 6 |
6
제4항에 있어서,상기 뉴럴 네트워크는 하나 이상의 레이어들을 포함한 반복되는 블록들을 포함하고,상기 스킵 연산자는 상기 블록들 사이에 배치되는,데이터 처리 방법
|
| 7 |
7
제6항에 있어서,상기 스킵 연산자는 동일한 입력 크기를 가지는 상기 블록들 사이에 배치되는,데이터 처리 방법
|
| 8 |
8
제1항에 있어서,상기 연산자는 하나 이상의 레이어들을 포함하는 복수의 서브넷들 중에서 실행할 어느 하나를 선택하는 스위치 연산자이고,상기 선택하는 단계는상기 복수의 서브넷들 각각을 실행하는 경로들 중 어느 하나의 경로를 선택하는,데이터 처리 방법
|
| 9 |
9
제8항에 있어서,상기 선택하는 단계는상기 복수의 서브넷들 각각의 실행시간과 상기 뉴럴 네트워크에서 서브넷 이후의 최소 실행시간의 합이 상기 남은 시간보다 작거나 같은 서브넷들 중에서 가장 긴 실행시간을 가지는 하나를 실행하는 경로를 선택하는,데이터 처리 방법
|
| 10 |
10
제9항에 있어서,상기 선택하는 단계는상기 복수의 서브넷들 중 실행시간이 긴 순서에 따라 순차적으로 각 서브넷을 포함한 상기 뉴럴 네트워크의 나머지 부분이 상기 남은 시간 내에 실행 가능한지를 판단하고, 상기 남은 시간 내에 실행 가능한 가장 긴 실행시간을 가지는 서브넷을 실행하는 경로를 선택하는,데이터 처리 방법
|
| 11 |
11
제1항에 있어서,상기 뉴럴 네트워크는 이미지 내 객체를 검출하는 네트워크인,데이터 처리 방법
|
| 12 |
12
제11항에 있어서,상기 이미지에서 객체가 검출될 것으로 예상되는 하나 이상의 영역들을 영역 제안들로 추출하는 단계; 및상기 추출된 영역 제안들 중에서 상기 남은 시간에 기초하여 결정된 n개를 선택하는 단계를 더 포함하고,상기 n은 0보다 크고, 상기 추출된 영역 제안들의 총 개수보다 작은 자연수인,데이터 처리 방법
|
| 13 |
13
제12항에 있어서,상기 n은 각 영역 제안 내에서 객체를 검출하여 분류하는 최소 시간 및 상기 남은 시간에 기초하여 결정되는,데이터 처리 방법
|
| 14 |
14
제1항에 있어서,상기 뉴럴 네트워크의 추론에 설정된 데드라인은상기 뉴럴 네트워크가 실행되는 환경에 기반하여 설정되는,데이터 처리 방법
|
| 15 |
15
제1항에 있어서,상기 뉴럴 네트워크는상기 뉴럴 네트워크에 포함된 스킵 연산자에서 스킵 동작 없이 대응하는 서브넷을 통한 역전파와 상기 뉴럴 네트워크에 포함된 스위치 연산자의 스위칭 동작 없이 대응하는 복수의 서브넷들을 통한 역전파에 기반하여 트레이닝되거나,상기 스킵 연산자에서 스킵 동작이 랜덤하게 수행되는 역전파와 상기 스위치 연산자의 스위칭 동작 없이 대응하는 복수의 서브넷들을 통한 역전파에 기반하여 트레이닝되거나,상기 스킵 연산자에서 스킵 동작 없이 대응하는 서브넷을 통한 역전파와 상기 스위치 연산자의 스위칭 동작이 랜덤하게 수행되는 역전파에 기반하여 트레이닝되거나, 또는상기 스킵 연산자에서 스킵 동작이 랜덤하게 수행되는 역전파와 상기 스위치 연산자의 스위칭 동작이 랜덤하게 수행되는 역전파에 기반하여 트레이닝되는,데이터 처리 방법
|
| 16 |
16
제1항 내지 제15항 중에서 어느 하나의 항의 방법을 실행시키기 위한 프로그램이 기록된 컴퓨터 판독 가능한 저장 매체
|
| 17 |
17
뉴럴 네트워크를 이용하는 데이터 처리 장치에 있어서,하나 이상의 프로세서를 포함하고,상기 하나 이상의 프로세서는상기 뉴럴 네트워크에 포함된 레이어들을 순차적으로 실행하다가 상기 뉴럴 네트워크의 일부에 대한 복수의 실행 경로들 중 어느 하나를 선택하는 연산자를 식별하고,상기 뉴럴 네트워크의 추론에 남은 시간에 기초하여, 상기 복수의 실행 경로들 중 어느 하나를 선택하며,상기 선택된 실행 경로를 통해 상기 뉴럴 네트워크의 추론 결과를 획득하는데이터 처리 장치
|
| 18 |
18
제17항에 있어서,상기 선택하는 단계는상기 뉴럴 네트워크에서 상기 연산자 이후에 해당하는 나머지 부분의 최소 실행시간과 상기 남은 시간 간 비교에 기초하여 상기 복수의 실행 경로들 중 어느 하나를 선택하는,데이터 처리 장치
|
| 19 |
19
제17항에 있어서,상기 남은 시간은 상기 뉴럴 네트워크의 추론이 완료되어야 하는 데드라인과 상기 뉴럴 네트워크의 추론이 시작된 후 상기 연산자가 실행되기까지 경과 시간에 기반하여 결정되는 상기 데드라인까지 남은 시간; 또는상기 뉴럴 네트워크에서 수행되는 추론 동작들 중 일부에 설정된 중간 기준시간과 상기 경과 시간에 기반하여 결정되는 상기 중간 기준시간까지 남은 시간을 포함하는,데이터 처리 장치
|
| 20 |
20
모델을 가속기에서 실행하고자 하는 요청이 수신됨에 응답하여, 상기 모델에 대한 명령어를 상기 가속기로 전달하는 호스트 프로세서; 및상기 명령어에 따라 상기 모델을 실행하는 가속기를 포함하고,상기 가속기는상기 모델에 포함된 레이어들을 순차적으로 실행하다가 상기 모델의 일부에 대한 복수의 실행 경로들 중 어느 하나를 선택하는 연산자를 식별하고,상기 모델의 추론에 남은 시간에 기초하여, 상기 복수의 실행 경로들 중 어느 하나를 선택하며,상기 선택된 실행 경로를 통해 상기 모델의 추론 결과를 획득하는전자 장치
|
