| 1 |
1
딥 러닝 장치가, 훈련 데이터를 교집합이 공집합인 복수 개의 미니 배치로 나누는 단계;상기 딥 러닝 장치가, 상기 나눠진 훈련 데이터를 각 세대(epoch)에서 랜덤하게 섞어 각 미니 배치가 확률적으로 사용될 수 있도록 색인을 구성하는 단계;상기 딥 러닝 장치가, 상기 색인에 기반하여 파라미터를 M개의 블록으로 나누는 단계 (단, M은 2이상); 및상기 딥 러닝 장치가, 상기 복수 개의 미니 배치에 속한 서로 다른 미니 배치를 이용하여, 상기 M개의 블록에 속한 서로 다른 파라미터 블록을 업데이트 하는 단계를 포함하는,딥 러닝 방법
|
| 2 |
2
제1항에 있어서,상기 훈련 데이터를 복수 개의 미니 배치로 나누는 단계는,상기 복수 개의 미니 배치가 무작위로 배열된 데이터의 인덱스(χ)를 M개 생성하되, 동일한 미니 배치가 동일한 순서로 배열되지 않도록 상기 인덱스(χ)를 생성하는 단계를 포함하는,딥 러닝 방법
|
| 3 |
3
제2항에 있어서,상기 M개의 블록에 속한 서로 다른 파라미터 블록을 업데이트 하는 단계는,j번째 파라미터 블록 w[j]을 업데이트 하기 위해서 j번째 데이터의 인덱스(χj)에 배열된 미니 배치 β(t,j)를 이용하여 업데이트 하는 단계를 포함하는,딥 러닝 방법
|
| 4 |
4
제3항에 있어서, 상기 j번째 데이터의 인덱스(χj)에서 사용된 미니 배치 β(t,j)를 상기 j번째 데이터의 인덱스(χj)에서 제외하는 단계를 더 포함하는,딥 러닝 방법
|
| 5 |
5
훈련 데이터를 교집합이 공집합인 복수 개의 미니 배치로 나누는 미니 배치 생성부;상기 나눠진 훈련 데이터를 각 세대(epoch)에서 랜덤하게 섞어 각 미니 배치가 확률적으로 사용될 수 있도록 색인을 구성하고, 상기 색인에 기반하여 파라미터를 M개의 블록으로 나누는 파라미터 블록 생성부 (단, M은 2이상); 및상기 복수 개의 미니 배치에 속한 서로 다른 미니 배치를 이용하여, 상기 M개의 블록에 속한 서로 다른 파라미터 블록을 업데이트 하는 학습부를 포함하는,딥 러닝 장치
|
| 6 |
6
제1항에 있어서,하기 수학식에 기반하여 서로 다른 파라미터 블록을 업데이트 하는 것을 특징으로 하는,[수학식]딥 러닝 방법
|
