| 1 |
1
복수의 채널을 포함하는 입력 벡터의 시퀀스를 수신하는 단계;상기 입력 벡터의 시퀀스 중에서 제1 입력 벡터에 대하여 제1 컨볼루션 연산을 수행하는 단계; 및상기 입력 벡터의 시퀀스 중에서 상기 제1 입력 벡터와 채널 방향으로 이웃한 제2 입력 벡터에 대하여 제2 컨볼루션 연산을 수행하는 단계를 포함하는 뉴럴 네트워크 연산 방법
|
| 2 |
2
제1항에 있어서,상기 제1 컨볼루션 연산을 수행하는 단계는,상기 제1 입력 벡터에 대하여 미리 결정된 시간 축 상의 길이를 갖는 필터와의 시간 컨볼루션(temporal convolution)을 수행하는 단계를 포함하는 뉴럴 네트워크 연산 방법
|
| 3 |
3
제1항에 있어서,상기 제1 컨볼루션 연산 및 상기 제2 컨볼루션 연산은1-D 컨볼루션 연산을 포함하는 뉴럴 네트워크 연산 방법
|
| 4 |
4
제1항에 있어서,상기 제2 컨볼루션 연산을 수행하는 단계는,상기 채널 방향으로 상기 제1 입력 벡터와 미리 결정된 거리 이하의 거리만큼 떨어진 하나 이상의 제2 입력 벡터에 대하여 상기 제2 컨볼루션 연산을 수행하는 단계를 포함하는 뉴럴 네트워크 연산 방법
|
| 5 |
5
제4항에 있어서,상기 미리 결정된 거리는,상기 제1 입력 벡터의 차원 보다 작은 값을 갖는뉴럴 네트워크 연산 방법
|
| 6 |
6
제1항에 있어서,상기 제2 컨볼루션 연산의 결과에 기초하여 배치 정규화(batch normalization) 연산을 수행하는 단계; 및상기 배치 정규화 연산의 결과에 기초하여 제1 활성화 연산을 수행하는 단계를 더 포함하는 뉴럴 네트워크 연산 방법
|
| 7 |
7
제6항에 있어서,상기 제1 활성화 연산을 수행하는 단계는,상기 배치 정규화 연산의 결과에 기초하여 ReLU(Rectified Linear Unit) 연산을 수행하는 단계를 포함하는 뉴럴 네트워크 연산 방법
|
| 8 |
8
제6항에 있어서,상기 제1 입력 벡터와 상기 제1 활성화 연산의 결과의 덧셈을 수행하는 단계; 및상기 덧셈의 결과에 기초하여 제2 활성화 연산을 수행하는 단계를 더 포함하는 뉴럴 네트워크 연산 방법
|
| 9 |
9
제8항에 있어서,상기 제2 활성화 연산의 결과에 기초하여 풀링(pooling) 연산을 수행하는 단계; 및상기 풀링 연산의 결과에 기초하여 완전 연결(fully connected) 연산을 수행하는 단계를 더 포함하는 뉴럴 네트워크 연산 방법
|
| 10 |
10
복수의 채널을 포함하는 입력 벡터의 시퀀스를 수신하는 수신기; 및상기 입력 벡터의 시퀀스 중에서 제1 입력 벡터에 대하여 제1 컨볼루션 연산을 수행하고, 상기 입력 벡터의 시퀀스 중에서 상기 제1 입력 벡터와 채널 방향으로 이웃한 제2 입력 벡터에 대하여 제2 컨볼루션 연산을 수행하는 프로세서를 포함하는 뉴럴 네트워크 연산 장치
|
| 11 |
11
제10항에 있어서,상기 프로세서는,상기 제1 입력 벡터에 대하여 미리 결정된 시간 축 상의 길이를 갖는 필터와의 시간 컨볼루션(temporal convolution)을 수행하는뉴럴 네트워크 연산 장치
|
| 12 |
12
제10항에 있어서,상기 제1 컨볼루션 연산 및 상기 제2 컨볼루션 연산은1-D 컨볼루션 연산을 포함하는 뉴럴 네트워크 연산 장치
|
| 13 |
13
제10항에 있어서,상기 프로세서는,상기 채널 방향으로 상기 제1 입력 벡터와 미리 결정된 거리 이하의 거리만큼 떨어진 하나 이상의 제2 입력 벡터들에 대하여 상기 제2 컨볼루션 연산을 수행하는뉴럴 네트워크 연산 장치
|
| 14 |
14
제13항에 있어서,상기 미리 결정된 거리는,상기 제1 입력 벡터의 차원 보다 작은 값을 갖는뉴럴 네트워크 연산 장치
|
| 15 |
15
제10항에 있어서,상기 프로세서는,상기 제2 컨볼루션 연산의 결과에 기초하여 배치 정규화(batch normalization) 연산을 수행하고,상기 배치 정규화 연산의 결과에 기초하여 제1 활성화 연산을 수행하는뉴럴 네트워크 연산 장치
|
| 16 |
16
제15항에 있어서,상기 프로세서는,상기 배치 정규화 연산의 결과에 기초하여 ReLU(Rectified Linear Unit) 연산을 수행하는뉴럴 네트워크 연산 장치
|
| 17 |
17
제15항에 있어서,상기 프로세서는,상기 제1 입력 벡터와 상기 제1 활성화 연산의 결과의 덧셈을 수행하고,상기 덧셈의 결과에 기초하여 제2 활성화 연산을 수행하는뉴럴 네트워크 연산 장치
|
| 18 |
18
제17항에 있어서,상기 프로세서는,상기 제2 활성화 연산의 결과에 기초하여 풀링(pooling) 연산을 수행하고,상기 풀링 연산의 결과에 기초하여 완전 연결(fully connected) 연산을 수행하는뉴럴 네트워크 연산 장치
|
| 19 |
19
자연어를 수신하는 단계;상기 자연어에 기초한 복수의 채널을 포함하는 입력 벡터의 시퀀스 중에서 제1 입력 벡터에 대하여 제1 컨볼루션 연산을 수행하는 단계;상기 입력 벡터의 시퀀스 중에서 상기 제1 입력 벡터와 채널 방향으로 이웃한 제2 입력 벡터에 대하여 제2 컨볼루션 연산을 수행하는 단계; 및상기 제2 컨볼루션 연산의 결과에 기초하여 상기 자연어에 포함된 키워드(keword)를 검출하는 단계를 포함하는 키워드 검출 방법
|
| 20 |
20
제19항에 있어서,상기 제1 컨볼루션 연산을 수행하는 단계는,상기 자연어로부터 특징을 추출함으로써 상기 입력 벡터의 시퀀스를 생성하는 단계를 포함하는 키워드 검출 방법
|
