1 |
1
소프트웨어 정의 네트워크에 대한 멀티캐스트 라우팅 장치에 있어서,행동 네트워크를 제공하는 행동 네트워크 제공부;상기 행동 네트워크를 강화 학습시키는 학습부;상기 행동 네트워크를 이용하여 패킷에 대응하는 플로우 테이블을 생성하는 플로우 테이블 생성부; 및상기 플로우 테이블을 노드로 전송하여 상기 노드의 플로우 테이블을 갱신시키는 플로우 테이블 갱신부를 포함하되,상기 학습부는,토폴로지를 관측하여 상기 노드로 상태 정보 및 보상 정보를 요청하여 수신하고,상기 상태 정보 및 상기 보상 정보에 따른 최종 보상을 상기 행동 네트워크에 입력하여 행동 정보를 산출하고,상기 상태 정보, 상기 최종 보상 및 상기 행동 정보에 따라 상기 행동 네트워크를 학습시키고,미리 지정된 수의 에피소드의 학습이 완료될 때까지 상기 행동 네트워크의 학습을 반복하고,미리 지정된 시간 구간 별 상기 상태 정보 중 어느 하나를 샘플링하고, 샘플링된 상태 정보에 따라 상기 행동 네트워크를 학습시키는 배치 방식의 학습을 수행하고,미리 지정된 주기마다 상기 행동 네트워크를 학습시키고,상기 행동 네트워크는 각 상태 정보 및 보상 정보에 따른 행동 정보를 산출하는 신경망이고,상기 상태 정보는 각 노드로 구성된 소프트웨어 정의 네트워크에서 송신 노드의 정보, 수신 노드의 정보 및 패킷이 전송되어온 경로를 나타내는 경로 정보를 포함하고, 패킷을 현재 보유하고 있는 노드를 1로 표시하고, 수신 노드를 -1로 표시한 형태의 행렬이고,상기 행동 정보는 현재의 패킷을 보유하고 있는 노드가 패킷을 전송할 다음 노드를 1로 나타낸 형태의 형렬이고,상기 패킷 전송이 불가능한 노드는 상기 행동 네트워크의 바이어스로 추가하여 전송이 불가능한 노드로 전송하는 행동 정보를 생성하지 않고,상기 최종 보상은 미리 지정된 0초과 1미만인 감가율을 보상에 경로의 스텝 수 만큼 곱해준 값으로 하는 멀티캐스트 라우팅 장치
|
2 |
2
삭제
|
3 |
3
삭제
|
4 |
4
삭제
|
5 |
5
삭제
|
6 |
6
소프트웨어 정의 네트워크에 대한 멀티캐스트 라우팅 장치가 멀티캐스트 라우팅을 수행하는 방법에 있어서,행동 네트워크를 강화 학습시키는 단계;상기 행동 네트워크를 이용하여 패킷에 대응하는 플로우 테이블을 생성하는 단계; 및상기 플로우 테이블을 노드로 전송하여 상기 노드의 플로우 테이블을 갱신시키는 단계를 포함하되,상기 행동 네트워크를 강화 학습시키는 단계는,토폴로지를 관측하여 상기 노드로 상태 정보 및 보상 정보를 요청하여 수신하는 단계;상기 상태 정보 및 상기 보상 정보에 따른 최종 보상을 상기 행동 네트워크에 입력하여 행동 정보를 산출하는 단계; 및상기 상태 정보, 상기 최종 보상 및 상기 행동 정보에 따라 상기 행동 네트워크를 학습시키는 단계를 포함하고,상기 행동 네트워크를 강화 학습시키는 단계는,미리 지정된 수의 에피소드의 학습이 완료될 때까지 상기 행동 네트워크의 학습을 반복하고,미리 지정된 시간 구간 별 상기 상태 정보 중 어느 하나를 샘플링하고, 샘플링된 상태 정보에 따라 상기 행동 네트워크를 학습시키는 배치 방식의 학습을 수행하고,미리 지정된 주기마다 상기 행동 네트워크를 학습시키고,상기 행동 네트워크는 각 상태 정보 및 보상 정보 에 따른 행동 정보를 산출하는 신경망이고,상기 상태 정보는 각 노드로 구성된 소프트웨어 정의 네트워크에서 송신 노드의 정보, 수신 노드의 정보 및 패킷이 전송되어온 경로를 나타내는 경로정보를 포함하고, 패킷을 현재 보유하고 있는 노드를 1로 표시하고, 수신 노드를 -1로 표시한 형태의 행렬이고,상기 행동 정보는 현재의 패킷을 보유하고 있는 노드가 패킷을 전송할 다음 노드를 1로 나타낸 형태의 형렬이고,상기 패킷 전송이 불가능한 노드는 상기 행동 네트워크의 바이어스로 추가하여 전송이 불가능한 노드로 전송하는 행동 정보를 생성하지 않고,상기 최종 보상은 미리 지정된 0초과 1미만인 감가율을 보상에 경로의 스텝 수 만큼 곱해준 값으로 하는 멀티캐스트 라우팅 방법
|
7 |
7
삭제
|
8 |
8
삭제
|
9 |
9
삭제
|
10 |
10
삭제
|
11 |
11
제6항의 멀티캐스트 라우팅 방법을 실행하는 컴퓨터 프로그램이 기록된 컴퓨터가 판독 가능한 기록매체
|