1 |
1
인공신경망 워터마킹의 안전성 평가 방법에 있어서,훈련 데이터와 워터마크를 위한 부가 정보를 이용하여 인공신경망 모델을 학습시키는 단계;상기 학습된 인공신경망 모델과 동일한 구조의 복제 모델을 학습시키기 위한 새로운 훈련 데이터를 수집하는 단계; 상기 복제 모델에 상기 수집된 새로운 훈련 데이터를 입력하여 상기 동일한 구조의 복제 모델을 학습시키는 단계; 및상기 학습된 복제 모델로부터 실행된 모델 추출 공격을 통해 상기 학습된 인공신경망 모델에 대한 워터마킹의 안전성을 평가하는 단계를 포함하고,상기 인공신경망 모델을 학습시키는 단계는,인공신경망 모델의 학습을 위한 정상적인 이미지(clean image)와 정상적인 레이블(clean label)의 쌍을 포함하는 훈련 데이터를 준비하고, 다수의 키 이미지(key image)와 목표 레이블(target label)의 쌍을 포함하는 부가 정보를 준비하고, 상기 훈련 데이터에 상기 준비된 부가 정보를 추가하여 인공신경망 모델을 학습시키는 단계 를 포함하는 인공신경망 워터마킹의 안전성 평가 방법
|
2 |
2
삭제
|
3 |
3
인공신경망 워터마킹의 안전성 평가 방법에 있어서,훈련 데이터와 워터마크를 위한 부가 정보를 이용하여 인공신경망 모델을 학습시키는 단계;상기 학습된 인공신경망 모델과 동일한 구조의 복제 모델을 학습시키기 위한 새로운 훈련 데이터를 수집하는 단계; 상기 복제 모델에 상기 수집된 새로운 훈련 데이터를 입력하여 상기 동일한 구조의 복제 모델을 학습시키는 단계; 및상기 학습된 복제 모델로부터 실행된 모델 추출 공격을 통해 상기 학습된 인공신경망 모델에 대한 워터마킹의 안전성을 평가하는 단계를 포함하고,상기 새로운 훈련데이터를 수집하는 단계는, 상기 학습된 워터마킹된 인공신경망 모델에 대한 모델 추출 공격을 위하여 복수 개의 임의의 이미지를 준비하고, 상기 학습된 인공신경망 모델에 상기 준비된 복수 개의 임의의 이미지를 입력하고, 상기 학습된 인공신경망 모델을 이용하여 상기 입력된 복수 개의 임의의 이미지의 각각이 특정 클래스에 속할 확률분포를 출력하고, 상기 복수 개의 임의의 이미지 및 상기 출력된 확률분포를 포함하는 쌍을 모델 추출 공격에 사용할 새로운 학습 데이터로 수집하는 단계를 포함하는 인공신경망 워터마킹의 안전성 평가 방법
|
4 |
4
제1항 또는 제3항에 있어서, 상기 동일한 구조의 복제 모델을 학습시키는 단계는,상기 학습된 인공신경망 모델과 동일한 구조의 복제 모델을 생성하고, 상기 수집된 새로운 훈련 데이터를 이용하여 상기 생성된 동일한 구조의 복제 모델을 학습시키는 단계를 포함하는 인공신경망 워터마킹의 안전성 평가 방법
|
5 |
5
제1항 또는 제3항에 있어서, 상기 안전성을 평가하는 단계는,상기 훈련 데이터에 포함된 정상적인 이미지를 예측하는 능력이 상기 인공신경망 모델로부터 상기 복제 모델로 복사되었는지 평가하고, 상기 부가 정보에 포함된 키 이미지를 예측하는 능력이 상기 인공신경망 모델로부터 상기 복제 모델로 복사되었는지를 평가하는 단계 를 포함하는 인공신경망 워터마킹의 안전성 평가 방법
|
6 |
6
제5항에 있어서, 상기 안전성을 평가하는 단계는,상기 훈련 데이터에 포함된 정상적인 이미지에 대한 인공신경망 모델의 정확도와 상기 훈련 데이터에 대한 복제 모델의 정확도를 측정하고, 상기 측정된 인공 신경망 모델의 정확도와 상기 측정된 복제 모델의 정확도의 변화를 계산하는 단계 를 포함하는 인공신경망 워터마킹의 안전성 평가 방법
|
7 |
7
제5항에 있어서, 상기 안전성을 평가하는 단계는,상기 부가 정보에 대한 인공신경망 모델의 정확도를 측정하고, 상기 부가 정보에 대한 복제 모델의 정확도를 측정하고, 상기 측정된 인공신경망 모델의 정확도와 상기 측정된 복제 모델의 정확도의 변화를 계산하는 단계 를 포함하는 인공신경망 워터마킹의 안전성 평가 방법
|
8 |
8
인공신경망 워터마킹의 안전성 평가 시스템에 있어서,훈련 데이터와 워터마크를 위한 부가 정보를 이용하여 인공신경망 모델을 학습시키는 워터마킹부;상기 학습된 인공신경망 모델과 동일한 구조의 복제 모델을 학습시키기 위한 새로운 훈련 데이터를 수집하는 공격 준비부; 상기 복제 모델에 상기 수집된 새로운 훈련 데이터를 입력하여 상기 동일한 구조의 복제 모델을 학습시키는 공격 실행부; 및상기 학습된 복제 모델로부터 실행된 모델 추출 공격을 통해 상기 학습된 인공신경망 모델에 대한 워터마킹의 안전성을 평가하는 공격 결과 평가부를 포함하고,상기 워터마킹부는,인공신경망 모델의 학습을 위한 정상적인 이미지(clean image)와 정상적인 레이블(clean label)의 쌍을 포함하는 훈련 데이터를 준비하고, 다수의 키 이미지(key image)와 목표 레이블(target label)의 쌍을 포함하는 부가 정보를 준비하고, 상기 훈련 데이터에 상기 준비된 부가 정보를 추가하여 인공신경망 모델을 학습시키는인공신경망 워터마킹의 안전성 평가 시스템
|
9 |
9
삭제
|
10 |
10
인공신경망 워터마킹의 안전성 평가 시스템에 있어서,훈련 데이터와 워터마크를 위한 부가 정보를 이용하여 인공신경망 모델을 학습시키는 워터마킹부;상기 학습된 인공신경망 모델과 동일한 구조의 복제 모델을 학습시키기 위한 새로운 훈련 데이터를 수집하는 공격 준비부; 상기 복제 모델에 상기 수집된 새로운 훈련 데이터를 입력하여 상기 동일한 구조의 복제 모델을 학습시키는 공격 실행부; 및상기 학습된 복제 모델로부터 실행된 모델 추출 공격을 통해 상기 학습된 인공신경망 모델에 대한 워터마킹의 안전성을 평가하는 공격 결과 평가부를 포함하고,상기 공격 준비부는,상기 학습된 워터마킹된 인공신경망 모델에 대한 모델 추출 공격을 위하여 복수 개의 임의의 이미지를 준비하고, 상기 학습된 인공신경망 모델에 상기 준비된 복수 개의 임의의 이미지를 입력하고, 상기 학습된 인공신경망 모델을 이용하여 상기 입력된 복수 개의 임의의 이미지의 각각이 특정 클래스에 속할 확률분포를 출력하고, 상기 복수 개의 임의의 이미지 및 상기 출력된 확률분포를 포함하는 쌍을 모델 추출 공격에 사용할 새로운 학습 데이터로 수집하는 것을 특징으로 하는 인공신경망 워터마킹의 안전성 평가 시스템
|
11 |
11
제8항 또는 제10항에 있어서, 상기 공격 실행부는,상기 학습된 인공신경망 모델과 동일한 구조의 복제 모델을 생성하고, 상기 수집된 새로운 훈련 데이터를 이용하여 상기 생성된 동일한 구조의 복제 모델을 학습시키는 것을 특징으로 하는 인공신경망 워터마킹의 안전성 평가 시스템
|
12 |
12
제8항 또는 제10항에 있어서, 상기 공격 결과 평가부는, 상기 훈련 데이터에 포함된 정상적인 이미지를 예측하는 능력이 상기 인공신경망 모델로부터 상기 복제 모델로 복사되었는지 평가하고, 상기 부가 정보에 포함된 키 이미지를 예측하는 능력이 상기 인공신경망 모델로부터 상기 복제 모델로 복사되었는지를 평가하는 것을 특징으로 하는 인공신경망 워터마킹의 안전성 평가 시스템
|
13 |
13
제12항에 있어서, 상기 공격 결과 평가부는, 상기 훈련 데이터에 포함된 정상적인 이미지에 대한 인공신경망 모델의 정확도와 상기 훈련 데이터에 대한 복제 모델의 정확도를 측정하고, 상기 측정된 인공 신경망 모델의 정확도와 상기 측정된 복제 모델의 정확도의 변화를 계산하는 것을 특징으로 하는 인공신경망 워터마킹의 안전성 평가 시스템
|
14 |
14
제12항에 있어서, 상기 공격 결과 평가부는, 상기 부가 정보에 포함된 키 이미지에 대한 인공신경망 모델의 정확도를 측정하고, 상기 부가 정보에 대한 복제 모델의 정확도를 측정하고, 상기 측정된 인공신경망 모델의 정확도와 상기 측정된 복제 모델의 정확도의 변화를 계산하는 것을 특징으로 하는 인공신경망 워터마킹의 안전성 평가 시스템
|