| 1 |
1
모델 검증 장치에서 모델을 검증하는 방법에 있어서,기 저장된 시드 뭉치 중 하나의 분석 대상 시드를 선택하는 입력 선택 단계;상기 분석 대상 시드를 변이시켜 입력 배치를 생성하는 입력 변이 단계;상기 입력 배치를 대상 모델에 입력하여 상기 대상 모델에 의해 도출된 모델 결과 정보를 출력하는 대상 모델 처리 단계;상기 모델 결과 정보를 기반으로 커버리지 벡터를 생성하는 커버리지 처리 단계; 및 상기 커버리지 벡터의 신규성 여부를 판단하고, 판단 결과에 따라 상기 커버리지 벡터에 대응하는 신규 시드를 생성하여 업데이트 처리하는 업데이트 처리 단계를 포함하는 것을 특징으로 하는 모델 검증 방법
|
| 2 |
2
제1항에 있어서,상기 기 저장된 시드 뭉치는, 이미지 데이터, 영상 데이터, 음성 데이터, 문자 데이터 중 하나의 데이터에 대한 복수의 시드를 포함하며,상기 입력 선택 단계는, 랜덤 방식을 기반으로 상기 복수의 시드 중 하나의 상기 분석 대상 시드를 선택하는 것을 특징으로 하는 모델 검증 방법
|
| 3 |
3
제1항에 있어서,상기 입력 변이 단계는,적어도 하나의 변이 조건 각각을 기반으로 상기 분석 대상 시드를 적어도 하나의 신규 단일 입력 데이터로 변환하고, 상기 적어도 하나의 신규 단일 입력 데이터를 포함하는 상기 입력 배치를 생성하는 것을 특징으로 하는 모델 검증 방법
|
| 4 |
4
제3항에 있어서,상기 모델 처리 단계는,상기 시드 뭉치를 분류하기 위한 딥러닝 모델에 대응하는 상기 대상 모델을 이용하여 상기 모델 결과 정보를 출력하되,상기 모델 처리 단계는, 상기 적어도 하나의 신규 단일 입력 데이터를 상기 대상 모델에 적용하여 분류 예측 결과정보 및 그래디언트 벡터를 포함하는 상기 모델 결과 정보를 출력하는 것을 특징으로 하는 모델 검증 방법
|
| 5 |
5
제4항에 있어서,상기 모델 처리 단계는,상기 입력 배치에 포함된 상기 적어도 하나의 신규 단일 입력 데이터를 신경망을 통해 분류하여 기 설정된 복수의 클래스 중 소정의 클래스에 속할 확률에 대한 특징 벡터를 포함하는 상기 분류 예측 결과정보를 산출하는 것을 특징으로 하는 모델 검증 방법
|
| 6 |
6
제5항에 있어서,상기 모델 처리 단계는,상기 대상 모델에 대해 기 설정된 기준 레이블과 상기 분류 예측 결과정보를 비교하여 손실 함수를 산출하고, 산출된 손실 함수를 역전파 처리하여 상기 대상 모델에 포함된 히든 레이어 각각에서 생성되는 그래디언트를 추출하여 상기 그래디언트 벡터를 생성하는 것을 특징으로 하는 모델 검증 방법
|
| 7 |
7
제4항에 있어서,상기 커버리지 처리 단계는,모델 결과 정보에 포함된 그래디언트 벡터의 차원을 변경하여 커버리지 벡터를 생성하는 것을 특징으로 하는 모델 검증 방법
|
| 8 |
8
제7항에 있어서,상기 커버리지 처리 단계는,상기 대상 모델에 포함된 모든 대상 레이어 각각에 대한 그래디언트 벡터를 생성하고, 각각의 그래디언트 벡터를 1차원으로 변경한 후 변경된 벡터를 대상 레이어 순으로 결합하여 하나의 커버리지 벡터를 생성하는 것을 특징으로 모델 검증 방법
|
| 9 |
9
제7항에 있어서,상기 업데이트 처리 단계는,상기 커버리지 벡터에 대응하는 상기 분류 예측 결과정보를 기 설정된 판단 기준 레이블(그라운드 트루스 레이블)과 비교하여 상기 커버리지 벡터에 대한 정상 입력 또는 오분류 입력 여부를 판단하고, 판단 결과에 근거하여 상기 신규성 여부를 판단하는 것을 특징으로 하는 모델 검증 방법
|
| 10 |
10
제9항에 있어서,상기 업데이트 처리 단계는,상기 커버리지 벡터가 정상 입력으로 판단된 경우 상기 커버리지 벡터에 대한 신규성 여부를 판단하고, 상기 커버리지 벡터에 대한 신규성이 기 설정된 기준 이상이 경우 상기 커버리지 벡터에 대응하는 신규 시드를 생성하여 상기 시드 뭉치에 추가하는 것을 특징으로 하는 것을 특징으로 하는 모델 검증 방법
|
| 11 |
11
제9항에 있어서,상기 업데이트 처리 단계는,상기 커버리지 벡터가 오분류 입력으로 판단된 경우 상기 커버리지 벡터에 대응하는 단일 입력이 상기 대상 모델의 취약점인 것으로 판단하여 상기 커버리지 벡터에 대응하는 상기 단일 입력을 저장하고, 상기 단일 입력에 대한 관련 정보를 포함하는 모델 취약 정보를 출력하는 것을 특징으로 하는 모델 검증 방법
|
| 12 |
12
딥러닝 모델을 검증하는 장치로서, 하나 이상의 프로세서; 및 상기 프로세서에 의해 실행되는 하나 이상의 프로그램을 저장하는 메모리를 포함하며, 상기 프로그램들은 하나 이상의 프로세서에 의해 실행될 때, 상기 하나 이상의 프로세서들에서,기 저장된 시드 뭉치 중 하나의 분석 대상 시드를 선택하는 입력 선택 단계;상기 분석 대상 시드를 변이시켜 입력 배치를 생성하는 입력 변이 단계;상기 입력 배치를 대상 모델에 입력하여 상기 대상 모델에 의해 도출된 모델 결과 정보를 출력하는 대상 모델 처리 단계;상기 모델 결과 정보를 기반으로 커버리지 벡터를 생성하는 커버리지 처리 단계; 및 상기 커버리지 벡터의 신규성 여부를 판단하고, 판단 결과에 따라 상기 커버리지 벡터에 대응하는 신규 시드를 생성하여 업데이트 처리하는 업데이트 처리 단계를 포함하는 동작들을 수행하게 하는 것을 특징으로 하는 모델 검증장치
|
