| 1 |
1
삭제
|
| 2 |
2
하나 이상의 프로세서들, 및상기 하나 이상의 프로세서들에 의해 실행되는 하나 이상의 프로그램들을 저장하는 메모리를 구비한 컴퓨팅 장치로서, 인공 지능 모델의 무결성 검증을 위한 검증 샘플 그룹을 획득하는 검증 샘플 획득 모듈;상기 검증 샘플 그룹 중 일부의 검증 샘플들을 추출하고, 추출한 검증 샘플들을 상기 인공 지능 모델에 입력하여 상기 인공 지능 모델을 추가 학습하는 학습 모듈; 및상기 검증 샘플 그룹 중 복수 개의 검증 샘플들을 추출하여 복수 개의 챌린지 데이터를 생성하고, 상기 복수 개의 챌린지 데이터에 기반하여 상기 인공 지능 모델에 대해 무결성 검증을 수행하는 검증 모듈을 포함하고,상기 검증 샘플은, 상호 유사도가 기 설정된 유사도 이상인 이미지 셋이 사용되는, 컴퓨팅 장치
|
| 3 |
3
청구항 2에 있어서, 상기 학습 모듈은, 상기 인공 지능 모델이 상기 입력된 검증 샘플들에 대해 분류 값을 출력하도록 상기 인공 지능 모델을 추가 학습하는, 컴퓨팅 장치
|
| 4 |
4
하나 이상의 프로세서들, 및상기 하나 이상의 프로세서들에 의해 실행되는 하나 이상의 프로그램들을 저장하는 메모리를 구비한 컴퓨팅 장치로서, 인공 지능 모델의 무결성 검증을 위한 검증 샘플 그룹을 획득하는 검증 샘플 획득 모듈;상기 검증 샘플 그룹 중 일부의 검증 샘플들을 추출하고, 추출한 검증 샘플들을 상기 인공 지능 모델에 입력하여 상기 인공 지능 모델을 추가 학습하는 학습 모듈; 및상기 검증 샘플 그룹 중 복수 개의 검증 샘플들을 추출하여 복수 개의 챌린지 데이터를 생성하고, 상기 복수 개의 챌린지 데이터에 기반하여 상기 인공 지능 모델에 대해 무결성 검증을 수행하는 검증 모듈을 포함하고,상기 검증 모듈은, 상기 추출한 복수 개의 검증 샘플들에 랜덤 노이즈를 각각 삽입하여 상기 복수 개의 챌린지 데이터를 생성하고, 상기 복수 개의 챌린지 데이터를 상기 추가 학습된 인공 지능 모델에 입력하여 상기 복수 개의 챌린지 데이터에 각각 대응하는 검증 측 분류 값을 출력하도록 하는, 컴퓨팅 장치
|
| 5 |
5
청구항 4에 있어서, 상기 복수 개의 챌린지 데이터는, 상기 추출한 복수 개의 검증 샘플들에 입력되는 랜덤 노이즈에 따라 상기 검증 측 분류 값이 달라지도록 마련되는, 컴퓨팅 장치
|
| 6 |
6
청구항 4에 있어서, 상기 추가 학습된 인공 지능 모델은 하나 이상의 입증 장치로 배포되고,상기 검증 모듈은, 상기 복수 개의 챌린지 데이터를 포함하는 무결성 검증 요청 메시지를 상기 입증 장치로 전송하고, 상기 입증 장치로부터 상기 복수 개의 챌린지 데이터에 각각 대응하는 입증 측 분류 값을 수신하는, 컴퓨팅 장치
|
| 7 |
7
청구항 6에 있어서, 상기 검증 모듈은, 상기 복수 개의 챌린지 데이터에 대한 상기 검증 측 분류값과 상기 입증 측 분류 값을 비교하여 상기 입증 장치로 배포된 인공 지능 모델의 무결성을 검증하는, 컴퓨팅 장치
|
| 8 |
8
삭제
|
| 9 |
9
하나 이상의 프로세서들, 및상기 하나 이상의 프로세서들에 의해 실행되는 하나 이상의 프로그램들을 저장하는 메모리를 구비한 컴퓨팅 장치에서 수행되는 방법으로서, 인공 지능 모델의 무결성 검증을 위한 검증 샘플 그룹을 획득하는 동작;상기 검증 샘플 그룹 중 일부의 검증 샘플들을 추출하고, 추출한 검증 샘플들을 상기 인공 지능 모델에 입력하여 상기 인공 지능 모델을 추가 학습하는 동작; 및상기 검증 샘플 그룹 중 복수 개의 검증 샘플들을 추출하여 복수 개의 챌린지 데이터를 생성하고, 상기 복수 개의 챌린지 데이터에 기반하여 상기 인공 지능 모델에 대해 무결성 검증을 수행하는 동작을 포함하고,상기 검증 샘플은, 상호 유사도가 기 설정된 유사도 이상인 이미지 셋이 사용되는, 인공 지능 모델의 무결성 검증 방법
|
| 10 |
10
청구항 9에 있어서, 상기 추가 학습하는 동작은, 상기 인공 지능 모델이 상기 입력된 검증 샘플들에 대해 분류 값을 출력하도록 상기 인공 지능 모델을 추가 학습하는, 인공 지능 모델의 무결성 검증 방법
|
| 11 |
11
하나 이상의 프로세서들, 및상기 하나 이상의 프로세서들에 의해 실행되는 하나 이상의 프로그램들을 저장하는 메모리를 구비한 컴퓨팅 장치에서 수행되는 방법으로서, 인공 지능 모델의 무결성 검증을 위한 검증 샘플 그룹을 획득하는 동작;상기 검증 샘플 그룹 중 일부의 검증 샘플들을 추출하고, 추출한 검증 샘플들을 상기 인공 지능 모델에 입력하여 상기 인공 지능 모델을 추가 학습하는 동작; 및상기 검증 샘플 그룹 중 복수 개의 검증 샘플들을 추출하여 복수 개의 챌린지 데이터를 생성하고, 상기 복수 개의 챌린지 데이터에 기반하여 상기 인공 지능 모델에 대해 무결성 검증을 수행하는 동작을 포함하고,상기 무결성 검증을 수행하는 동작은, 상기 추출한 복수 개의 검증 샘플들에 랜덤 노이즈를 각각 삽입하여 상기 복수 개의 챌린지 데이터를 생성하는 동작; 및상기 복수 개의 챌린지 데이터를 상기 추가 학습된 인공 지능 모델에 입력하여 상기 복수 개의 챌린지 데이터에 각각 대응하는 검증 측 분류 값을 출력하도록 하는 동작을 포함하는, 인공 지능 모델의 무결성 검증 방법
|
| 12 |
12
청구항 11에 있어서, 상기 복수 개의 챌린지 데이터는, 상기 추출한 복수 개의 검증 샘플들에 입력되는 랜덤 노이즈에 따라 상기 검증 측 분류 값이 달라지도록 마련되는, 인공 지능 모델의 무결성 검증 방법
|
| 13 |
13
청구항 11에 있어서, 상기 무결성 검증 방법은, 상기 추가 학습된 인공 지능 모델을 하나 이상의 입증 장치로 배포하는 동작을 더 포함하고, 상기 무결성 검증을 수행하는 동작은,상기 복수 개의 챌린지 데이터를 포함하는 무결성 검증 요청 메시지를 상기 입증 장치로 전송하는 동작; 및상기 입증 장치로부터 상기 복수 개의 챌린지 데이터에 각각 대응하는 입증 측 분류 값을 수신하는 동작을 더 포함하는, 인공 지능 모델의 무결성 검증 방법
|
| 14 |
14
청구항 13에 있어서, 상기 무결성 검증을 수행하는 동작은,상기 복수 개의 챌린지 데이터에 대한 상기 검증 측 분류값과 상기 입증 측 분류 값을 비교하여 상기 입증 장치로 배포된 인공 지능 모델의 무결성을 검증하는, 인공 지능 모델의 무결성 검증 방법
|
| 15 |
15
인공 지능 모델의 무결성 검증을 위한 검증 샘플 그룹을 획득하고, 상기 검증 샘플 그룹 중 일부의 검증 샘플들을 추출하고, 추출한 검증 샘플들을 상기 인공 지능 모델에 입력하여 상기 인공 지능 모델을 추가 학습하며, 상기 검증 샘플 그룹 중 복수 개의 검증 샘플들을 추출하여 복수 개의 챌린지 데이터를 생성하고, 상기 복수 개의 챌린지 데이터를 포함하는 무결성 검증 요청 메시지를 전송하는 검증 서버; 및상기 추가 학습된 인공 지능 모델이 탑재되고, 상기 검증 서버로부터 무결성 검증 요청 메시지를 수신하는 하나 이상의 입증 장치를 포함하고,상기 검증 샘플은 상호 유사도가 기 설정된 유사도 이상인 이미지 셋이 사용되는, 인공 지능 모델의 무결성 검증 시스템
|
