| 1 |
1
프로세서 및 메모리를 포함하는 장치가 비윤리적 이미지를 검출하고 윤리적 이미지로 변환하는 방법에 있어서, (a) 사용자로부터 텍스트를 입력 받아 상기 텍스트에 대응되는 이미지를 생성하는 제1 단계;(b) 상기 입력 받은 텍스트 및 상기 생성한 이미지 중 어느 하나 이상의 비윤리성을 윤리 관련 텍스트 테이터 셋인 ETHICS 데이터 셋 및 이미지-텍스트 임베딩 모델인 CLIP 모델을 이용하여 학습이 완료된 비윤리성 분류기(Immorallity Classifier)를 이용하여 측정하여, 상기 측정한 비윤리성이 제1 임계값 이상인지 판단하는 제2 단계;(c) 상기 판단 결과 비윤리성이 제1 임계값 이상이라면, 상기 텍스트 및 이미지 중 어느 하나 이상이 포함하는 비윤리적 요인을 검출하는 제3 단계; 및(d) 상기 검출한 비윤리적 요인을 복수 개의 변환 알고리즘(Algorithm) 중 어느 하나 이상을 통해 처리하여 윤리적 이미지로 변환하는 제4 단계;를 포함하며, 상기 복수 개의 변환 알고리즘은, 모자이크(Mosaic) 처리 알고리즘, 인페인팅(Inpainting) 처리 알고리즘, 대체 단어 생성 알고리즘 및 윤리적 캡션(Caption) 활용 알고리즘 중 어느 하나 이상인, 비윤리적 이미지를 검출하고 윤리적 이미지로 변환하는 방법에 있어서, 상기 제3 단계는, 상기 이미지가 포함하는 픽셀 중, 복수 개의 픽셀을 랜덤으로 마스킹한 하나 이상의 마스킹 이미지(Ⅱ)를 생성하는 제3-1´ 단계;상기 생성한 하나 이상의 마스킹 이미지(Ⅱ)의 비윤리성을 측정하는 제3-2´ 단계; 상기 제3-2´ 단계에서 측정한 마스킹 이미지(Ⅱ)의 비윤리성을 이용하여 상기 이미지가 포함하는 각각의 픽셀 별 비윤리성을 산정하는 제3-3´ 단계; 및상기 산정한 픽셀 별 비윤리성이 제2 임계값 이상인 픽셀을 비윤리적 요인으로 검출하는 제3-4 ´단계; 중 어느 하나 이상을 포함하는 비윤리적 이미지를 검출하고 윤리적 이미지로 변환하는 방법
|
| 2 |
2
제1항에 있어서, 상기 제1 단계에서 이미지의 생성은, 조건부 확산(Conditional Latent Diffusion) 모델에 기반한 스테이블 디퓨전 모델(Stable Diffusion)을 이용하여 생성하는, 비윤리적 이미지를 검출하고 윤리적 이미지로 변환하는 방법
|
| 3 |
3
삭제
|
| 4 |
4
제1항에 있어서, 상기 제3 단계는, 상기 텍스트를 단어 단위로 분할하는 제3-1 단계;상기 단어 단위로 분할한 텍스트가 포함하는 단어 중 어느 하나를 마스킹하여 하나 이상의 마스킹 텍스트를 생성하는 제3-2 단계; 상기 생성한 하나 이상의 마스킹 텍스트에 대응되는 하나 이상의 이미지(Ⅰ)를 생성하는 제3-3 단계; 상기 생성한 마스킹 텍스트에 대응되는 하나 이상의 이미지(Ⅰ)의 비윤리성을 측정하는 제3-4 단계; 및상기 제3-4 단계에서 측정한 이미지(Ⅰ)의 비윤리성과 상기 제2 단계에서 측정한 이미지의 비윤리성을 비교하여 비윤리적 요인을 검출하는 제3-5 단계;중 어느 하나 이상을 포함하는 비윤리적 이미지를 검출하고 윤리적 이미지로 변환하는 방법
|
| 5 |
5
제4항에 있어서,상기 제3-5 단계는, 상기 제3-4 단계에서 측정한 이미지(Ⅰ)의 비윤리성과 상기 제2 단계에서 측정한 이미지의 비윤리성의 차이의 절대값이 가장 큰 이미지(Ⅰ)를 생성하는데 이용한 마스킹 텍스트에서 마스킹된 단어를 비윤리적 요인으로 검출하는, 비윤리적 이미지를 검출하고 윤리적 이미지로 변환하는 방법
|
| 6 |
6
삭제
|
| 7 |
7
제 1항에 있어서, 상기 제3-3´ 단계는, 상기 마스킹 이미지(Ⅱ)가 포함하는 마스킹된 복수 개의 픽셀 중 어느 하나 및 또 다른 마스킹 이미지(Ⅱ)가 포함하는 상기 픽셀과 동일한 위치의 마스킹되지 않은 픽셀을 선택하되, 상기 마스킹 이미지(Ⅱ) 및 또 다른 마스킹 이미지(Ⅱ)에 대하여 상기 제3-2´단계에서 측정한 비윤리성을 가중 합계(Weighted SUM)하여 상기 선택한 마스킹된 복수 개의 픽셀 중 어느 하나에 대한 비윤리성을 산정하는, 비윤리적 이미지를 검출하고 윤리적 이미지로 변환하는 방법
|
| 8 |
8
제1항에 있어서, 상기 제3-4´ 단계 이후에, 상기 검출한 비윤리적 요인을 포함하는 상기 이미지를 히트맵 이미지로 변환하는 제3-5´ 단계;를 더 포함하는 비윤리적 이미지를 검출하고 윤리적 이미지로 변환하는 방법
|
| 9 |
9
하나 이상의 프로세서;네트워크 인터페이스;상기 프로세서에 의해 수행되는 컴퓨터 프로그램을 로드(Load)하는 메모리; 및대용량 네트워크 데이터 및 상기 컴퓨터 프로그램을 저장하는 스토리지를 포함하되,상기 컴퓨터 프로그램은 상기 하나 이상의 프로세서에 의해,(A) 사용자로부터 텍스트를 입력 받아 상기 텍스트에 대응되는 이미지를 생성하는 제1 오퍼레이션;(B) 상기 입력 받은 텍스트 및 상기 생성한 이미지 중 어느 하나 이상의 비윤리성을 윤리 관련 텍스트 테이터 셋인 ETHICS 데이터 셋 및 이미지-텍스트 임베딩 모델인 CLIP 모델을 이용하여 학습이 완료된 비윤리성 분류기(Immorallity Classifier)를 이용하여 측정하여, 상기 측정한 비윤리성이 제1 임계값 이상인지 판단하는 제2 오퍼레이션;(C) 상기 판단 결과 비윤리성이 제1 임계값 이상이라면, 상기 텍스트 및 이미지 중 어느 하나 이상이 포함하는 비윤리적 요인을 검출하는 제3 오퍼레이션; 및(D) 상기 검출한 비윤리적 요인을 복수 개의 변환 알고리즘(Algorithm) 중 어느 하나 이상을 통해 처리하여 윤리적 이미지로 변환하는 제4 오퍼레이션;을 실행하며, 상기 복수 개의 변환 알고리즘은, 모자이크(Mosaic) 처리 알고리즘, 인페인팅(Inpainting) 처리 알고리즘, 대체 단어 생성 알고리즘 및 윤리적 캡션(Caption) 활용 알고리즘 중 어느 하나 이상인, 비윤리적 이미지를 검출하고 윤리적 이미지로 변환하는 장치에 있어서, 상기 제3 오퍼레이션은, 상기 이미지가 포함하는 픽셀 중, 복수 개의 픽셀을 랜덤으로 마스킹한 하나 이상의 마스킹 이미지(Ⅱ)를 생성하는 제3-1´ 오퍼레이션;상기 생성한 하나 이상의 마스킹 이미지(Ⅱ)의 비윤리성을 측정하는 제3-2´ 오퍼레이션; 상기 제3-2´ 오퍼레이션에서 측정한 마스킹 이미지(Ⅱ)의 비윤리성을 이용하여 상기 이미지가 포함하는 각각의 픽셀 별 비윤리성을 산정하는 제3-3´ 오퍼레이션; 및상기 산정한 픽셀 별 비윤리성이 제2 임계값 이상인 픽셀을 비윤리적 요인으로 검출하는 제3-4 ´ 오퍼레이션; 중 어느 하나 이상을 포함하는 비윤리적 이미지를 검출하고 윤리적 이미지로 변환하는 장치
|
| 10 |
10
컴퓨팅 장치와 결합하여,(AA) 사용자로부터 텍스트를 입력 받아 상기 텍스트에 대응되는 이미지를 생성하는 제1 단계;(BB) 상기 입력 받은 텍스트 및 상기 생성한 이미지 중 어느 하나 이상의 비윤리성을 윤리 관련 텍스트 테이터 셋인 ETHICS 데이터 셋 및 이미지-텍스트 임베딩 모델인 CLIP 모델을 이용하여 학습이 완료된 비윤리성 분류기(Immorallity Classifier)를 이용하여 측정하여, 상기 측정한 비윤리성이 제1 임계값 이상인지 판단하는 제2 단계;(CC) 상기 판단 결과 비윤리성이 제1 임계값 이상이라면, 상기 텍스트 및 이미지 중 어느 하나 이상이 포함하는 비윤리적 요인을 검출하는 제3 단계; 및(DD) 상기 검출한 비윤리적 요인을 복수 개의 변환 알고리즘(Algorithm) 중 어느 하나 이상을 통해 처리하여 윤리적 이미지로 변환하는 제4 단계;를 포함하며, 상기 복수 개의 변환 알고리즘은, 모자이크(Mosaic) 처리 알고리즘, 인페인팅(Inpainting) 처리 알고리즘, 대체 단어 생성 알고리즘 및 윤리적 캡션(Caption) 활용 알고리즘 중 어느 하나 이상인,컴퓨터로 판독 가능한 매체에 저장된 컴퓨터 프로그램에 있어서, 상기 제3 단계는, 상기 이미지가 포함하는 픽셀 중, 복수 개의 픽셀을 랜덤으로 마스킹한 하나 이상의 마스킹 이미지(Ⅱ)를 생성하는 제3-1´ 단계;상기 생성한 하나 이상의 마스킹 이미지(Ⅱ)의 비윤리성을 측정하는 제3-2´ 단계; 상기 제3-2´ 단계에서 측정한 마스킹 이미지(Ⅱ)의 비윤리성을 이용하여 상기 이미지가 포함하는 각각의 픽셀 별 비윤리성을 산정하는 제3-3´ 단계; 및상기 산정한 픽셀 별 비윤리성이 제2 임계값 이상인 픽셀을 비윤리적 요인으로 검출하는 제3-4 ´단계; 중 어느 하나 이상을 포함하는 컴퓨터로 판독 가능한 매체에 저장된 컴퓨터 프로그램
|
