1 |
1
(a) 유해 동영상 분류 모델과 비유해 동영상 분류 모델로 이루어지는 판별모델을 구축하는 단계;(b) 동영상 컨텐츠에서 비디오 스트림과 오디오 스트림으로 분리하는 단계;(c) 상기 분리된 비디오 스트림에 대하여 소정의 비주얼 특징값을 추출하여 샷(shot) 경계를 검출한 후 각 샷에서 적어도 하나 이상의 키 프레임을 추출하고 상기 샷과 키 프레임정보를 생성하는 단계;(d) 상기 비디오 스트림에 대하여 소정의 선처리를 수행한 후 상기 샷과 키 프레임 정보를 기초로 상기 키 프레임의 멀티 모달 특징값을 추출하는 단계;(e) 상기 멀티 모달 특징값을 상기 판별모델에 입력하여 샷의 유해성을 판단하는 단계; 및(f) 상기 샷 기준의 판단 결과를 종합하여 상기 동영상 컨텐츠의 유해성을 판단하는 단계;를 포함하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 방법
|
2 |
2
제1항에 있어서, 상기 (a)단계는(a1) 적어도 한 종류 이상의 동영상을 내용을 기반으로 하여 유해동영상과 무해동영상으로 구분하는 단계; 및(a2) 상기 유해동영상과 무해동영상이 가지고 있는 소정의 유해 정보에 따라 각각 적어도 하나 이상의 클래스로 구분하여 SVM(Support Vector Machine)을 포함하는 기계학습을 수행한 후 유해 동영상 분류 모델과 비유해 동영상 분류 모델로 형성하여 상기 판별모델을 생성하는 단계;를 포함하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 방법
|
3 |
3
제1항에 있어서, 상기 (c)단계는(c1) 상기 비주얼 특징값을 나타내는 특징벡터를 기초로 인접한 두 프레임간의 유사도 거리값을 계산하는 단계; 및(c2) 상기 유사도 거리값과 소정의 임계치를 비교한 후 급진적 샷 혹은 점진적 샷으로 구분하여 상기 샷 경계를 검출하는 단계;를 포함하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 방법
|
4 |
4
제3항에 있어서, 상기 (c2)단계는(c21) 상기 유사도 거리값 전체에 대하여 소정의 프레임 크기의 슬라이딩 윈도우를 한 프레임씩 이동하면서 상기 샷 경계 검출을 수행하되, 인접한 두 프레임의 특징벡터간의 유사도 거리값이 상기 슬라이딩 윈도우 간격 구간내에서 가장 크고 소정의 제1임계치보다 크면 상기 급진적 샷으로 결정하는 단계; 및(c22) 상기 유사도 거리값이 소정의 프레임 구간 동안 유사한 값을 가지면서, 상기 구간 동안 현재 프래임에 대해 1/2 이전 프레임과 1/2 이후 프레임에 대한 유사도 거리값보다 소정의 정수배 이상 크면 상기 점진적 샷으로 결정하는 단계;를 포함하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 방법
|
5 |
5
제1항에 있어서, 상기 (d)단계는영상의 에지를 추출하는 샤프닝(sharpening) 혹은/그리고 영상을 표현하는 색상값의 범위를 줄이거나 잡음(noise)을 감소시키는 블러링(blurring)을 수행하는 단계;를 포함하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 방법
|
6 |
6
제1항에 있어서, 상기 멀티 모달 특징값은오디오 특징값, 비주얼 특징값, 시간축 특징값을 포함하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 방법
|
7 |
7
제6항에 있어서, 상기 오디오 특징값은 상기 샷 구간의 파워, 피치(pitch), 음색(timber)을 포함하는 오디오 특성을 대표하며, 상기 비주얼 특징값은 색상, 질감, 모양을 포함하는 비디오 특성을 대표하며, 상기 시간축 특징값은 샷에서의 평균적인 객체 움직임 방향, 카메라의 움직임의 방향 및 정도, 상기 오디오 혹은 비디오 특징값의 변화량을 포함하는 특성을 대표하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 방법
|
8 |
8
제1항에 있어서, 상기 (e)단계는(e1) 상기 키 프레임의 멀티 모달 특징값을 상기 판별 모델에 입력한 결과가 소정의 키 프레임기반 신뢰도 기준치를 초과하는지 판단하여 프레임기반의 판단 필요성을 결정하는 단계;및(e2) 프레임기반의 판단이 필요한 것으로 결정되면 상기 샷의 모든 프레임의 멀티 모달 특징값을 상기 판별 모델에 입력하여 그 결과가 소정의 프레임기반 신뢰도 기준치를 초과하는지 판단하는 단계; 및(e3) 상기 프레임기반 신뢰도 기준치를 초과하면 그 샷을 유해한 것을 결정하는 단계;를 포함하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 방법
|
9 |
9
제8항에 있어서, 상기 (e1)단계는 아래의 수학식 14에 의하여 신뢰도 값이 가장 큰 키 프레임기반 신뢰도 값 을 검출하고, 그 값이 아래의 수학식 15를 만족하면 상기 (e2)단계로의 진행을 결정하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 방법
|
10 |
10
제8항에 있어서, 상기 (e2)단계는아래의 수학식 16에 의하여 신뢰도 값이 가장 큰 키 프레임기반 신뢰도 값 을 검출하고, 그 값이 아래의 수학식 17을 만족하면 상기 샷을 유해한 것을 결정하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 방법
|
11 |
11
제1항에 있어서, 상기 (f)단계는상기 샷의 소정의 유해도 값을 평균하여 소정의 기준치를 초과하는 단계;를 포함하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 방법
|
12 |
12
적어도 한 종류 이상의 동영상을 내용을 기반으로 하여 유해동영상과 무해동영상으로 구분한 후 각각 적어도 하나 이상의 클래스로 구분하여 기계학습을 수행하여 판별모델을 출력하는 SVM 모델부;유해 판별이 요구되는 동영상을 오디오 스트림과 비디오 스트림으로 분리하는 분리부;상기 비디오 스트림에서 소정의 비주얼 특징값을 추출하여 샷(shot) 경계를 검출한 후 각 샷에서 적어도 하나 이상의 키 프레임을 추출하고 상기 샷과 키 프레임정보를 출력하는 제1추출부;상기 샷과 키 프레임 정보를 기초로 상기 키 프레임의 적어도 하나 이상의 특징값을 추출하는 제2추출부; 및멀티 모달 특징값을 상기 판별모델에 입력하여 샷의 유해성을 판단하고, 그 판단 결과를 종합하여 상기 동영상의 유해성을 판단하는 판별부;를 포함하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 장치
|
13 |
13
제12항에 있어서, 상기 제1추출부는상기 비주얼 특징값을 나타내는 특징벡터를 기초로 인접한 두 프레임간의 유사도 거리값을 계산하여 출력하는 비주얼특징추출부; 및상기 유사도 거리값과 소정의 임계치를 입력받아 급진적 샷 혹은 점진적 샷으로 구분하여 상기 샷 경계를 검출하는 샷경계추출부;를 포함하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 장치
|
14 |
14
제12항에 있어서, 상기 샷경계추출부는상기 유사도 거리값 전체에 대하여 m 프레임 크기의 슬라이딩 윈도우를 한 프레임씩 이동하면서 상기 샷 경계 검출을 수행하되, 인접한 두 프레임의 특징벡터간의 유사도 거리값이 상기 m 간격 구간내에서 가장 크고 소정의 제1임계치보다 크면 상기 급진적 샷으로 결정하는 급진적샷결정부; 및상기 유사도 거리값이 소정의 프레임 구간 동안 유사한 값을 가지면서, 상기 구간 동안 상기 구간 동안 1/2 이전 프레임과 1/2 이후 프레임에 대한 유사도 거리값 보다 소정의 정수배 이상 크면 상기 점진적 샷으로 결정하는 점진적샷결정부를 포함하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 장치
|
15 |
15
제12항에 있어서, 상기 제2추출부는상기 샷 구간의 파워, 피치(pitch), 음색(timber)을 포함하는 오디오 특성을 추출하는 오디오추출부;상기 샷 구간의 색상, 질감, 모양을 포함하는 비주얼 특성을 추출하는 비디오추출부; 및상기 샷에서의 평균적인 객체 움직임 방향, 카메라의 움직임의 방향 및 정도, 상기 오디오 혹은 비디오 특징값의 변화량을 포함하는 특성을 추출하는 다중추출부;를 포함하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 장치
|
16 |
16
제12항에 있어서, 상기 판별부는상기 키 프레임의 멀티 모달 특징값을 상기 판별 모델에 입력한 결과가 소정의 키 프레임기반 신뢰도 기준치를 초과하는지 판단하는 프레임기반판별부;프레임기반의 판단이 필요한 것으로 결정되면 상기 샷의 모든 프레임의 멀티 모달 특징값을 상기 판별 모델에 입력하여 그 결과가 소정의 프레임기반 신뢰도 기준치를 초과하는지 판단하는 프레임기반판별부;상기 프레임기반 신뢰도 기준치를 초과하면 그 샷을 유해한 것을 결정하는 샷결정부; 및유해한 것으로 결정된 샷의 신뢰도의 평균값을 계산하여 소정의 기준치를 초과하면 상기 동영상을 유해한 것으로 결정하는 유해판단부;를 포함하는 것을 특징으로 하는 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단 장치
|