| 1 |
1
차량에 탑재된 카메라를 이용하는 보행자 상태 기반의 보행자와 차량간 충돌 경고 시스템에 있어서,보행자 상태 기반의 보행자와 차량간 충돌 경고 방법을 수행하기 위한 프로그램이 기록된 메모리; 및상기 프로그램을 실행하기 위한 프로세서를 포함하며,상기 프로세서는, 상기 프로그램의 영상 이해 모듈을 통해 상기 카메라로부터 입력되는 주행 영상을 분석하여 보행자와 도로를 포함한 주행 환경 정보를 추출하고, 상기 주행 환경 정보를 이용하여 도로 영역과 보행자 영역, 차량과 보행자간의 이격 정도에 따른 보행자 거리, 영상 소실점, 보행자 방향, 차량 주행과의 관련도에 따른 보행자 후보를 각각 검출하고,상기 프로그램의 위험 분석 모듈을 통해 상기 검출된 보행자 후보를 토대로 보행자의 행동을 인식하여 보행자 행동 정보, 보행자와 차량간의 상대적인 방향 정보, 차량의 주행 영역을 분석한 후 상기 분석된 결과를 토대로 각 보행자의 위험도를 평가하되,상기 위험 분석 모듈은, 상기 검출된 보행자 후보의 보행자 상태를 동적 행동 부류와 정적 행동 부류로 인식하여 보행자 행동 정보를 산출하는 보행자 행동 인식부;보행자 거리 정보와 보행자 방향 정보를 포함한 보행자 정보와 상기 영상 소실점을 이용하여 3차원 공간상에서의 보행자 평행선을 구하고, 상기 보행자와 평행선간의 각도(θ)를 구하여 차량 진행 방향에 기반하여 해당 보행자의 안전 방향과 위험 방향을 분석하여 보행자와 차량간의 상대적인 방향을 확인하는 상대적 방향 분석부;차량의 너비를 포함한 차량 영역을 상기 영상 소실점과 연결하여 차량의 주행 영역을 산출한 후, 상기 차량의 주행 영역과 도로 영역을 비교하여 상기 주행 영역에서 도로 영역이 아닌 부분을 제거하는 주행 영역 분석부; 및 상기 보행자 후보에 대한 상기 차량의 주행 영역 내 존재 여부, 상대적인 방향, 보행자 행동 정보를 이용하여 단계적으로 보행자의 위험도를 평가하는 위험도 평가부를 포함하는 것인, 보행자 상태 기반의 보행자와 차량간 충돌 경고 시스템
|
| 2 |
2
제 1 항에 있어서,상기 프로세서는,상기 프로그램에 포함된 경고 모듈을 통해 상기 위험 분석 모듈에서 평가된 각 보행자의 위험도에 따라 시각적 또는 청각적으로 운전자가 보행자 상태를 인지하도록 경고하는 것인, 보행자 상태 기반의 보행자와 차량간 충돌 경고 시스템
|
| 3 |
3
제 2 항에 있어서,상기 경고 모듈은, 차량 내에 탑재된 디스플레이 장치를 통해 경고 정보를 제공할 경우, 서로 다른 색상의 경고 표지판 아이콘을 이용하여 주의 레벨 1단계, 주의 레벨 2단계 및 주의 레벨 3단계로 구분하여 운전자에게 경고 정보를 제공하는 것인, 보행자 상태 기반의 보행자와 차량간 충돌 경고 시스템
|
| 4 |
4
제 1 항에 있어서, 상기 영상 이해 모듈은, 상기 주행 영상을 시맨틱 세분화(Semantic Segmentation) 기법을 이용하여 상기 주행 영상에서 도로 영역과 보행자 영역을 동시에 검출하는 도로 및 보행자 검출부;상기 주행 영상의 깊이 영상을 이용하여 차량을 기준으로 보행자의 이격 정도를 나타내는 보행자 거리 정보를 추정하는 거리 추정부;상기 주행 영상에 대한 기울기 영상을 이용하여 소실점을 검출하는 소실점 검출부; 합성곱 신경 네트워크(Convolution Neural Network, CNN)와 파인-그레인드 네트워크(Fine-Grained Network)가 병렬로 구성된 분류기를 통해 상기 주행 영상에서 검출된 보행자에 대해 연속적인 방향값을 가지는 보행자 방향 정보를 추정하는 보행자 방향 추정부; 및 상기 주행 영상에서 검출된 보행자들 중에서 상기 도로 영역에 보행자의 존재 여부, 보행자 거리 정보 및 보행자 방향 정보에 근거하여 차량 주행과 관련도가 낮다고 판단되는 보행자를 배제하여 위험도 평가를 위한 보행자 후보를 선별하는 보행자 후보 선별부를 더 포함하는 것인, 보행자 상태 기반의 보행자와 차량간 충돌 경고 시스템
|
| 5 |
5
제 4 항에 있어서,상기 도로 및 보행자 검출부는,상기 주행 영상에서 전역적인 수준으로 깊이 정보를 추정한 후 지역적 정보를 추가하여 최종 깊이 영상을 생성하며, 상기 생성된 깊이 영상과 실제 거리와의 관계를 통해 선형 방정식을 도출하고, 상기 생성된 깊이 영상을 선형 방정식에 대입하여 최종적인 보행자 거리를 산출하는 것인, 보행자 상태 기반의 보행자와 차량간 충돌 경고 시스템
|
| 6 |
6
제 4 항에 있어서,상기 도로 및 보행자 검출부는, 상기 검출된 보행자 영역에 대해 경계 박스(Bounding box)를 추가적으로 생성하는 것인, 보행자 상태 기반의 보행자와 차량간 충돌 경고 시스템
|
| 7 |
7
제 4 항에 있어서,상기 소실점 검출부는,상기 주행 영상에 대해 기울기 필터를 통해 기울기 영상을 구하고, 상기 기울기 영상을 블록으로 나눈 후에 각 블록에서 에지의 방향에 대한 히스토그램을 구하여 각 방향에 대해 크기를 비교하여 기설정된 주요 방향만 취득하여 실시간 소실점의 위치를 예측하는 것인, 보행자 상태 기반의 보행자와 차량간 충돌 경고 시스템
|
| 8 |
8
제 4 항에 있어서,상기 보행자 방향 추정부는 평균 이동 알고리즘을 통해 상기 연속적인 방향값을 추정하는 것인, 보행자 상태 기반의 보행자와 차량간 충돌 경고 시스템
|
| 9 |
9
제 4 항에 있어서,상기 보행자 후보 선별부는, 상기 도로 영역에 보행자가 존재하는 경우, 상기 보행자 거리가 기설정된 임계 거리 이내인 경우, 상기 보행자 방향이 차량의 진행 방향과 동일한 경우에 차량 주행과 관련도가 높다고 판단하는 것인, 보행자 상태 기반의 보행자와 차량간 충돌 경고 시스템
|
| 10 |
10
삭제
|
| 11 |
11
제 1 항에 있어서,상기 보행자 행동 인식부는, 상기 주행 영상의 각 프레임에 적용되어 보행자 외관 정보와 움직임 정보를 추출한 후 상기 보행자 외관 정보와 움직임 정보를 동시에 학습하는 2-스트림 콘볼루션 신경망(two-stream convolutional neural network)을 이용하여 행동인식을 위한 학습을 수행하는 것인, 보행자 상태 기반의 보행자와 차량간 충돌 경고 시스템
|
| 12 |
12
제 1 항에 있어서,상기 보행자 행동 인식부는 달리기, 걷기, 이륜차 타기를 포함한 동적 행동 부류, 서기, 앉기를 포함한 정적 행동 부류로 보행자 행동을 인식하는 것인, 보행자 상태 기반의 보행자와 차량간 충돌 경고 시스템
|
| 13 |
13
삭제
|
| 14 |
14
제 1 항에 있어서,상기 상대적인 방향 분석부는 상기 보행자의 안전 방향을 360°- θ에서 0°까지의 범위([360°- θ, 0°])와 0°에서 180°- θ까지의 범위([0°, 180°- θ])로 설정하고, 상기 보행자의 위험 방향을 상기 보행자의 안전 방향을 제외한 180°- θ에서 360°- θ까지의 범위([180°- θ, 360°-0°])로 설정하여 분석하는 것인, 보행자 상태 기반의 보행자와 차량간 충돌 경고 시스템
|
| 15 |
15
차량에 탑재된 카메라를 이용하는 보행자 상태 기반의 보행자와 차량간 충돌 경고 방법에 있어서,상기 카메라로부터 입력되는 주행 영상을 분석하여 보행자와 도로를 포함한 주행 환경 정보를 추출하고, 상기 주행 환경 정보를 이용하여 도로 영역과 보행자 영역, 차량과 보행자간의 이격 정도에 따른 보행자 거리, 영상 소실점, 보행자 방향, 차량 주행과의 관련도에 따른 보행자 후보를 각각 검출하는 영상 이해 단계; 및 상기 검출된 보행자 후보를 토대로 보행자의 행동을 인식하여 보행자 행동 정보, 보행자와 차량간의 상대적인 방향 정보, 차량의 주행 영역을 분석한 후 상기 분석된 결과를 토대로 각 보행자의 위험도를 평가하는 위험 분석 단계를 포함하되,상기 위험 분석 단계는 상기 검출된 보행자 후보의 보행자 상태를 동적 행동 부류와 정적 행동 부류로 인식하여 보행자 행동 정보를 산출하는 단계;보행자 거리 정보와 보행자 방향 정보를 포함한 보행자 정보와 상기 영상 소실점을 이용하여 3차원 공간상에서의 보행자 평행선을 구하고, 상기 보행자와 평행선간의 각도(θ)를 구하여 차량 진행 방향에 기반하여 해당 보행자의 안전 방향과 위험 방향을 분석하여 보행자와 차량간의 상대적인 방향을 확인하는 단계;차량의 너비를 포함한 차량 영역을 상기 영상 소실점과 연결하여 차량의 주행 영역을 산출한 후, 상기 차량의 주행 영역과 도로 영역을 비교하여 상기 주행 영역에서 도로 영역이 아닌 부분을 제거하는 단계; 및 상기 보행자 후보에 대한 상기 차량의 주행 영역 내 존재 여부, 상대적인 방향, 보행자 행동 정보를 이용하여 단계적으로 보행자의 위험도를 평가하는 단계를 포함하는 것인, 보행자 상태 기반의 보행자와 차량간 충돌 경고 방법
|
| 16 |
16
제 15 항에 있어서, 상기 위험 분석 단계에서 평가된 각 보행자의 위험도에 따라 시각적 또는 청각적으로 운전자가 보행자 상태를 인지하도록 경고하는 경고 단계를 더 포함하는 것인, 보행자 상태 기반의 보행자와 차량간 충돌 경고 방법
|
| 17 |
17
제 15 항에 있어서,상기 영상 이해 단계는, 상기 주행 영상을 시맨틱 세분화(Semantic Segmentation) 기법을 이용하여 상기 주행 영상에서 도로 영역과 보행자 영역을 동시에 검출하는 단계;상기 주행 영상의 깊이 영상을 이용하여 차량을 기준으로 보행자의 이격 정도를 나타내는 보행자 거리 정보를 추정하는 단계;상기 주행 영상에 대한 기울기 영상을 이용하여 소실점을 검출하는 단계; 합성곱 신경 네트워크(Convolution Neural Network, CNN)와 파인-그레인드 네트워크(Fine-Grained Network)가 병렬로 구성된 분류기를 통해 상기 주행 영상에서 검출된 보행자에 대해 연속적인 방향값을 가지는 보행자 방향 정보를 추정하는 단계; 및 상기 주행 영상에서 검출된 보행자들 중에서 상기 도로 영역에 보행자의 존재 여부, 보행자 거리 정보 및 보행자 방향 정보에 근거하여 차량 주행과 관련도가 낮다고 판단되는 보행자를 배제하여 위험도 평가를 위한 보행자 후보를 선별하는 단계를 더 포함하는 것인, 보행자 상태 기반의 보행자와 차량간 충돌 경고 방법
|
| 18 |
18
삭제
|
