1 |
1
하나의 입력층, 다수의 학습 계층, 및 하나의 출력층으로 구비된 BERT 언어 모델을 기반으로 입력된 말뭉치에 대해 분류된 의미 벡터를 출력하는 학습기;상기 다수의 학습 계층의 출력 벡터 중 임의의 타겟 벡터의 동적 움직임을 그래프 형태로 생성하는 그래프 변환기; 및생성된 그래프를 타겟 벡터와 매칭시켜 출력하는 그래프 출력기를 포함하는 것을 특징으로 하는 자연어 이해를 위한 그래프 변환 시스템
|
2 |
2
제1항에 있어서, 상기 그래프 변환기는, 상기 학습 단계의 다수의 학습 계층의 출력 벡터 중 선정된 타겟 벡터에 대해 드럽아웃(Dropout)을 이용한 섭동 기법을 수행하여 변동된 각 출력 벡터의 각 벡터 요소별 벡터 임베딩값을 타겟 벡터의 동적 움직임으로 생성하는 전처리부;타겟 벡터의 벡터 요소의 중요도와 각 벡터 요소 간의 상관 관계도를 정량화하는 분석부; 및정량화된 벡터 요소의 중요도 점수와 각 벡터 요소 간의 상관 관계 점수를 각 출력 벡터에 대응되는 그래프의 노드와 엣지에 각각 할당하여 그래프를 생성하고 생성된 그래프를 타겟 벡터와 매칭시켜 출력하는 출력부를 포함하는 것을 특징으로 하는 자연어 이해를 위한 그래프 변환 시스템
|
3 |
3
제2항에 있어서, 상기 전처리부는,입력층의 말뭉치에 대한 학습기의 각 학습 계층의 출력 벡터 중 선정된 타겟 벡터에 대해 드럽아웃(dropout)을 이용한 섭동 기법으로 변동된 타겟 벡터의 벡터 임베딩값을 동적 움직임으로 생성하는 동적 움직임 생성모듈; 및생성된 변동된 벡터 임베딩값을 타겟 벡터의 벡터 요소로 출력하는 움직임 벡터 요소 출력모듈을 포함하는 것을 특징으로 하는 자연어 이해를 위한 그래프 변환 시스템
|
4 |
4
제3항에 있어서, 상기 분석부는,타겟 벡터의 벡터 요소의 중요도를 EI-ISI(Element-Importance Inverse-Semantic-Importance) 점수로 정량화하여 중요도 점수를 도출하고,타겟 벡터의 벡터 요소 간의 상호 관계를 EEC(Element-Element-Correlation) 점수로 정량화하여 상호 관계 접수를 도출하도록 구비되는 것을 특징으로 하는 자연어 이해를 위한 그래프 변환 시스템
|
5 |
5
제4항에 있어서, 상기 출력부는,정량화된 중요도 점수와 상호 관계 점수를 그래프의 노드와 엣지에 각각 할당하여 그래프를 생성하고 생성된 그래프를 타겟 벡터와 매칭시켜 출력하도록 구비되는 것을 특징으로 하는 자연어 이해를 위한 그래프 변환 시스템
|
6 |
6
제1항의 자연어 이해를 위한 그래프 변환 시스템에 의거 수행되는 자연어 이해를 위한 그래프 변환 방법에 있어서,하나의 입력층, 다수의 학습 계층, 및 하나의 출력층으로 구비된 BERT 언어 모델을 기반으로 입력된 말뭉치에 대해 분류된 의미 벡터를 출력하는 학습 단계;상기 다수의 학습 계층의 출력 벡터 중 선정된 학습 계층의 타겟 벡터에 대한 동적 움직임을 그래프 형태로 생성하는 그래프 변환 단계; 및타겟 벡터의 동적 움직임을 그래프 형태로 생성하여 생성된 그래프를 타겟 벡터와 매칭시켜 출력하는 그래프 출력 단계를 포함하는 것을 특징으로 하는 자연어 이해를 위한 그래프 변환 방법
|
7 |
7
제6항에 있어서, 상기 그래프 변환 단계는, 상기 학습 단계의 다수의 학습 계층의 출력 벡터 중 선정된 학습 계층의 타겟 벡터에 대해 드럽아웃(Dropout)을 이용한 섭동 기법을 통해 변동된 타겟 벡터의 벡터 임베딩값을 동적 움직임으로 생성하고 변동된 벡터 임베딩값을 타겟 벡터의 벡터 요소로 출력하는 단계;타겟 벡터의 각 벡터 요소의 중요도와 각 벡터 요소 간의 상호 관계를 기반으로 타겟 벡터의 동적 움직임을 정량화하여 중요도 점수 및 상호 관계 점수를 도출하는 단계; 및타겟 벡터의 정량화된 각 벡터 요소의 중요도 점수와 각 벡터 요소 간의 상호 관계 점수를 그래프의 노드와 엣지에 할당하여 그래프를 생성하고 생성된 그래프를 타겟 벡터와 매칭시켜 출력하는 단계를 포함하는 것을 특징으로 하는 자연어 이해를 위한 그래프 변환 방법
|
8 |
8
제7항에 있어서, 상기 타겟 벡터의 벡터 요소로 출력하는 단계는타겟 벡터에 대해 드럽아웃(dropout)을 이용하여 섭동 기법으로 변동된 벡터 임베딩값을 타겟 벡터의 동적 움직임으로 생성하고,생성된 벡터 임베딩값을 타겟 벡터의 벡터 요소로 출력하도록 구비되는 것을 특징으로 하는 자연어 이해를 위한 그래프 변환 방법
|
9 |
9
제8항에 있어서, 상기 그래프를 해당 출력 벡터와 매칭시켜 출력하는 단계는정량화된 중요도 점수와 상호 관계 점수를 그래프의 노드와 엣지에 각각 할당하여 그래프를 생성하고 생성된 그래프를 타겟 벡터와 매칭시켜 출력하도록 구비되는 것을 특징으로 하는 자연어 이해를 위한 그래프 변환 방법
|
10 |
10
제6항 내지 제9항의 자연어 이해를 위한 그래프 변환 방법을 실행하기 위한 프로그램이 기록되고 컴퓨터에서 판단 가능한 기록매체
|