맞춤기술찾기

홈으로 가기
맞춤기술찾기
이전대상기술
프린트하기

이전대상기술

사용자 작업을 기반으로 한 다차원 XAI 기법의 통합 평가 방법 및 시스템

  • 기술번호 : KST2022021267
  • 담당센터 : 서울서부기술혁신센터
  • 전화번호 : 02-6124-6930
상담신청 PDF 받기
요약, Int. CL, CPC, 출원번호/일자, 출원인, 등록번호/일자, 공개번호/일자, 공고번호/일자, 국제출원번호/일자, 국제공개번호/일자, 우선권정보, 법적상태, 심사진행상태, 심판사항, 구분, 원출원번호/일자, 관련 출원번호, 기술이전 희망, 심사청구여부/일자, 심사청구항수의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 서지정보 표입니다.
요약 사용자 작업을 기반으로 한 다차원 XAI 기법의 통합 평가 방법 및 시스템이 개시된다. 일 실시예에 따른 평가 시스템에 의해 수행되는 XAI 기법의 통합 평가 방법은, 기능적 기반의 평가(Functionally Grounded evaluation) 측면과 사용자 기반의 평가(Human Grounded evaluation) 측면에서 각각의 XAI 기법의 점수를 계산하는 단계; 및 상기 계산된 각각의 XAI 기법의 점수를 혼합하여 XAI 기법의 최종 점수를 획득하는 단계를 포함할 수 있다.
Int. CL G06N 20/00 (2019.01.01)
CPC G06N 20/00(2013.01)
출원번호/일자 1020210058258 (2021.05.06)
출원인 한양대학교 산학협력단
등록번호/일자
공개번호/일자 10-2022-0151255 (2022.11.15) 문서열기
공고번호/일자
국제출원번호/일자
국제공개번호/일자
우선권정보
법적상태 공개
심사진행상태 수리
심판사항
구분 국내출원/신규
원출원번호/일자
관련 출원번호
심사청구여부/일자 Y (2021.05.06)
심사청구항수 8

출원인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 출원인 표입니다.
번호 이름 국적 주소
1 한양대학교 산학협력단 대한민국 서울특별시 성동구

발명자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 발명자 표입니다.
번호 이름 국적 주소
1 조인휘 서울특별시 성동구
2 안준항 서울특별시 성동구

대리인

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 대리인 표입니다.
번호 이름 국적 주소
1 양성보 대한민국 서울특별시 강남구 선릉로***길 ** (논현동) 삼성빌딩 *층(피앤티특허법률사무소)

최종권리자

번호, 이름, 국적, 주소의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 인명정보 - 최종권리자 표입니다.
번호 이름 국적 주소
최종권리자 정보가 없습니다
번호, 서류명, 접수/발송일자, 처리상태, 접수/발송일자의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 행정처리 표입니다.
번호 서류명 접수/발송일자 처리상태 접수/발송번호
1 [특허출원]특허출원서
[Patent Application] Patent Application		 2021.05.06 수리 (Accepted) 1-1-2021-0522727-91
번호, 청구항의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 청구항 표입니다.
번호 청구항
1 1
평가 시스템에 의해 수행되는 XAI 기법의 통합 평가 방법에 있어서, 기능적 기반의 평가(Functionally Grounded evaluation) 측면과 사용자 기반의 평가(Human Grounded evaluation) 측면에서 각각의 XAI 기법의 점수를 계산하는 단계; 및 상기 계산된 각각의 XAI 기법의 점수를 혼합하여 XAI 기법의 최종 점수를 획득하는 단계를 포함하는 XAI 기법의 통합 평가 방법
2 2
제1항에 있어서, 상기 계산하는 단계는, 충실성 설명 평가(faithfulness explanation evaluation), 긍정 오류 설명 평가(false positive explanation evaluation) 및 예민성 체크 평가(Sensitivity check evaluation)를 통해 XAI 기법의 기능적 기반의 평가 점수를 계산하는 단계를 포함하는 XAI 기법의 통합 평가 방법
3 3
제2항에 있어서, 상기 계산하는 단계는, XAI 기법의 특징에 대한 전처리를 통하여 특징 관련성 점수에 따라 정렬한 특징과 사용자로부터 미리 선택된 특징과 일치되는 특징을 추출하고, 상기 추출된 특징을 이용하여 insertion area under curve(iAUC) 점수를 계산하고, 상기 계산된 iAUC 점수를 통해 충실성 설명 평가를 수행하는 단계 를 포함하는 XAI 기법의 통합 평가 방법
4 4
제2항에 있어서, 상기 계산하는 단계는, 서로 다른 XAI 기법을 통해 획득된 다른 특징 중요도에 기초하여 서로 다른 특징에서 동일한 순서의 특징을 제거한 나머지 특징들을 이용하여 Model Contrast Score(MCS) 점수를 계산하고, 상기 MCS 점수를 통해 긍정 오류 설명 평가를 수행하는 단계를 포함하는 XAI 기법의 통합 평가 방법
5 5
제2항에 있어서, 상기 계산하는 단계는, XAI 기법에서 제시된 특징 맵(Saliency map)의 유사성을 계산하여 예민성 체크의 기준으로 사용함으로써 예민성 체크 평가(Sensitivity check evaluation)를 수행하는 단계를 포함하는 XAI 기법의 통합 평가 방법
6 6
제1항에 있어서, 상기 계산하는 단계는, 사용되고 있는 XAI 기법에 대한 사용자로부터 선택된 특징과의 연관성 점수에 기초하여 XAI 기법의 사용자 기반의 평가 점수를 계산하는 단계를 포함하는 XAI 기법의 통합 평가 방법
7 7
제1항에 있어서, 상기 평가하는 단계는,상기 계산된 각각의 XAI 기법의 점수에 가중치를 곱한 후, 합산하여 XAI 기법의 최종 점수를 획득하는 단계를 포함하는 XAI 기법의 통합 평가 방법
8 8
평가 시스템에 있어서, 기능적 기반의 평가(Functionally Grounded evaluation) 측면과 사용자 기반의 평가(Human Grounded evaluation) 측면에서 각각의 XAI 기법의 점수를 계산하는 점수 계산부; 및 상기 계산된 각각의 XAI 기법의 점수를 혼합하여 XAI 기법의 최종 점수를 획득하는 평가부를 포함하는 평가 시스템
지정국 정보가 없습니다
패밀리정보가 없습니다
순번, 연구부처, 주관기관, 연구사업, 연구과제의 정보를 제공하는 이전대상기술 뷰 페이지 상세정보 > 국가R&D 연구정보 정보 표입니다.
순번 연구부처 주관기관 연구사업 연구과제
1 과학기술정보통신부 (주)시큐레이어 한국연구재단 부설 정보통신기획평가원 / 정보통신방송 연구개발사업 / SW컴퓨팅산업원천기술개발사업(통합이지바로) 데이터 특징과 문제를 정의하는 빅데이터 분석모델 추천 자동화 기술 개발