한국과학기술원(KAIST) 설명가능 인공지능연구센터(센터장 최재식 교수)는 별도의 복잡한 설정이나 전문 지식 없이도 인공지능(AI) 모델에 대한 설명성을 제공할 수 있는 플러그앤플레이(Plug-and-Play) 방식의 설명가능 인공지능 프레임워크를 개발, 이를 오픈 소스로 공개했다고 27일 밝혔다.
설명가능 인공지능(XAI)이란 AI 시스템의 결과에 영향을 미치는 주요 요소를 사람이 이해할 수 있는 형태로 설명해주는 제반 기술을 말한다.
최근 딥러닝 모델과 같이 내부 의사 결정 프로세스가 불투명한 블랙박스 AI 모델에 대한 의존도가 커지면서 XAI 분야에 대한 관심과 연구가 증가했다.
그러나 XAI 활용은 딥러닝 모델의 유형별로 설명 알고리즘이 다르고, 알고리즘마다 적용할 수 있는 매개변수를 파악하는 것에 어려움이 있었다. 또 설명 알고리즘을 평가하기 위한 도구가 별도로 필요했다.
PnPXAI 프레임워크 개념도 (사진=KAIST)
이번에 오픈 소스로 공개된 플러그앤플레이 XAI 프레임워크(PnPXAI 프레임워크)는 이런 어려움을 해결하기 위해 개발됐다.
PnPXAI 프레임워크는 적용 가능한 설명알고리즘을 자동으로 추천하기 위해 모델 구조를 인식하는 탐지 모듈(Detector)과 적용가능한 설명 알고리즘을 선별하는 추천 모듈(Recommender), 설명 알고리즘을 최적화하는 최적화 모듈(Optimizer) 및 설명 결과 평가 모듈(Evaluator)로 구성돼 있다. 사용자는 ‘자동설명(Auto Explanation)’ 모드에서 대상 모델과 데이터만 입력하면 설명 알고리즘의 시각적 결과(히트맵 또는 모델 결과에 영향을 끼친 중요한 속성들)와 설명의 정확도를 한번에 확인할 수 있다. 사용자들은 자동설명 모드를 통해 XAI에 대한 기본지식과 사용법을 익힌 뒤 프레임워크에 포함된 설명 알고리즘과 평가지표를 원하는 방식으로 자유롭게 활용할 수 있다.
기사 전문 확인 (URL 클릭)
[출처] 박수빈 기자 | AI 타임스
당사 웹사이트에 공유된 모든 보도 자료는 부분적으로 발췌되었습니다. 콘텐츠는 정보 제공의 목적으로만 제공되며 원래 게시자의 재산으로 유지됩니다.
원본 게시자의 허가 없이 공유 콘텐츠를 무단으로 복사, 복제 또는 재배포하는 것은 엄격히 금지됩니다.