XAI 최신 연구동향과 산업계 활용 사례 공유.... KAIST 설명가능 인공지능연구센터, ‘KCC 설명가능 인공지능 워크샵 2024’ 성료

올해 3월 EU 인공지능법이 최종 통과되고 AI시스템에 대한 글로벌 규제가 현실화됨에 따라 AI모델의 투명성 향상과 AI규제 준수를 지원할 수 있는 설명가능 인공지능(eXplainable Artificial Intelligence, XAI) 기술에 대한 관심이 높아지고 있다.

여기에, XAI 분야에서 활발히 연구 중인 국내 연구기관과 기업 관계자들이 함께 모여 최신 연구동향을 교류하는 시간을 가졌다. KAIST 설명가능 인공지능연구센터 (센터장 최재식 교수) 주관으로 지난달 27일 제주 국제컨벤션센터에서 'KCC 설명가능 인공지능(XAI) 워크샵 2024'가 개최됐다.

이날 행사에서는 XAI 분야의 최신 연구동향과 산업계 활용 사례에 대한 초청강연과 논문발표가 진행되었다.

최근 연구가 활발한 분야인 멀티모달 AI모델 연구 및 해석 동향에 대해 고려대 서홍석 교수(‘멀티모달 대화형 인공지능 관련 연구 동향’)와 한밭대 박천음 교수(‘Multimodal Counterfactual reasoning을 이용한 자연어 해석 연구 동향’)의 초청강연이 있었다.

또한 금융 및 의료 분야에 XAI가 활용된 사례에 대해 ‘금융 및 은행에서의 설명가능한 AI’(오순영 공동의장, (사)과실연 미래포럼)과 ‘Digital Health에서의 XAI의 역할: Repeech 사례를 중심으로’ (김진우 대표, ㈜HAII), 강연이 이어졌다. 또한, 설명가능 인공지능 분야의 국제 표준화 그룹 리더인 이재호 교수(서울시립대)가 ‘프론티어 AI 신뢰성 기술과 정책’에 대해 강연했다.

워크샵에서는 총38편의 최신 연구논문이 발표되었는데 기존 XAI 알고리즘의 성능을 개선한 새로운 알고리즘, 대형언어모델(Large Language Model, 약칭 LLM) 등 생성형 AI모델에 대한 해석성 및 신뢰성 제공 기법, 도메인별 XAI 적용 사례에 대한 연구 내용이 다루어졌다.

이 중에서 최우수논문상은 ‘물체 수준 시각 프롬프트를 활용한 효율적인 대형언어시각모델’ (이병관, 박범찬, 김채원, 노용만(이상 KAIST))’이 수상하였다. 해당 연구는 대형언어시각 모델(Large Language and Vision Model, LLVM)에서 모델 크기를 키우는 대신 물체 수준 이미지 이해가 가능한 새로운 기법을 도입함으로써 AI모델의 성능 향상뿐만 아니라 AI모델의 의사결정 과정에 대한 해석가능성을 크게 높였다는 점이 인정받았다.

행사를 주관한 KAIST 설명가능 인공지능연구센터 센터장 최재식 교수(인이지 대표이사)는 "이번 워크샵이 AI기술의 투명성과 신뢰성을 향상시키는 데에 핵심 기술인 설명가능 인공지능(XAI)에 대한 최신 연구동향을 교류하고, 다양한 산업분야에 XAI 기술이 적용되는 데에 기여하기를 바란다"고 밝혔다.

한편, 이번 행사는 과기정통부 정보통신기획평가원의 “사람중심인공지능핵심원천기술개발사업” (과제명: 사용자 맞춤형 플러그앤플레이 방식의 설명가능성 제공 기술 개발) 지원으로 개최되었다. 이날 행사에서 발표된 연구 기술 등 자세한 내용은 워크샵 홈페이지를 참고하면 된다

출처 : 인공지능신문(https://www.aitimes.kr) / 최광민 기자