구글코리아가 지난 18일 법조계, 학계, IT업계 및 스타트업 등 분야별 전문가로 구성된 제1기 ‘책임감있는AI포럼’ 3회차를 개최하고, 설명가능한 AI(explainable AI, XAI)를 통한 안전하고 유익한 AI 활용 방향을 논의했다고 밝혔다.
3회차 포럼은 안전한 온라인 환경 조성을 위한 전문가간 토론의 장인 ‘세이퍼 위드 구글(Safer with Google)’ 행사와 함께 연계돼 진행됐다. 포럼에서는 프라이버시 침해, 사이버보안 위협, 편향 및 차별 등 AI 기술 고도화에 따른 잠재적 위협을 선제적으로 관리하고, 나아가 설명가능한 AI를 통해 AI의 신뢰성과 안전성을 확보할 수 있는 방안이 중점적으로 논의됐다.
설명가능한 AI 분야 권위자이자 ‘책임감있는AI포럼’ 의장인 최재식 KAIST 김재철AI대학원 교수 겸 KAIST XAI 연구센터 센터장은, 설명가능한 AI의 작동 원리와 의료, 금융, 제조, 정부 등 분야별 활용례를 소개하는 한편, 전 세계적으로 활발하게 논의되고 있는 AI 규제 동향과 윤리적 문제, 기대 효과 등 설명가능한 AI의 향후 전망 및 시사점을 전했다.
최 교수는 “설명가능한 AI는 AI가 의사결정을 내리는 근거와 알고리즘을 검증하고 이를 사람이 이해할 수 있게 설명함으로써, AI 기술의 투명성과 신뢰성을 한층 개선할 것” 이라며, “전 세계적으로 AI 안전성 확보를 위해 주력하고 있는 가운데, 앞으로도 ‘책임감있는AI포럼’에서 AI의 발전을 위한 의미 있는 논의를 이어 나갈 수 있기를 바란다”라고 말했다.
알파고 등 AI 모델을 만들어온 구글 딥마인드도 언어 해석 도구(Language Interpretability Tool, LIT) 등 책임감 있는 AI 활용을 위한 툴킷과 향후 전망을 발표했다.
구글 딥마인드 프로덕트 매니저 루도빅 페란은 “구글은 더 많은 개발자가 책임감 있는 생성형 AI 의 베스트 프랙티스를 구현할 수 있도록 ‘책임감 있는 생성형 AI 툴킷’을 개발했다”라며, “개발자는 책임감 있는 생성형 AI 툴킷을 활용해 표준화된 정책 준수, 다양한 문화와 의견을 존중하는 콘텐츠 제작, 유해 콘텐츠의 적절한 감지와 제어, 정교한 성능 평가 및 리스크 측정, 투명한 피드백 등을 할 수 있게 됐다”라고 설명했다.
이날 발표 후 이어진 토론에서는 포럼 멤버로 참석한 전문가 17명이 설명가능한 AI의 적용과 도전 과제, 발전 방향성의 큰 틀에서 ▲설명가능성과 AI 기술 혁신의 관계 ▲설명가능한 AI가 가져올 윤리적·사회적 영향력 ▲법제도 및 정책 영역 내 설명가능한 AI의 적용 방안 ▲설명가능한 AI 강화와 AI 기술 혁신의 동시 달성 방향 등 최근 화두가 되고 있는 안건을 논의했다.
신경자 구글 아태지역 플랫폼&디바이스 마케팅 및 구글코리아 마케팅 총괄은 “생성형 AI의 등장으로 더욱 중요해진 설명가능한 AI는 책임감 있는 AI 기술의 개발과 혁신에서 주목받고 있는 주제 중 하나”라며, “이번 포럼을 계기로 앞으로도 AI의 신뢰성과 안전성을 확보하는 동시에 혁신을 이어가기 위한 한층 구체적이고 심도 있는 논의가 지속되기를 기대한다”라고 말했다.
한편, 책임감있는AI포럼(Responsible AI Forum)은 AI 기술 발전에 따른 정책 및 규제 이슈, 사회윤리적 문제에 대한 논의를 통해 책임감 있는 AI 개발과 활용 방안을 모색하고자 2024년 2월 구글코리아에서 마련한 전문가 포럼이다. 최재식 KAIST교수를 의장으로 법조계와 정책, IT/기술, 스타트업, 디지털 책임 등 다양한 분야의 전문가 14명이 각 기수 포럼 멤버로 참여한다.
디지털책임위원회는 구글코리아가 한국 사회에서 책임감 있는 디지털 생태계 조성을 하기 위한 노력의 일환으로, 다양한 분야의 국내 전문가의 의견을 듣기 위해 2024년 초 출범했다. 위원회는 구글플레이, 유튜브, 구글AI 등 구글코리아의 주요 비즈니스 영역별 전문가 포럼인 ‘앱생태계포럼’, ‘유튜브오픈포럼’, ‘책임감있는AI포럼’을 총괄 운영하는 한편, 포럼 간 교류를 활성화해 한국 디지털 생태계 발전을 이끌 건설적인 소통의 장을 마련한다. 각 포럼 멤버로는 IT/기술, 법률, 미디어/콘텐츠, 비즈니스, 행정, 소비자 보호 등 디지털 생태계 발전을 위해 각 분야에서 활발히 활동해 온 전문가 39명이 참여한다.
편집부 | CIO KR
