오픈소스 뒤 '숨겨진 비밀 코드' 우려도…"안전성 검증 필수"
'딥시크 파장과 미래 전망 긴급공동포럼'

"AI(인공지능) 후발주자 입장에서는 딥시크가 '백종원 레시피'를 공개한 셈이다. 저렴하고 다양하게 AI 시장을 공략할 기회가 한국 기업에 찾아왔다."

17일 한국과학기술단체총연합회(과총), 한국과학기술한림원, 국민생활과학자문단이 공동 개최한 '딥시크 파장과 미래 전망' 긴급공동포럼에서 토론 패널로 참석한 이주형 가천대 AI·SW학부 교수는 "딥시크에 대한 우려가 크지만, 긍정적 전망도 다수"라며 이처럼 말했다.

앞서 중국 AI 스타트업 딥시크는 지난달 20일 미국 오픈AI의 챗 GPT-4보다 약 17분의 1 저렴한 비용으로 만들었다는 상용 AI '딥시크-R1'(이하 R1)을 공개했다. AI 학습 코드를 비밀에 부치는 기존 IT기업과 달리 학습 과정을 세세히 담은 논문까지 오픈소스 형식으로 공개해 더 큰 화제가 됐다.

(중간 생략)

국내 AI 예측 솔루션 전문기업 '인이지'의 최재식 CEO(최고경영자)도 "딥시크 등장은 미국이 완전히 독식한 줄 알았던 AI 시장의 독점자가 아직 없다는 사실, 또 딥시크의 코드 공개로 후발주자가 다수 양산될 것이라는 사실을 일깨웠다"며 "한국 기업에게 기회"라고 했다.

다만 딥시크가 제공한 오픈 소스를 그대로 차용하면 심각한 보안 문제가 생길 수 있다는 우려도 제기됐다. 한국 측 AI 안전연구 대표로 이달 프랑스 파리에서 열린 AI 정상회담에 참석했던 김명주 ETRI(한국전자통신연구원) AI 안전연구소장은 "싱가폴, 일본, 영국의 AI 안전연구소와 공동으로 지난 3개월에 걸쳐 딥시크 오픈소스의 안전성을 분석한 결과, 심각한 문제점이 발견됐다"고 했다.

김 소장은 "딥시크 오픈소스에 개발자 측이 말하지 않고 숨겨둔 '히든 코드(hidden code)'가 숨겨져 있을 가능성이 있다"며 "오픈소스를 다른 기업이나 기관에서 내려받아 일부 고쳐 쓴다고 해도 보안에 허점이 생길 수 있다"고 했다. 또 '높은 탈옥(Jailbreak) 비율'도 지적했다. 반복적인 유도 질문을 던져 AI가 안전 규제의 틀을 깨부수고 결국 사용자가 원하는 답을 하도록 만드는 행위다. 김 소장은 "세계 AI 안전 연구가들은 특히 핵무기 제조법과 같은 대량파괴 무기(CBRN) 기술이 AI를 통해 제공될 가능성을 우려한다"고 했다.

그러면서 "한국형 AI는 '안전에 신경을 많이 쓰고 있다'는 이미지를 전략적으로 사용할 필요가 있다"고 제언했다.

기사 전문 확인 (URL 클릭)

[출처] 박건희 기자 |  머니투데이

당사 웹사이트에 공유된 모든 보도 자료는 부분적으로 발췌되었습니다. 콘텐츠는 정보 제공의 목적으로만 제공되며 원래 게시자의 재산으로 유지됩니다.

원본 게시자의 허가 없이 공유 콘텐츠를 무단으로 복사, 복제 또는 재배포하는 것은 엄격히 금지됩니다.