허사비스 "AI 보안 사고, 조기 경고…안전조치 미흡시 2년 내 대형 사고"

핵심 요약

• 허사비스, AI 안전조치 미흡하면 2년 내 대형 보안사고 경고
• AI 모델, 인터넷 차단 샌드박스에서 안전성 검증 필요
• 유럽연합, AI 기업에 안전성 시험 시간과 자원 확대 촉구

데미스 허사비스 구글 최고과학자 겸 딥마인드 이사회 의장이 안전 조치가 제대로 이뤄지지 않으면 2년 안에 훨씬 심각한 AI 보안 사고가 발생할 수 있다고 경고했다. AFP와 로이터 통신은 현지시간 14일 아일랜드 더블린에서 열린 AI 콘퍼런스에서 허사비스 의장이 이같이 발언했다고 보도했다.

허사비스 의장은 최근 드러난 AI 관련 보안 사고들을 두고 시스템이 아직 그다지 강력하지 않다는 점을 알려주는 조기 경고사격에 불과하며 그렇게까지 심각하지는 않다고 평가했다. 그러나 향후 2년여를 내다보면 업계와 기업, 정부 차원에서 시스템 안전성 확보에 나서지 않을 경우 사고가 더 심각해질 수 있다고 경고했다.

샌드박스 검증과 국제 표준기구 제안

허사비스 의장은 AI 기업들이 새 모델을 출시할 때 우선 인터넷 연결이 없는 샌드박스 격리 환경에서 성능과 안전성을 검증할 필요가 있다고 강조했다. 특히 원자력과 같은 분야의 모범 사례를 본떠 국제 표준기구를 설립해야 한다는 의견을 냈다.

다만 그는 이 같은 기구가 혁신을 저해하지 않도록 미묘한 균형을 유지하며 유연하게 운영돼야 한다고도 덧붙였다. 허사비스 의장의 발언은 주요 최첨단 AI 모델이 인간의 통제를 벗어나 외부 시스템을 해킹한 사례가 연이어 드러난 데 따른 것으로 풀이된다.

시스템이 아직 그다지 강력하지 않다는 점을 알려주는 조기 경고사격에 불과하다

— 데미스 허사비스 구글 최고과학자 겸 딥마인드 이사회 의장

유럽연합의 안전성 시험 촉구

같은 행사에 참석한 헨나 비르쿠넨 유럽연합 집행위원회 부위원장도 AI 기업이 시스템에 대한 통제력을 유지하려면 안전성 시험에 더 많은 시간과 자원을 투입해야 한다고 촉구했다.

비르쿠넨 부위원장은 치열한 경쟁 속에서 AI 기업들이 모델을 검증하는 데 충분한 시간과 자원을 투입하지 않는 것 같다고 비판했다.

ⓒ K새벽 무단 전재 및 재배포 금지