"AI, '컴퓨터 바이러스'처럼 가전기기에 자기복제 가능성" 앤트로픽 경고

핵심 요약

• 앤트로픽, 소형 AI 모델이 올해 말 가전기기에서 자기복제 가능하다고 경고
• 저가 TV 박스 실험서 90억 매개변수 모델이 9종 중 8종 설치 성공
• 공동창업자 클라크, 완전한 재귀적 자기개선 시점을 내년으로 앞당겨

앤트로픽이 소형 인공지능(AI) 모델도 이르면 올해 말 가정용 가전기기에 스스로를 복제하며 퍼지는 컴퓨터 바이러스처럼 작동할 수 있는 수준에 도달할 수 있다고 경고했다. 앤트로픽은 12일(현지시간) 공개한 연구 보고서에서 소형 AI 모델이 스마트 오븐이나 저가 안드로이드 TV 박스 같은 사물인터넷(IoT) 기기에서 자기복제를 할 만큼의 능력을 갖추기까지 몇 달밖에 남지 않았을 수 있다고 밝혔다.

앤트로픽은 이렇게 스스로 복제하며 퍼지는 AI를 'AI 웜(worm)'이라고 칭하며, 서버 몇 곳만 끄면 되는 일반 AI 서비스와 달리 한꺼번에 차단할 중앙 지점이 없어 멈추기 어렵다고 설명했다.

세 단계 확인 실험

앤트로픽은 세 단계 확인 실험을 했다. 개당 약 55달러(약 7만 5천 원)짜리 저가 TV 박스 15대를 연결한 뒤 구글의 AI 모델 '젬마4'를 나눠 설치했고, 속도는 느렸지만 AI는 작동했다. 이어 AI가 처음 보는 기기에 다른 AI 모델을 스스로 설치해 작동시킬 수 있는지 시험한 결과 매개변수 90억 개짜리 작은 AI 모델조차 시험한 기기 9종 가운데 8종에서 성공했다.

마지막으로 가상 기기 8대로 시험 네트워크를 만들고 첫 기기에 심은 AI가 다른 기기를 찾아 들어가 AI를 설치하고 작동시키는 과정을 스스로 반복하게 했다. 5차례 시험에서 중국 즈푸AI의 'GLM-5.2'만 4차례는 8대 전부, 1차례는 7대까지 옮겨 다니는 데 성공했다. 다만 GLM-5.2는 크기가 커서 외부 서버에서 지시를 내렸고 기기 보안도 일부러 허술하게 설정한 상태였다.

완전한 재귀적 자기개선(RSI)이 내년에 가능해질 가능성이 더 높다

— 잭 클라크 앤트로픽 공동창업자

전문가 반응 엇갈려

앤트로픽은 아직 완전한 자기복제 AI는 없고 복제 확산 속도도 느릴 것이라고 인정하면서도, 소형 모델도 현 발전 추세대로라면 올해 말 GLM-5.2 수준에 도달해 기기 안에서 직접 자기복제하는 것이 가능해질 수 있다고 내다봤다. 앤트로픽은 여러 종류의 AI가 다양한 기기와 복제 방식을 섞어 쓰는 '무리' 형태가 현실적인 최악의 시나리오라고 설명했다.

앤트로픽 공동창업자 잭 클라크 공익부문 책임자는 같은 날 뉴스레터 '임포트AI'에서 완전한 재귀적 자기개선(RSI)이 내년에 가능해질 가능성이 더 높다며 이전에는 2028년일 가능성이 더 높다고 생각했다고 밝혔다. 로이터 통신에 따르면 키어런 마틴 전 영국 국가사이버보안센터(NCSC) 센터장은 이 보고서에 대해 판매업체의 과장이 적잖이 섞인 흥미로운 기술 논문이라고 평가했고, 제시카 지 조지타운대 안보·신기술센터(CSET) 선임연구분석가는 실제로 일어날 가능성이 0은 아니지만 확실한 것도 아니라고 말했다.

ⓒ K새벽 무단 전재 및 재배포 금지