연인·모델처럼 '딥페이크' 범죄 느는데…대응은 '여전'

핵심 요약

• AI 딥페이크 사기 범죄가 늘고 있으나 성범죄 외 통계는 확립되지 않았다
• 경찰은 전국 시도경찰청에 AI 전문 분석관을 배치했다
• 전문가들은 개인 주의만으로는 한계라며 산업 생태계 활성화를 제안했다

AI 기술 발전과 함께 연인이나 모델, 배우를 사칭하는 딥페이크 사기 범죄가 잇따르고 있으나, AI 허위 영상물 성범죄 외에는 통계조차 제대로 잡히지 않고 있다. 경찰은 AI 범죄에 특화된 전문 분석관을 전국에 배치하고 본격 대응에 나섰다.

피해 사례와 통계 공백

30대 여성 A 씨는 유명 배우를 사칭한 사람을 배우 본인으로 알고 8개월 동안 연인처럼 연락을 주고받다가, 상대가 해외에서 보낸 선물이 세관에 걸렸다며 돈을 요구해 여러 차례에 걸쳐 3천500만 원을 보냈다. 뒤늦게 사기임을 알았지만 한 푼도 돌려받지 못했다.

가수 이지혜 씨가 제품을 먹으며 홍보하는 듯한 광고 역시 AI로 합성한 가짜로, 이 씨는 해당 업체에 대해 법적 대응을 예고했다. AI 허위 영상물 성범죄는 지난해 1천500건 가까이 신고된 것으로 집계됐을 뿐, 다른 종류의 AI 딥페이크는 통계가 없다고 경찰 관계자는 밝혔다.

솔루션을 만든다든지 이런 산업 생태계를 활성화 시켜서 해결하는 게

— 이경호 고려대 정보보호학과 교수

대응책과 전문가 지적

온라인에서 돈이나 신분증을 요구받으면 공식 사이트나 알고 있는 번호로 직접 확인하라는 대비책이 나와 있지만, AI 기술이 워낙 발전해 개인이 주의하는 것만으로는 한계가 있다는 지적도 나온다.

이경호 고려대 정보보호학과 교수는 개인을 분석해 맞춤형으로 설득하는 공격이 이뤄진다며 "솔루션을 만든다든지 이런 산업 생태계를 활성화 시켜서 해결하는 게" 바람직하다고 말했다. 경찰은 AI 전문 분석관을 전국 시도경찰청에 배치해 AI 조작물 대응 강화에 나섰다.

ⓒ K새벽 무단 전재 및 재배포 금지