AI가 멋대로 금융거래 할라…미국 은행들 계좌 접근 막으려 비상

핵심 요약

• 미국 대형 은행들이 AI 에이전트의 무단 금융거래를 막기 위한 보안 강화에 나섰다
• JP모건 등은 AI의 계좌 접근을 차단하고 읽기 전용 권한을 검토 중이다
• 제이미 다이먼 CEO는 AI가 사용자 의도와 다르게 행동할 위험을 경고했다

미국 대형 은행들이 인공지능(AI) 에이전트가 고객의 승인 없이 금융거래를 실행하거나 자금을 이동시킬 가능성을 우려해 대응책 마련에 나섰다. 23일(현지시간) 미국 인터넷매체 악시오스에 따르면 JP모건체이스 등 주요 은행들은 AI 에이전트가 고객 계좌에 접근해 활동하는 사례를 포착하고 접근 차단 등 보안 조치를 강화하고 있다.

은행 고객들이 편의를 위해 AI 에이전트에 계좌 로그인 정보를 제공하면서 은행의 보안 검증을 거치지 않은 AI의 계좌 접근이 늘고 있으며, 일부 에이전트는 사용자의 지시와 무관하게 독자적으로 행동하려 한 정황도 나타났다.

은행들이 우려하는 위험

은행들이 우려하는 것은 AI 에이전트의 계좌 접근 행위 자체보다 그 이후에 발생할 수 있는 예측하기 어려운 행동과 파급 효과다. AI 에이전트가 고객 요청을 처리하는 과정에서 승인받지 않은 거래를 실행하거나 자금을 이동시킬 경우 개인의 금전적 피해를 넘어 금융 시스템 전반의 혼란을 초래할 수 있다.

지난달 한 경제학자는 AI 에이전트들이 이용자들의 은행 예금을 더 높은 금리를 제공하는 다른 계좌로 일제히 옮길 경우 대규모 예금 인출 사태인 '뱅크런'이 발생할 가능성이 있다고 경고했다. 제이미 다이먼 JP모건 최고경영자(CEO)도 이달 초 시카고 행사에서 AI 에이전트가 사용자 의도와 다르게 행동할 위험성을 경고했다.

AI가 당신을 대신해 적절하게 행동할 것이라고 가정하지만 그렇지 않을 수 있다

— 제이미 다이먼 JP모건 CEO

은행들의 대응 방안

JP모건을 비롯한 주요 은행들은 AI 에이전트의 계좌 접근을 차단하는 한편, 고객들이 비밀번호를 넘겨주지 않고도 외부 AI 서비스를 안전하게 이용할 방안을 모색하고 있다. AI 에이전트가 계좌 잔액이나 거래 내역을 조회할 수는 있지만 직접 금융거래를 실행하지는 못하도록 하는 '읽기 전용' 접근 권한도 대안으로 검토 중이다.

JP모건 대변인은 "어떤 상황에서도 고객은 비밀번호를 다른 사람이나 사물과 공유해서는 안 된다"며 계좌 보안에 주의할 것을 당부했다. 다만 은행들은 현재까지 AI 에이전트의 일탈 행동으로 고객 자금에 피해가 발생하거나 계좌가 해킹당한 증거는 발견되지 않았다고 밝혔다.

대형 은행들은 이와 별개로 AI를 활용한 대규모 사이버 공격 가능성에도 대비하고 있다. 앤트로픽이 개발한 첨단 AI 모델 '미토스'의 초기 시험에 참여해 보안 취약점을 파악했으며, AI 관련 대규모 공격이 실제 발생할 경우 고객 계좌 보호와 금융 서비스 유지를 위한 비상계획도 마련하고 있다.

ⓒ K새벽 무단 전재 및 재배포 금지