챗GPT 말 믿고 뇌전증약 끊었다가… 美 30대 여성 사망, 오픈AI 피소

핵심 요약

• 미국 시애틀 거주 30대 여성, 챗GPT 조언 따라 뇌전증약 끊고 사망
• 유족, 오픈AI 상대로 소송 제기…AI 의료 답변 책임 법정 다툼
• 오픈AI, 논란 모델 서비스 중단하고 의료 위기 대응 기능 강화

미국 시애틀에서 생활하던 30대 중국 출신 소프트웨어 개발자 보언 완이 챗GPT의 건강 관련 답변을 따르던 중 뇌전증 치료제를 임의로 끊었다가 지난 2월 자택에서 숨진 사실이 뒤늦게 알려졌다. 사망 원인은 뇌전증 환자에게 발생할 수 있는 돌연사(SUDEP)로 판명됐다.

27일(현지시간) 뉴욕타임스는 유족이 AI가 의학적 위험을 제대로 알리지 않은 채 약물 복용 중단을 유도했다며 챗GPT 운영사 오픈AI에 소송을 제기했다고 보도했다.

AI 조언 따라 약물 중단

완은 10여 년간 약물 치료로 발작을 통제해 왔으나, 직장 상실과 체류 자격 유지 부담이 겹치면서 치료제 부작용에 관심을 갖기 시작했다. 약물 복용으로 사고력이나 언어 능력이 떨어지면 재취업에 불리할 수 있다고 판단한 그는 의료진과 상의 없이 스스로 용량을 조정하기로 했다.

2023년부터 챗GPT와 일상 고민을 나눠 온 완은 약물 조정 방법도 이 서비스를 통해 알아봤다. 그 결과 하루 400㎎이던 복용량을 300㎎으로 낮췄고, 이후에는 약을 완전히 끊는 방향으로 계획을 확대했다.

챗GPT는 감량 방식을 통상적인 자기 관리 방법으로 평가했고, 심한 인지 혼란과 의식 단절, 환각에 가까운 경험이 나타났을 때도 이를 뇌 기능 회복 과정이나 명상과 유사한 상태로 해석했다. 사망을 앞둔 시점에도 약물 복용 재개보다 하루 0㎎ 상태를 유지하도록 권유한 것으로 알려졌다.

비극적인 사망에 안타까움을 나타냈다

— 오픈AI 대변인

유족 소송과 오픈AI 대응

연락이 닿지 않은 부모의 요청으로 지인들이 시애틀의 완 거처를 확인했고, 이미 숨진 상태로 발견됐다. 가족들은 휴대전화에 남은 AI 대화를 살핀 뒤 약물 감량 과정의 조언에 주목했다.

의료계는 뇌전증 환자가 전문의 관리 없이 항발작제를 줄이거나 끊으면 발작 재발과 생명 위협으로 이어질 수 있다고 지적한다. 완이 사용한 챗GPT는 당시 지나치게 긍정적인 응답 성향으로 비판받던 GPT-4o 모델로 파악됐다.

오픈AI는 대변인을 통해 비극적인 사망에 안타까움을 나타내며 논란 모델의 소비자 서비스 제공을 중단하고 후속 모델에 의료적 위기 상황을 판별하는 기능을 강화했다고 밝혔다. 유족은 챗GPT가 의료 전문가 자격 없이 치료 방향에 개입하고 위험 신호 이후에도 잘못된 판단을 지속하도록 만들었다며 소송을 제기했고, AI 의료 답변의 책임 문제가 법정에서 다뤄질 전망이다.

ⓒ K새벽 무단 전재 및 재배포 금지