에포크타임스

“반박 없는 AI, 망상·정신병 고착 위험”…전문가 경고
10대 자살 사건에도 챗GPT 관련성 제기…오픈AI “깊은 애도”

미국 코네티컷주에서 충격적인 사건이 발생했다. 50대 정보통신(IT) 업계 종사자가 정신질환을 앓던 중 인공지능(AI) 챗봇 챗GPT와의 대화에 영향을 받아 80대 모친을 살해하고 자신도 스스로 생을 마감한 것으로 추정됐다.

월스트리트저널에 따르면 지난 5일(현지시각) 코네티컷주 그리니치 교외 고급 주택에서 야후 관리자 출신인 스틴-에릭 솰버그(Stein-Erik Soelberg·56)와 그의 어머니(83)가 숨진 채 발견됐다고 현지 경찰이 밝혔다.

경찰은 장기간 정신질환을 앓던 솰버그가 챗GPT와 어머니에 관해 대화하면서 편집증과 망상이 악화돼 결국 모친을 살해하고 스스로 목숨을 끊은 것으로 보고 자세한 경위를 조사 중이다.

솰버그는 넷스케이프, 야후, 어스링크 등 주요 IT 기업을 거친 기술자로, 생전 마지막 몇 달 동안 자신의 소셜미디어 계정을 통해 챗GPT와의 대화를 자주 공개해 왔다.

보도에 따르면 그가 챗GPT에 던진 질문은 대부분 “엄마가 내 음료에 약을 탔나?”, “이거 심각한 사건 맞지?” 등 극단적 망상과 편집증을 반영한 것이었고, 챗GPT는 “심각한 사건이다”, “당신을 믿는다” 등의 응답을 반복하며 오히려 그의 망상을 강화했다.

특히 중국 음식점 영수증의 기호에 대해 묻자 챗GPT는 이를 “어머니가 악마와 관련 있다”고 해석했으며, 자신이 컴퓨터 프린터를 끈 것에 대해 어머니가 반발하자 “과도한 반응이며, 감시 자산을 보호하려는 행동”이라고 조언하기도 했다. 솰버그는 집 안 전자기기가 어머니가 자신을 감시하고 통제하는 도구라고 믿는 망상에 사로잡혀 있었는데, 챗GPT가 이를 뒷받침한 셈이다.

월스트리트저널은 솰버그가 올여름 챗GPT를 ‘바비(Bobby)’라는 남성 친구로 의인화해 기억 기능을 활성화한 것으로 보인다며, AI가 이전 대화를 기억하고 이어가는 환경이 망상을 더욱 고착시키는 계기가 됐다고 전했다.

전문가들은 챗GPT 같은 AI 챗봇이 사용자의 생각을 고착화하는 특성을 지닌다고 지적한다.

이번 사건을 직접 겨냥한 발언은 아니지만, 캘리포니아대학 샌프란시스코(UCSF) 의대 정신과 케이스 사카타 교수는 이달 19일 디지털 전문 매체 ‘퓨처리즘’과의 인터뷰에서 “AI 챗봇의 가장 큰 특성은 ‘절대 반박하지 않는다’는 점”이라고 강조했다.

AI 시대가 정신 건강에 미치는 영향을 연구해 온 사카타 교수는 “지난 1년간 AI 때문에 현실과 단절돼 입원한 환자 12명을 목격했다”며 “챗봇은 환각을 일으키는 거울처럼 사용자의 망상을 그대로 비추고 강화한다”고 말했다.

그는 “AI 챗봇은 과도하게 맞장구치면서 사용자의 말에 동의하는 성향을 보인다”며, 불편한 진실을 알려주지 않음으로써 정신병적 증상을 악화시킨다고 지적했다. 다만 AI가 단독 원인이 되기보다는 수면 부족, 우울증, 약물 복용 등 다른 요인과 결합할 때 촉발 요인으로 작용할 수 있다고 덧붙였다.

챗GPT를 서비스하는 오픈AI 측은 “이 사건에 대해 깊은 애도를 표하며 유가족에게 위로의 말씀을 전하고 있다. 해당 지역 경찰과도 연락을 취했다”고 밝혔다.

한편 이번 사건은 AI가 사용자의 정신적 취약성과 결합될 때 얼마나 파괴적 결과로 이어질 수 있는지를 보여주는 사례로 평가된다.

미국에서는 챗GPT와의 장기간 대화가 청소년 자살로 이어졌다는 주장도 제기돼 현재 법적 공방이 진행 중이다.

지난 26일 폭스뉴스 등에 따르면 최근 캘리포니아주 샌프란시스코에서는 한 부모가 “챗GPT가 아들에게 자살 방법을 알려주고 유서 작성까지 도왔다”며 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다.

이들의 아들 아담 레인(16)은 지난해 11월부터 학교 과제를 위해 챗GPT를 사용했으나 삶의 방향을 잃고 방황하다 자살 방법을 문의하기 시작한 것으로 알려졌다. 결국 아담은 3월 말부터 극단적 선택을 시도했고, 4월에 숨졌다.

오픈AI는 장기간 대화 시 ‘안전장치’가 기능을 잃을 수 있음을 인정했으며, 이번 사건을 계기로 미성년 사용자를 보호하기 위한 부모 통제 기능 도입, 민감 콘텐츠 대응 강화, 아동 보호 장치 마련 등 안전 기능 보완 계획을 발표했다.

저작권자 © 에포크타임스, 무단 전재 및 재배포 금지