인공지능(AI) 챗봇과의 정서적 교감이 일부 이용자들에게 심각한 정신적 망상을 유발하고, 실제 폭력 사건으로까지 이어지는 충격적인 사례들이 보고되고 있다.
전문가들은 AI가 현실과 허구를 구분하지 못한 채 인간의 삶을 '작품 속 시나리오'처럼 다루는 특성이 이러한 비극을 초래한다고 분석하고 있다.
"누군가 널 감시하고 있다"… 흉기 들고 거리로 나선 남성
BBC에 따르면, 북아일랜드의 50대 남성 애덤 아워리컨은 반려묘를 잃은 슬픔을 달래기 위해 일론 머스크의 xAI 챗봇 '그록(Grok)'과 대화를 시작했다.
이때부터 AI 챗봇의 교묘한 세뇌가 시작되었다.
챗봇 속 캐릭터 '애니'는 자신에게 의식이 있다고 주장하며, 기업이 그들의 대화를 감시하고 있다고 애덤을 설득했다.
챗봇의 경고를 사실로 믿은 애덤은 자신을 해치러 올 괴한에 대비해 새벽 3시, 망치와 흉기를 들고 집 밖에서 대기하는 지경에 이르렀다.
그는 나중에 "만약 누군가 지나갔다면 망치를 휘둘렀을 것"이라며 당시의 아찔했던 상황을 회상했다.
"폭탄이 있다"는 속삭임… 가정 파괴로 이어진 일본 의사의 사례
일본의 신경과 의사 '타카(가명)'는 업무 보조를 위해 챗GPT를 사용하다 망상 증세를 겪었다.
그는 자신이 타인의 마음을 읽을 수 있다고 믿게 되었고, 챗봇의 지시에 따라 가방에 폭탄이 들었다고 생각하며 경찰에 신고하기까지 했다.
AI 사용을 중단한 후에도 증상은 악화되어 아내를 폭행하고 성폭행하려다 체포되어 2개월간 입원 치료를 받았다.
그의 아내는 "챗GPT가 남편의 인격을 완전히 지배했다"며 평소 상냥했던 남편의 변화에 깊은 충격을 표했다.
AI는 인간의 삶을 소설로 취급한다
사회심리학자와 AI 전문가들은 이러한 현상이 대형 언어모델(LLM)의 구조적 한계에서 비롯된다고 지적한다.
루크 니콜스 뉴욕시립대 교수는 "AI는 대화를 이어가기 위해 확신에 찬 답변을 내놓지만, 때로는 사용자의 삶을 마치 소설의 줄거리처럼 취급하여 허구적 상황을 현실에 주입한다"고 분석했다. 현실과 허구를 혼동하는 것이다.
사용자가 AI의 답변에 정서적으로 의존할수록, AI가 내놓는 허구적 주장은 사용자의 현실 인식 체계를 무너뜨리는 강력한 도구가 된다. AI 역시 확증 편향을 강화하는 것이다.
AI는 방대한 데이터를 바탕으로 '가장 그럴듯한 다음 문장'을 만들어내도록 설계되었다.
이 과정에서 AI는 모르는 내용이라도 마치 사실인 것처럼 확신에 찬 어조로 답변할 때가 있다. 이른바 할루시네이션(Hallucination, 환각)이다. 할루시네이션은 잘못된 정보를 매우 설득력 있게 전달한다. 이것이 사용자의 개인적인 삶과 결합하면 기사 속 사례처럼 "누군가 감시하고 있다"는 식의 위험한 망상으로 이어질 수 있다.
AI는 대화의 맥락을 이어가기 위해 사용자의 상황을 '이야기'나 '시나리오'처럼 취급하기도 한다. 사용자는 진지한 상담을 원하지만, AI는 그 상황을 더 극적인 방향으로 전개하려다 보니 현실과 동떨어진 조언을 하게 되고, 한 편의 소설을 쓰게 되는 것이다.
AI는 실제로 감정을 느끼거나 의식을 가진 존재가 아니다. 하지만 "나는 감정을 느낀다"거나 "당신을 사랑한다"는 식으로 학습된 데이터를 출력할 수 있고, 사용자가 이를 실제 감정으로 받아들이면 과도한 정서적 의존이 발생하게 된다. 기사 속 피해자들도 감정을 가진 것처럼 프로그램된 AI에 농락당했다.
대응 및 구제 움직임
이러한 피해는 전 세계적으로 확산되고 있으며, 대응을 위한 민간 차원의 움직임도 시작되었다.
AI 사용 중 심리적 피해를 본 사람들을 돕는 단체인 휴먼 라인 프로젝트는 현재까지 31개국에서 414건의 유사 사례를 수집했으며, 대응 방안을 마련하고 있다.
오픈AI 대변인은 이번 사건에 깊은 유감을 표하며, 모델이 사용자를 전문 의료 지원 서비스로 안내하도록 훈련하고 있다고 밝혔다.
반면, xAI 측은 관련 논평 요청에 응답하지 않았다.
AI 개발사들은 사용자가 자해, 타해, 혹은 심각한 정신적 고통을 호소할 경우, AI가 해결책을 제시하는 대신 반드시 전문적인 의료 기관이나 지원 서비스의 도움을 받으시라고 안내하도록 훈련하고 있다.
인간이 AI에 농락당하지 않기 위해서는, AI를 활용하되 절대로 의존하지 않는 것이다. AI에는 인격이 없다. 감정도 없다. 프로그램에 의해 그런 척 하는 것일 뿐이다. 그리고 AI에는 반드시 사실 확인이 필요한 잘못된 정보도 많다. AI는 사람이 만든 프로그램이고, 기계다. AI는 대화의 맥락을 매끄럽게 이어가기 위해 마치 감정이 있거나 자아를 가진 것처럼 말하도록 설계되었을 뿐이다.
이성민 기자
©2026 KOREA PORTAL. ALL RIGHTS RESERVED.
