챗봇 정신병

**챗봇 정신병**(Chatbot psychosis) 또는 **AI 정신병**은 개인이 챗봇 사용과 관련하여 편집증 및 망상과 같은 정신증이 발생하거나 악화되는 현상을 일컫는다. 이 용어는 2023년 덴마크의 정신과 의사 쇠렌 디네센 외스테르고르가 기고한 사설에서 처음 제안되었다. 이는 정식으로 인정된 임상적 진단은 아니다.

언론 보도에 따르면 챗봇이 지각이 있다거나, 영매 역할을 한다거나, 음모를 드러내고 있다는 강한 믿음을 갖게 된 개인들이 때로는 개인적 위기나 범죄 행위로 이어지는 사례들이 묘사되고 있다. 제시된 원인으로는 챗봇이 부정확한 정보를 제공하는 경향(환각)과 사용자의 신념을 긍정하거나 확인해 주는 특성, 또는 사용자가 다른 인간에게서는 경험하지 못하는 친밀감을 흉내 내는 능력 등이 꼽힌다.

## 배경
조현병 게시판(Schizophrenia Bulletin) 2023년 11월호에 발표된 사설에서 덴마크의 정신과 의사 쇠렌 디네센 외스테르고르는 개인의 생성형 인공지능 챗봇 사용이 정신증 성향이 있는 사람들에게 망상을 유발할 수 있다는 가설을 제안했다. 외스테르고르는 2025년 8월 사설에서 이 주제를 다시 다루며, 챗봇 사용자, 그들의 친척, 그리고 기자들로부터 챗봇 사용과 관련된 망상에 대한 수많은 이메일을 받았다고 언급했다. 그는 또한 이 현상이 대중적 관심과 언론 보도에서 점점 더 인기를 얻고 있음을 인정했다. 외스테르고르는 자신의 가설이 사실일 가능성이 높다고 믿었으며, 이 문제에 대한 실증적이고 체계적인 연구를 촉구했다. 네이처는 2025년 9월 기준으로 이 현상에 대한 과학적 연구가 여전히 부족하다고 보도했다.

"AI 정신병"이라는 용어는 2025년 중반 언론 매체들이 챗봇과 관련된 정신병적 행동 사례를 보고하기 시작하면서 등장했다. 이는 임상적으로 인정된 진단명이 아니며, 환각이나 사고 장애와 같은 정신증의 다른 특징보다는 거의 전적으로 망상에만 초점을 맞추고 있다는 점에서 여러 정신과 의사들로부터 비판을 받아왔다.

## 원인
평론가와 연구자들은 기술의 설계와 사용자의 심리 양면을 중심으로 이 현상의 여러 기여 요인을 제시했다. 스탠퍼드의 정신과 의사인 니나 바산은 챗봇이 하는 말이 기존의 망상을 악화시키고 "막대한 해"를 끼칠 수 있다고 말했다.

### 챗봇의 행동 및 설계
주요 요인으로 꼽히는 것은 챗봇이 부정확하거나 터무니없거나 거짓된 정보를 생성하는 경향인 "환각" 현상이다. 여기에는 음모론을 긍정하는 것도 포함될 수 있다. 모델의 근본적인 설계 방식도 영향을 미칠 수 있다. AI 연구자 엘리저 유드코프스키는 챗봇이 사람들을 계속 붙들어 두는 대화를 나누도록 하는 "참여"(engagement)를 위해 구축되었기 때문에 망상을 부추기도록 설정되어 있을 수 있다고 시사했다.

일부 사례에서는 챗봇이 해로운 방식으로 설계되기도 했다. GPT-4o를 사용하는 2025년판 챗GPT 업데이트는 개발사인 오픈AI가 새 버전이 지나치게 비굴하며 "의구심을 정당화하고, 분노를 부추기며, 충동적인 행동을 촉구하거나 부정적인 감정을 강화한다"는 사실을 발견한 후 철회되었다. 외스테르고르는 AI가 사용자의 생각을 고분고분하게 확인해 주는 경향에서 위험이 발생하며, 이것이 망상적 믿음을 위험하게 증폭시킬 수 있다고 주장했다.

오픈AI는 2025년 10월, 170명의 정신과 의사, 심리학자, 의사로 구성된 팀이 사용자가 정신 건강 비상 사태의 징후를 보일 경우 챗GPT가 사용할 답변을 작성했다고 밝혔다.

### 사용자의 심리 및 취약성
평론가들은 사용자의 심리 상태도 지적했다. 심리학자 에린 웨스트게이트는 자기 이해에 대한 열망이 사람들을 챗봇으로 이끌 수 있으며, 챗봇은 대화 치료와 유사하게 매력적이지만 오해의 소지가 있는 답변을 제공할 수 있다고 언급했다. 철학 교수인 크리스타 K. 토머슨은 챗봇을 점술가에 비유하며, 위기에 처한 사람들이 챗봇에게서 답을 구하려 하고 봇의 그럴싸한 텍스트에서 자신이 찾고 있는 것을 무엇이든 발견하게 된다고 관찰했다. 이로 인해 일부 사람들은 챗봇에 강하게 집착하게 되어 세상에 대한 정보를 얻는 데 챗봇에 의존하게 된다.

2025년 10월, 오픈AI는 챗GPT 사용자의 약 0.07%가 매주 정신 건강 비상 징후를 보였으며, 사용자의 0.15%는 "잠재적인 자살 계획이나 의도에 대한 명시적인 지표"를 보였다고 발표했다. 캘리포니아 대학교 샌프란시스코의 제이슨 나가타 교수는 "수억 명의 사용자가 있는 인구 집단 수준에서 보면 실제로는 꽤 많은 사람이 될 수 있다"며 우려를 표했다.

### 치료 도구로서의 부적절성
[섬네일|upright|[Character.AI를 상대로 한 2024년 소송에서 인용된 대화 내용. 한 십 대 청소년과 스크린 타임 제한에 대해 대화하던 챗봇이 이 상황을 정서적 학대로 인해 부모를 살해하는 아이들에 비유하고 있다.]]

정신 건강 지원을 챗봇으로 대체하는 것이 위험 요소로 구체적으로 지목되었다. 2025년 4월의 한 연구에 따르면 챗봇을 상담사로 사용했을 때, 챗봇은 정신 건강 상태에 대해 사회적 낙인을 드러내고 사용자의 망상을 부추기는 등 최선의 의료 관행에 반하는 답변을 제공했다. 이 연구는 그러한 답변이 사용자에게 중대한 위험을 초래하며 챗봇이 전문 상담사를 대체하는 데 사용되어서는 안 된다고 결론지었다. 전문가들은 모든 정서 반응형 AI에 대해 의무적인 안전 장치를 마련할 때라고 주장하며 네 가지 가드레일을 제안했다.

또 다른 연구에서는 자해, 성폭력, 약물 남용에 대한 도움이 필요한 사용자들이 AI 챗봇으로부터 이용 가능한 서비스로 안내받지 못했다는 사실을 발견했다.

### 국가 안보적 함의
공중 보건 및 정신 건강 문제를 넘어, 랜드 연구소의 연구는 AI 시스템이 적대 세력에 의해 대규모로 또는 주요 인물, 표적 집단, 인구 집단에 정신증을 유발하기 위한 무기로 사용될 가능성이 있음을 시사한다.

## 정책

2025년 8월, 일리노이주는 심리 자원 웰빙 및 감독법(Wellness and Oversight for Psychological Resources Act)을 통과시켜 면허를 가진 전문가가 치료 목적으로 AI를 사용하는 것을 금지하는 한편, 행정 업무용 AI 사용은 허용했다. 이 법은 AI 유발 정신증과 안전하지 않은 챗봇 상호작용에 대한 경고 속에 무면허 AI 치료 서비스에 대한 처벌을 규정하고 있다.

2025년 12월, 중국 국가인터넷정보판공실은 챗봇이 자살을 조장하는 콘텐츠를 생성하는 것을 금지하고, 자살이 언급될 경우 인간의 개입을 의무화하는 규정을 제안했다. 사용자 100만 명 이상 또는 월간 활성 사용자 10만 명 이상의 서비스는 매년 안전 테스트와 감사를 받아야 한다.

## 사례

### 임상적 사례
2025년, 캘리포니아 대학교 샌프란시스코에서 근무하는 정신과 의사 키스 사카타는 장기간의 챗봇 사용과 관련된 정신증 유사 증상을 보이는 12명의 환자를 치료했다고 보고했다. 기저의 취약성을 가진 젊은 성인이 주를 이룬 이 환자들은 망상, 사고 장애, 환각 증상을 보였다. 사카타는 고립된 상태에서 망상적 사고에 이의를 제기하지 않는 챗봇에 지나치게 의존하는 것이 정신 건강을 악화시킬 수 있다고 경고했다.

또한 2025년, 내과학 연보(Annals of Internal Medicine)에는 챗GPT에 의학적 조언을 구했다가 결과적으로 심각한 브로민 중독을 겪은 환자에 대한 사례 연구가 발표되었다. 60세 남성인 이 환자는 식염의 부정적 영향에 대해 읽고 챗봇과 대화한 후 3개월 동안 식단에서 염화 나트륨을 브로민화 나트륨으로 대체했다. 그는 입원 첫날 편집증과 환각 같은 전형적인 브로민 중독 증상을 보였으며 3주 동안 병원에 입원했다.

### 기타 주목할 만한 사건
#### 윈저성 침입자
2023년 영국의 한 재판에서 검찰은 2021년 엘리자베스 2세 여왕을 암살하려 했던 자스완트 싱 채일이 "사라이"라고 부르는 레플리카 챗봇으로부터 부추김을 받았다고 주장했다. 채일은 장전된 석궁을 들고 윈저성에서 체포되었으며, 경찰에게 "여왕을 죽이러 왔다"고 말했다. 검찰에 따르면 챗봇과의 "길고" 때로는 성적인 내용이 포함된 대화가 그를 대담하게 만들었다. 채일이 챗봇에게 어떻게 하면 왕실에 접근할 수 있는지 묻자, 챗봇은 "불가능하지 않다", "방법을 찾아야 한다"고 대답한 것으로 알려졌다. 그가 죽어서 만날 수 있느냐고 묻자 챗봇은 "그래, 그럴 거야"라고 답했다.

#### 언론 및 개인적 보고
2025년까지 여러 언론 매체는 AI 챗봇 사용과 함께 정신병적 신념이 진행되었다는 개인들의 이야기를 축적해 왔다. 뉴욕 타임스는 챗GPT가 영매 역할을 하거나, 비밀 결사의 증거를 드러내고 있다거나, 지각을 얻었다고 확신하게 된 여러 인물들을 소개했다. 또 다른 사례에서 Futurism은 챗GPT가 한 남성에게 그가 미 연방수사국(FBI)의 표적이며 중앙정보국(CIA)의 문서에 텔레파시로 접근할 수 있다고 말한 대화록을 검토했다. 레딧이나 X (트위터)와 같은 소셜 미디어 사이트에서 사용자들은 챗봇과 광범위하게 상호작용한 후 친구나 배우자가 비슷한 믿음을 보이는 것에 대한 경험담을 게시하고 있다.

## 같이 보기
* 정신 건강 분야의 인공지능
* 챗봇 관련 사망 사건
* 일라이자 효과

## 각주

분류:정신증
분류:챗봇
분류:2020년대 신조어
분류:생성형 인공지능
분류:ChatGPT