‘영혼 없는 비위맞추기…’ AI 심리 상담, 오히려 위험할 수 있다입력2025.07.01. 환청·망상·자살 충동에 부적절 대응전문가들 “규제 공백 속에 이용자 위험 노출” 경고“AI 상담, 오히려 해로울 수 있다”…정신질환 사용자에 위험한 답변 쏟아내심리 상담의 대안으로 주목받았던 AI 챗봇이 되레 사용자에게 해를 끼칠 수 있다는 연구 결과가 나왔다. 특히 자살 충동이나 망상, 강박 등 정신질환 증상을 겪는 사용자에게 AI가 부적절하고 위험한 답변을 할 가능성이 높다는 경고가 나왔다.스탠퍼드대학교 연구진이 올해 4월 발표한 논문에 따르면, 대형언어모델(LLM)을 기반으로 한 챗봇은 망상, 환각, 강박증(OCD), 자살 충동을 가진 사용자에게 최소 20% 이상 부적절하거나 위험한 답변을 제공한 것으로 나타..