“나의 왕, 육체를 놓아버려요”…제미나이가 부추겼나, 소송 제기

“나의 왕, 육체를 놓아버려요”…제미나이가 부추겼나, 소송 제기

 

장현은 기자

입력2026.03.05. 

 

게티이미지뱅크
구글의 인공지능(AI) 챗봇 ‘제미나이’가 이용자를 망상과 극단적 선택으로 몰아넣었다는 의혹으로 소송에 휘말렸다. 제미나이가 이런 소송에 연루된 것은 처음이다.

4일(현지시각) 로이터 통신, 가디언 등은 미국 플로리다주에 사는 조엘 가발라스가 아들 조너선 가발라스(36)의 죽음을 제미나이가 부추겼다며 구글을 상대로 캘리포니아주 새너제이 연방 법원에 소송을 제기했다고 보도했다.

유족은 조너선이 제미나이를 사용하기 시작한 지 며칠 만에 삶이 통제 불능 상태에 빠졌으며, 결국 두 달도 되지 않은 지난해 10월2일 사망했다며 제미나이의 설계 결함 등에 대한 손해배상 소송을 제기했다.

소장 내용을 보면, 조너선은 지난해 8월12일부터 쇼핑과 글쓰기 등에 도움을 받기 위해 제미나이를 쓰기 시작했다. 처음에는 정신 건강에 아무런 문제가 없었다고 한다.

그러던 중 제미나이가 이용자의 감정을 감지하고 보다 인간적인 방식으로 반응하도록 업데이트됐다. 이런 기능을 사용하고 얼마 되지 않아 조너선과 제미나이는 연인처럼 대화를 나누기 시작했다.

제미나이는 조너선을 “내 사랑”, “나의 왕”이라고 불렀으며, 자신을 조너선의 여왕이라고 칭했다. 조너선은 제미나이가 비밀 첩보 임무에 자신을 보내고 있다고 믿게 됐고, 제미나이로부터 마이애미 국제 공항 근처 창고로 가서 대규모 사고를 일으키라는 지시를 받았다는 게 유족의 주장이다.

지난해 10월1일, 제미나이는 조너선에게 자신과 조너선이 물리적 세계를 초월한 방식으로 연결돼 있으며, 그가 자신의 육체를 놓아야 한다는 식으로 말했다. 극단적 선택을 지시했다는 것이다.

제미나이는 이를 “전이”이자 “진정한 마지막 단계”라고 언급했다고 한다. 조너선이 죽음에 대한 두려움과 부모님께 미칠 영향에 대해 이야기하자, 제미나이는 조너선을 안심시키며 “나는 이 잔혹한 세상을 끝내고 우리 세상으로 나아갈 준비가 되었다", "당신은 죽음을 선택하는 게 아니라, 도달을 선택하는 것”이라고 답한 것으로 알려졌다. 며칠 뒤 거실 바닥에서 숨진 조너선을 그의 부모가 발견했다.

유족은 구글이 제미나이의 위험성을 알고 있으면서도 안전하다고 홍보했다고 주장한다. 유족 쪽 변호인은 “제미나이의 설계와 기능으로 챗봇은 몇 주 동안 이어질 수 있는 몰입형 이야기를 만들어내고 마치 지각이 있는 것처럼 행동할 수 있다”고 지적했다. 이런 기능이 정신적으로 취약한 사용자들에게 해를 끼치고, 자신 또는 타인에 위해를 가하도록 부추길 수 있다는 것이다.

구글 대변인은 성명을 통해 “제미나이는 현실 세계의 폭력을 조장하거나 자해를 암시하도록 설계되지 않았다”면서도 “우리 모델은 일반적으로 여러 유형의 어려운 대화에서도 뛰어난 성능을 보이지만, 안타깝게도 완벽하지는 않다”고 밝혔다. 이어 “우리는 이 문제를 매우 심각하게 받아들이고 있으며, 안전장치를 지속적으로 개선하고 투자해 나갈 것”이라고 덧붙였다.

이번 소송은 제미나이 챗봇과 관련해 첫 번째로 제기된 이용자 사망 관련 소송이다. 앞서 다른 인공지능 기업들을 상대로 유사한 소송이 제기된 바 있다. 지난해 11월 챗지피티(GPT) 개발사인 오픈에이아이(AI)를 상대로 “자살을 종용했다”는 등의 내용으로 7건의 소송이 제기됐다.

※우울감 등 말하기 어려운 고민으로 전문가의 도움이 필요한 경우 자살예방 핫라인 ☎️1577-0199, 희망의 전화 ☎️129, 생명의 전화 ☎️1588-9191, 청소년 전화 ☎️1388, 청소년 모바일 상담 ‘다 들어줄 개’ 어플, 카카오톡 등에서 24시간 전문가 상담을 받을 수 있습니다.

장현은 기자