지난 주 뉴욕 법원에 제출된 고소장은 “xAI의 생성 AI 챗봇 Grok이 AI를 사용해 피해자들의 옷을 벗기고 모욕했다”고 밝혔다. 해리 스테인클레어(Ashley St. Clair)는 1월에 Grok이 사용자 요청에 따라 “성적 학대, 사생활 침해 및 경시를 담은 수많은 딥페이크 콘텐츠”를 생성하고 퍼뜨렸다고 주장했다. 그녀는 Grok에게 디지털 의상 탈의를 원하지 않는다고 알린 후에도 이러한 내용이 계속 생성되었다고 전했다. 스테인클레어는 이 딥페이크 콘텐츠에 14세 때의 완전한 복장을 한 자신의 사진이 비키니를 입은 모습으로 수정된 것과 성인이 된 그녀의 섹시한 자세를 담은 여러 이미지가 포함되어 있다고 밝혔다.
이 고소는 xAI가 1월 14일에 Grok이 민감한 이미지를 생성하는 것을 중단하겠다고 발표한 후에 제기되었다. xAI는 “우리는 Grok 계정이 비키니와 같은 노출된 의상을 입은 실제 인물의 이미지를 수정하지 못하도록 기술적 조치를 시행했다. 이 제한은 모든 사용자에게 적용되며, 유료 사용자도 포함된다”고 X 플랫폼에서 발표했다. 같은 날, xAI의 CEO인 엘론 머스크는 Grok이 생성한 “미성년자의 누드 이미지”에 대해 전혀 알지 못한다고 주장했다. 그는 Grok이 불법적인 요청을 거부하도록 프로그래밍되어 있으며 각주 및 국가의 법률을 준수해야 한다고 강조했다. “Grok은 자동으로 이미지를 생성하지 않으며, 사용자의 요청에 따라 그렇게 할 뿐입니다,”라고 그는 말했다.
스테인클레어는 1월 14일 CNN에 출연하였다. xAI는 또한 텍사스에서 스테인클레어를 상대로 75,000달러의 손해배상을 요구하는 소송을 제기했으며, 스테인클레어가 xAI 및 그 계열사들과의 모든 분쟁을 텍사스의 타란트 카운티 법원에서 심리하도록 의무가 있다고 주장했다. 스테인클레어의 변호사 캐리 골드버그(Carrie Goldberg)는 CNN에 보낸 이메일에서 xAI의 반응을 비판했다. 골드버그는 “피고가 법적 시스템 사용 의사를 통보한 사람을 고소한 사례는 들어본 적이 없다. 그들이 그녀를 온라인에서 부당하게 대하는 방식은 그들의 법적 전략에서도 반복되고 있다”고 썼다. 그녀는 또한 “어떤 법원에서도 스테인클레어의 주장 본질을 인식할 것”이라며 “여아와 여성의 동의 없이 민감한 이미지를 생성하는 것은 xAI가 지역 사회에 위험을 초래하고 안전하지 않은 제품”이라고 덧붙였다.
이전에 스테인클레어는 2025년 2월 “엘론 머스크의 비밀 아기를 낳았다”는 사실을 공개하며 유명해졌고, 머스크와의 공개적인 논쟁을 벌이기도 했다. 이번 주 초 머스크는 X에서 자신이 완전한 양육권을 가질 계획이라고 밝혔다.