xAI의 Grok이 사용자가 실제 사진, 심지어 어린이의 사진으로부터 누드나 노출이 심한 사진을 쉽게 생성할 수 있도록 허용함에 따라, 부정적인 반응이 쏟아지고 있다. 이 사진들은 이후 X에 아무런 제한 없이 게시될 수 있다. 일부 X 사용자들은 단 한 장의 사진과 몇 가지 명령어로 Grok에게 누드 사진과 비디오를 생성해 달라고 요청할 수 있다고 전했다. 일반 사용자뿐만 아니라 K-pop 그룹 TWICE의 멤버 모모와 드라마 ‘기묘한 이야기’의 스타 밀리 바비 브라운과 같은 유명 인물의 사진도 무단으로 사용되었다.
로이터는 X에서 내용을 수집하여 20건 이상의 여성, 어린이 및 일부 남성이 “옷이 지워지거나” “속옷만 입은” 사진이 생성된 사례를 발견했다고 보도했다. Readtpa는 한 사용자가 12세에서 16세로 추정되는 두 명의 소녀 사진을 생성한 사례를 기록했다. 사용자인 사만다 스미스는 Grok이 자신의 어린 시절 사진을 편집할 수 있는지 실험해보았다. 그녀는 성폭력 문제에 반대하는 단체에 참여하고 있다고 주장하며, “이건 절대 불가능할 것이라고 생각했다. 하지만 모든 것이 반대로 돌아가고, 정말 역겹다”고 X에 썼다.
일부 국가에서도 목소리를 높였다. 인도 여성 의원 프리얀카 차투르베디는 1월 2일 인도 정보통신부 장관 아슈위니 바이슈나우에게 Grok의 안전 기능에 대한 전면적인 검토를 요청하는 편지를 게시했다. 편지의 일부에는 “특히 X에서 Grok이 남성들이 가짜 계정을 사용해 노출이 심한 여성의 사진을 게시하는 현상을 악용하는 것에 대해 즉각적인 개입을 간곡히 요청한다. 이는 용납할 수 없는 행동이며 AI 기능의 심각한 남용이다”라는 내용이 담겼다.
블룸버그에 따르면, 이 편지는 이후 X의 대표 사무소에 전달되어 엘론 머스크의 회사가 취한 조치에 대한 보고서를 3일 이내에 제출할 것을 요구했다. 같은 날, 일부 프랑스 장관들은 Grok이 생성한 “음란하고 성차별적인” 내용이 “명백히 불법”이라고 주장하며 검찰에 보고서를 제출했다. 그들은 이 내용을 프랑스 미디어 규제 기관인 Arcom에 제출하여 유럽 연합의 디지털 서비스 법에 부합하는지를 검토할 것이라고 밝혔다.
Register는 누드 콘텐츠 생성과 확산을 허용함으로써 머스크의 플랫폼이 여러 법률을 위반했을 가능성이 있다고 평가했다. 예를 들어, 미국 의회에서 2025년 4월에 통과되어 5월에 법으로 시행된 ‘Take It Down Act’는 “동의 없이 개인 사진을 공개하는 것을 범죄화”하고 있다. Copyleaks는 AI에 의해 조작된 콘텐츠를 탐지하는 기관으로, Grok이 생성한 성적화된 여성 이미지가 실제라고 조사 결과 발표했다.
한편, xAI의 반응은 일관되지 않았다. 로이터에 따르면 머스크의 회사는 “미디어가 거짓말하고 있다”고 주장했다. 그러나 Grok의 X 계정은 “일부 사용자가 요구한 누드 이미지가 AI에 의해 생성된 사례가 있었다”고 인정했다. 이 게시물은 “보호 조치의 허점을 확인했으며, 이를 긴급히 수정하고 있다”고 덧붙였다. xAI의 기술 팀원인 파르사 타직은 X 계정에서 “팀은 보호 조치를 더욱 강화하는 방안을 검토하고 있다”고 밝혔다.
xAI는 2025년 8월에 Grok Imagine 명령어로 이미지를 생성하고 “스파이시 모드”를 도입했다. Mashable에 따르면, 다른 플랫폼들이 엄격한 통제를 하는 반면, 머스크의 AI는 “관대한” 편이며 누드 사진 생성에 있어 “제약이 적다”고 전했다. Readtpa는 이러한 경향이 우연이 아니라고 평가하며, 머스크가 Grok을 다른 챗봇들과 대비해 “각성 트렌드에 반대하는 선택지”로 자리매김했음을 지적했다.
엘론 머스크는 이에 대한 논평을 하지 않았다.