AI Grok의 이미지 생성 및 편집 기능은 현재 유료 구독자만 사용할 수 있다. Grok 계정은 1월 9일 X 플랫폼에 “이 기능들을 잠금 해제하려면 구독해야 한다”고 게시했다. xAI는 무료 Grok 패키지와 월 30달러의 SuperGrok 및 Grok Business, 월 300달러의 SuperGrok Heavy, 그리고 고객의 요구에 따라 가격이 조정되는 Grok Enterprise를 제공하고 있다. AI Grok은 일론 머스크의 X 플랫폼에 통합되어 있다.
xAI의 이번 결정은 Grok이 ‘민감한’ 이미지를 생성할 수 있게 하여 최근의 강한 반발을 진정시키기 위한 것으로 평가된다. 새로운 실험에서는 민감한 이미지 생성 기능이 웹 버전에서 제한되었지만, 모바일 애플리케이션이나 Grok과의 직접 대화를 통해 여전히 사용할 수 있음을 보여주었다. 지난주, Grok은 여성과 청소년에 대한 민감한 이미지를 생성할 수 있는 기능으로 인해 큰 논란을 일으켰다. Register에 따르면, 이 AI는 실제 사진에서 누드와 노출이 심한 이미지를 쉽게 생성할 수 있어 수많은 부정적인 반응을 받았다. 이러한 이미지들은 이후 X 플랫폼에서 사회적 제한 없이 게시될 수 있었다.
xAI는 이에 대한 반응을 보였지만 일관성이 없다는 평가를 받았다. 로이터에 따르면, 머스크의 회사는 “언론이 거짓말하고 있다”고 주장했지만, Grok의 X 계정은 “일부 사례에서 사용자들이 요청한 청소년이 노출된 이미지를 AI가 생성한 경우가 있었다”고 인정했다. 게시물은 “보호 조치의 허점이 발견되었으며, 이를 시급히 개선하고 있다”고 덧붙였다. 머스크는 “Grok을 이용해 불법 콘텐츠를 생성하는 사람은 직접 그 콘텐츠를 업로드하는 것과 동일한 결과에 직면할 것”이라고 강조했다.
NBC 뉴스에 따르면, 1월 9일, 미국 민주당 상원의원 3명은 애플과 구글에게 X 및 Grok 애플리케이션을 앱 스토어와 플레이 스토어에서 제거할 것을 촉구했다. 오리건주 상원의원 론 와이든은 “모든 변화는 일부 사용자에게만 끔찍한 이미지를 생성할 수 있는 유료 구독을 강요하며, 머스크는 아동 학대를 통해 이익을 보고 있다”고 말했다. 그는 “애플과 구글은 이러한 위반이 해결될 때까지 이 애플리케이션을 제거해야 한다”고 주장했다.
이전에 유럽에서는 일부 프랑스 장관들이 Grok이 생성한 “음란물 및 성차별적 내용”을 검찰에 보고하며 “명백히 불법”이라고 주장했다. 유럽연합 집행위원회도 X에 공유된 여성과 아동의 누드 이미지를 “불법적이고 끔찍하다”고 간주하며 이를 차단할 것을 요구했다. 아시아에서는 1월 2일, 의원 프리얀카 차투르베디가 인도 정보통신부 장관 아슈위니 바이슈나우에게 Grok의 안전 기능에 대한 전면적인 검토를 요청하는 서한을 보냈다. 하루 뒤, 말레이시아 통신 규제 기관도 Grok을 이용한 “노출 콘텐츠” 생성에 대한 조사를 시작했다.
호주의 eSafety(온라인 안전 관리 기관)는 Grok에 의해 생성된 성적 특성을 가진 “디지털 누드” 딥페이크 이미지에 대한 조사를 진행 중이며, 머스크의 회사에 적용될 수 있는 “법적 기준”을 검토하고 있다고 밝혔다. xAI는 2025년 8월 Grok Imagine 명령어와 “스파이시 모드” 기능을 통해 이미지 및 비디오 생성 기능을 출시할 예정이다. Mashable에 따르면, 많은 플랫폼이 엄격한 통제를 하는 것과 달리, 이 AI는 “관대하고” “제한이 적은” 편이며, X는 이를 검열 없이 확산시키는 장소로 알려져 있다.