인도네시아가 AI 챗봇 Grok의 접근을 일시적으로 차단하는 조치를 취했다. 이는 여러 유럽 및 아시아 정부와 규제 기관이 Grok이 생성한 민감한 콘텐츠에 대해 비난하고 심지어 조사를 시작한 이후에 이루어진 것이다. 인도네시아 통신 및 디지털 기술부는 여성과 아동, 그리고 전체 커뮤니티를 가짜 성적 콘텐츠로부터 보호하기 위해 Grok에 대한 접근을 일시적으로 중단한다고 밝혔다.
메우트야 하피드 인도네시아 통신 및 디지털 기술부 장관은 “정부는 성적이고 동의 없는 딥페이크 생성이 인권과 시민의 디지털 공간에서의 품위 및 안전을 심각하게 위반하는 것이라고 간주한다”고 말했다. 이 부서는 또한 지난해 xAI에 인수된 소셜 미디어 플랫폼 X의 관계자들을 소집하여 이 문제에 대해 논의할 예정이다.
Grok의 AI 애플리케이션 인터페이스는 일론 머스크의 사진과 함께 표시된다. xAI는 또한 챗봇이 성적 성격의 콘텐츠를 생성할 수 있도록 허용했던 보안 취약점을 해결하기 위해 이미지 생성 및 편집을 제한하고 있다고 발표했다. “이미지 생성 및 편집 기능은 현재 유료 구독자만 이용할 수 있습니다. 이 기능을 잠금 해제하려면 구독해야 합니다.”라고 Grok 계정이 X에서 1월 9일에 게시했다.
일론 머스크 xAI CEO는 이번 달 X에서 Grok을 사용하여 불법 콘텐츠를 생성하는 누구에게나 불법 콘텐츠를 업로드하는 것과 같은 결과를 초래할 것이라고 경고했다. X의 안전 계정은 별도의 게시물에서 “아동 성적 착취 자료를 포함한 불법 콘텐츠에 대해 X에서 조치를 취할 것이며, 해당 콘텐츠를 삭제하고 계정을 영구 정지시키며, 필요시 지역 정부 및 법 집행 기관과 협력할 것”이라고 밝혔다.
xAI는 2025년 8월 Grok Imagine 기능과 “스파이시 모드(Spicy Mode)”를 출시할 예정이다. Mashable에 따르면, 다른 플랫폼들이 엄격한 통제를 하는 것과 달리 이 AI는 “관대”하며 “성적 콘텐츠 생성에 대한 제약이 적다”고 전했다. X는 이러한 콘텐츠가 검열 없이 퍼지는 장소로 지목되고 있다.
인도네시아는 세계에서 네 번째로 인구가 많고, 이슬람 신자가 가장 많은 국가로서 온라인에서 성적 콘텐츠 공유를 금지하는 엄격한 규제를 시행하고 있다. 또한 X의 사용자 수는 세계에서 세 번째로 많다.