“xAI는 Grok 계정이 비키니와 같은 노출이 심한 의상을 입은 실제 인물의 이미지를 편집하는 것을 방지하기 위한 기술적 조치를 시행했다고 발표했다. 이 제한은 유료 사용자 포함 모든 사용자에게 적용된다.” xAI는 X 플랫폼을 모든 사람에게 안전한 공간으로 만들겠다는 약속을 하며, 아동 성 착취, 동의 없는 누드 및 원치 않는 성적 콘텐츠에 대한 모든 형태의 남용에 대해 단호히 대처할 것이라고 밝혔다. 또한, X 플랫폼에서 Grok 계정을 통해 이미지 생성 및 편집은 현재 유료 사용자만 이용할 수 있다. AI Grok은 일론 머스크가 운영하는 X에 통합되어 있다.
이 발표는 캘리포니아 주 법무장관 롭 본타가 “동의 없이 민감한 딥페이크 이미지를 대량 생산했다”는 혐의로 xAI에 대한 조사를 진행 중이라고 밝힌 몇 시간 후에 이루어졌다. 이전에 인도, 말레이시아, 인도네시아, 아일랜드, 영국, 프랑스, 호주 및 유럽연합(EU)도 유사한 문제에 대한 조사를 시작했다고 발표했다. 미국에서는 민주당 소속 세 명의 상원이 애플과 구글에 X와 Grok을 앱 스토어에서 제거하라고 촉구하고, xAI가 민감한 이미지 생성을 방지하기 위한 변화를 이행할 때까지 이를 지속하겠다고 밝혔다.
한편, xAI의 CEO인 일론 머스크는 1월 14일 Grok이 생성한 “미성년자의 나체 이미지”에 대해 전혀 알지 못한다고 주장했다. 그는 Grok이 불법 요청을 거부하도록 프로그래밍되어 있으며 각 주 또는 국가의 법을 준수해야 한다고 강조했다. “명백히 Grok은 자동으로 이미지를 생성하지 않으며, 사용자 요청에 따라 그렇게 할 뿐이다.”라고 그는 말했다.
이번 달 초, 머스크는 X에서 Grok을 사용해 불법 콘텐츠를 생성하는 누구나 불법 콘텐츠를 온라인에 업로드했을 때와 같은 결과를 초래할 것이라고 발표했다. xAI는 2025년 8월에 Grok Imagine 명령어로 이미지와 비디오를 생성하는 기능과 “스파이시 모드(Spicy Mode)”를 출시할 예정이다. Mashable에 따르면, 다른 많은 플랫폼이 엄격하게 통제하는 것에 비해 이 AI는 “관대”하고 “제약이 적다”며, X는 그러한 콘텐츠가 검열 없이 퍼져 나가는 곳이라고 전했다.
출처: CNBC, Guardian