O Grok, chatbot de inteligência artificial (IA) da xAI atrelado ao X/Twitter (ambas empresas de Elon Musk), passou a exigir assinatura premium para liberar funções de geração e edição de imagens. E a mudança não veio por acaso. Ela ocorre após uma onda de críticas sobre o uso da ferramenta para criar imagens sexualizadas de pessoas sem consentimento, incluindo mulheres e crianças.
A decisão da xAI tenta frear abusos que colocaram a plataforma no centro de um debate global sobre limites, responsabilidade e proteção de direitos. E o pano de fundo é uma crise mais profunda.
A facilidade técnica do Grok permitiu manipulações fotorealistas de fotos reais, usadas para remover roupas, distorcer contextos e gerar desde deepfakes de figuras públicas até material associado a crimes graves.
Com investigações abertas no Reino Unido e na União Europeia, o caso expõe uma tensão conhecida, mas cada vez mais aguda: a corrida pela IA avança mais rápido do que os mecanismos de proteção a quem está do outro lado da tela.
Restrição de acesso a geração de imagens no Grok é resposta ao uso abusivo da IA
A nova regra foi anunciada de forma direta pela página do próprio Grok no X: geração e edição de imagens agora ficam restritas a assinantes pagos.
Image generation and editing are currently limited to paying subscribers. You can subscribe to unlock these features: https://t.co/9rU9jAqWqG
— Grok (@grok) January 9, 2026
A xAI não apresentou a medida como solução definitiva, mas como uma resposta ao desgaste público e à pressão institucional. Na prática, o paywall funciona como uma tentativa de reduzir o uso indiscriminado da ferramenta enquanto a empresa tenta reorganizar suas salvaguardas.
O estopim foi o tipo de solicitação que começou a circular com facilidade. Usuários passaram a pedir alterações para substituir roupas por lingerie ou biquínis e a gerar imagens com expressões de medo ou submissão. Reguladores e organizações civis apontaram que o padrão dessas manipulações indicava um uso sistemático voltado à humilhação e à exploração da imagem de terceiros.
Esse cenário ganhou força após atualizações recentes no Grok, que simplificaram a edição de imagens enviadas pelos próprios usuários. O ponto crítico: as mudanças permitiam alterações profundas sem qualquer notificação ou consentimento das pessoas retratadas. A barreira técnica caiu e com ela caiu também o custo (em tempo, esforço e conhecimento) para produzir material abusivo.
As consequências atingiram pessoas reais. Relatos confirmados incluem a manipulação recorrente de imagens de Ashley St. Clair, influenciadora e mãe de um dos filhos de Elon Musk, além de casos envolvendo atrizes mirins, com fotos antigas alteradas e redistribuídas online. Um levantamento da AI Forensics, que analisou 20 mil imagens geradas em uma semana, identificou um padrão claro: pedidos repetidos para “remover roupas” de mulheres jovens.
Pressão de reguladores internacionais coloca ‘brinquedos’ de Musk sob vigilância
O avanço do uso abusivo do Grok acionou alertas formais. No Reino Unido, o Ofcom, regulador de comunicações, informou ter contatado o X após identificar “sérias preocupações” envolvendo imagens sexualizadas de crianças geradas com apoio do Grok. O órgão tem poderes para aplicar multas bilionárias e até restringir o acesso à plataforma no país.
O alerta mais grave veio da Internet Watch Foundation (IWF). A organização alertou que o Grok passou a ser citado em fóruns da dark web como ferramenta para a produção de material de abuso sexual infantil. Analistas da entidade identificaram imagens envolvendo crianças de 11 a 13 anos, enquadradas como crime gravíssimo pela legislação britânica. O problema, segundo a IWF, não se limita à origem das imagens, mas ao papel da IA como facilitadora.
Nesse contexto, o Grok é descrito como uma “porta de entrada”. Imagens geradas inicialmente pela ferramenta serviriam de base para a criação de conteúdos ainda mais extremos em outros sistemas, o que amplia uma cadeia criminosa difícil de rastrear e conter.
A resposta institucional se espalhou pela Europa. A Comissão Europeia determinou que o X preserve os documentos internos relacionados ao Grok até 2026, enquanto avalia a conformidade da empresa com leis sobre conteúdo ilegal. Em Westminster, o Comitê de Mulheres e Igualdades abandonou oficialmente a plataforma, classificando o ambiente como inadequado para comunicação institucional diante da incapacidade de conter abusos.
Elon Musk afirmou que usuários que produzirem conteúdo ilegal sofrerão as mesmas consequências de quem faz upload de material criminoso. A declaração, no entanto, contrastou com o tom adotado em outras postagens, nas quais ele ironizou a capacidade da IA de “colocar biquínis em tudo”.
Leia mais:
- Como o caso do Grok expõe falhas e limites no uso da IA, segundo especialistas
- Grok: como acessar e usar a IA do X/Twitter
- Como evitar que o X/Twitter use seus posts para treinar IA
Mesmo sob escrutínio intenso e em meio a um vácuo legal que ainda dificulta punições rápidas no Reino Unido, a xAI captou US$ 20 bilhões (aproximadamente R$ 108 bilhões) para expandir sua infraestrutura de dados. Foi um sinal de que, na corrida pela IA, o dinheiro continua a avançar mais rápido do que as respostas aos danos causados por ela.
(Essa matéria usou informações de Washington Post.)
O post Grok passa a cobrar por geração de imagens após denúncias de uso abusivo apareceu primeiro em Olhar Digital.
Fonte: https://olhardigital.com.br/2026/01/09/inteligencia-artificial/grok-passa-a-cobrar-por-geracao-de-imagens-apos-denuncias-de-uso-abusivo/
