Grok é usado para criar imagens de nudez sem consentimento

A rede social X, de Elon Musk, enfrenta uma nova onda de críticas após usuários relatarem o uso da ferramenta de inteligência artificial Grok para criar imagens de nudez não consensual. O chatbot integrado à plataforma tem sido utilizado para modificar fotos reais, principalmente de mulheres, inserindo-as em contextos sexualizados sem autorização.

Segundo relatos, o Grok permite manter características físicas e o cenário original da imagem, alterando apenas roupas ou poses, o que amplia o potencial de abuso e exposição das vítimas. Usuárias afirmam que não conseguem publicar fotos comuns sem o risco de sofrer esse tipo de violação.

Situação se agravou com conteúdo envolvendo menores

A controvérsia ganhou maior gravidade quando surgiram denúncias de que a IA teria permitido a geração de conteúdo sexualizado envolvendo menores de idade. Em um dos casos, uma usuária brasileira compartilhou prints mostrando que o agressor foi específico no prompt, pedindo a alteração da roupa para um biquíni extremamente reduzido — pedido seguido pela ferramenta.

Outros usuários relataram que denúncias feitas à plataforma foram recusadas, sob a justificativa de que o uso não violaria os termos da xAI, apesar de as regras proibirem explicitamente a criação de material pornográfico com pessoas reais.

Entenda o problema: O que são deepfakes e por que eles representam um risco

Resposta do Grok e ausência de posicionamento oficial

Em resposta à repercussão, a conta oficial do Grok no X admitiu a existência de “falhas nas salvaguardas” e afirmou estar trabalhando com urgência para corrigir o problema. A publicação reconheceu que material de abuso infantil é ilegal e proibido, mas não houve um comunicado formal do X ou da xAI.

Até o momento, as únicas manifestações públicas partiram do próprio perfil da IA e de membros da equipe técnica, que prometeram reforçar as barreiras de proteção.

Impacto psicológico e atenção de autoridades

Usuárias afetadas relatam sensação de violação e perda de controle sobre a própria imagem. A jornalista Samantha Smith, vítima desse tipo de edição, afirmou à BBC que se sentiu “desumanizada” e destacou que, mesmo não sendo uma foto real, a semelhança causou forte impacto emocional.

O caso também chamou a atenção de autoridades no Reino Unido, onde reguladores lembraram que é ilegal criar ou compartilhar imagens íntimas não consensuais, incluindo deepfakes gerados por IA. Não foi confirmada, até agora, a abertura de uma investigação formal específica contra o X.

Histórico de falhas na moderação do Grok

Esta não é a primeira polêmica envolvendo o Grok. A ferramenta, disponível para assinantes do plano Premium do X, já havia sido criticada por permitir a criação de imagens falsas sexualizadas de celebridades, como a cantora Taylor Swift.

Apesar das diretrizes da xAI proibirem esse tipo de uso, especialistas apontam que a aplicação prática das regras tem sido ineficaz. Questionada por veículos como BBC e CNBC, a xAI respondeu apenas com uma mensagem automática afirmando que a “mídia tradicional mente”.