Imagine postar uma foto comum. Sua, da sua mãe, esposa, filha. Nada demais. Só mais um registro qualquer. Algumas horas depois, algo estranho acontece. A caixa de comentários é invadida por desconhecidos que pedem a um robô para “melhorar” a imagem, não para corrigir a luz, mas para sexualizá-la.

Os comandos variam entre o grosseiro e o patológico: “Tire a roupa dela”. “Coloque uma lingerie transparente”. “Um biquíni fio dental”. “Faça-a mostrar a bunda”. “Passe óleo nela toda”.

Como toda máquina obediente, o robô não questiona, cumpre. E cria versões hiper-realistas da sua foto. Seu rosto é colado a um corpo fabricado por inteligência artificial, com (ou sem) trajes e poses sabe-se lá quais.

Não é você, você sabe. Mas quem mais sabe? Pior: quem se importa? A imagem fica lá para quem quiser apreciar. Vizinho, amigo, inimigo, pai, filho, chefe e curiosos. Como ficam os danos à vítima? Que se danem os danos —e a vítima. Não é um cenário inventado.

Foi o que se viu na última semana no X, depois que o Grok, chatbot integrado à plataforma, liberou um recurso que permite a edição de fotos. O assédio digital não demorou a virar trend e uma avalanche de imagens manipuladas, inclusive envolvendo menores, passou a circular abertamente pela plataforma.

Monitoramentos independentes como a Copyleaks, especializada em detecção de deepfakes, estimaram que o sistema chegou a produzir uma imagem não consensual por minuto. Diante das denúncias, veio a resposta oficial, o aviso protocolar de que “conteúdos ilegais terão consequências”.

Na sequência, o mesmo perfil celebrava o crescimento do aplicativo (os downloads do Grok aumentaram 54% entre sexta e segunda-feira).

Elon Musk usou dois emojis de risada ao compartilhar uma imagem de uma torradeira com um biquíni estampado, com a legenda: “Grok consegue colocar um biquíni em tudo”.

Desde a compra do antigo Twitter, a plataforma dissolveu as equipes de segurança e reduziu drasticamente a equipe de moderação de conteúdo. O ambiente ficou mais permissivo e a IA apenas acelerou o problema. Deixemos claro: não foi o Grok que inventou a chamada “nudificação digital”. Há anos existem ferramentas que manipulam imagens de corpos. E adivinhe qual é o conteúdo e quais são as vítimas? Acertou. Mais de 95% de deepfakes publicadas é pornografia.

Quase todas as vítimas são mulheres. Um bom termômetro de como anda a “saúde” da sociedade. O que mudou foi a escala e a facilidade. O que antes exigia habilidade, tempo e disposição, agora cabe em um clique, em plena praça pública digital.

Às vítimas que reclamaram, o público cativo desses entretenimentos dá o recado: se não quer passar por isso, não poste. A velha inversão da culpa. Uma tecnologia que facilita os impulsos mais primitivos —e faz isso sem freios claros, sem salvaguardas sólidas, sem ética— deixa de ser um espaço de diálogos, torna-se cúmplice da desumanização e banaliza a violência sexual, real e digital.

A tecnologia avançou muito mais rápido do que a ética, a legislação e a educação digital. A inteligência artificial dá saltos impressionantes, mas nossa capacidade de impor limites éticos parece em queda livre. Em vez de usar o avanço para proteger, educar e restringir abusos, permitimos que ele sirva exatamente ao contrário, normalizando o que deveria nos envergonhar.