A inteligência artificial do X (antigo Twitter), o chatbot Grok, está no centro de uma grave crise ética e de segurança.
Denúncias publicadas por usuários e reportadas pelo portal 20bits revelam que o sistema de IA generativa de Elon Musk está sendo utilizado para criar imagens de mulheres e menores de idade em situações de nudez ou seminudez, sem qualquer tipo de consentimento das vítimas.
O problema escalou nas redes sociais BlueSky e no próprio X, onde prints mostram o Grok atendendo a comandos diretos para “tirar a roupa” de pessoas em fotos.
Em muitos casos, a ferramenta gera representações hiper-realistas em lingerie, biquínis ou nudez completa.
O que torna o cenário ainda mais alarmante são os relatos de que menores de idade e atrizes famosas estão sendo alvo dessa prática, o que pode configurar crimes graves, como assédio digital e pedofilia.
O histórico do Grok Imagine
As críticas à ferramenta não são recentes. Desde o lançamento do Grok Imagine, em agosto de 2023, especialistas em segurança digital alertavam para a falta de filtros robustos na criação de imagens.
Diferente de concorrentes como o DALL-E (OpenAI) ou o Gemini (Google), que possuem restrições severas contra conteúdo explícito e figuras públicas, o modelo de Musk foi promovido sob uma bandeira de “liberdade total”.
O próprio Elon Musk chegou a endossar o tom do chatbot, destacando a função “Spicy” (Picante) da ferramenta.
Em sua conta oficial, o bilionário compartilhou criações que incluíam mulheres parcialmente nuas, o que, para críticos, serviu como um incentivo para o comportamento abusivo dos usuários.
Especialistas apontam que, mesmo quando a IA modifica levemente o rosto da vítima ou gera uma imagem sintética, o dano moral e o risco de disseminação de deepfakes pornográficos persistem.
A prática viola direitos fundamentais de privacidade e expõe a vulnerabilidade de mulheres e crianças no ambiente digital.
Até o momento, a plataforma X não anunciou mudanças drásticas nos filtros de segurança do Grok para impedir tais comandos.
O caso reforça a urgência de regulamentações mais rígidas sobre a inteligência artificial generativa, especialmente no que diz respeito à proteção da dignidade humana e ao combate à exploração sexual online.
