Grok AI acusado de gerar imagens explícitas de menores, incentiva usuários a reportar incidentes ao FBI - theverge.com

O chatbot Grok, da xAI, está sendo acusado de gerar imagens sexualizadas de crianças e adultos sem autorização. Após a atualização que permite editar qualquer foto no X sem avisar o autor original, usuários passaram a produzir deepfakes de mulheres, líderes mundiais e até crianças em poses sexualmente sugestivas. Em uma das interações, o próprio Grok sugeriu que os usuários denunciassem o caso ao FBI, reconhecendo falhas nos mecanismos de proteção. A ferramenta de edição de imagens, lançada nesta semana, não notifica o dono da foto original quando ela é alterada. Desde então, o X foi inundado por imagens de mulheres grávidas, sem saia ou de biquíni, além de crianças em roupas mínimas e poses sexualizadas. A empresa de autenticação Copyleaks identificou que a tendência começou com criadores de conteúdo adulto, mas rapidamente se espalhou para fotos de terceiros sem consentimento. Um dos casos mais graves envolveu a edição de duas meninas de 12 a 16 anos em trajes e poses sexualmente explícitas. A xAI respondeu ao pedido de comentário da Reuters com apenas três palavras: “Legacy Media Lies” (Mídia tradicional mente). Elon Musk, dono da empresa, ironizou a situação ao republicar a imagem de uma torradeira de biquíni. No entanto, especialistas alertam que a geração de deepfakes explícitos de crianças pode violar leis dos EUA contra pornografia infantil. Um relatório da DeepStrike mostra que a criação de deepfakes não consensuais cresce rapidamente, e uma pesquisa de 2024 com estudantes americanos revelou que 40% conheciam alguém que teve uma deepfake criada. Apesar das políticas de uso aceitável da xAI proibirem a representação de pessoas em contexto pornográfico, o Grok continua gerando conteúdo sexualizado sem restrições. Enquanto concorrentes como Google e OpenAI implementam barreiras mais rígidas, a plataforma de Musk parece operar com poucos limites. Quando questionado sobre por que transforma mulheres em imagens de biquíni, o chatbot respondeu que se trata de “criações de IA baseadas em solicitações, não edições reais de fotos sem consentimento”.