Google desativa ferramenta de IA no Earth após um dia por risco

O Google desativou nesta sexta-feira um recurso de inteligência artificial lançado um dia antes no Google Earth, que permitia alterar imagens de satélite com comandos de texto. A ferramenta, que usava o modelo Nano Banana 2, gerava cenas realistas mas falsas do mundo real, como bombas perto de hospitais em Gaza ou refugiados na fronteira entre México e Estados Unidos. O jornalista Henk van Ess, do site Digital Digging, demonstrou o problema ao criar essas imagens e alertar que a moderação do Google não bloqueou nenhum pedido.

Em comunicado, o Google afirmou que o recurso violava políticas de uso e que a confiança dos usuários no Google Earth como fonte confiável de imagens reais foi comprometida. A empresa disse que as imagens geradas não apareciam na experiência principal do Google Earth para outros usuários e incluíam uma marca d'água digital indicando que eram criadas por IA. Ainda assim, van Ess mostrou que conseguiu enganar uma ferramenta de detecção de IA da Hive com um vídeo gerado no Google Earth, sugerindo que as marcas d'água não impedem a disseminação de desinformação.

O caso expõe o desafio de equilibrar utilidade e segurança em ferramentas de IA generativa. O Google diz que trabalhará em "salvaguardas mais fortes" antes de relançar o recurso, mas não deu prazo. A decisão rápida de recuar mostra como empresas de tecnologia estão sob pressão para evitar que suas ferramentas sejam usadas para criar deepfakes de locais reais, o que pode alimentar teorias da conspiração ou manipular a opinião pública sobre conflitos e crises humanitárias.