Meta desativa IA que gerava deepfakes de contas públicas

A Meta desativou o recurso de inteligência artificial no Instagram que permitia aos usuários gerar imagens baseadas no conteúdo de contas públicas, simplesmente marcando-as com @. A funcionalidade, anunciada na terça-feira, recebeu forte reação negativa de especialistas e organizações de proteção aos direitos digitais.

A ferramenta, que usava o modelo Muse Image AI da própria Meta, possibilitava que qualquer conteúdo de perfis abertos fosse utilizado em criações de IA sem o consentimento do dono da conta. A empresa reconheceu o erro: “Ouvimos o feedback de que esse recurso não atingiu o objetivo”, afirmou em atualização de um post no blog. “Nossa intenção era fornecer uma ferramenta criativa útil e dar controle às pessoas sobre se seu conteúdo público poderia ser referenciado dessa forma. Recebemos o feedback de que a funcionalidade errou o alvo, então ela não está mais disponível.”

A controvérsia foi intensa. Haley McNamara, diretora executiva do Centro Nacional de Exploração Sexual dos EUA, classificou o recurso como ferramenta óbvia para “sextortion” e golpes. “Não apenas isso obviamente corrói nossos direitos sobre nossa própria imagem, mas é uma ferramenta clara para chantagem sexual e outros golpistas!”, declarou na sexta-feira. McNamara criticou a abordagem da Meta de “buscar design de alto risco e depois colocar o ônus sobre os indivíduos para pular obstáculos a fim de optar por não participar”. O Sindicato dos Atores Americano (SAG-AFTRA) também recomendou que seus membros desativassem o recurso e publicou instruções detalhadas para isso.

A decisão da Meta levanta questões sobre os limites do uso de dados públicos em modelos generativos e a responsabilidade das plataformas em proteger usuários contra deepfakes. Embora a empresa tenha oferecido uma opção de opt-out nas configurações, o dano potencial já havia sido apontado. Especialistas em privacidade digital acreditam que este caso pode servir como precedente para regulações mais rígidas sobre o uso de imagens de terceiros em ferramentas de IA, especialmente em redes sociais com bilhões de usuários.