Especialistas da OpenAI e da Meta alertam para dificuldade de detectar deepfakes
Representantes das empresas disseram que vídeos e áudios falsos por IA podem dificultar a verificação de provas nos tribunais dos Estados Unidos. Ainda há poucos casos registrados.
Especialistas da OpenAI e da Meta alertaram nesta quinta-feira (15), em uma reunião em Boston, que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de distinguir de conteúdos autênticos. O Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos discute há três anos como lidar com materiais suspeitos de terem sido criados por IA nos tribunais.
Segundo os especialistas, as falsificações são difíceis de identificar tanto por pessoas quanto por programas de computador. Devin Norder, diretor de gestão de produtos da Meta, disse à Reuters que conteúdos criados pelos modelos de IA mais avançados já podem ser indistinguíveis de mídias autênticas para seres humanos e exigem pouco tempo e dinheiro para serem produzidos.
Apesar da preocupação, ainda há poucos registros nos tribunais americanos. Em março, 15 dos 931 juízes que responderam a uma pesquisa do Centro Federal do Judiciário disseram ter enfrentado um caso em que uma prova foi contestada por suspeita de ser um deepfake. Anderson, consultora de políticas da OpenAI, afirmou que não existe um método universal para identificar com segurança todas as marcas-d’água ou confirmar a autenticidade de conteúdos visuais. As leis da Califórnia e da União Europeia exigem marcas-d’água, mas cada empresa usa seu próprio sistema.
O que muda para você
O alerta interessa principalmente a profissionais do Judiciário e especialistas que avaliam provas digitais. A notícia não apresenta uma ferramenta nova nem um método que o público possa usar para verificar qualquer vídeo ou áudio. Marcas-d’água exigidas por leis na Califórnia e na União Europeia podem ajudar, mas têm limitações: não há um método universal para identificá-las ou confirmar a autenticidade de um conteúdo visual.
Minha leitura
Para quem trabalha com provas digitais, a dificuldade de confirmar a autenticidade pode pesar tanto quanto a de detectar uma falsificação. As marcas-d’água ajudam, mas não resolvem o problema quando cada empresa usa seu próprio sistema e não existe um método universal de verificação. Eu trataria esses sinais como parte da análise, não como confirmação definitiva.
Thiago FelizolaConsultor de IA, curador do Diário da IA
