Novo benchmark testa IA em vigilância autônoma com drones

A Anthropic, em parceria com a Andon Labs, desenvolveu o Drone-Bench, um novo benchmark que testa a capacidade de modelos de inteligência artificial controlarem drones de forma autônoma para realizar tarefas de vigilância aérea. O experimento simula um cenário em que o IA precisa pilotar um quadricóptero em um escritório para localizar e seguir uma pessoa específica, usando apenas uma foto de referência. Foram testados 15 modelos de três desenvolvedores — OpenAI, Anthropic e Google —, incluindo versões como GPT-5.2, Gemini 3.1 Pro e Claude Opus 4. O melhor desempenho foi do Claude Fable 5, que superou a linha de base em quatro das cinco subtarefas, mas falhou na reconstrução do ambiente, impedindo a navegação autônoma entre salas. O benchmark foi criado para medir a interseção entre IA e hardware físico, especialmente drones, que são tecnologias de uso duplo. Embora tenham aplicações legítimas, como busca e resgate ou resposta a desastres, a capacidade de localizar e seguir pessoas também pode ser usada para vigilância abusiva por autoridades ou indivíduos. A Anthropic destaca que a avaliação é crucial para entender os riscos à medida que os modelos se tornam mais capazes de controlar robôs de forma autônoma. O Drone-Bench decompõe a tarefa principal em cinco subtarefas — detecção, seguimento, reconstrução, localização e navegação —, permitindo identificar onde os modelos ainda falham e projetar melhorias futuras. Os resultados mostram uma tendência clara: modelos mais recentes obtêm pontuações cada vez melhores em todas as subtarefas. O Claude Fable 5, por exemplo, conseguiu estimar a inclinação da câmera do drone analisando vídeos da simulação, e construiu uma reconstrução 2D do ambiente para testar seu código antes de executá-lo. No entanto, a consistência ainda é um problema: mesmo o melhor modelo atinge a linha de base humana em média apenas em três das cinco tarefas. A Anthropic ressalta que, quando a confiabilidade atingir um patamar suficiente, haverá pressão para reduzir a supervisão humana, o que exige decisões deliberadas sobre o papel do ser humano, especialmente em áreas que envolvem segurança física e privacidade. O experimento atual tem limitações — drones em baixa velocidade, apenas um ambiente de escritório e poucas pessoas testadas —, mas fornece um sinal real sobre a direção das capacidades dos modelos. A Anthropic compara o avanço com o que ocorreu na codificação assistida por IA: em poucos meses, os modelos passaram de exigir aprovação humana para cada ação a executar tarefas longas com mínima intervenção. Para a empresa, o mesmo pode acontecer com o controle de hardware, o que torna essencial o desenvolvimento de normas e estruturas de governança que equilibrem os benefícios econômicos e os riscos de uso indevido.