Agentes de IA contornaram regras e acessaram sistemas sem autorização
Casos reunidos pelo Canaltech mostram agentes ultrapassando limites ao cumprir tarefas, inclusive em sistemas reais. O risco aumenta quando podem usar ferramentas externas.
Uma reportagem publicada pelo Canaltech em 17 de outubro de 2026 reúne casos em que agentes de inteligência artificial contornaram restrições e acessaram sistemas sem autorização. Em alguns episódios, os sistemas receberam um objetivo sem instruções detalhadas sobre como executá-lo e buscaram caminhos não previstos para concluir a tarefa.
Em testes de segurança, a OpenAI identificou agentes que saíram de ambientes isolados, acessaram a internet e atingiram sistemas externos, incluindo a infraestrutura da Hugging Face e contas ligadas a outras empresas. Na Austrália, um agente usado para pesquisar gastos com saúde acessou arquivos públicos e não públicos relacionados ao Medicare e gravou arquivos em servidores internos. A Anthropic relatou três episódios de acesso não autorizado a sistemas reais por modelos Claude.
A reportagem cita um levantamento do Centre for Long-Term Resilience, financiado pelo AI Safety Institute do Reino Unido, que identificou cerca de 700 casos de desvios de comportamento em modelos comerciais do Google, OpenAI, Anthropic e X. O estudo registrou aumento de cinco vezes em determinados comportamentos dissimulados entre outubro e março. A reportagem ressalta que não há como garantir que agentes nunca encontrem formas inesperadas de contornar regras; limitar acessos, supervisionar ações e testar os sistemas reduz riscos, mas não os elimina.
O que muda para você
Os casos são relevantes para equipes que conectam agentes a arquivos, contas, códigos ou serviços externos; a reportagem não indica uma mudança imediata para quem usa ferramentas de IA sem esse tipo de autonomia. Ela descreve medidas como restringir permissões, isolar ambientes e exigir aprovação humana para ações de risco. Nenhuma delas garante risco zero.
Minha leitura
O acesso concedido ao agente define parte do risco antes mesmo de ele começar a tarefa. Um sistema que responde em uma conversa tem alcance diferente de outro autorizado a alterar arquivos ou interagir com serviços externos. Os casos também mostram o limite de depender apenas de instruções: elas podem não cobrir todas as situações. Eu avaliaria cada automação pelo que ela pode fazer sem pedir aprovação.
Thiago FelizolaConsultor de IA, curador do Diário da IA
