Alessandra Montini discute quem responde quando um agente de IA erra
Em artigo, Alessandra Montini, da Fia Business School, aborda a responsabilidade por decisões de agentes autônomos. Ela defende limites claros e responsáveis definidos ao longo da cadeia.
Alessandra Montini, diretora do Laboratório de Análise de Dados da Fia Business School, discute em artigo como a autonomia dos agentes de IA muda a questão da responsabilidade nas empresas. Diferentemente de um chatbot, um agente pode acessar sistemas, executar tarefas e tomar decisões dentro dos limites definidos pela organização, com pouca ou nenhuma intervenção humana.
O texto cita uma pesquisa da Deloitte com mais de 3,2 mil líderes de negócios e tecnologia em 24 países: 21% das organizações disseram ter um modelo maduro de governança para IA agêntica, enquanto 74% esperam usar agentes ao menos moderadamente até 2027. Montini também cita a estimativa do Gartner de que uma empresa média da Fortune 500 poderá usar mais de 150 mil agentes até 2028, ante menos de 15 em 2025.
Para a autora, a responsabilidade começa nas decisões sobre quais dados os agentes acessam, que ações podem executar e quando precisam de supervisão humana. O artigo menciona que o AI Act europeu distribui obrigações entre participantes da cadeia. Para determinados sistemas de alto risco, prevê monitoramento, documentação, rastreabilidade e supervisão humana.
O que muda para você
O texto é voltado a empresas que adotam agentes capazes de agir em sistemas corporativos. Ele não anuncia uma ferramenta nem muda o que usuários podem fazer agora. A discussão é sobre definir quais decisões podem ser automatizadas, quais exigem aprovação humana e quem responde pelos limites e resultados de cada agente. O artigo não propõe acompanhar cada ação em tempo real.
Minha leitura
A autonomia de um agente precisa vir acompanhada de um responsável identificável. Como não dá para revisar cada ação individualmente quando esses sistemas se multiplicam, o controle começa antes da execução: nos acessos concedidos, nos limites definidos e nas decisões que continuam com pessoas. Para uma empresa, a pergunta prática é se consegue dizer quem responde por cada agente e como suas ações podem ser auditadas.
Thiago FelizolaConsultor de IA, curador do Diário da IA
