Polícia do Reino Unido culpa Copilot da Microsoft por erro em mandado

A Polícia de Northamptonshire culpou o chatbot de IA Copilot da Microsoft por um erro que levou à emissão equivocada de um mandado de prisão. Um oficial pesquisando um caso de assédio usou a ferramenta, que informou incorretamente que o suspeito havia se declarado culpado pelo delito. O mandado foi concedido pelos magistrados, mas cancelado após descoberta do erro, liberando o homem. A força deletou o histórico do chat, lembrou oficiais das limitações das ferramentas de IA e reportou o incidente à Microsoft. O caso foi primeiro reportado pela BBC. Copilot é propenso a 'alucinações', afirmando fatos incorretos com confiança. Forças policiais experimentam IA, mas há preocupações com confiabilidade. No Reino Unido, o National Police Chiefs’ Council orienta não usar IA para decisões sem supervisão humana. Porta-voz da Microsoft disse que Copilot pode fornecer informações imprecisas e recomenda verificação em fontes confiáveis. *Atualização 4:45PM ET: Adicionado comentário da Microsoft.*