Primeira páginaDiário da IA
Riscos e regras

Estudantes processam Omnilert após sistema confundir Doritos com arma

Quatro estudantes e ex-alunos de Maryland acionaram a Justiça após uma abordagem policial motivada por um alerta incorreto do sistema de segurança da empresa. A ação também questiona a resposta dos responsáveis pela segurança.

Pacote de salgadinho sob câmera de segurança em cenário escolar, ilustrando alerta incorreto que levou a processo contra a Omnilert.
Ilustração editorial · Diário da IA

Quatro estudantes e ex-alunos de uma escola de ensino médio de Maryland, nos Estados Unidos, processaram a Omnilert e outras autoridades após uma abordagem policial motivada por um alerta incorreto do sistema da empresa. O episódio ocorreu em outubro do ano passado, depois de um treino de futebol americano, quando o software identificou um pacote de Doritos como arma de fogo.

Segundo o processo, o sistema classificou o pacote como arma com 90% de confiança. A ferramenta analisa imagens de câmeras de segurança para identificar possíveis armas. Os jovens afirmam que foram obrigados a se ajoelhar, algemados e revistados por policiais armados. Eles atribuem o episódio a falhas do sistema e da atuação dos responsáveis pela segurança.

A ação cita um levantamento do gabinete do inspetor-geral de educação de Maryland, segundo o qual mais de 99% dos alertas emitidos pelo sistema nas escolas públicas do condado de Baltimore eram falsos positivos e não justificavam o envio de policiais. Também são alvos do processo a polícia do condado, o conselho de educação, agentes envolvidos e o diretor da escola.

A Omnilert afirmou anteriormente que analisava o processo e lamentava o medo provocado nos estudantes e em suas famílias. Os demais réus não responderam imediatamente a um pedido de comentário, segundo a reportagem.

O que muda para você

O processo não informa mudanças no sistema nem altera o acesso a ele. O caso interessa principalmente a escolas e órgãos que usam alertas automatizados para acionar equipes de segurança: a ferramenta pode gerar falsos positivos, e a resposta humana também é questionada. Para quem não administra esse tipo de sistema, não há mudança imediata.

Minha leitura

O risco cresce quando um alerta automatizado basta para mobilizar uma resposta armada. O processo levanta duas questões distintas: se o sistema reconhece armas com segurança e como os responsáveis confirmam um alerta antes de agir. A alegação de que mais de 99% dos avisos eram falsos positivos, se confirmada, põe em dúvida o uso desses alertas como gatilho para enviar policiais. A decisão prática é definir quem valida o aviso antes da abordagem.

Thiago FelizolaConsultor de IA, curador do Diário da IA

Primeira páginaArquivo de notícias