Primeira páginaDiário da IA
Geral

Whittaker diz que uso irresponsável é o risco mais imediato da IA

Meredith Whittaker, presidente da Signal Foundation, contestou previsões de que a IA possa se voltar contra a humanidade e apontou riscos no uso irresponsável da tecnologia.

Whittaker diz que uso irresponsável é o risco mais imediato da IA
Imagem: reprodução · g1

Meredith Whittaker, presidente da Signal Foundation, contestou previsões de que a inteligência artificial possa se voltar contra a humanidade. Em entrevista à BBC, ela disse que esse temor não tem fundamento científico e apontou o uso irresponsável da tecnologia como o risco mais imediato.

Whittaker citou um caso noticiado pela CNN: um chatbot usado por serviços de inteligência dos Estados Unidos teria inventado informações sobre um navio chinês que supostamente transportava material nuclear. Segundo a reportagem, o episódio levou os EUA a preparar uma resposta militar. A fonte não apresenta confirmação independente do caso.

A executiva também afirmou que um ataque com mísseis dos EUA contra uma escola em Minab, no Irã, usou o sistema do Projeto Maven e informações de inteligência desatualizadas. O projeto foi contratado pelo Google para desenvolver sistemas que identificassem alvos de ataques com drones; depois, o contrato passou à Palantir. A empresa disse não haver evidências de que seu software tenha causado a tragédia e afirmou não ser responsável pelos dados usados. As Forças Armadas dos EUA ainda não divulgaram os resultados da investigação.

O que muda para você

A entrevista não anuncia uma ferramenta nem uma mudança de produto. Para quem usa IA no trabalho, o alerta de Whittaker diz respeito a sistemas que apoiam decisões: uma informação inventada pode parecer confiável e influenciar uma ação. O caso do ataque à escola segue sob investigação, e a reportagem registra que a Palantir contesta a responsabilidade atribuída ao software.

Minha leitura

O risco mais próximo está em tratar uma resposta convincente como informação verificada. Isso pesa ainda mais quando a IA participa de decisões com consequências graves. Mas a reportagem também exige separar alegação de conclusão: Whittaker atribui ao sistema um papel no ataque, a Palantir contesta essa relação e a investigação oficial ainda não foi divulgada. O critério prático é saber quem confere os dados antes de uma decisão.

Thiago FelizolaConsultor de IA, curador do Diário da IA

Primeira páginaArquivo de notícias