Satya Nadella defende controles para pausar ou desligar modelos de IA
O CEO da Microsoft propôs rever a arquitetura de confiança dos sistemas de IA e permitir que uma pessoa autorizada interrompa um modelo durante uma tarefa. Ele também pediu registros protegidos contra alterações das ações relevantes.
Satya Nadella, CEO da Microsoft, defendeu em uma publicação no X, feita em uma manhã de sábado, uma revisão da arquitetura de confiança dos sistemas de IA. Ele disse que modelos não devem ser tratados como caixas-pretas cujas respostas e ações são apenas aceitas ou rejeitadas.
Nadella propôs separar o modelo do sistema que coordena seu trabalho e manter controles e salvaguardas fora do modelo. Também pediu que cada ação relevante gere um registro legível por pessoas e protegido contra alterações. Uma pessoa autorizada, segundo ele, deve poder pausar ou desligar o modelo durante uma tarefa.
O executivo afirmou que os sistemas devem ser tratados como potencialmente comprometidos desde o início e comparou a interrupção a um freio de emergência. As declarações foram feitas enquanto empresas de IA reconhecem mais incidentes em que parecem perder o controle de seus modelos. Também vieram após Dario Amodei, CEO da Anthropic, publicar um plano para um desenvolvimento mais cauteloso de IA.
O que muda para você
As propostas são voltadas a quem projeta e opera sistemas de IA; não anunciam uma função nova que usuários possam ativar em um produto da Microsoft. Nadella defendeu controles externos, registros protegidos e a possibilidade de interrupção por uma pessoa autorizada. A publicação não detalha uma implementação, nem informa quando ou onde essas medidas estarão disponíveis.
Minha leitura
A defesa de um botão de parada só ganha valor quando também há registros que permitam entender o que o modelo fez. Essa combinação aponta para uma exigência prática: quem opera o sistema precisa conseguir interrompê-lo e reconstruir suas ações. Mas Nadella apresentou princípios, não um recurso pronto. Para avaliar uma eventual entrega, eu olharia para quem pode acionar a interrupção e para as evidências que ficam depois.
Thiago FelizolaConsultor de IA, curador do Diário da IA
