Anthropic propõe que bloqueio de modelos dependa de decisão judicial
A empresa apresentou uma minuta de lei sobre segurança de IA que prevê levar à Justiça pedidos para suspender modelos diante de riscos catastróficos. Agências federais não poderiam bloqueá-los por conta própria.
A Anthropic está apresentando a parlamentares dos Estados Unidos uma minuta de lei sobre segurança de IA, segundo o Politico. O texto prevê que a distribuição de um modelo possa ser suspensa diante de risco “previsível e iminente” de mais de 50 mortes ou de mais de US$ 1 bilhão em danos materiais.
O risco teria de decorrer da criação ou divulgação de uma arma biológica, de o modelo escapar aos controles de seu desenvolvedor ou de um ciberataque. A minuta prevê avaliações por especialistas independentes registrados no Departamento de Comércio dos EUA. As empresas de IA poderiam pagar por essas avaliações, desde que o pagamento não dependesse dos resultados.
Se os avaliadores identificarem risco catastrófico iminente, teriam 72 horas para avisar o Departamento de Comércio. O órgão precisaria então pedir a um juiz de Washington, D.C., que suspendesse a distribuição. A minuta proíbe que uma agência federal bloqueie o modelo por conta própria.
A Anthropic confirmou a proposta ao Politico e disse que ela corresponde a medidas de seu Marco para IA Avançada, defendidas junto a legisladores federais e estaduais desde junho. A minuta ainda não é lei. A reportagem também aponta que não está claro como o sistema garantiria a independência de avaliadores pagos pelas próprias empresas.
O que muda para você
A proposta ainda busca apoio no Congresso dos EUA e não muda as regras em vigor. Para desenvolvedores de IA, ela descreve um possível processo de avaliação e suspensão de modelos em situações de risco grave. Mesmo nesse cenário, uma agência federal teria de pedir a um juiz que interrompesse a distribuição; não poderia fazê-lo por conta própria.
Minha leitura
A proposta desenha um limite para o poder do governo: mesmo diante de um risco grave, uma agência teria de recorrer à Justiça para suspender um modelo. Isso dá um papel central aos avaliadores e ao juiz. Mas permitir que as empresas paguem pelos pareceres mantém em aberto a questão de como garantir a independência das avaliações. Até virar lei, esse mecanismo segue no papel.
Thiago FelizolaConsultor de IA, curador do Diário da IA
