Anthropic nega defesa por banimento de modelos open-weights

O CEO da Anthropic, Dario Amodei, declarou publicamente que a empresa nunca defendeu o banimento de modelos de pesos abertos (open-weights). Em comunicado, ele se posicionou contra as alegações de que a Anthropic apoiaria restrições para proteger seu negócio. A declaração ocorre em meio a discussões sobre possíveis proibições de modelos chineses por parte dos EUA e um manifesto de empresas de tecnologia em defesa dos modelos abertos. Amodei defende que modelos open-weights sem capacidades perigosas são um bem público, mas reconhece riscos de segurança nacional em cenários extremos, como uso de modelos avançados para criar pandemias ou ataques cibernéticos. Para ele, proibições protecionistas não resolveriam esses problemas. Em vez disso, sugere três medidas específicas: impedir que chips poderosos cheguem a regimes autoritários, coibir a destilação industrial de modelos e exigir testes de segurança para todos os modelos suficientemente capazes, sejam abertos ou fechados. O executivo também criticou o manifesto mencionado, discordando da premissa de que modelos abertos facilitam o desenvolvimento de salvaguardas ou que o acesso amplo a capacidades beneficia mais os defensores do que os atacantes. Ele defende que essas questões sejam tratadas com testes empíricos antes do lançamento, e não com suposições. A posição da Anthropic busca equilibrar inovação e segurança, sem recorrer a banimentos generalizados.