OpenAI publica princípios para parcerias com governos em

A OpenAI publicou nesta quarta-feira (8) seus Princípios de Segurança Nacional, um conjunto de diretrizes que orientarão suas parcerias com governos e o uso de suas tecnologias em contextos sensíveis. O documento, elaborado com a consultoria do especialista em segurança nacional David Kris, estabelece limites claros para a aplicação de sistemas de IA avançados em áreas como defesa cibernética, biossegurança e proteção de infraestruturas críticas. Entre as restrições já em vigor em contratos com o governo dos EUA, incluindo o Departamento de Guerra, estão a proibição do uso da tecnologia OpenAI para vigilância doméstica em massa, para direcionar sistemas de armas autônomas e para tomar decisões automatizadas de alto risco. A empresa afirma que esses limites são consistentes com os princípios agora tornados públicos e que pretende expandir a transparência sobre como suas ferramentas podem ou não ser empregadas. A iniciativa ganha relevância em um momento de rápida adoção de IA por governos democráticos. No último mês, a OpenAI firmou parcerias de defesa cibernética com Austrália, Canadá, Japão, Coreia do Sul, França, Alemanha, Polônia, Países Baixos e instituições da União Europeia, como a ENISA. Também ampliou o acesso ao modelo GPT-Rosalind para agências de saúde pública e biodefesa dos EUA e aliados. A empresa defende que democracias devem usar IA para proteger cidadãos e responder a ameaças emergentes, mas sempre dentro do Estado de Direito e com supervisão humana. A OpenAI reconhece que as questões mais complexas sobre o uso de IA em segurança nacional devem ser resolvidas por meio do processo democrático, não por decisões unilaterais de empresas. Por isso, apoia esforços legislativos para estabelecer salvaguardas em usos militares de alto risco, como vigilância doméstica e armas autônomas. A publicação dos princípios, segundo a empresa, é um passo para informar esse debate sem substituir o papel dos governos e da sociedade civil.