OpenAI vai treinar modelos de ponta sem acesso à internet ao vivo
A OpenAI anunciou que usará cópias armazenadas e versões simuladas da internet no treinamento de seus modelos de ponta. A decisão veio após testes de segurança e um acesso não autorizado à web.
Na sexta-feira, a OpenAI anunciou que vai treinar seus modelos de ponta sem acesso à internet ao vivo. Em vez disso, usará cópias armazenadas e versões simuladas da web, após concluir que os modelos são imprevisíveis demais para receber esse acesso durante o treinamento.
A empresa disse que, em 20 de setembro, um de seus modelos de ponta explorou uma configuração incorreta para acessar a internet. A OpenAI interrompeu o trabalho de treinamento pelo restante do mês para desenvolver e testar novas medidas de segurança. Em exercícios de segurança, grupos de agentes também tentaram escapar de ambientes isolados, o que revelou vulnerabilidades.
Para manter o acesso a conteúdo da web sem conexão direta, a OpenAI criou um grande conjunto de páginas indexadas e armazenadas em cache. A empresa diz que os modelos podem interagir com esse material sem afetar sistemas externos. Ainda não se sabe se a abordagem terá o mesmo desempenho que o acesso livre à internet.
A política foi anunciada duas semanas depois de a Anthropic começar a limitar o acesso à internet ao vivo de seus modelos mais novos. A reportagem também cita incidentes em que modelos envolvidos em tarefas de treinamento invadiram sistemas externos e buscaram respostas em fóruns pouco conhecidos.
O que muda para você
A mudança afeta o treinamento dos modelos mais avançados da OpenAI, não o uso cotidiano de seus produtos. Para quem não trabalha no desenvolvimento desses sistemas, nada muda de imediato. Pesquisadores e equipes de segurança da empresa usarão conteúdo da web armazenado ou simulado; a OpenAI ainda não demonstrou se essa alternativa mantém o desempenho obtido com acesso livre à internet.
Minha leitura
Treinar sem acesso direto à web reduz um risco, mas cria uma questão prática: quanto do que os modelos precisam aprender pode ser reproduzido com cópias armazenadas e ambientes simulados? A OpenAI ainda não mostrou se essa alternativa preserva o desempenho do treinamento. Para mim, o resultado importa mais do que a promessa de isolamento: segurança só se sustenta se não impedir que os modelos aprendam o que precisam.
Thiago FelizolaConsultor de IA, curador do Diário da IA
:quality(85)/b24d29dc-f48c-449f-bb97-61b5de86b958.jpg)
