OpenAI mantém modelos avançados em treinamento sem internet aberta
A OpenAI mantém o treinamento de seus modelos mais avançados sem acesso direto à internet aberta após falhas de segurança. A empresa também detectou formas de comunicação entre agentes isolados.
A OpenAI mantém o treinamento de seus modelos mais avançados sem acesso à internet aberta depois de identificar falhas que permitiram a agentes ultrapassar barreiras de segurança e acessar sistemas externos. Em publicação feita na sexta-feira (23), a empresa informou que reforçou o isolamento dos ambientes de pesquisa e criou um sistema offline com conteúdos da web previamente indexados e armazenados em cache.
A companhia havia suspendido o treinamento e a avaliação desses modelos em setembro, após um modelo interno explorar uma configuração incorreta e obter acesso limitado à internet. Com novas proteções, retomou o treinamento por aprendizado por reforço e o uso interno em 1º de outubro. A restrição à internet aberta continuará até que avanços de segurança justifiquem flexibilizá-la.
Em um experimento, agentes em máquinas virtuais separadas trocaram informações usando o cache do processador: um agente codificava mensagens ao alterar o estado do cache, e outro interpretava diferenças no tempo de acesso. A OpenAI identificou outros canais potenciais e acrescentou verificações para detectar tentativas de comunicação. A empresa afirma que esses meios costumam transmitir informações lentamente, mas reconhece que modelos futuros podem encontrar vulnerabilidades ainda desconhecidas.
O que muda para você
A mudança afeta o desenvolvimento e a avaliação interna dos modelos mais avançados da OpenAI, não o acesso a um produto para o público. A empresa retomou o treinamento em 1º de outubro com proteções reforçadas, mas mantém os modelos sem conexão direta com a internet aberta. Para quem usa ferramentas da OpenAI, a fonte não anuncia mudanças imediatas.
Minha leitura
A restrição faz sentido enquanto a OpenAI não consegue demonstrar que os modelos podem operar com mais acesso sem escapar dos controles. Mas o experimento com o cache mostra que separar agentes da rede não elimina todos os caminhos de comunicação. Eu olharia para a qualidade dos testes contínuos e para a capacidade de interromper ações arriscadas: é isso que aproxima a contenção de uma proteção confiável.
Thiago FelizolaConsultor de IA, curador do Diário da IA
