OpenAI detalha como adaptou o Azure Cosmos DB para compartilhar recursos no Habitat
A OpenAI publicou a segunda parte de um relato técnico sobre a escala do Habitat, sua plataforma de armazenamento. A empresa explica por que voltou a usar contêineres compartilhados após desenvolver controles com a equipe do Azure.
A OpenAI publicou a segunda parte de um relato técnico sobre a expansão do Habitat, sua plataforma de armazenamento. O texto detalha como a empresa adaptou o Azure Cosmos DB para atender diferentes produtos em contêineres compartilhados, depois de enfrentar limites de capacidade e interferência entre cargas de trabalho.
No início, a OpenAI usava um contêiner padrão compartilhado. Chaves muito acessadas por um produto podiam disputar recursos com outros serviços; em alguns casos, funções de nicho afetavam fluxos centrais, como login e cadastro. A empresa passou a separar contêineres para usos críticos, mas isso exigia que cada equipe previsse e provisionasse capacidade antes de lançamentos.
Em parceria com a equipe do Azure, a OpenAI adotou mecanismos que limitam primeiro as chaves mais carregadas e dão prioridade a solicitações interativas em relação a tarefas em lote. Uma modalidade aprimorada permite que cada partição física alcance 10 mil RU/s e se divida conforme o uso de capacidade, não apenas o armazenamento.
Segundo a OpenAI, essas mudanças permitiram voltar ao contêiner compartilhado e simplificaram o planejamento para as equipes. A empresa afirma não ter registrado incidentes de provisionamento ou de interferência entre cargas nos meses seguintes. Sua maior conta do Azure Cosmos DB armazena dezenas de petabytes e atende a mais de 20 milhões de consultas por segundo, segundo o relato.
O que muda para você
A mudança é voltada à infraestrutura que sustenta os produtos da OpenAI, não a uma função nova para usuários do ChatGPT. Para equipes que operam serviços em grande escala, o relato mostra como compartilhar recursos e limitar o impacto de uma carga intensa sobre as demais. A OpenAI não apresenta uma oferta para clientes nem resultados de desempenho que possam ser generalizados para outras empresas.
Minha leitura
Compartilhar infraestrutura pode reduzir o trabalho de planejamento, mas só quando há controles para impedir que uma carga intensa prejudique as demais. Separar contêineres trouxe isolamento à OpenAI, mas também obrigou cada equipe a prever capacidade antes dos lançamentos. A empresa diz que os ajustes feitos com o Azure permitiram voltar ao modelo compartilhado. Esse resultado depende de mudanças desenvolvidas para a escala da OpenAI; não dá para presumir o mesmo efeito em qualquer operação.
Thiago FelizolaConsultor de IA, curador do Diário da IA
