Ai2 troca prioridades por orçamento de tempo para distribuir GPUs
A Ai2 detalhou a mudança no agendamento de GPUs de seus clusters de pesquisa, com orçamentos definidos por gestores e divisão proporcional do tempo. O sistema também pode interromper e recolocar tarefas na fila após o período mínimo declarado.
A Ai2 substituiu um agendador baseado em prioridades por um sistema que distribui tempo de GPU entre projetos de pesquisa por meio de orçamentos e alocação proporcional. A organização administra milhares de GPUs NVIDIA H100, B200 e B300 em clusters de 88 a 1.024 unidades, usados por cerca de 150 pesquisadores. Segundo a Ai2, as solicitações por capacidade chegam a duas ou três vezes o total disponível.
No sistema anterior, a Ai2 observou usuários mantendo GPUs ocupadas sem trabalho útil e equipes marcando quase todas as tarefas como de alta prioridade. Agora, pedidos protegidos contra interrupção consomem o orçamento do projeto. Um mecanismo de divisão justa acompanha o uso em uma janela móvel, definida por padrão em sete dias, e dá preferência a grupos que usaram menos do que sua parcela.
Cada tarefa também declara um tempo mínimo de execução, durante o qual não pode ser interrompida. Depois desse período, o sistema pode removê-la e recolocá-la na fila. A Ai2 afirma que a mudança reduziu em 74% os reparos em máquinas que exigiam intervenção humana. A organização também criou um simulador para estimar tempos de espera, interrupções e distribuição do tempo de GPU antes de ajustar as regras.
O que muda para você
A mudança atende à operação de clusters de pesquisa da Ai2, não a usuários de ferramentas de IA em geral. O relato descreve um sistema interno para distribuir GPUs entre projetos; não anuncia um produto disponível para contratação. Para quem administra infraestrutura compartilhada, a experiência mostra como orçamentos de tempo e interrupções programadas podem organizar a disputa por capacidade escassa.
Minha leitura
Orçamentos de tempo tornam explícita uma decisão que antes aparecia na fila: quais projetos recebem capacidade primeiro. Isso ajuda a reduzir disputas por prioridade, mas não elimina o conflito. A própria Ai2 diz que favorecer um grupo significa deixar menos tempo para outro. Para quem opera clusters, o critério decisivo é se os gestores que definem as parcelas conhecem o valor e as necessidades de cada projeto.
Thiago FelizolaConsultor de IA, curador do Diário da IA
