A AWS detalha listas de preferência de instância para jobs de treinamento e de processamento no Amazon SageMaker AI. Em vez de pedir um único tipo, o usuário informa uma ordem de até cinco tipos aceitos, e o serviço tenta o primeiro que tiver capacidade disponível.
Segundo a empresa, isso reduz a necessidade de reenvios manuais e de scripts para verificar disponibilidade. Se nenhum tipo da lista puder ser atendido no momento, o job pode aguardar e tentar de novo automaticamente; esse tempo de espera é controlado por MaxPendingTimeInSeconds, que vale só para instâncias aceleradas, como as famílias ml.p, ml.g e ml.trn.
O guia também mostra como o recurso conversa com os Flexible Training Plans, que reservam capacidade de GPU por um período definido. Nessa configuração, a reserva pode vir primeiro na lista e, se não puder ser usada, o SageMaker AI passa para uma opção on-demand sem exigir novo envio do job. Para jobs de processamento, a configuração fica em ClusterConfig e não há integração com Training Plans.
A AWS ressalta ainda que o SageMaker AI não valida se todos os tipos listados são compatíveis entre si. Cabe ao usuário verificar se o contêiner funciona em cada opção, inclusive com diferenças de arquitetura de GPU, suporte a EFA e versão de driver.