NVIDIA cria roteador que corta em 74% o custo de agentes de IA

A NVIDIA lançou o NeMo Switchyard, uma ferramenta que funciona como um roteador inteligente para agentes de IA. Em vez de usar um modelo enorme para tudo — o que encarece e lentifica o processo —, o Switchyard analisa cada etapa da tarefa e decide qual modelo é o melhor para aquela parte específica. O resultado é uma economia de até 74% nos custos, segundo testes da própria empresa.

O sistema considera três fatores para tomar a decisão: a capacidade do modelo (se ele é bom naquela tarefa), o custo de rodá-lo e a velocidade de resposta. Existem roteadores que funcionam sem precisar de treino prévio — como o "roteador de estágios", que percebe quando um agente de programação está apenas explorando o código (e usa um modelo mais barato) ou quando está resolvendo algo complexo (e recorre a um mais potente). Já os roteadores "ajustáveis" aprendem com dados reais qual modelo tem mais chance de acertar cada tipo de pergunta.

A ideia resolve um problema comum no mercado: hoje, empresas que constroem agentes de IA — como chatbots de suporte ou ferramentas de programação — geralmente escolhem um modelo e torcem para ele servir para tudo. Mas modelos grandes como o GPT ou Claude são caros e demorados para tarefas simples, enquanto modelos menores podem errar em problemas complexos. O Switchyard permite misturar vários modelos, enviando cada pedido para o mais adequado naquele momento.

Na prática, para quem usa IA no dia a dia, a mudança é invisível: o agente continua funcionando, mas a empresa que o criou gasta menos e entrega respostas mais rápidas. A NVIDIA fez parcerias com a LangChain e a Cognition para testar a ferramenta em cenários reais, como atendimento ao cliente e automação de fluxos de trabalho. O NeMo Switchyard é totalmente de código aberto — qualquer desenvolvedor pode baixar, adaptar e integrar aos seus sistemas sem custo de licença.