NVIDIA lança Nemotron 3 Embed, topo em recuperação de dados

A NVIDIA anunciou o lançamento do Nemotron 3 Embed, uma coleção de três modelos de embedding abertos e comercialmente disponíveis. O modelo principal, Nemotron-3-Embed-8B-BF16, alcançou o primeiro lugar no ranking RTEB (Retrieval Text Embedding Benchmark), superando concorrentes em precisão de recuperação. Além disso, a família inclui versões eficientes de 1B parâmetros (BF16 e NVFP4) projetadas para implantação em produção, com suporte a aceleração nativa NVFP4 em arquiteturas NVIDIA Blackwell. O contexto é crucial para empresas brasileiras que desenvolvem sistemas de Geração Aumentada por Recuperação (RAG) e agentes de IA. Modelos de embedding são a base para buscar informações relevantes em grandes volumes de dados. Com o Nemotron 3 Embed, a NVIDIA busca melhorar a qualidade da recuperação, reduzindo custos computacionais downstream. Em testes com um agente de busca, o modelo de 8B obteve a maior precisão média e o menor custo estimado de tokens por consulta, em comparação com versões anteriores. Para ambientes de alta demanda, o Nemotron-3-Embed-1B-NVFP4 utiliza quantização e destilação consciente para manter a precisão em sequências longas, enquanto reduz latência e custos. A NVIDIA também disponibiliza um microserviço NIM otimizado em Rust, que supera implementações baseadas em vLLM em GPUs GB200 e RTX PRO 6000. Os modelos foram treinados com dados multilíngues e de domínios como direito, finanças e medicina, com receitas abertas para personalização via NeMo AutoModel. Com pesos e receitas de treinamento abertos, o Nemotron 3 Embed dá a desenvolvedores brasileiros controle total sobre customização e implantação. A iniciativa pode acelerar a adoção de RAG e agentes de IA em português, permitindo ajuste fino para dados locais. A NVIDIA espera que ISVs e empresas de memória avaliem os modelos para busca empresarial, memória de agentes e recuperação de código, ampliando as possibilidades de IA aplicada no país.