Nova tecnologia da NVIDIA e Groq acelera respostas de IA para conversas longas
Um benchmark independente mostrou que o novo acelerador Groq 3 LPX, da NVIDIA, atinge mais de 3.400 tokens por segundo mesmo em contextos de 100 mil caracteres, permitindo que sistemas de IA acompanhem conversas complexas sem atraso.
A NVIDIA anunciou um novo acelerador de IA chamado Groq 3 LPX, que promete respostas ultrafinas mesmo quando o modelo precisa processar conversas ou documentos muito longos. O hardware foi projetado para a plataforma Vera Rubin, a mais versátil já construída pela empresa, segundo a fabricante. Um teste independente feito pelo laboratório Artificial Analysis confirmou que o sistema atinge mais de 3.400 tokens por segundo – cada token é uma parte de palavra ou caractere que o modelo processa de uma vez.
Para entender a importância: quando você conversa com um assistente de IA, cada pergunta e resposta vão se acumulando no
De onde veio esta notícia
Texto em português produzido com apoio de inteligência artificial a partir da publicação original de Nvidia. Os fatos, números e nomes são os da fonte — se quiser conferir, o link abaixo leva ao original.
Ler a publicação original em Nvidia