NVIDIA propõe nova forma de fazer sistemas de recomendação com IA generativa
Técnica usa modelos de linguagem para prever o próximo item que um usuário vai querer, em vez de comparar preferências antigas. Promessa é lidar melhor com catálogos enormes e itens pouco populares.
A NVIDIA apresentou uma nova abordagem para sistemas de recomendação — aqueles algoritmos que sugerem filmes, produtos ou vídeos em plataformas como Netflix, Amazon e TikTok. Em vez do método tradicional de comparar o perfil do usuário com itens similares, a técnica trata o problema como uma tarefa de previsão de sequência, parecida com o que fazem modelos de linguagem como o ChatGPT.
O sistema funciona como um modelo de IA generativa que, ao analisar o histórico de cliques, compras e visualizações de um usuário, tenta adivinhar qual será a próxima ação ou item. Para isso, usa arquiteturas como a HSTU (da Meta) e os chamados Semantic IDs (do Google), que transformam itens em uma espécie de vocabulário reduzido. Isso permite que o modelo "gere" recomendações em vez de apenas buscar em um banco de dados, o que pode ser mais rápido e preciso.
O grande desafio é que sistemas de recomendação em larga escala lidam com bilhões de itens e usuários, e precisam responder em milissegundos. As tabelas que armazenam as características dos itens (os "embeddings", representações numéricas) são enormes e não cabem na memória de uma única placa de vídeo. Para resolver isso, a NVIDIA criou ferramentas como o DynamicEmb, que aloca memória apenas para os itens realmente usados, e o nv-embedding-cache, que mantém os dados mais frequentes perto da GPU.
Na prática, essa tecnologia promete melhorar recomendações para itens de nicho — aqueles filmes ou produtos que pouca gente vê — que hoje são ignorados pelos sistemas tradicionais. Para o usuário comum, o resultado pode ser sugestões mais relevantes e diversificadas. Para as empresas, a vantagem é conseguir rodar modelos mais potentes sem precisar de tantos servidores, já que as otimizações da NVIDIA reduziram o tempo de treinamento em até 4 vezes em testes com hardware de ponta.
De onde veio esta notícia
Texto em português produzido com apoio de inteligência artificial a partir da publicação original de Nvidia. Os fatos, números e nomes são os da fonte — se quiser conferir, o link abaixo leva ao original.
Ler a publicação original em Nvidia