Liquid AI lança versões minúsculas de modelos que rodam em celulares e laptops
Os novos modelos LFM2.5 cabem em um Raspberry Pi e mantêm 97% da qualidade original, graças a uma técnica que combina compressão e aprendizado acelerado.
A Liquid AI, startup americana de inteligência artificial, disponibilizou versões enxutas de seus modelos de linguagem que podem ser executadas em dispositivos comuns, como notebooks, celulares e até mesmo o minicomputador Raspberry Pi. Os modelos da família LFM2.5 têm tamanhos que variam de 230 milhões a 2,6 bilhões de parâmetros — os parâmetros são como as “engrenagens” que definem a capacidade de aprendizado da IA. Quanto menor o número, mais leve o modelo.
Para conseguir esse encolhimento sem perder qualidade, a empresa usou uma técnica chamada destilação com consciência de quantização (QAD, na sigla em inglês). A quantização é um processo que reduz a precisão dos números usados nos cálculos da IA, deixando o modelo mais leve e rápido. Já a destilação é um método em que um modelo grande “ensina” um modelo menor a se comportar como ele. O QAD combina os dois: o modelo pequeno aprende diretamente a imitar o grande já no formato compactado. Os resultados mostram que as versões QAD mantêm entre 96% e 97% da performance dos modelos originais, que usam precisão total.
A notícia é relevante porque a maioria dos modelos de IA atuais exige servidores potentes ou acesso à internet para funcionar. Com os LFM2.5, é possível rodar um assistente inteligente diretamente no celular ou no laptop, sem depender de nuvem. Isso significa mais privacidade (os dados não saem do aparelho), menor custo e uso offline. A Liquid AI testou os modelos em um MacBook Pro, um mini PC NucBox, um Samsung Galaxy S26 Ultra e um Raspberry Pi 5 — todos rodaram as versões compactadas com velocidade de resposta até 33% maior do que outras técnicas de compressão disponíveis no mercado.
Para o usuário comum, a mudança prática é que tarefas como resumir textos, responder perguntas ou ajudar na programação podem ser feitas localmente, sem enviar informações para servidores externos. Empresas que desenvolvem aplicativos de IA também ganham: podem oferecer funcionalidades inteligentes em dispositivos com pouca memória ou processamento, como smartwatches ou aparelhos mais antigos. Os modelos já estão disponíveis para download gratuito na plataforma Hugging Face, e podem ser usados com ferramentas como o llama.cpp, que qualquer pessoa pode instalar no próprio computador.
De onde veio esta notícia
Texto em português produzido com apoio de inteligência artificial a partir da publicação original de Hugging Face. Os fatos, números e nomes são os da fonte — se quiser conferir, o link abaixo leva ao original.
Ler a publicação original em Hugging Face