PrismML lança Bonsai 27B, modelo multimodal de 1 bit que roda

A PrismML anunciou nesta terça-feira (14) o Bonsai 27B, seu maior modelo de linguagem multimodal até hoje. O diferencial está na compressão: a versão de 1 bit (binária) ocupa apenas 3,9 GB de memória, o suficiente para rodar localmente em um iPhone 17 Pro a 11 tokens por segundo. Há também uma variante ternária de 1,58 bit, que preserva mais de 95% do desempenho de um modelo de precisão total, mas ainda é 9 vezes menor. O modelo é baseado no Qwen3.6 27B e aceita tanto texto quanto imagens. Ele foi projetado para tarefas pesadas de raciocínio, programação e uso de ferramentas, não apenas para bate-papo simples. Segundo a empresa, o Bonsai 27B pode ler capturas de tela, documentos e entrada da câmera diretamente no dispositivo, permitindo fluxos de trabalho autônomos sem depender da nuvem. Por que isso importa? Modelos com 27 bilhões de parâmetros normalmente exigem servidores potentes e muita memória — uma versão padrão de 16 bits consumiria cerca de 54 GB. A PrismML conseguiu reduzir esse número drasticamente usando sua arquitetura de baixa precisão de ponta a ponta, sem “escapatórias” de alta precisão. Isso significa que um assistente de IA avançado, capaz de planejar, depurar código e executar tarefas complexas, pode funcionar inteiramente no celular do usuário, com privacidade e sem latência de rede. O Bonsai 27B já está disponível para download gratuito sob licença Apache 2.0. A PrismML, que tem apoio de Khosla Ventures, Cerberus, Google e Samsung, aposta que a inteligência local de alto desempenho se tornará padrão em dispositivos de consumo. Para desenvolvedores brasileiros e entusiastas de IA, a novidade abre portas para aplicações que antes exigiam infraestrutura cara — tudo rodando no bolso do usuário.