•thinkingmachines.ai•
0 visualizações
Thinking Machines lança Inkling-Small: modelo 276B com
Modelo Mixture-of-Experts de 276B parâmetros totais (12B ativos) iguala ou supera o Inkling em raciocínio e tarefas agênticas, com um quarto do tamanho. Pesos abertos e disponível para fine-tuning.
A Thinking Machines anunciou o lançamento do Inkling-Small, um modelo de linguagem multimodal com 276 bilhões de parâmetros totais (12 bilhões ativos por inferência) que alcança desempenho comparável ao Inkling, seu predecessor maior, mas com um quarto do tamanho. O modelo é baseado na arquitetura Mixture-of-Experts (MoE) e foi treinado em sistemas NVIDIA GB300 NVL72. Assim como o Inkling, ele suporta raciocínio nativo sobre áudio e imagens, esforço de raciocínio variável, janela de contexto de até 1 milhão de tokens e desempenho equilibrado em diversos benchmarks.
O Inkling-Small se destaca em eficiência computacional. Em benchmarks como Terminal-Bench 2.1 (uso agêntico de ferramentas), HLE (raciocínio apenas com texto) e IFBench (seguimento de instruções), o modelo supera o Inkling em eficiência e compete com outros modelos de sua classe de peso. No Humanity's Last Exam, alcançou 31,6%, contra 29,7% do Inkling, mantendo vantagem em todos os orçamentos de raciocínio. No SWEBench-Verified, ultrapassou 80%. A capacidade de ajustar o esforço de raciocínio permite equilibrar custo e desempenho conforme o caso de uso.
O modelo foi treinado com melhorias no processo em relação ao Inkling, incluindo ajustes na mistura de dados de pré-treinamento e na receita de aprendizado de máquina. Um checkpoint anterior, Inkling-Small (preview), passou por destilação on-policy usando o Inkling como professor, seguido de duas semanas de RL para codificação agêntica. Com isso, o Inkling-Small superou o Inkling em benchmarks de raciocínio e codificação, embora o Inkling mantenha vantagem em cobertura de conhecimento e factualidade. O modelo também mantém a mesma arquitetura encoder-free do Inkling, processando áudio como espectrogramas dMel e imagens em patches de 40×40 pixels.
A Thinking Machines disponibilizou os pesos completos do Inkling-Small para download, além de fine-tuning na plataforma Tinker e chat com texto, imagem e áudio no Tinker Playground. O modelo inclui salvaguardas de segurança herdadas do Inkling, com testes internos e red-teaming externo. Em benchmarks de segurança como StrongREJECT e FORTRESS, o Inkling-Small apresenta desempenho similar ao Inkling e a outros modelos de pesos abertos. A empresa vê o lançamento como um passo importante para democratizar o acesso a modelos eficientes e capazes, permitindo que desenvolvedores experimentem e criem aplicações reais com menor custo computacional.