prism-ml

PrismML: Ternary Bonsai 2 9B

prism-ml/ternary-bonsai-2-9b

Nossa análise

Análise com auxílio de IA baseada nas fontes abaixo. A adequação é uma avaliação editorial; teste com suas próprias tarefas.

Ternary Bonsai 2 9B é um modelo compacto de linguagem e visão de pesos abertos da PrismML, derivado do Qwen3.5-9B sem alterações na arquitetura. Seu modelo de linguagem de cerca de 8,95 bilhões de parâmetros usa pesos ternários com escalas FP16 por grupo, empacotados em formatos GGUF de aproximadamente 2 a 2,6 GB, além de uma torre de visão opcional de ~0,46B carregada apenas com entrada de imagem. Herda um contexto de 262.144 tokens e roda via llama.cpp em CUDA, Metal e CPU, com uma variante MLX para Apple Silicon. A documentação é do fornecedor; não havia benchmarks independentes neste pacote de fontes.[1][2]

Pontos fortes

Pegada extremamente reduzida: segundo o fornecedor, os pesos ternários são empacotados em cerca de 2,0-2,56 GB contra ~17,9 GB em FP16, facilitando o uso em dispositivos.[2]
Contexto longo de 262.144 tokens herdado da arquitetura de atenção híbrida do Qwen3.5-9B, conforme o catálogo e a documentação do modelo.[1][2]
Entrada multimodal de texto e imagem por meio de uma torre de visão opcional, com parâmetros de ferramentas e raciocínio listados no catálogo da OpenRouter.[1][2]

Limitações

Não há resultados de benchmarks independentes neste pacote de fontes; as capacidades declaradas vêm do fornecedor ou do catálogo e devem ser validadas na carga de trabalho real.[1][2]
Restrições de portabilidade: PTQ1_0 e PQ2_0 exigem o fork do llama.cpp da PrismML; a versão oficial só executa o arquivo Q2_0 a partir da release b11556, e builds anteriores produzem saída incorreta sem aviso.[2]
Peculiaridades operacionais documentadas: o mmproj BF16 pode travar o llama-server com solicitações de imagem simultâneas (recomenda-se Q8_0), o modo de raciocínio pode consumir mais de 3.000 tokens e a decodificação greedy pode travar com o raciocínio ativado.[2]

Onde usar

Assistentes de conversação locais ou em dispositivos com memória limitada, onde uma pegada de ~2 GB importa; vale pilotar com verificação de qualidade nos seus dados.[2]
Testes de compreensão de imagens e documentos, como descrever imagens ou ler texto denso e pequeno, usando o pacote de visão mmproj opcional.[1][2]
Tarefas com muito texto copiado, como edições de código e reescrituras, nas quais o fornecedor afirma que o drafter especulativo opcional DFlash2 ajuda; sugere-se MTP como padrão.[2]

Fontes

[1] OpenRouter catalog · PrismML: Ternary Bonsai 2 9BFontes consultadas: 13 de nov. de 2026
[2] Model documentation · PrismML: Ternary Bonsai 2 9BFontes consultadas: 13 de nov. de 2026

Sobre este modelo

A descrição abaixo é o texto original fornecido pelo OpenRouter, no idioma da fonte.

Ternary Bonsai 2 9B is PrismML’s compact, open-weight language model for conversational AI, reasoning, and tool use. Built on Qwen3.5, it uses ternary weights packed into 2 bits for efficient...

Especificações

ID do modelo: prism-ml/ternary-bonsai-2-9b
ID canônico: prism-ml/ternary-bonsai-2-9b-20261015
Criador: prism-ml
Adicionado ao OpenRouter: 16.10.2026
Comprimento de contexto: 262,144
Modalidade: text+image->text
Modalidades de entrada: text, image
Modalidades de saída: text
Preço por token: USD por 1M de tokens: entrada $0.080 / saída $0.130
Corte de conhecimento: —
Data de expiração: —

Tarefas e capacidades

Uma nota aparece apenas quando a fonte fornece uma medição correspondente para aquela tarefa, o modelo está ativo e a coorte tem pelo menos 10 modelos comparáveis. A coluna de capacidade lista fatos declarados pela fonte — formatos compatíveis, raciocínio e parâmetros de ferramentas — que não são qualidade medida.

Tarefa	Nota	Capacidade declarada pela fonte
Qualidade geral	Sem medição	raciocínio: opcional · parâmetros: include_reasoning, reasoning
Programação	Sem medição	—
Agentes	Sem medição	parâmetros: structured_outputs, tool_choice, tools
Escrita	Sem medição	saída: text
Raciocínio	Sem medição	raciocínio: opcional · parâmetros: include_reasoning, reasoning
Análise de documentos	Sem medição	—
Visão	Sem medição	entrada: image
Geração de imagens	Sem medição	—
Áudio	Sem medição	—
Vídeo	Sem medição	—
Embeddings	Sem medição	—

Avaliações

Não há avaliações fornecidas para este modelo.

Como funcionam as notas

Cada nota compara um modelo apenas com outros modelos avaliados pela mesma fonte e métrica no snapshot atual. S é o top 10%, A os 20% seguintes, B os 30% seguintes e C o restante. Modelos sem medição publicada aparecem como não avaliados — um formato compatível nunca implica qualidade medida.

S — S — top 10% da coorte
A — A — próximos 20% da coorte
B — B — próximos 30% da coorte
C — C — abaixo da faixa B

Provedores

Estatísticas opcionais de provedores ao vivo do OpenRouter. Valores ausentes são desconhecidos, não zero.

Provedor	Comprimento de contexto	Preço entrada /1M	Preço saída /1M	Latência p50 (30m, s)	Taxa p50 (30m, tok/s)	Disponibilidade (30m)
Darkbloomint4	262,144	$0.080	$0.130	—	—	100%

Dados de provedores obtidos: 13.11.2026

Nenhum artigo publicado identifica este modelo ainda.