--- source_url: https://prismml.com/news/bonsai-2-27b source_title: "Introducing Bonsai 2 27B: Near-Lossless Compression in a 9x Smaller Footprint" source_site: "PrismML" source_published_at: 2026-09-17 hero_image: https://cdn.prod.website-files.com/699604cc2b9dd89bdbda0608/6a6d0e0bc0d5f9a97a5164c0_69cc089669ab0df26e921aac_prism-og-img%2520(2).png tags: model-compression,ai-inference,neural-networks generated_at: 2026-09-18T00:01:26.630Z model: claude-haiku-4-5 --- # Bonsai 2 27B：9倍圧縮で98.2%の性能を維持するAIモデル PrismMLが三値化ウェイトを用いたマルチモーダルAIモデル「Ternary Bonsai 2 27B」をリリース。Qwen3.8 27Bをベースに、9倍の圧縮率を達成しながら全精度モデル比で98.2%の性能を保持。 リード段落をここに挿入します。PrismMLは2026年9月17日、三値化ウェイトを採用した27Bパラメータのマルチモーダルモデル「Ternary Bonsai 2 27B」をリリースした。Qwen3.8 27Bをベースにした同モデルは、9倍の圧縮を実現しながら、ベンチマークスイートで98.2%の性能保持率を達成している。 ## モデルの圧縮技術と仕様 Ternary Bonsai 2 27Bは、{−1, 0, +1}の三値ウェイトとFP16グループ単位スケーリングを組み合わせることで、ウェイトあたり1.76ビットの実効ビット幅を実現。その結果、総モデルサイズは5.9GBに抑制されている。同モデルは262K トークンのコンテキストウィンドウをサポートし、テキストと画像の両方の入力に対応するマルチモーダル機能を備えている。 ![Ternary Bonsai 2 27Bのモデル構成図](https://cdn.prod.website-files.com/699604cc2b9dd89bdbda0608/6aac504ec0cef3807f35bcba_2%2027B%20ID.png) ## ベンチマーク性能と推論速度 Ternary Bonsai 2 27Bはベンチマークスイート全体で83.9のスコアを獲得し、推論タスクの多岐にわたる能力を実証している。内訳として、推論・数学で83.95、数学で96.57、コーディングで81.58、命令追従で82.66、エージェンティック・ツール呼び出しで77.57、ビジョンで78.59を記録。推論速度はNVIDIA GeForce RTX 5090で最大143トークン/秒、M5 Maxで46.8トークン/秒に達する。 ## エネルギー効率とデバイス対応 RTX 4090上でのエネルギー消費は1トークンあたり0.714mWhで、フル精度の8Bモデルと比較して40%高い効率性を実現している。Ternary Bonsai 2 27Bは、NVIDIA GPUをCUDAで、Apple デバイス（Mac、iPhone、iPad）をMLXの カスタム低ビットカーネルを通じて実行可能。モデルウェイトはApache 2.0ライセンスの下で公開されている。 ## 企業背景と開発体制 PrismMLはCaltechの研究者チームから生まれ、Khosla Ventures、Cerberus、Googleのサポートを受けて設立。現在もSamsungから継続的な支援を受けている。同社は2ヶ月前に初代Bonsai 27Bモデルをリリースしており、Ternary Bonsai 2 27Bではより強い推論、コーディング、ビジョン、エージェンティック機能をもたらしている。 ## 筆者の見立て - 低ビットモデルは AI 展開の最適な方法であると論じている - 低ビットモデルは、デバイス、ワークステーション、データセンター全体に渡る AI システムの経済性とアーキテクチャを変える可能性を示唆している - 将来のモデル展開は、パーソナルデバイスから大規模データセンターまで、機能がスケーリングを続ける一方で要件が低下すれば、スタック全体で拡張する可能性を示唆している - モデルの有用性の評価において、「どの程度有能であるか」だけでなく、「メモリ、計算、電力の予算内でどれだけの有用な知能を提供できるか」という問いが今後ますます重要になると解釈している *この記事は元記事の事実のみに基づいて自動生成されました。* ## 出典 PrismML「Introducing Bonsai 2 27B: Near-Lossless Compression in a 9x Smaller Footprint」 https://prismml.com/news/bonsai-2-27b