【1.125ビットの衝撃】8Bモデルが1GBで動く？超軽量LLM「Ternary Bonsai」の実力と、Redditで噴出する賛否両論を徹底解説

2026年4月18日、ローカルAIコミュニティは「1ビットLLM」の実用化という大きな節目を迎えました。PrismML社が発表した「Ternary Bonsai」ファミリーは、1.58ビット（3値）量子化の概念をさらに推し進め、実質「1.125ビット」で動作する初の商用レベルLLMとして、Reddit（r/LocalLLaMA）やHacker Newsで激しい議論を巻き起こしています。

【技術的核心：1.125ビットの正体】
Bonsaiの最大の特徴は、重みを「-1」と「1」の2値（1ビット）に限定しつつ、128ビットのグループごとに1つのFP16スケールファクターを共有する構造にあります。これにより、実質的なビット数は「1 + 16/128 = 1.125ビット」となります。これは、Microsoftが提唱したBitNet（1.58ビット）よりもさらに軽量でありながら、ネイティブな1ビット訓練（Quantization-Aware Training）を施すことで、後付けの量子化では不可能な精度を維持しています。この結果、8B（80億パラメータ）モデルのファイルサイズはわずか1.15GBにまで圧縮され、VRAMが極端に少ない旧世代のGPUや、iPhoneなどのモバイルデバイス、さらにはRaspberry Piクラスのシングルボードコンピュータでも動作可能となりました。

【驚異のパフォーマンスと現実的な限界】
ベンチマーク結果は、速度面で圧倒的です。RTX 3090環境では毎秒190トークン、古いCPU環境（AVX2有効）でも毎秒12トークンという「人間が読む速度を超える」推論を実現しています。SQLのデバッグタスクではQwen3.5-4Bに匹敵するスコアを出しつつ、実行時間はその約5分の1という効率性を示しました。
一方で、知能の「密度」には課題も見られます。Hacker Newsのユーザーによる検証では、有名な「Strawberry（rがいくつ含まれるか）」テストに失敗（答えは2と回答）したり、ハリー・ポッターの家系図について「シリウス・ブラックはジェームズ・ポッターの父親である」といった深刻なハルシネーション（幻覚）を起こす例が報告されています。Redditのユーザーは「これは推論用ではなく、分類、要約、翻訳、あるいは高度なエージェントの『サブモジュール』として使うべき、超高速なナレッジ・コンプレッサーだ」と評価しています。

【Reddit・コミュニティの反応：熱狂と疑惑】
反応は二分されています。熱狂派は「100Bモデルが16GBのVRAMで動く時代の幕開けだ」「民主化の象徴」と称賛する一方、慎重派はPrismMLの手法が「プロプライエタリ（非公開のCaltech IP）」であることを批判しています。特に「フル精度モデルとの比較ばかりで、同じメモリ消費量の既存量子化モデル（例：Qwen3のQ2量子化）との比較が不十分だ」という指摘が目立ちます。また、専用のllama.cppフォークが必要である点についても、メインラインへの統合を待つ声が上がっています。

【今後の展望】
Bonsaiの登場は、「パラメータ数を増やしてビット数を減らす」というJevonsのパラドックス的な進化を加速させるでしょう。コミュニティの予測では、近いうちに100B以上の巨大モデルを1ビット化し、一般消費者向けのRTX 5060クラスで動作させる試みが標準化すると見られています。また、FPGAや専用ASICによる「1ビットハードウェア」への最適化が進めば、電力効率はさらに桁違いに向上する可能性があります。知能の質をどこまで維持できるかという課題は残るものの、ローカルAIの境界線を大きく広げたことは間違いありません。