【Geek Terminal】RTX 5090 Blackwell真価発揮！Gemma 4 × NVFP4が叩き出す「爆速」の衝撃と、露呈した4bitの壁

2026年4月18日、ローカルAI界隈は「Blackwell（RTX 50シリーズ）の真の力」を巡る狂騒曲の真っ只中にあります。Googleの最新モデル「Gemma 4 26B」のリリースと、NVIDIAの次世代アーキテクチャに最適化された量子化フォーマット「NVFP4（Native FP4）」の実装が重なり、推論パフォーマンスの常識が塗り替えられようとしています。

技術的核心：NVFP4とQADの衝撃

NVFP4は、Blackwell世代のTensorコアに搭載されたネイティブ4bit浮動小数点演算をフル活用する形式です。これまでのGGUF Q4やFP8とは一線を画し、「Quantization Aware Distillation（QAD：量子化を考慮した蒸留）」を用いることで、精度低下を最小限に抑えつつ、FP8比で約1.9倍〜2倍という驚異的なスループットを実現しています。RTX 5090（32GB VRAM）環境でのベンチマークでは、FP8で540秒かかっていた処理がNVFP4では278秒まで短縮。まさに「速度は正義」を体現する数値が報告されています。

Redditの現場：25万トークンの「正気」を検証

Redditのr/LocalLLaMAでは、Gemma 4 26B A4Bモデルをllama.cppで動かし、262,144トークンという巨大なコンテキスト限界に挑むユーザーが現れました。驚くべきは、コンテキスト使用率が94%（約24.5万トークン）に達した状態でも、モデルが「正気を保っている」点です。特定のユーザーの発言を抽出するテストにおいて、数秒以内に完璧な一致回答を返すパフォーマンスを見せています。ただし、100kトークンを超えると「思考のループ」に陥りやすくなるため、Temperatureの調整やRepeat Penaltyを1.17程度に設定する最適化パラメータが、ギークたちの間で「秘伝のタレ」として共有されています。

WSL2とvLLM：ワークステーション級の優位性

デスクトップユーザーの間では、Windows Subsystem for Linux (WSL2) 上でvLLMを走らせる構成が注目されています。vLLMの「VRAM 80%事前確保モデル」は、96GB VRAMを搭載したハイエンド構成において圧倒的な推論効率を叩き出しており、ローカル推論エンジンの選択が「利便性のllama.cpp」か「スループットのvLLM」かという、より高度な議論へとシフトしています。

激論：Ollama vs llama.cpp と「魔改造」への批判

Hacker Newsでは、初心者向けの「Ollama」に対するベテラン勢の批判が再燃しています。OllamaがGGUFファイルを独自ハッシュで管理し、他アプリでの利用を困難にしている（Mangle）点や、llama.cppの成果をGo言語に移植する際にクレジット表記や上流への貢献が不十分であるといった「倫理的・技術的不信感」が爆発。特にBlackwell環境では、最新のllama.cppをビルドしてmarch=nativeで最適化する方が、Ollamaよりも25%以上高速であるという検証結果も投下され、「2026年にもなってOllamaを使う理由はない」と断じる過激な意見まで飛び交っています。

露呈した「4bitの壁」：動画生成における品質劣化

一方で、NVFP4の万能性に疑問を投げかける検証も出ています。特にLTX-2.3を用いた動画生成（I2V：Image-to-Video）において、NVFP4は致命的な品質低下を招くことが判明しました。テキストからの生成（T2V）では問題になりにくいものの、参照画像のピクセルレベルの特徴を維持する必要があるI2Vでは、4bitの精度（指数部3bit、仮数部0-1bit）では情報が不足し、アニメキャラが実写風の別人へと変貌してしまうなどの現象が報告されています。QADをもってしても、動画生成における「4bitの壁」は依然として高く、用途に応じた量子化精度の使い分けが必須となっています。

今後の展望

BlackwellとNVFP4の組み合わせは、ローカルAIの可能性を大きく広げましたが、現在は「リリース直後のバグと最適化不足」のフェーズにあります。ツールコーリングの失敗やトークナイザーの不具合など、実装側の課題も山積みです。しかし、2026年末に向けて、より洗練されたQADモデルやI2V専用の蒸留モデルが登場することで、この「爆速」が真に実用的なものへと昇華されることが期待されています。