Qwen3.8-27B-FP8量子化モデルがHugging Faceで公開
Qwen Teamは、27Bパラメータの視覚言語モデル「Qwen3.8-27B」のFP8量子化版「Qwen3.8-27B-FP8」をHugging Faceで公開した。ブロックサイズ128の細粒度FP8量子化を採用し、複数のフレームワークに対応している。
リポジトリにはFP8量子化されたモデルウェイトと、Hugging Face Transformers形式の設定ファイルが含まれている。量子化方式は細粒度fp8量子化（ブロックサイズ128）であり、性能指標はオリジナルモデルとほぼ同一とされている。
モデルの主な特性
Qwen3.8-27Bは視覚言語モデルとして画像と動画を理解する能力を持つ。パラメータ数27B、隠れ層次元5120、層数64という仕様を備えており、262,144トークンのネイティブコンテキスト長に対応し、1,000,000トークンまで拡張可能である。
モデルは柔軟な思考制御機能を備えており、複雑な多段階タスクを完了まで遂行するよう設計されている。思考モードはデフォルトで有効であり、<think>...</think>で示される思考内容を生成してから最終応答を出力する。reasoning_effortは「xhigh」（デフォルト）、「medium」、「low」の3段階をサポートしており、preserve_thinkingはすべてのワークロードでデフォルトで有効である。
対応フレームワークと今後の展開
Qwen3.8-27B-FP8はHugging Face Transformers、vLLM、SGLang、TokenSpeedと互換性を持つ。
Qwen3.8-27Bはホスト版として提供される予定であり、デフォルトで1Mコンテキスト長、公式組み込みツールなど、より多くのプロダクション機能を備える予定とされている。
筆者の見立て
- Qwen3.8は同社のオープンモデルシリーズとしてこれまでで最も高性能なモデルと論じている。
- Qwen3.8-27Bはコーディング、専門的業務、研究、長期的なエージェンティックタスクにおいて実質的な改善をもたらすと解釈している。
- マルチターンエージェンティックタスクにおいて、推論効果が低いほど全体的なタスク完了時間が短縮されるわけではなく、ターンごとの応答が高速化される場合でも、不十分な分析により失敗と再試行が増えて総遅延とトークン消費が増加する可能性を示唆している。
この記事は元記事の事実のみに基づいて自動生成されました。
出典
Hugging Face、「Qwen/Qwen3.8-27B-FP8 · Hugging Face」、https://huggingface.co/Qwen/Qwen3.8-27B-FP8