同じ Qwen3.8-27B、三つの言語圏で違う問い——評価が食い違う理由

同じ重みに対して、三つの言語圏が違うことを聞いていました。英語圏は「どの量子化なら性能が落ちないか」、日本語圏は「どのハーネスと組み合わせるか」、中国語圏は「どのクローズドモデルと同等か」。

これは多言語のレーダーを回さないと見えない種類の観測です。ただし先に断っておくと、 この観測の賞味期限は一日でした——翌日には ja 側の問いが別のものに入れ替わっていました。

なので結論を先に置きます。モデル選定の議論を読むときは、結論より先に「書き手がどの前提に立っているか」を見たほうがいい。 同じモデルへの評価が場所によって食い違うのは、どちらかが間違っているからではなく、詰まっている場所が違うからです。そしてその場所は、一日で動くことがあります。

三つの問い

2026 年 8 月 23 日時点で、各市場の上位に何が並んでいたか。

市場	立てている問い	代表的なソース
en	どの量子化・KV cache・runtime なら壊れないか	Level1Techs のスレッド（HN 327 点）、r/LocalLLaMA の一週間評決
ja	どのハーネスと組み合わせるか	npaka「Qwen3.8-27B におすすめのハーネス」（はてブ 107）
zh	どのクローズドモデルと同等か	掘金「本地跑一个 Qwen 3.8，你将拥有一个 Opus 4.6」（639 賛）

技術的な中身は同日の他の記事に譲ります——英語版で量子化の話を、中国語版で等価性の五つの前提を扱っています。ここで見たいのは中身ではなく、問いの形のほうです。

問いの形には前提が埋まっています。

en の前提は「自分でサーブする」。 どの量子化を選ぶかという問いが成立するのは、量子化を自分で選べる立場にいるときだけです。ホストされた API を叩いている人はこの問いを立てられない。実際 Level1Techs のスレッドは vLLM のアテンションバックエンドの違いまで降りていきます。

zh の前提は「API 課金から降りたい」。 クローズドモデルとの等価性を問うということは、比較対象が手元にあるということで、乗り換えを検討しているということです。掘金の記事がトークン単価と月額の話から始まるのは偶然ではありません。

ja の前提は「既存のワークフローに組み込む」。 npaka の記事が比較しているのは Pi / OpenCode / Claude Code / Qwen Code / DeepSeek Harness / Codex CLI の 6 つで、評価軸の筆頭はコンテキスト消費効率です。モデルの性能そのものではなく、モデルを使う道具立てのほうを見ている。

同じ重みでも、どこで詰まっているかが違えば聞くことも違う。それだけの話ですが、モデル選定の議論を読むときにはこれが効きます——書き手がどの前提に立っているかを先に見ないと、結論だけ持ち帰って自分の状況で外す。

翌日、日本語圏の問いが入れ替わった

ここからが、この記事を書き直すことになった部分です。結論から言うと、裏取りをしたら観測のほうが崩れました。 何が起きたかを先に書きます。

上の観測を裏取りするために 8 月 24 日のレーダーをもう一度回しました。エージェント/ハーネス系の話題は依然として日本語圏の上位を占めています—— その日の ja 最高スコアは Codex の効率的な使い方の記事でした。しかし、 主線に置いた npaka のハーネス比較記事は上位から消えていました。

代わりに立ち上がっていたのは FreeToken で、しかも三つのソースに分散して出現していました（Zenn の実測記事、はてブ経由の npaka による概要記事、GitHub リポジトリ）。 同じ著者が、24 時間で別のテーマに移っている。

FreeToken は、GPU のメモリ（VRAM）に収まらないサイズのモデルを、それでもローカルで動かすための推論エンジンです。狙っているのは MoE（Mixture-of-Experts）と呼ばれる形式のモデルで、これは 1 トークン計算するのに全部の重みを使わず一部（expert）だけを使います。 FreeToken はその性質を利用して、expert の本体は普通の RAM に置き、よく使う分だけを GPU 側にキャッシュします。RTX 5090（32GB）+ RAM 128GB での実測記事の数字が、この移動の意味をよく表しています。

モデル	サイズ	FreeToken 単発	比較
Ornith 1.5（35B）	23.5GB	196.9 tok/s	llama.cpp 296.4 / vLLM 262.5 のほうが速い
gpt-oss-120b（120B総 / 5.1B活性）	65.2GB	127.1 tok/s	VRAM 超過、他では動かない
Qwen3.5-122B-A10B（122B総 / 10B活性）	83.5GB	32.0 tok/s	Expert キャッシュ GPU 常駐 14.5%

（三つとも並列度 1 の値。vLLM は 16 並列で合計 1,852.4 tok/s と別の強みを見せます。また FreeToken と vLLM は同じ NVFP4 チェックポイント、llama.cpp は公式 GGUF の Q4_K_M で、量子化形式まで揃った比較ではない点は原文が明記しています。）

記事のタイトルが結論を言い切っています——「35B では不要、120B 級 MoE では話が変わる」。 VRAM に収まるモデルでは既存の推論エンジンのほうが速く、**FreeToken の価値は速度ではなく「動かせるモデルサイズの上限を引き上げること」**にある。著者自身がそう書いています。

つまり日本語圏の問いは、24 時間で「27B をどの道具で使うか」から「そもそも VRAM に載らないサイズをどう動かすか」へ動いた。同じローカル推論の話題でも、制約条件が一段上がっています。

観測を主張に格上げしない

当初この記事は「三つの市場が三つの異なる問いを持つ」という構造の話として構想していました。その形では出せません。一日のサンプルで構造を主張することになるからです。

日本語圏の問いが 24 時間で動いたという事実は、その主張の反証としてちょうど良い大きさです。もし「日本市場はハーネス選定に関心がある」と書いていたら、公開翌日には外れていた。まして「日本のエンジニアは〜」式の一般化に踏み込んでいたら、一日で崩れる観測を国民性の話にしていたことになります。

各市場のサンプルは数本です。これは市場の性格ではなく、その日たまたま上位にあったものの配置であって、それ以上のものとして扱うべきではない。

そのうえで、残る観測はこうです。

同じ重みに対して、立てられる問いは複数ある。 量子化・道具立て・等価性は、どれも Qwen3.8-27B について聞ける正当な問いで、互いに排他ではありません
どの問いが上位に来るかは、その市場の読者が今どこで詰まっているかを反映する。 問いは能力ではなく制約から生まれます
そして制約は動く。 24 時間で動くこともある——FreeToken のような道具が出れば、「どの 27B をどう使うか」という問いの前提そのものが変わります

読むときに先に見るもの

結論は一点だけです。モデル選定の議論を読むときは、結論より先に書き手の前提を見る。

「Qwen3.8-27B は実用的か」という同じ問いに対して、自分でサーブする人と、 API から降りたい人と、既存のワークフローに組み込みたい人は、違う答えを出します。三人とも正しい。前提が違うだけです。

そして自分がどれに当てはまるかは、今日の自分の制約で決まります。昨日の自分でも、他の市場の誰かでもない。この記事の日本語圏の観測が一日で古くなったのは、まさにその実例です。

同日の関連記事：量子化はプロダクト仕様である（en・量子化と KV cache の実測）、本地跑 Qwen 3.8 等于 Opus 4.6？这个等号有五个前提（zh・等価性の前提条件）、The new MCP roadmap hands two jobs to your gateway（en）。