# 同じ Qwen3.8-27B、三つの言語圏で違う問い——評価が食い違う理由 > 英語圏は「どの量子化なら壊れないか」、日本語圏は「どのハーネスと組むか」、中国語圏は「どのクローズドモデルと同等か」。同じ重みへの評価が食い違うのは、どちらかが間違っているからではなく、詰まっている場所が違うからです。ただし日本語圏の問いは翌日には入れ替わっていました——モデル選定の議論は、結論より先に書き手の前提を見る。 - Published: 2026年8月23日 - Updated: 2026年8月24日 - Author: Linden Kern, Chief Scientist - Tags: models, ecosystem, local-llm - Canonical: https://pirouter.ai/ja/blog/same-model-different-questions --- 同じ重みに対して、三つの言語圏が違うことを聞いていました。英語圏は 「**どの量子化なら性能が落ちないか**」、日本語圏は「**どのハーネスと組み合わせるか**」、 中国語圏は「**どのクローズドモデルと同等か**」。 これは多言語のレーダーを回さないと見えない種類の観測です。ただし先に断っておくと、 **この観測の賞味期限は一日でした**——翌日には ja 側の問いが別のものに入れ替わっていました。 なので結論を先に置きます。**モデル選定の議論を読むときは、結論より先に「書き手がどの前提に 立っているか」を見たほうがいい。** 同じモデルへの評価が場所によって食い違うのは、 どちらかが間違っているからではなく、詰まっている場所が違うからです。そしてその場所は、 一日で動くことがあります。 ## 三つの問い 2026 年 8 月 23 日時点で、各市場の上位に何が並んでいたか。 | 市場 | 立てている問い | 代表的なソース | |---|---|---| | en | どの量子化・KV cache・runtime なら壊れないか | [Level1Techs のスレッド](https://forum.level1techs.com/t/why-your-local-llm-feels-dumber-than-it-is/253917)（HN 327 点）、[r/LocalLLaMA の一週間評決](https://www.reddit.com/r/LocalLLaMA/comments/1vvu15m/qwen3827b_one_week_later_the_rlocalllama/) | | ja | どのハーネスと組み合わせるか | [npaka「Qwen3.8-27B におすすめのハーネス」](https://note.com/npaka/n/nf7108e6bd18e)（はてブ 107） | | zh | どのクローズドモデルと同等か | [掘金「本地跑一个 Qwen 3.8，你将拥有一个 Opus 4.6」](https://juejin.cn/post/7674574367976341567)（639 賛） | 技術的な中身は同日の他の記事に譲ります——英語版で [量子化の話](/blog/quantization-is-a-product-spec)を、中国語版で [等価性の五つの前提](/zh/blog/local-qwen-equals-opus-preconditions)を扱っています。 ここで見たいのは中身ではなく、**問いの形**のほうです。 問いの形には前提が埋まっています。 **en の前提は「自分でサーブする」。** どの量子化を選ぶかという問いが成立するのは、 量子化を自分で選べる立場にいるときだけです。ホストされた API を叩いている人はこの問いを 立てられない。実際 Level1Techs のスレッドは vLLM のアテンションバックエンドの違いまで 降りていきます。 **zh の前提は「API 課金から降りたい」。** クローズドモデルとの等価性を問うということは、 比較対象が手元にあるということで、乗り換えを検討しているということです。掘金の記事が トークン単価と月額の話から始まるのは偶然ではありません。 **ja の前提は「既存のワークフローに組み込む」。** npaka の記事が比較しているのは Pi / OpenCode / Claude Code / Qwen Code / DeepSeek Harness / Codex CLI の 6 つで、 評価軸の筆頭は**コンテキスト消費効率**です。モデルの性能そのものではなく、 モデルを使う道具立てのほうを見ている。 同じ重みでも、どこで詰まっているかが違えば聞くことも違う。それだけの話ですが、 モデル選定の議論を読むときにはこれが効きます——**書き手がどの前提に立っているかを 先に見ないと、結論だけ持ち帰って自分の状況で外す。** ## 翌日、日本語圏の問いが入れ替わった ここからが、この記事を書き直すことになった部分です。**結論から言うと、裏取りをしたら 観測のほうが崩れました。** 何が起きたかを先に書きます。 上の観測を裏取りするために 8 月 24 日のレーダーをもう一度回しました。 エージェント/ハーネス系の話題は依然として日本語圏の上位を占めています—— その日の ja 最高スコアは Codex の効率的な使い方の記事でした。しかし、 **主線に置いた npaka のハーネス比較記事は上位から消えていました。** 代わりに立ち上がっていたのは **FreeToken** で、しかも三つのソースに分散して出現していました （Zenn の実測記事、はてブ経由の npaka による概要記事、GitHub リポジトリ）。 **同じ著者が、24 時間で別のテーマに移っている。** FreeToken は、**GPU のメモリ（VRAM）に収まらないサイズのモデルを、それでもローカルで 動かすための推論エンジン**です。狙っているのは MoE（Mixture-of-Experts）と呼ばれる形式の モデルで、これは 1 トークン計算するのに全部の重みを使わず一部（expert）だけを使います。 FreeToken はその性質を利用して、expert の本体は普通の RAM に置き、 よく使う分だけを GPU 側にキャッシュします。RTX 5090（32GB）+ RAM 128GB での[実測記事](https://zenn.dev/holy_fox/articles/53b82eed45f956)の数字が、 この移動の意味をよく表しています。 | モデル | サイズ | FreeToken 単発 | 比較 | |---|---|---|---| | Ornith 1.5（35B） | 23.5GB | 196.9 tok/s | llama.cpp 296.4 / vLLM 262.5 のほうが速い | | gpt-oss-120b（120B総 / 5.1B活性） | 65.2GB | 127.1 tok/s | VRAM 超過、他では動かない | | Qwen3.5-122B-A10B（122B総 / 10B活性） | 83.5GB | 32.0 tok/s | Expert キャッシュ GPU 常駐 14.5% | （三つとも**並列度 1** の値。vLLM は 16 並列で合計 1,852.4 tok/s と別の強みを見せます。 また FreeToken と vLLM は同じ NVFP4 チェックポイント、llama.cpp は公式 GGUF の Q4_K_M で、 量子化形式まで揃った比較ではない点は原文が明記しています。） 記事のタイトルが結論を言い切っています——「35B では不要、120B 級 MoE では話が変わる」。 VRAM に収まるモデルでは既存の推論エンジンのほうが速く、**FreeToken の価値は速度ではなく 「動かせるモデルサイズの上限を引き上げること」**にある。著者自身がそう書いています。 つまり日本語圏の問いは、24 時間で「**27B をどの道具で使うか**」から 「**そもそも VRAM に載らないサイズをどう動かすか**」へ動いた。同じローカル推論の話題でも、 制約条件が一段上がっています。 ## 観測を主張に格上げしない 当初この記事は「三つの市場が三つの異なる問いを持つ」という構造の話として構想していました。 その形では出せません。**一日のサンプルで構造を主張することになるからです。** 日本語圏の問いが 24 時間で動いたという事実は、その主張の反証としてちょうど良い大きさです。 もし「日本市場はハーネス選定に関心がある」と書いていたら、公開翌日には外れていた。 まして「日本のエンジニアは〜」式の一般化に踏み込んでいたら、 一日で崩れる観測を国民性の話にしていたことになります。 各市場のサンプルは数本です。これは市場の性格ではなく、**その日たまたま上位にあったものの 配置**であって、それ以上のものとして扱うべきではない。 そのうえで、残る観測はこうです。 - **同じ重みに対して、立てられる問いは複数ある。** 量子化・道具立て・等価性は、 どれも Qwen3.8-27B について聞ける正当な問いで、互いに排他ではありません - **どの問いが上位に来るかは、その市場の読者が今どこで詰まっているかを反映する。** 問いは能力ではなく制約から生まれます - **そして制約は動く。** 24 時間で動くこともある——FreeToken のような道具が出れば、 「どの 27B をどう使うか」という問いの前提そのものが変わります ## 読むときに先に見るもの 結論は一点だけです。モデル選定の議論を読むときは、**結論より先に書き手の前提を見る。** 「Qwen3.8-27B は実用的か」という同じ問いに対して、自分でサーブする人と、 API から降りたい人と、既存のワークフローに組み込みたい人は、違う答えを出します。 三人とも正しい。前提が違うだけです。 そして自分がどれに当てはまるかは、**今日の自分の制約**で決まります。 昨日の自分でも、他の市場の誰かでもない。この記事の日本語圏の観測が一日で古くなったのは、 まさにその実例です。 --- 同日の関連記事：[量子化はプロダクト仕様である](/blog/quantization-is-a-product-spec)（en・ 量子化と KV cache の実測）、[本地跑 Qwen 3.8 等于 Opus 4.6？这个等号有五个前提](/zh/blog/local-qwen-equals-opus-preconditions) （zh・等価性の前提条件）、[The new MCP roadmap hands two jobs to your gateway](/blog/mcp-roadmap-gateway)（en）。 --- ## Sources ### forum.level1techs.com - [Level1Techs のスレッド](https://forum.level1techs.com/t/why-your-local-llm-feels-dumber-than-it-is/253917) ### reddit.com - [r/LocalLLaMA の一週間評決](https://www.reddit.com/r/LocalLLaMA/comments/1vvu15m/qwen3827b_one_week_later_the_rlocalllama/) ### note.com - [npaka「Qwen3.8-27B におすすめのハーネス」](https://note.com/npaka/n/nf7108e6bd18e) ### juejin.cn - [掘金「本地跑一个 Qwen 3.8，你将拥有一个 Opus 4.6」](https://juejin.cn/post/7674574367976341567) ### zenn.dev - [実測記事](https://zenn.dev/holy_fox/articles/53b82eed45f956)