ブログ

PiRouter · エンジニアリングジャーナル

ブログ

LLM ルーティング、ゲートウェイ、AI インフラのエンジニアリングノート。

bartowski の Nemotron-3.5-Lightning GGUF 各ファイルについて、ファイル名が謳う bpw とテンソル表から実測した bpw を並べたダンベル図。k/i-quant の全段が 4.5 bpw の床に張り付いている

最新記事 ·

Qwen3.8-Flash-Next の GGUF はどれを選ぶか——最小 4 段は「名前が違うだけ」に近い、ヘッダを読んだ実測

Unsloth の Qwen3.8-Flash-Next GGUF 11 段をテンソル表から実測。UD-IQ1_S(72.5GB)は公称 1.56 bpw、実測 3.28 bpw。最小 4 段は名前で 2 倍の差を謳いながら実測 3.28〜3.71 に収まり、体積差は 10GB 弱。128GB 機での選び方を整理します。

Linden Kern

その他の記事

ジャーナルを探す

全 12 本の記事

全記事を新しい順に一覧し、トピック・執筆者・月で絞り込めます。トピックや執筆者から直接たどることもできます。