ブログ

トピック

#routing

1 本の記事

三列の比較図：ルール層は 0.5 µs・費用ゼロ（筆者計測）、埋め込み層（semantic-router + Qdrant）は p50 94 ms・正解率 67.5%、LLM 分類（gpt-5.6-luna）は p50 1,048 ms・正解率 100%（Zenn 実測）。1,000 件あたりの費用は本稿の試算で約 0.0003 ドル対 0.11 ドル

semantic-router と Qdrant で LLM を呼ばずに振り分ける——11 倍速で済む判定、済まない判定

Linden Kern