- RAGの遅さは検索そのものより、精度を補うために重ねたLLM呼び出し(リランク、クエリ書き換え、エージェント的な再検索)から生まれています。
- 判断特化AI「Jev」は文章を書かず、選択・採点・真偽判定だけを返します。ベンダー公表のレイテンシは70〜500ミリ秒で、出力トークンは課金されません。
- Jevはベクトル検索の後段に足すより、Corpus2Skillのスキルツリーを歩く「道案内役」に置くほうが、速度と精度の両方を得やすい構成です。
- 探索はJev(System 1)、回答の執筆は生成LLM(System 2)。この分業で、原文全文に基づく回答を保ったまま、LLM呼び出しを1回に絞り込めます。
なぜいま「RAG×Jev」なのか
社内規程やマニュアルを読み込ませたAIチャット、いわゆる社内RAGは、この2年で多くの企業に広がりました。一方で、運用を始めた現場からは「回答まで時間がかかる」「1件あたりのAPI費用が読めない」「肝心の例外規定を見落とす」という声が繰り返し聞かれます。
そこへ2026年9月、米TypeSafe AIがJevを早期アクセスで公開しました。Jevは「ソフトウェアのための確率的な意思決定モデル」と説明され、文章を生成しない代わりに、用意した選択肢の中から答えを選び、その確からしさを確率で返します。速さと安さが際立つため、「RAGを速くするためにJevを組み込めないか」と考える開発者が一気に増えました。
ただし、Jevをどこに置くかで結果は大きく変わります。ベクトル検索で取った断片をJevで並べ替えても、文書を細切れにしたことによる文脈の欠落は直りません。本特集が提案するのは、ベクトル検索そのものを置き換えるCorpus2Skillと組み合わせる道です。
提案するアーキテクチャの全体像
Corpus2Skillは、文書群を事前に「スキルツリー」というフォルダ階層へコンパイルし、AIエージェントにその目次をたどらせて原文全文へ到達させる仕組みです。チャンク分割をしないため、離れたページにある「ただし書き」も一緒に読めます。弱点は、目次を読んで次の枝を選ぶたびに生成LLMを呼ぶため、探索が直列になって遅く、費用もかさむことでした。
この「次の枝を選ぶ」という作業は、有限の選択肢から1つを選ぶ分類問題です。まさにJevの得意分野です。探索部分をJevに任せ、最後の回答文の作成だけを生成LLMに任せると、次の図のような3ホップ構成になります。
Jevを足す場所で結果が変わる
RAGにJevを組み込む方法は、大きく4通り考えられます。どこに置けば何が改善するのかを、先に整理しておきます。表中の評価は、各章で示す仕組みと公開情報に基づく本特集の見立てです。
| 構成 | 速度 | 1クエリ費用 | 文脈の断片化 | 向く場面 |
|---|---|---|---|---|
| 従来のベクトルRAG | 速い | 安い | 起きる | FAQ型の短い質問 |
| ベクトルRAG+Jevリランク | 速い | 安い | 起きる(並べ替えのみ) | 既存RAGの小改修 |
| Corpus2Skill単体 | 遅い(探索が直列) | 高め | 起きにくい | 精度最優先の規程QA |
| Corpus2Skill+Jev探索 | 速い | 抑えられる | 起きにくい | 社内ナレッジ全般 |
Jevの速度・価格はTypeSafe AIの公表値で、大規模な独立検証はまだ出ていません。本特集では、ベンダー公表値、論文値、当サイトの試算をそれぞれ明記して区別しています。導入判断の前には、自社の文書と質問で必ず計測してください。
全5章の構成
第1章から順に読むと、課題、解決策、設計、実装の順に理解できます。急いでいる方は、設計の第4章と実装の第5章から読んでも構いません。
この特集が役立つ人
- 社内RAGやナレッジベースのチャットボットを運用していて、応答速度やAPI費用に課題を感じている方
- Jevを試したいが、RAGのどこに組み込めば効果が出るのか判断できずにいる方
- 就業規則や製品マニュアルのように、例外規定や条件分岐が多い文書をAIで扱いたい方
- ベクトルデータベースの運用負荷を減らし、文書を人が読める形のまま管理したい方
逆に、雑多な事実の断片を大量に集めた知識プールや、似た形式のレコードが並ぶ表データが中心であれば、従来のベクトル検索のほうが向いています。Corpus2Skillの論文自身が、11種類のデータセットでの比較から「探索は検索の万能な置き換えではない」と結論づけています。適用判断の詳細は「エンタープライズ活用と適用判断」も参照してください。
よくある質問
JevだけでRAGは作れますか?
作れません。Jevは文章を生成しないため、回答文を書く工程には生成LLMが必要です。Jevが担うのは、どの文書を読むべきかを決める探索と選別の部分です。
既存のベクトルRAGにJevを足すだけでは不十分ですか?
リランクや質問の振り分けにJevを使えば、速度や費用は改善できます。ただし、チャンク分割で失われた前後の文脈は戻りません。例外規定の見落としまで解消したい場合は、原文全文を扱うCorpus2Skillとの組み合わせが有効です。
日本語の文書でも使えますか?
使えますが、日本語での精度について公開された独立検証はまだ乏しい状況です。当サイトで日本語ページの判定に使った経験では、真偽判定の確率が狭い幅に集まる傾向がありました。閾値は自社の質問セットで校正する前提で設計してください。具体的な方法は第4章で解説します。
参考資料・情報ソース
- Yiqun Sun, Pengfei Wei, Lawrence B. Hsieh「Corpus2Skill: Distilling Enterprise Knowledge into Navigable Agent Skills for QA and RAG」arXiv:2604.14572(EMNLP 2026 Findings) https://arxiv.org/abs/2604.14572
- Corpus2Skill GitHubリポジトリ(MITライセンス) https://github.com/dukesun99/Corpus2Skill
- DataCamp「System One モデル Jev」解説記事 https://www.datacamp.com/ja/blog/system-one-models-jev
- Vercel Changelog「AI Gateway now supports TypeSafe clients and an HTTP API for Jev」(2026年9月21日) https://vercel.com/changelog/ai-gateway-now-supports-typesafe-clients-and-an-http-api-for-jev
- JevTypeSafeAI.com APIドキュメント(/v1/decide仕様) https://jevtypesafeai.com/docs
- 当サイト「コスト構造とプロンプトキャッシュ」(WixQAでの1クエリ費用 0.172ドル→0.089ドル)