RouteLab(routelab)とは?機能・料金・使い方とAIモデルルーティングの評価方法

Contact
AI活用の相談、まずは無料で承っています
コラムで取り上げたテーマについて、貴社への適用可能性をお気軽にご相談ください。
RouteLab(routelab)は、Microsoftが2026年9月21日に紹介した、Microsoft FoundryのModel Routerを試すためのローカル開発者向けプレイグラウンドです。MicrosoftのRouteLab紹介記事では、独自データセットを使い、ルーターの選択モデル、トークン使用量、レイテンシーを確認する用途が案内されています。
先に重要な点を整理すると、RouteLabはモデルを本番で自動振り分けるクラウドサービスそのものではありません。本番でリクエストごとのモデル選択を担うのはMicrosoft FoundryのModel Routerであり、RouteLabは、どのモデルが選ばれたか、トークン数や応答時間がどう変わったかを見ながら、ルーティング方針を検証するためのローカルUIです。
Microsoftの紹介記事は、RouteLabをローカルへクローンして起動する手順を案内しています。公開リポジトリはMicrosoftの製品ポータルではないため、RouteLabをMicrosoftが管理するSaaSとしては扱わず、利用前にソースコード、保存データ、実行環境、ライセンス、組織のセキュリティ要件を確認してください。一方、Model Routerの提供条件、対応リージョン、料金、監視方法はMicrosoft Foundryの公式ドキュメントを基準に判断します。
RouteLabとModel Routerの違い
対象 | 役割 | 導入判断で確認すること |
|---|---|---|
RouteLab | ローカルで動かす検証用UI。会話、選択モデル、トークン、レイテンシー、集計を見ながら挙動を確認する。 | ソースコード、ローカルDBへの保存内容、Node.jsなどの実行環境、ライセンス。 |
Microsoft Foundry Model Router | 入力ごとに適切な基盤モデルを選択する、Microsoft Foundryでデプロイするモデル。 | リージョン、利用可能なモデル、ルーティングモード、権限、使用量・料金、評価結果。 |
Model Router Auto Evaluation | ルーターと固定モデルを、品質・コスト・レイテンシーで比較するためのツールキット。 | 評価データ、ベースライン、審査モデル、人手レビュー、集計方法。 |
Model Routerは、入力プロンプトをリアルタイムに分析し、利用可能な候補モデルから応答用のLLMを選びます。Microsoft Learnでは、Balanced(既定)、Cost、Qualityの3モードと、候補モデルを制限するモデルサブセットが案内されています。モデル選択は固定ではないため、「常に高性能モデルを使う」「常に最安モデルを使う」設計とは分けて評価する必要があります。Model Routerの仕組み(Microsoft Learn)
RouteLabの画面で個別の入力を試すことと、評価データセット全体を比較することは別の作業です。後者では、Microsoft Foundry組織が公開しているModel Router Auto Evaluationを使い、任意のベースラインモデルに対して品質・コスト・レイテンシーを集計できます。
料金:RouteLab、Model Router、選択モデルの費用を分けて確認する
RouteLabとModel Routerを一続きの「ルーティング料金」として扱うと、見積もりを誤ります。少なくとも、RouteLabを動かす環境の費用、Model Routerが入力プロンプトを分析するための課金、ルーターが選んだ基盤モデルの利用料を分けて確認してください。
費用の層 | 何に対する費用か | 記事内に固定単価を載せない理由 | 確認手順 |
|---|---|---|---|
RouteLabのローカル実行 | PCまたは自社が用意した開発・検証環境でRouteLabを動かす費用。Mock modeではFoundryの実エンドポイントを呼び出さないため、Model Routerの推論利用量は発生しない。 | RouteLabはローカル実行用の公開コードであり、Microsoft Foundryの従量課金サービスとして単一の料金表で提供されるものではないため。自社PC、仮想マシン、CI環境、ストレージなどの費用は利用環境によって異なる。 | 公開リポジトリのライセンスと依存関係を確認し、実行先のクラウド・端末・CI環境の費用を別途見積もる。実モデルに接続する前はMock modeで画面・データ形式を確認する。 |
Model Routerの入力課金 | Model Routerが入力プロンプトを処理し、振り分け判断を行う利用量。 | Microsoft Learnは、Model Routerの利用が入力プロンプトに対して料金ページ記載のレートで課金されると案内している。レートは価格ページ、購入条件、通貨、適用時点などを確認する必要がある。 | 対象リージョン・契約条件でMicrosoftの料金ページを確認し、検証後はAzure portalのCost analysisでModel Routerデプロイ名を条件に実績を確認する。 |
選択された基盤モデル | Model Routerが各リクエストで選んだ基盤モデルによる処理費用。選択比率、入出力トークン、キャッシュ、再試行で総額が変わる。 | ルーターは入力ごとに異なる基盤モデルを選ぶため、「常にこのモデル単価」とは固定できない。候補モデルの変更や自動更新でも構成比が変わり得る。 | Cost analysisでデプロイ名を指定し、必要に応じて基盤モデル別に分割して確認する。評価時は、選択モデルの構成比と実測トークンを保存する。 |
評価用のベースライン・審査モデル | 固定モデルとの比較や、LLM-as-a-judgeで品質を採点するための呼び出し費用。 | 本番推論だけでなく、評価実行時にもベースラインと審査モデルのトークン利用が発生するため。 | 評価用エンドポイントを本番と分け、評価件数、再試行、審査モデルの使用量を記録する。 |
Microsoft Learnは、Model Routerの利用について入力プロンプトへの課金を案内しています。また、Azure portalのCost analysisでは、Model Routerデプロイのコストを確認でき、公式の利用ガイドでは、ルーターのコストを基盤モデルで発生した費用の合計として監視する手順も案内されています。つまり、選択モデルのトークン単価だけを掛けるのではなく、ルーター入力分を含む実際のメーターと請求実績で確認する必要があります。Model Routerの課金情報/Model Routerのコスト監視手順
Auto Evaluationの公開リポジトリも、コスト計算にモデル別トークン価格だけでなくrouter markup formulaを含めると説明しています。評価レポートの概算値は比較材料として使い、請求額の確認はAzure portalのCost analysisと請求・メーター記録を正本として扱ってください。Model Router Auto Evaluation
MicrosoftはAzureの料金について、サービス、モデル、デプロイ形態、メーターによって単位やレートが変わると案内しています。このため本記事では、読者の契約やリージョンを特定しない固定金額を掲載しません。導入前には、対象条件で料金ページを確認し、少量の検証トラフィックを流してCost analysisの実績と比較してください。Microsoft Foundryのコスト管理
- Mock mode:Foundryへの実リクエストを送らず、画面やレポート形式を確認する段階です。モデル品質・本番の料金・実際の待ち時間を測る用途には使いません。
- 実モデルへの接続:Model Routerの入力課金、選択された基盤モデルの利用量、比較用のベースライン・審査モデルの利用量を記録します。
- 本番見積もり:平均単価だけでなく、選択モデルの構成比、入力・出力トークン、キャッシュ、失敗時の再試行、ツール呼び出し、人手確認コストを含めて比較します。
日本で使えるか:Model RouterはJapan East・Japan Westで利用可能
Microsoft Learnの現行ドキュメントでは、Model Router バージョン2025-11-18はJapan EastとJapan Westで、Global StandardおよびData Zone Standardの両方に対応しています。ただし、ルーターが候補にできる基盤モデルはリージョンごとに異なります。国内リージョンを選んだからといって、すべての候補モデルや機能が使えるとは限りません。導入前に、使いたいモデル、コンテキスト長、ツール対応、データ配置要件を同じリージョンで確認してください。対応リージョンと制約(Microsoft Learn)
始め方:まず「ルーターを採用するか」を比較する
- 固定モデルのベースラインを決める
現在利用中、または採用候補の固定モデルを1つ決めます。ルーターの比較対象を毎回変えると、改善・悪化の原因を判断できません。 - 代表的な入力を収集して分類する
通常の問い合わせ、難問、長い入力、例外処理、高影響の依頼を含めます。秘密情報・個人情報は削除または匿名化してから使います。Microsoftも本番プロンプトを使う際は、秘密情報や個人データを除去するよう案内しています。Model Router評価の前提条件 - FoundryでModel Routerをデプロイする
まずはBalancedモードと既定の候補群を出発点にし、必要がある場合だけCost/Quality、モデルサブセットを変更します。Claudeを候補に含める場合は、別途そのモデルをFoundryへデプロイする必要があります。デプロイとモデル候補の設定手順 - RouteLabとAuto Evaluationを役割で使い分ける
RouteLabは個別のプロンプトで「どのモデルが選ばれたか」を観察する用途、Model Router Auto Evaluationは同一データセットで品質・費用・レイテンシーを集計する用途に分けると、検証目的が混ざりません。 - 一度に変える設定は1つにする
モード、候補モデル、プロンプト、最大出力、RAG検索条件を同時に変えると、何が結果を変えたのか分かりません。1回の比較では1要素だけ変更します。
RouteLabで確認できること
公開リポジトリの説明では、RouteLabはローカルのSQLiteへ、選択されたモデル・プロバイダー、入力/出力/推論/キャッシュトークン、待ち時間、リクエストID、会話本文などを記録し、分析タブでモデル分布、トークン数、平均レイテンシーを集計します。会話本文も保存対象であるため、検証データに顧客情報、認証情報、未公開のソースコードをそのまま入れないでください。RouteLabリポジトリの保存データとセットアップ説明
公開リポジトリでは、ローカル実行の前提条件としてNode.js 22.5以降を案内しています。また、Azureへ接続するセットアップではAzure CLI、Azureサインイン、Foundryリソース、権限設定が必要です。これらは公開リポジトリ記載時点の実装条件であり、Microsoft Foundry全体の最小要件としては扱わないでください。
評価の設計:品質・コスト・レイテンシーを同時に見る
ルーター導入の成否を「平均コストが下がったか」だけで決めると、高リスクな少数ケースの品質劣化を見逃します。反対に、平均品質だけを見ると、単純な大量処理で不要に高価なモデルを使い続けることがあります。
以下はMojiによる実務上の提案です。業務の重要度、入力品質、評価指標、許容誤差で結論は変わるため、数値は一律の合格ラインではなく、導入前に合意するためのテンプレートとして使ってください。
観点 | 測るもの | 確認方法 | 判断例 |
|---|---|---|---|
品質 | 正確性、根拠の一致、必要項目の充足、形式遵守 | 正解データ、人手レビュー、LLM-as-a-judgeを組み合わせる | 重要カテゴリで固定モデルより劣化した場合は、そのカテゴリを固定モデルへ残す |
コスト | 1件あたり・カテゴリ別・月間推定の総額 | Model Routerの入力分、選択モデルの利用量、ベースライン・審査モデルのトークン利用量を分けて算出し、Cost analysisで実績と照合する | 品質を維持できる範囲で削減があるかを見る |
レイテンシー | p50、p95、タイムアウト率 | 実運用に近い同時実行数で測る | 平均が速くてもp95が要件超過なら採用しない |
制約 | リージョン、許可モデル、ツール互換性、監査要件 | デプロイ設定と組織ポリシーを照合する | 候補モデルが未許可ならサブセットから除外する |
運用 | 選択モデルの分布、失敗時のフォールバック、再試行 | Azure Monitorとアプリログを確認する | 特定モデルへの偏りや障害時の挙動を本番前に確認する |
最小評価データセットのテンプレート
次の表は架空の例です。1行を1リクエストとしてJSONLやCSVにし、カテゴリ別に結果を出せるようにします。RAGを使う場合は、プロンプトだけでなく検索条件・取得文書の版も固定します。RAGの評価データ設計はRAG評価データセットの作り方、モデル比較全体の進め方はLLM評価の進め方、継続評価の設計はAIの評価とは?評価指標や評価方法、その費用についても参考にしてください。
列 | 内容 |
|---|---|
case_id | 評価ケースを再現するID |
category | 例:要約、分類、規程QA、コードレビュー、顧客向け下書き |
input | 匿名化済みの入力。架空の例では「返品条件を3点で案内して」 |
expected | 期待する事実、必須項目、禁止事項。完全な模範解答が不要な場合もある |
risk_level | 低・中・高。高は人手レビュー対象にする |
quality_rubric | 正確性、根拠、形式、禁止表現などの採点基準 |
acceptance_rule | カテゴリごとの採否条件。例:「高リスクは人手確認で必須項目を全て満たすこと」 |
比較の実行手順
- 固定モデルとModel Routerへ、同じ入力、同じシステム指示、同じ出力上限を送ります。
- ルーター側はBalancedを初期値にし、品質・コスト・待ち時間を記録します。コストにはModel Routerの入力分、選択モデルの利用分、評価用のベースライン・審査モデルの利用分を含めます。
- 品質はカテゴリ別に確認します。自動採点だけでなく、高リスク・僅差・採点不能なケースは担当者が確認します。
- 結果が要件未達なら、CostからBalancedへ変える、候補モデルを限定する、または当該カテゴリを固定モデルへ戻す、のいずれかを検討します。
- 本番に近い同時実行数で限定運用し、実測費用、p95、エラー、フォールバック、選択モデルの分布を監視します。
Microsoftの評価ガイドも、品質・費用・レイテンシーを受け入れ基準に照らして比較し、ルーティングモードや候補群を変更したら同じデータセットで再評価することを勧めています。固定モデルを残すべきケースがあることも明記されています。Model Routerの公式評価ガイド
導入前チェックリスト
- 固定モデルのベースラインと、採用判断を下す担当者が決まっている。
- 通常ケースだけでなく、長文、例外、高影響ケースを評価データに含めた。
- 入力から秘密情報・個人情報を削除し、RouteLabを含む保存先と保持期間を確認した。
- 品質、総コスト、p95レイテンシー、エラー率について業務別の許容範囲を決めた。
- Model Routerの入力課金、選択モデルの利用料、評価モデルの利用料を分けて見積もる方法を決めた。
- Japan East/Japan Westで使える候補モデルと、組織が許可するモデルが一致している。
- ツール利用、構造化出力、コンテキスト長など、アプリが必要とする機能を候補群すべてで確認した。
- 特定のモデル選択が必要な処理、監査上の理由で固定したい処理を切り分けた。
- 本番後も、料金・対応モデル・入力傾向の変化時に再評価する運用を決めた。
まとめ
RouteLabは、Model Routerの選択結果を視覚的に理解する入口として使えます。ただし、RouteLabの画面で数件のプロンプトを試して終えるのではなく、固定モデルをベースラインに置き、自社の入力で品質・コスト・レイテンシー・許可モデルを比較することが重要です。料金は、RouteLabの実行環境、Model Routerの入力課金、選択された基盤モデル、評価用モデルに分け、Azure portalのCost analysisで実績と照合してください。正式な導入判断には、Microsoft Foundryの公式評価ガイドを基準にし、RouteLabはローカル検証環境として位置付けると役割を混同しにくくなります。
Contact
AI活用の相談、まずは無料で
コラムで取り上げたテーマについて、貴社への適用可能性をお気軽にご相談ください。