evolink Smart routerの使い方：統合AIモデルルーティングを5分でセットアップ

evolink Smart routerとは

• 1つのOpenAI互換リクエスト形式を維持したい
• プロバイダーまたはモデルファミリー間のアプリケーション側の切り替えを減らしたい
• どこでも1つのモデルをハードコーディングする代わりに、APIレスポンス内でルーティングされたモデルを確認したい
• 本番環境の重要なフローに固定モデルを設定する前に、柔軟なゲートウェイパスから始めたい

必要な正確なモデル、レイテンシープロファイル、コスト目標がすでにわかっている場合、固定モデルIDは通常、よりクリーンな選択です。

始める前に必要なもの

curlでの最初のリクエスト

curl https://api.evolink.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "model": "evolink/auto",
    "messages": [
      {
        "role": "user",
        "content": "ベクトルデータベースを1つの短い段落で説明してください。"
      }
    ]
  }'

Pythonの例

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.evolink.ai/v1"
)

response = client.chat.completions.create(
    model="evolink/auto",
    messages=[
        {
            "role": "user",
            "content": "レイテンシーとモデル品質のトレードオフを要約してください。"
        }
    ]
)

print(response.model)
print(response.choices[0].message.content)

Node.jsの例

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.EVOLINK_API_KEY,
  baseURL: "https://api.evolink.ai/v1",
});

const response = await client.chat.completions.create({
  model: "evolink/auto",
  messages: [
    {
      role: "user",
      content: "チームがAIゲートウェイを使用する3つの理由をリストしてください。",
    },
  ],
});

console.log(response.model);
console.log(response.choices[0].message.content);

レスポンスの読み方

スマートルーターのレスポンスは、依然として馴染みのあるチャット補完構造に従います：

{
  "id": "chatcmpl-example",
  "object": "chat.completion",
  "created": 1773187200,
  "model": "provider/model-selected-at-runtime",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "ベクトルデータベースは埋め込みを保存するため、セマンティック検索が類似コンテンツを効率的に取得できます。"
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 17,
    "completion_tokens": 18,
    "total_tokens": 35
  }
}

スマートルーター vs 固定モデル

通常、最もスケールするパターンはシンプルです：

1. ワークロードがまだ変化している間はevolink Smart routerから始める。
2. ルーティングされたmodel値をログに記録し、コスト、レイテンシー、出力品質を比較する。
3. より厳密な運用予測可能性が必要なフローには固定モデルを設定する。

アカウント固有の内容

元のドラフトには、アカウントまたは公式ドキュメントに関連付けられた検証済みソースなしに確定事実として公開すべきでないいくつかの製品主張が含まれていました。外部の約束を公開する前に確認すべき項目として扱ってください：

• evolink Smart routerの正確な公開モデル識別子
• 利用可能なルーティングプールの正確なサイズ
• 「ルーティング料金なし」に関する約束
• 直接ベンダーと比較したパーセンテージ割引の主張
• 99.9%アップタイムなどのSLAステートメント
• すべてのルーティングされたモデルに対してスマートルーター経由で保証される高度な機能

この記事を後でよりセールス志向にしたい場合、クリーンな方法は、これらの項目がファーストパーティの価格ページ、製品ページ、または公式APIドキュメントに文書化された後にのみ追加することです。

ロールアウト前の本番チェックリスト

次のステップ

最初のリクエストが機能したら、最も価値の高いフォローアップはより多くのサンプルコードではありません。それは計装です。

• response.modelをログに記録
• 機能またはルート別にトークン使用量を保存
• スマートルータートラフィックを1つの固定モデルベースラインと比較
• EvoLinkモデルカタログで利用可能な固定モデルを確認

これにより、ゲートウェイパスが実際のワークロードのコスト効率と本番信頼性を向上させているかどうかを決定するために必要なデータが得られます。

FAQ

evolink Smart routerは固定モデルを選択するのと同じですか？

evolink Smart routerを使用するには別のSDKが必要ですか？

いいえ。リポジトリの既存の例に基づくと、統合パターンはOpenAI互換のままです。主にベースURLとモデル識別子を変更します。

正しいSmart routerモデルIDはどこで見つけられますか？

コピー＆ペーストコードを公開または出荷する前に、EvoLinkダッシュボードまたは公式ドキュメントで確認してください。元のドラフトにはローカルで検証された識別子が含まれていませんでした。

evolink Smart routerで本番トラフィックを開始すべきですか？

はい、ワークロードがまだ進化していて、1つのゲートウェイエントリーポイントが必要な場合。厳密に制御されたフローの場合、完全なロールアウト前に固定モデルと比較してください。

統合後に最初にログに記録すべきことは何ですか？

スマートルーティングはより低いコストを保証しますか？

自動的にではありません。有効なコストを改善できますが、結果はプロンプト、選択された下流モデル、アカウント構成に依存します。

Smart routerから固定モデルにいつ切り替えるべきですか？

1つのワークロードが品質、レイテンシー、またはコストで明確な勝者があり、より厳密なQAとより予測可能な本番動作が必要な場合に切り替えます。