EvoLink Smart Router 사용법: API 설정과 프로덕션 테스트

export EVOLINK_API_KEY="your-api-key"

$env:EVOLINK_API_KEY="your-api-key"

curl --request POST \
  --url https://direct.evolink.ai/v1/chat/completions \
  --header "Authorization: Bearer $EVOLINK_API_KEY" \
  --header "Content-Type: application/json" \
  --data '{
    "model": "evolink/auto",
    "messages": [
      {
        "role": "user",
        "content": "이 문의를 결제, 기술 문제, 계정 접근 중 하나로 분류하세요: 비밀번호를 재설정한 뒤 로그인할 수 없습니다."
      }
    ],
    "temperature": 0.2,
    "stream": false
  }'

{
  "id": "chatcmpl-example",
  "object": "chat.completion",
  "model": "actual-routed-model",
  "choices": [
    {
      "message": {
        "role": "assistant",
        "content": "계정 접근"
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 26,
    "completion_tokens": 4,
    "total_tokens": 30
  }
}

import os
import time
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["EVOLINK_API_KEY"],
    base_url="https://direct.evolink.ai/v1",
)

started_at = time.perf_counter()

response = client.chat.completions.create(
    model="evolink/auto",
    messages=[
        {
            "role": "user",
            "content": "이 인시던트 보고서를 요약하고 다음 엔지니어링 작업 두 가지를 제안하세요.",
        }
    ],
    temperature=0.2,
)

print("routed_model:", response.model)
print("latency_ms:", round((time.perf_counter() - started_at) * 1000))
print("usage:", response.usage)
print("output:", response.choices[0].message.content)