Utiliser EvoLink Smart Router : configuration API et tests

Référence rapide

1. Préparer la clé API

export EVOLINK_API_KEY="your-api-key"

Avec PowerShell :

$env:EVOLINK_API_KEY="your-api-key"

Utilisez des clés distinctes pour le développement, le staging et la production afin de faciliter l'analyse et la rotation.

2. Envoyer la première requête

curl --request POST \
  --url https://direct.evolink.ai/v1/chat/completions \
  --header "Authorization: Bearer $EVOLINK_API_KEY" \
  --header "Content-Type: application/json" \
  --data '{
    "model": "evolink/auto",
    "messages": [
      {
        "role": "user",
        "content": "Classe cette demande en facturation, problème technique ou accès au compte : je ne peux plus me connecter après avoir réinitialisé mon mot de passe."
      }
    ],
    "temperature": 0.2,
    "stream": false
  }'

{
  "id": "chatcmpl-example",
  "object": "chat.completion",
  "model": "actual-routed-model",
  "choices": [
    {
      "message": {
        "role": "assistant",
        "content": "accès au compte"
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 26,
    "completion_tokens": 4,
    "total_tokens": 30
  }
}

3. Intégration Python

import os
import time
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["EVOLINK_API_KEY"],
    base_url="https://direct.evolink.ai/v1",
)

started_at = time.perf_counter()

response = client.chat.completions.create(
    model="evolink/auto",
    messages=[
        {
            "role": "user",
            "content": "Résume ce rapport d'incident et indique les deux prochaines actions d'ingénierie.",
        }
    ],
    temperature=0.2,
)

print("routed_model:", response.model)
print("latency_ms:", round((time.perf_counter() - started_at) * 1000))
print("usage:", response.usage)
print("output:", response.choices[0].message.content)

Fonctionnement du routage

1. L'application envoie une requête OpenAI-compatible avec evolink/auto.
2. Le routeur analyse le type et la complexité de la tâche.
3. La requête est associée à un profil Fast, Standard ou Reasoning.
4. Un modèle candidat adapté traite la requête.
5. Le modèle choisi est visible dans response.model.

Les profils représentent des catégories de tâches, pas une liste publique permanente de modèles.

Smart Router ou modèle fixe ?

Une architecture réaliste conserve les deux chemins : routage pour le texte mixte et IDs fixes pour les fonctions évaluées ou contrôlées.

Données à journaliser

Ne journalisez pas de contenu sensible si cela contrevient à vos règles de confidentialité.

Tester avant la production

1. Constituez un jeu représentatif avec des entrées normales, ambiguës et invalides.
2. Choisissez le modèle fixe actuel comme baseline.
3. Exécutez les mêmes entrées et paramètres via evolink/auto.
4. Comparez qualité, latence, tokens, erreurs et modèle routé par workflow.
5. Commencez par du trafic à faible risque et conservez des modèles fixes pour la QA stricte.

Un bon résultat moyen peut masquer un problème critique sur un workflow particulier.

Erreurs API courantes

Définissez des timeouts explicites et évitez les retries illimités.

Erreurs d'adoption fréquentes

• considérer Smart Router comme une garantie du modèle le moins cher
• supposer que le même prompt donne toujours le même modèle
• envoyer des générations image ou vidéo à evolink/auto
• ne pas enregistrer response.model
• publier une liste figée de modèles candidats

FAQ

Quel endpoint utiliser ?

Quel Model ID active Smart Router ?

Comment connaître le modèle utilisé ?

Smart Router est-il toujours moins cher ?

Non. Le coût dépend des requêtes, du modèle routé, de la longueur de sortie, des retries et du niveau de qualité attendu.

Le même prompt utilise-t-il toujours le même modèle ?

Ne construisez pas votre contrat produit sur cette hypothèse. Utilisez un modèle fixe quand l'identité du modèle ou la reproductibilité est nécessaire.

Smart Router fonctionne-t-il pour les images et vidéos ?

Le périmètre actuel couvre les requêtes texte et agents compatibles. Utilisez des IDs explicites pour les médias.

Le streaming est-il disponible ?

Quand passer à un modèle fixe ?

Lorsqu'un workflow a un gagnant validé, nécessite une fonction propre à un modèle ou suit des tests et validations stricts.

Étape suivante