Cómo usar EvoLink Smart Router: configuración de API y pruebas

Referencia rápida

1. Prepara la clave API

export EVOLINK_API_KEY="your-api-key"

En PowerShell:

$env:EVOLINK_API_KEY="your-api-key"

Usa claves distintas para desarrollo, staging y producción para poder analizar uso y rotarlas por separado.

2. Envía la primera solicitud

curl --request POST \
  --url https://direct.evolink.ai/v1/chat/completions \
  --header "Authorization: Bearer $EVOLINK_API_KEY" \
  --header "Content-Type: application/json" \
  --data '{
    "model": "evolink/auto",
    "messages": [
      {
        "role": "user",
        "content": "Clasifica esta solicitud como facturación, problema técnico o acceso a cuenta: no puedo iniciar sesión después de restablecer mi contraseña."
      }
    ],
    "temperature": 0.2,
    "stream": false
  }'

{
  "id": "chatcmpl-example",
  "object": "chat.completion",
  "model": "actual-routed-model",
  "choices": [
    {
      "message": {
        "role": "assistant",
        "content": "acceso a cuenta"
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 26,
    "completion_tokens": 4,
    "total_tokens": 30
  }
}

3. Integración con Python

import os
import time
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["EVOLINK_API_KEY"],
    base_url="https://direct.evolink.ai/v1",
)

started_at = time.perf_counter()

response = client.chat.completions.create(
    model="evolink/auto",
    messages=[
        {
            "role": "user",
            "content": "Resume este informe de incidente y enumera las dos próximas acciones de ingeniería.",
        }
    ],
    temperature=0.2,
)

print("routed_model:", response.model)
print("latency_ms:", round((time.perf_counter() - started_at) * 1000))
print("usage:", response.usage)
print("output:", response.choices[0].message.content)

Cómo funciona el routing

1. La aplicación envía una solicitud compatible con OpenAI usando evolink/auto.
2. El router evalúa el tipo y la complejidad de la tarea.
3. La solicitud se asigna a un perfil como Fast, Standard o Reasoning.
4. Un modelo candidato adecuado procesa la solicitud.
5. El modelo elegido vuelve en response.model.

Los perfiles describen tipos de trabajo, no una lista permanente de modelos.

Smart Router frente a modelo fijo

Una arquitectura práctica utiliza routing para texto mixto y modelos fijos para rutas evaluadas o controladas.

Qué registrar

No registres prompts o respuestas sensibles si entran en conflicto con tus requisitos de privacidad.

Cómo probar antes de producción

1. Crea un conjunto representativo de entradas normales, ambiguas y erróneas.
2. Elige el modelo fijo actual como baseline.
3. Ejecuta los mismos inputs y parámetros mediante evolink/auto.
4. Compara calidad, latencia, tokens, errores y modelo enrutado por workflow.
5. Empieza con tráfico de bajo riesgo y conserva modelos fijos para QA estricta.

No tomes la decisión con una sola media: revisa por tipo de tarea y nivel de riesgo.

Errores comunes de la API

Configura timeouts explícitos y evita reintentos ilimitados.

Errores frecuentes de adopción

• asumir que Smart Router siempre elige el modelo más barato
• esperar siempre el mismo modelo para el mismo prompt
• enviar generación de imagen o vídeo a evolink/auto
• no guardar response.model
• publicar una lista fija de modelos candidatos

FAQ

¿Qué endpoint debo usar?

¿Qué Model ID activa Smart Router?

¿Cómo sé qué modelo procesó la solicitud?

¿Smart Router siempre cuesta menos?

No. El coste efectivo depende de las solicitudes, el modelo enrutado, la longitud de salida, los reintentos y el nivel de calidad requerido.

¿Devuelve siempre el mismo modelo para el mismo prompt?

No bases tu aplicación en esa expectativa. Usa un modelo fijo cuando la identidad del modelo o la reproducibilidad sean obligatorias.

¿Funciona para imagen y vídeo?

El alcance actual son solicitudes compatibles de texto y agentes. Usa IDs explícitos para generación multimedia.

¿Puedo usar streaming?

¿Cuándo debo cambiar a un modelo fijo?

Cuando un workflow tenga un ganador probado, necesite funciones específicas o requiera regresiones y aprobaciones estrictas.

Siguiente paso