지능형 모델 라우팅
curl --request POST \
--url https://direct.evolink.ai/v1/chat/completions \
--header 'Authorization: Bearer <token>' \
--header 'Content-Type: application/json' \
--data '
{
"model": "evolink/auto",
"messages": [
{
"role": "user",
"content": "인공지능의 발전 역사를 소개해 주세요"
}
],
"temperature": 0.7,
"top_p": 0.9,
"top_k": 40,
"stream": false
}
'import requests
url = "https://direct.evolink.ai/v1/chat/completions"
payload = {
"model": "evolink/auto",
"messages": [
{
"role": "user",
"content": "인공지능의 발전 역사를 소개해 주세요"
}
],
"temperature": 0.7,
"top_p": 0.9,
"top_k": 40,
"stream": False
}
headers = {
"Authorization": "Bearer <token>",
"Content-Type": "application/json"
}
response = requests.post(url, json=payload, headers=headers)
print(response.text)const options = {
method: 'POST',
headers: {Authorization: 'Bearer <token>', 'Content-Type': 'application/json'},
body: JSON.stringify({
model: 'evolink/auto',
messages: [{role: 'user', content: '인공지능의 발전 역사를 소개해 주세요'}],
temperature: 0.7,
top_p: 0.9,
top_k: 40,
stream: false
})
};
fetch('https://direct.evolink.ai/v1/chat/completions', options)
.then(res => res.json())
.then(res => console.log(res))
.catch(err => console.error(err));<?php
$curl = curl_init();
curl_setopt_array($curl, [
CURLOPT_URL => "https://direct.evolink.ai/v1/chat/completions",
CURLOPT_RETURNTRANSFER => true,
CURLOPT_ENCODING => "",
CURLOPT_MAXREDIRS => 10,
CURLOPT_TIMEOUT => 30,
CURLOPT_HTTP_VERSION => CURL_HTTP_VERSION_1_1,
CURLOPT_CUSTOMREQUEST => "POST",
CURLOPT_POSTFIELDS => json_encode([
'model' => 'evolink/auto',
'messages' => [
[
'role' => 'user',
'content' => '인공지능의 발전 역사를 소개해 주세요'
]
],
'temperature' => 0.7,
'top_p' => 0.9,
'top_k' => 40,
'stream' => false
]),
CURLOPT_HTTPHEADER => [
"Authorization: Bearer <token>",
"Content-Type: application/json"
],
]);
$response = curl_exec($curl);
$err = curl_error($curl);
curl_close($curl);
if ($err) {
echo "cURL Error #:" . $err;
} else {
echo $response;
}package main
import (
"fmt"
"strings"
"net/http"
"io"
)
func main() {
url := "https://direct.evolink.ai/v1/chat/completions"
payload := strings.NewReader("{\n \"model\": \"evolink/auto\",\n \"messages\": [\n {\n \"role\": \"user\",\n \"content\": \"인공지능의 발전 역사를 소개해 주세요\"\n }\n ],\n \"temperature\": 0.7,\n \"top_p\": 0.9,\n \"top_k\": 40,\n \"stream\": false\n}")
req, _ := http.NewRequest("POST", url, payload)
req.Header.Add("Authorization", "Bearer <token>")
req.Header.Add("Content-Type", "application/json")
res, _ := http.DefaultClient.Do(req)
defer res.Body.Close()
body, _ := io.ReadAll(res.Body)
fmt.Println(string(body))
}HttpResponse<String> response = Unirest.post("https://direct.evolink.ai/v1/chat/completions")
.header("Authorization", "Bearer <token>")
.header("Content-Type", "application/json")
.body("{\n \"model\": \"evolink/auto\",\n \"messages\": [\n {\n \"role\": \"user\",\n \"content\": \"인공지능의 발전 역사를 소개해 주세요\"\n }\n ],\n \"temperature\": 0.7,\n \"top_p\": 0.9,\n \"top_k\": 40,\n \"stream\": false\n}")
.asString();require 'uri'
require 'net/http'
url = URI("https://direct.evolink.ai/v1/chat/completions")
http = Net::HTTP.new(url.host, url.port)
http.use_ssl = true
request = Net::HTTP::Post.new(url)
request["Authorization"] = 'Bearer <token>'
request["Content-Type"] = 'application/json'
request.body = "{\n \"model\": \"evolink/auto\",\n \"messages\": [\n {\n \"role\": \"user\",\n \"content\": \"인공지능의 발전 역사를 소개해 주세요\"\n }\n ],\n \"temperature\": 0.7,\n \"top_p\": 0.9,\n \"top_k\": 40,\n \"stream\": false\n}"
response = http.request(request)
puts response.read_body{
"id": "chatcmpl-20260308112637503180122ABCD1234",
"model": "gpt-5.4",
"object": "chat.completion",
"created": 1741428397,
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "인공지능의 발전 역사는 1950년대로 거슬러 올라갑니다..."
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 15,
"completion_tokens": 120,
"total_tokens": 135
}
}{
"error": {
"code": 400,
"message": "Invalid request parameters",
"type": "invalid_request_error"
}
}{
"error": {
"code": 401,
"message": "Invalid or expired token",
"type": "authentication_error"
}
}{
"error": {
"code": 402,
"message": "Insufficient quota",
"type": "insufficient_quota_error",
"fallback_suggestion": "https://evolink.ai/dashboard/billing"
}
}{
"error": {
"code": 403,
"message": "Access denied for this feature",
"type": "permission_error"
}
}{
"error": {
"code": 429,
"message": "Rate limit exceeded",
"type": "rate_limit_error",
"fallback_suggestion": "retry after 60 seconds"
}
}{
"error": {
"code": 500,
"message": "Internal server error",
"type": "internal_server_error",
"fallback_suggestion": "try again later"
}
}{
"error": {
"code": 502,
"message": "Upstream AI service unavailable",
"type": "upstream_error",
"fallback_suggestion": "try again later"
}
}{
"error": {
"code": 503,
"message": "Service temporarily unavailable",
"type": "service_unavailable_error",
"fallback_suggestion": "retry after 30 seconds"
}
}EvoLink Auto
EvoLink Auto - 스마트 모델 라우팅
시스템이 자동으로 가장 적합한 모델을 선택하여 요청을 처리합니다
POST
/
v1
/
chat
/
completions
지능형 모델 라우팅
curl --request POST \
--url https://direct.evolink.ai/v1/chat/completions \
--header 'Authorization: Bearer <token>' \
--header 'Content-Type: application/json' \
--data '
{
"model": "evolink/auto",
"messages": [
{
"role": "user",
"content": "인공지능의 발전 역사를 소개해 주세요"
}
],
"temperature": 0.7,
"top_p": 0.9,
"top_k": 40,
"stream": false
}
'import requests
url = "https://direct.evolink.ai/v1/chat/completions"
payload = {
"model": "evolink/auto",
"messages": [
{
"role": "user",
"content": "인공지능의 발전 역사를 소개해 주세요"
}
],
"temperature": 0.7,
"top_p": 0.9,
"top_k": 40,
"stream": False
}
headers = {
"Authorization": "Bearer <token>",
"Content-Type": "application/json"
}
response = requests.post(url, json=payload, headers=headers)
print(response.text)const options = {
method: 'POST',
headers: {Authorization: 'Bearer <token>', 'Content-Type': 'application/json'},
body: JSON.stringify({
model: 'evolink/auto',
messages: [{role: 'user', content: '인공지능의 발전 역사를 소개해 주세요'}],
temperature: 0.7,
top_p: 0.9,
top_k: 40,
stream: false
})
};
fetch('https://direct.evolink.ai/v1/chat/completions', options)
.then(res => res.json())
.then(res => console.log(res))
.catch(err => console.error(err));<?php
$curl = curl_init();
curl_setopt_array($curl, [
CURLOPT_URL => "https://direct.evolink.ai/v1/chat/completions",
CURLOPT_RETURNTRANSFER => true,
CURLOPT_ENCODING => "",
CURLOPT_MAXREDIRS => 10,
CURLOPT_TIMEOUT => 30,
CURLOPT_HTTP_VERSION => CURL_HTTP_VERSION_1_1,
CURLOPT_CUSTOMREQUEST => "POST",
CURLOPT_POSTFIELDS => json_encode([
'model' => 'evolink/auto',
'messages' => [
[
'role' => 'user',
'content' => '인공지능의 발전 역사를 소개해 주세요'
]
],
'temperature' => 0.7,
'top_p' => 0.9,
'top_k' => 40,
'stream' => false
]),
CURLOPT_HTTPHEADER => [
"Authorization: Bearer <token>",
"Content-Type: application/json"
],
]);
$response = curl_exec($curl);
$err = curl_error($curl);
curl_close($curl);
if ($err) {
echo "cURL Error #:" . $err;
} else {
echo $response;
}package main
import (
"fmt"
"strings"
"net/http"
"io"
)
func main() {
url := "https://direct.evolink.ai/v1/chat/completions"
payload := strings.NewReader("{\n \"model\": \"evolink/auto\",\n \"messages\": [\n {\n \"role\": \"user\",\n \"content\": \"인공지능의 발전 역사를 소개해 주세요\"\n }\n ],\n \"temperature\": 0.7,\n \"top_p\": 0.9,\n \"top_k\": 40,\n \"stream\": false\n}")
req, _ := http.NewRequest("POST", url, payload)
req.Header.Add("Authorization", "Bearer <token>")
req.Header.Add("Content-Type", "application/json")
res, _ := http.DefaultClient.Do(req)
defer res.Body.Close()
body, _ := io.ReadAll(res.Body)
fmt.Println(string(body))
}HttpResponse<String> response = Unirest.post("https://direct.evolink.ai/v1/chat/completions")
.header("Authorization", "Bearer <token>")
.header("Content-Type", "application/json")
.body("{\n \"model\": \"evolink/auto\",\n \"messages\": [\n {\n \"role\": \"user\",\n \"content\": \"인공지능의 발전 역사를 소개해 주세요\"\n }\n ],\n \"temperature\": 0.7,\n \"top_p\": 0.9,\n \"top_k\": 40,\n \"stream\": false\n}")
.asString();require 'uri'
require 'net/http'
url = URI("https://direct.evolink.ai/v1/chat/completions")
http = Net::HTTP.new(url.host, url.port)
http.use_ssl = true
request = Net::HTTP::Post.new(url)
request["Authorization"] = 'Bearer <token>'
request["Content-Type"] = 'application/json'
request.body = "{\n \"model\": \"evolink/auto\",\n \"messages\": [\n {\n \"role\": \"user\",\n \"content\": \"인공지능의 발전 역사를 소개해 주세요\"\n }\n ],\n \"temperature\": 0.7,\n \"top_p\": 0.9,\n \"top_k\": 40,\n \"stream\": false\n}"
response = http.request(request)
puts response.read_body{
"id": "chatcmpl-20260308112637503180122ABCD1234",
"model": "gpt-5.4",
"object": "chat.completion",
"created": 1741428397,
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "인공지능의 발전 역사는 1950년대로 거슬러 올라갑니다..."
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 15,
"completion_tokens": 120,
"total_tokens": 135
}
}{
"error": {
"code": 400,
"message": "Invalid request parameters",
"type": "invalid_request_error"
}
}{
"error": {
"code": 401,
"message": "Invalid or expired token",
"type": "authentication_error"
}
}{
"error": {
"code": 402,
"message": "Insufficient quota",
"type": "insufficient_quota_error",
"fallback_suggestion": "https://evolink.ai/dashboard/billing"
}
}{
"error": {
"code": 403,
"message": "Access denied for this feature",
"type": "permission_error"
}
}{
"error": {
"code": 429,
"message": "Rate limit exceeded",
"type": "rate_limit_error",
"fallback_suggestion": "retry after 60 seconds"
}
}{
"error": {
"code": 500,
"message": "Internal server error",
"type": "internal_server_error",
"fallback_suggestion": "try again later"
}
}{
"error": {
"code": 502,
"message": "Upstream AI service unavailable",
"type": "upstream_error",
"fallback_suggestion": "try again later"
}
}{
"error": {
"code": 503,
"message": "Service temporarily unavailable",
"type": "service_unavailable_error",
"fallback_suggestion": "retry after 30 seconds"
}
}스마트 모델 라우팅
EvoLink Auto는 요청 내용에 따라 적합한 AI 모델을 자동으로 선택하는 지능형 모델 라우팅 기능입니다. 수동으로 모델을 지정할 필요가 없습니다.핵심 장점
- 스마트 매칭: 요청 내용을 자동 분석하여 적합한 모델 선택
- 비용 최적화: 품질을 유지하면서 비용 효율적인 모델 우선 선택
- 부하 분산: 여러 모델 간 요청을 자동 분산하여 시스템 안정성 향상
- 투명성: 응답에 실제 사용된 모델 이름을 반환하여 추적 및 최적화 용이
작동 원리
시스템은 요청의 복잡도, 길이 및 유형에 따라 모델 풀에서 가장 적합한 모델을 선택합니다.지원 모델
EvoLink Auto는 GPT-4, GPT-3.5, Claude, Gemini 등 주요 AI 모델 간에 지능적으로 라우팅합니다.제한 사항
- 특정 모델 기능이 필요한 시나리오에는 적합하지 않습니다(예: GPT-4 비전 기능)
- 모든 요청에 대해 동일한 모델을 보장하지 않습니다
사용 시나리오
어떤 모델을 사용할지 불확실하거나 시스템이 자동으로 모델 선택을 최적화하기를 원하는 경우에 적합합니다.model 매개변수를 evolink/auto로 설정하기만 하면 시스템이 자동으로 적합한 모델을 선택합니다.BaseURL: 기본 BaseURL은
https://direct.evolink.ai이며, 텍스트 모델 지원이 더 우수하고 장시간 연결을 지원합니다. https://api.evolink.ai는 멀티모달 서비스의 주력 엔드포인트이며, 텍스트 모델에 대해서는 대체 주소로 사용됩니다.인증
모든 API는 Bearer Token 인증이 필요합니다
API Key 받기:
API Key 관리 페이지를 방문하여 API Key를 받으세요
요청 헤더에 추가:
Authorization: Bearer YOUR_API_KEY
본문
application/json
지능형 라우팅 사용
사용 가능한 옵션:
evolink/auto 예시:
"evolink/auto"
대화 메시지 목록
Minimum array length:
1Show child attributes
Show child attributes
예시:
[
{
"role": "user",
"content": "인공지능의 발전 역사를 소개해 주세요"
}
]
샘플링 온도, 출력의 무작위성을 제어합니다
설명:
- 낮은 값(예: 0.2): 더 확실하고 집중된 출력
- 높은 값(예: 1.5): 더 무작위적이고 창의적인 출력
필수 범위:
0 <= x <= 2예시:
0.7
핵 샘플링(Nucleus Sampling) 매개변수
설명:
- 누적 확률 상위 몇 %의 토큰에서 샘플링할지 제어합니다
- 예를 들어 0.9는 누적 확률이 90%에 도달하는 토큰 중에서 선택합니다
- 기본값: 1.0 (모든 토큰 고려)
권장 사항: temperature와 top_p를 동시에 조정하지 마세요
필수 범위:
0 <= x <= 1예시:
0.9
Top-K 샘플링 매개변수
설명:
- 예를 들어 10은 매 샘플링 시 확률이 가장 높은 10개의 토큰만 고려하도록 제한합니다
- 값이 작을수록 출력이 더 집중됩니다
- 기본값은 제한 없음
필수 범위:
x >= 1예시:
40
스트리밍 방식으로 응답을 반환할지 여부
true: 스트리밍 반환, 청크 단위로 실시간 콘텐츠 반환false: 전체 응답을 기다린 후 한 번에 반환
예시:
false
응답
요청 성공
채팅 완성의 고유 식별자
예시:
"chatcmpl-20260308112637503180122ABCD1234"
실제 사용된 모델 이름
예시:
"gpt-5.4"
응답 유형
사용 가능한 옵션:
chat.completion 예시:
"chat.completion"
생성 타임스탬프
예시:
1741428397
대화에서 생성된 선택 목록
Show child attributes
Show child attributes
토큰 사용 통계
Show child attributes
Show child attributes