Gemini 전체 모델 인터페이스 - Native API 형식

curl -X POST "https://direct.evolink.ai/v1beta/models/gemini-4-argon:generateContent" \
  -H "Authorization: Bearer $EVOLINK_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "contents": [
      { "role": "user", "parts": [{ "text": "Rust 비동기 런타임의 완전한 설계 문서를 작성해 주세요. 아키텍처, 스케줄러, I/O 드라이버, 타이머와 전체 예제 코드를 포함해 주세요." }] }
    ],
    "generationConfig": {
      "maxOutputTokens": 262144,
      "thinkingConfig": { "thinkingLevel": "high" }
    }
  }'

{
  "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "# Rust 비동기 런타임 설계\n\n## 1. 아키텍처\n…"
          }
        ]
      },
      "finishReason": "CONTINUATION",
      "continuationToken": "<긴 문자열이며 그대로 보존>"
    }
  ]
}

curl -X POST "https://direct.evolink.ai/v1beta/models/gemini-4-argon:generateContent" \
  -H "Authorization: Bearer $EVOLINK_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "contents": [
      { "role": "user", "parts": [{ "text": "Rust 비동기 런타임의 완전한 설계 문서를 작성해 주세요. 아키텍처, 스케줄러, I/O 드라이버, 타이머와 전체 예제 코드를 포함해 주세요." }] }
    ],
    "generationConfig": {
      "maxOutputTokens": 262144,
      "thinkingConfig": { "thinkingLevel": "high" }
    },
    "continuationToken": "<이전 응답의 continuationToken>"
  }'

import os
from copy import deepcopy

import requests

URL = "https://direct.evolink.ai/v1beta/models/gemini-4-argon:generateContent"
HEADERS = {"Authorization": f"Bearer {os.environ['EVOLINK_API_KEY']}"}


def generate_with_continuation(body):
    request_body = deepcopy(body)
    pieces = []
    while True:
        # 클라이언트 읽기 타임아웃은 1,200초이며 서버가 20분 연결을 유지한다는 보장은 아닙니다.
        resp = requests.post(URL, headers=HEADERS, json=request_body, timeout=1200)
        resp.raise_for_status()
        candidates = resp.json().get("candidates", [])
        if not candidates:
            raise RuntimeError("응답에 후보가 없습니다. promptFeedback을 확인하세요.")
        candidate = candidates[0]
        for part in candidate.get("content", {}).get("parts", []):
            if not part.get("thought"):
                pieces.append(part.get("text", ""))
        reason = candidate.get("finishReason")
        token = candidate.get("continuationToken")
        if reason == "CONTINUATION":
            if not token:
                raise RuntimeError("이어 생성이 필요하지만 continuationToken이 반환되지 않았습니다.")
            request_body["continuationToken"] = token  # 다른 필드는 그대로 유지
            continue
        return {
            "text": "".join(pieces),
            "finishReason": reason,
            "continuationToken": token,
        }


body = {
    "contents": [
        {"role": "user", "parts": [{"text": "Rust 비동기 런타임의 완전한 설계 문서를 작성해 주세요. 아키텍처, 스케줄러, I/O 드라이버, 타이머와 전체 예제 코드를 포함해 주세요."}]}
    ],
    "generationConfig": {"maxOutputTokens": 262144, "thinkingConfig": {"thinkingLevel": "high"}},
}

result = generate_with_continuation(body)
print(result["text"])
print("finishReason:", result["finishReason"])
if result["finishReason"] == "MAX_TOKENS":
    print("누적 출력 예산이 소진되었습니다. 토큰이 있으면 maxOutputTokens를 수동으로 늘려 재개할 수 있습니다.")

body = {
    "contents": [
        {"role": "user", "parts": [{"text": "Output integers 1 through 100, one per line. Start immediately."}]}
    ],
    "generationConfig": {"maxOutputTokens": 64, "thinkingConfig": {"thinkingLevel": "low"}},
}

first = generate_with_continuation(body)
print(first["text"], end="")
if first["finishReason"] == "MAX_TOKENS" and first["continuationToken"]:
    body["continuationToken"] = first["continuationToken"]
    body["generationConfig"]["maxOutputTokens"] = 2048  # 호출자가 누적 예산 증가를 명시적으로 지정
    resumed = generate_with_continuation(body)
    print(resumed["text"], end="")
    print("\nfinishReason:", resumed["finishReason"])
else:
    print("\nfinishReason:", first["finishReason"])