Hugging Face Inference API 개발자 가이드

import requests
import os

# 베스트 프랙티스: 토큰을 환경 변수에 저장하세요.
# 이 예시에서는 직접 정의하지만, 프로덕션에서는 os.getenv("HF_API_TOKEN")을 사용하세요.
API_TOKEN = "YOUR_API_TOKEN"
API_URL = "https://api-inference.huggingface.co/models/distilbert/distilbert-base-uncased-finetuned-sst-2-english"

def query_model(payload):
    headers = {"Authorization": f"Bearer {API_TOKEN}"}
    response = requests.post(API_URL, headers=headers, json=payload)
    response.raise_for_status()  # 잘못된 상태 코드에 대해 예외 발생
    return response.json()

# 문장을 분류해 봅시다.
data_payload = {
    "inputs": "I love the new features in this software, it's amazing!"
}

try:
    output = query_model(data_payload)
    print(output)
    # 예상 출력 예시: [[{'label': 'POSITIVE', 'score': 0.9998...}]]
except requests.exceptions.RequestException as e:
    print(f"오류가 발생했습니다: {e}")

import requests

API_URL = "https://api-inference.huggingface.co/models/gpt2"
headers = {"Authorization": "Bearer YOUR_API_TOKEN"}

def query_text_generation(payload):
    response = requests.post(API_URL, headers=headers, json=payload)
    return response.json()

output = query_text_generation({
    "inputs": "The future of AI in software development will be",
    "parameters": {"max_length": 50, "temperature": 0.7}
})
print(output)
# 예상 출력: [{'generated_text': 'The future of AI in software development will be...'}]

import requests

API_URL = "https://api-inference.huggingface.co/models/google/vit-base-patch16-224"
headers = {"Authorization": "Bearer YOUR_API_TOKEN"}

def query_image_classification(filename):
    with open(filename, "rb") as f:
        data = f.read()
    response = requests.post(API_URL, headers=headers, data=data)
    return response.json()

# 동일한 디렉토리에 이미지 파일(예: 'cat.jpg')이 있는지 확인하세요.
try:
    output = query_image_classification("cat.jpg")
    print(output)
    # 예상 출력 예시: [{'score': 0.99..., 'label': 'Egyptian cat'}, {'score': 0.00..., 'label': 'tabby, tabby cat'}, ...]
except FileNotFoundError:
    print("오류: 'cat.jpg'를 찾을 수 없습니다. 유효한 이미지 파일 경로를 제공하세요.")

// fetch를 사용한 JavaScript 예시
async function queryZeroShot(data) {
    const response = await fetch(
        "https://api-inference.huggingface.co/models/facebook/bart-large-mnli",
        {
            headers: { Authorization: "Bearer YOUR_API_TOKEN" },
            method: "POST",
            body: JSON.stringify(data),
        }
    );
    const result = await response.json();
    return result;
}

queryZeroShot({
    "inputs": "Our new feature launch was a massive success!",
    "parameters": {"candidate_labels": ["marketing", "customer feedback", "technical issue"]}
}).then((response) => {
    console.log(JSON.stringify(response));
    // 예상 출력: {"sequence": "...", "labels": ["customer feedback", ...], "scores": [0.98..., ...]}
});

# 변경 전: Hugging Face에 직접 API 호출
# 이는 단일 장애점을 생성합니다.
import requests

HF_API_URL = "https://api-inference.huggingface.co/models/gpt2"
HF_TOKEN = "YOUR_HF_TOKEN"

def direct_hf_call(payload):
    headers = {"Authorization": f"Bearer {HF_TOKEN}"}
    response = requests.post(HF_API_URL, headers=headers, json=payload)
    return response.json()

# 변경 후: 통합 EvoLink API(OpenAI 호환) 호출
# 이제 자동 장애 조치와 로드 밸런싱을 통해 애플리케이션이 탄력적이 됩니다.
import requests

# EvoLink의 통합 API 엔드포인트(OpenAI 호환)
EVOLINK_API_URL = "https://api.evolink.ai/v1"
EVOLINK_TOKEN = "YOUR_EVOLINK_TOKEN"

def evolink_image_generation(prompt):
    """
    EvoLink의 지능형 라우팅을 사용하여 이미지를 생성합니다.
    EvoLink는 선택한 모델에 대해 가장 저렴한 제공업체로 자동 라우팅합니다.
    """
    headers = {"Authorization": f"Bearer {EVOLINK_TOKEN}"}

    # 예시: Seedream 4.0을 사용하여 4K 이미지 생성
    payload = {
        'model': 'doubao-seedream-4.0',  # 또는 'gpt-4o-image', 'nano-banana'
        'prompt': prompt,
        'size': '1024x1024'
    }

    response = requests.post(f"{EVOLINK_API_URL}/images/generations",
                            headers=headers, json=payload)
    return response.json()

def evolink_video_generation(prompt):
    """
    EvoLink의 영상 모델을 사용하여 영상을 생성합니다.
    """
    headers = {"Authorization": f"Bearer {EVOLINK_TOKEN}"}

    # 예시: Sora 2를 사용하여 오디오가 포함된 10초 영상 생성
    payload = {
        'model': 'sora-2',  # 또는 8초 영상을 위한 'veo3-fast'
        'prompt': prompt,
        'duration': 10
    }

    response = requests.post(f"{EVOLINK_API_URL}/videos/generations",
                            headers=headers, json=payload)
    return response.json()