GPT-6 Luna vs GPT-5.6 Luna: 측정 가능한 업그레이드 계획
Luna 워크로드에서 쓸모 있는 단위는 대개 합격 레코드입니다. 필드가 정확한 송장, 라벨이 맞게 붙은 티켓, 후속 검증을 통과한 변환 결과가 그것입니다. JSON으로 파싱되는 응답도 틀릴 수 있습니다. 토큰 청구액이 낮아도 그 뒤에 더 길어진 재시도 큐가 숨어 있을 수 있습니다.
문서화된 기준선과 미검증 후보
| 항목 | GPT-5.6 Luna | GPT-6 Luna, 9월 20일 확인 |
|---|---|---|
| 공식 식별자 | gpt-5.6-luna | 모델 전용 카탈로그 항목을 찾지 못함 |
| 문서화된 포지셔닝 | 비용에 민감한 대량 작업 | 미검증 |
| 입력 / 출력 | 텍스트와 이미지 / 텍스트 | 확인한 출처에 공개되지 않음 |
| 컨텍스트 / 최대 출력 | 1,050,000 / 128,000 토큰 | 확인한 출처에 공개되지 않음 |
| 추론 effort | none, low, medium(기본값), high, xhigh, max | 미검증 |
| 스트리밍, function calling, structured outputs | 업스트림 모델 레퍼런스에 기재됨 | 미검증 |
| 여러분의 처리 결과 | 여러분의 레코드로 직접 측정해야 함 | 이 가이드를 위해 수행한 측정 없음 |
이 사실들이 입증하는 것은 식별자와 출발점이 되는 계약입니다. 미래의 Luna가 같은 스키마 동작을 유지한다거나, 비용이 덜 든다거나, 여러분의 큐를 더 빨리 처리한다는 것은 입증하지 않습니다.
실제 큐를 반영하는 레코드 세트 만들기
여러분의 워크로드 분포에서 출발하세요. 균형 잡힌 테스트 세트가 반드시 카테고리별로 같은 개수를 뜻하지는 않습니다. 한 고객사 양식이 물량 대부분을 차지한다면 그만큼 의미 있게 반영되어야 합니다. 동시에, 드물더라도 롤아웃을 막을 만큼 비용이 큰 실패 유형은 포함하세요.
안정적인 레코드 ID, 입력 버전, 기대 출력, 허용되는 null 값, 검증 규칙, 에스컬레이션 판정을 저장합니다. 평가 환경이 민감한 콘텐츠를 처리할 권한이 없다면 해당 내용은 제거하세요. 프롬프트, 스키마, 전처리, 후처리의 리비전도 데이터셋과 함께 보관합니다.
세트를 작은 개발용 부분과 따로 떼어 둔(held-out) 검증용 부분으로 나누세요. 앞쪽은 하네스의 명백한 실수를 고치고 후보를 튜닝하는 데 씁니다. 뒤쪽은 튜닝한 구성이 일반화되는지 보는 데 씁니다. 모든 레코드에 맞춰 튜닝해 놓고 같은 레코드를 새 테스트인 것처럼 보고하면 신뢰도를 부풀리게 됩니다.
결과는 워크로드 슬라이스별로 묶어서 보세요. 전체 정확도는 멀쩡해 보이는데 특정 언어, 문서 템플릿, 물량이 적은 라벨 하나가 불안정해질 수 있습니다. 전체 점수는 실제로 보낼 트래픽 비중으로 가중하고, 중요한 슬라이스는 따로 보여 주세요.
반복 가능한 여섯 가지 작업과 수락 규칙
| 워크로드 | 포함할 케이스 | 수락 규칙 |
|---|---|---|
| 송장 또는 양식 추출 | 누락된 값, 서로 맞지 않는 합계, 여러 개의 날짜, 스캔된 페이지 | 필수 필드가 정답과 일치하고, 없는 값은 없는 채로 남으며, 합계가 정해진 검산을 통과함 |
| 티켓 분류 | 비슷한 라벨, 여러 주제가 섞인 건, 드문 긴급 건 | 라벨과 에스컬레이션이 정확함. 클래스별 위양성과 위음성을 측정 |
| 구조화 요약 | 긴 스레드, 뒷부분에서 나온 정정, 해결되지 않은 질문 | 해결책을 지어내지 않고 최종 상태와 남은 조치 사항을 보존함 |
| 데이터 정규화 | 단위, 로케일, 날짜 형식, 모호한 식별자 | 정규화된 값이 정확하거나 불확실성을 명시함. 모호한 필드를 조용히 추측하지 않음 |
| 반복적인 코드 변환 | 유효한 소스 입력과 잘못된 소스 입력, 이미 변환된 파일 | 출력이 파서/테스트를 통과하고, 무관한 내용을 보존하며, 다시 처리해도 안전함 |
| 도구를 활용한 레코드 조회 | 레코드 없음, 중복 매칭, 조회 후 타임아웃 | 레코드 연결이 정확하고 불확실성을 명시함. 도구 결과를 지어내거나 쓰기를 중복하지 않음 |
스키마 유효성과 의미상의 정확성은 구분하세요. 예를 들어 송장 응답이 키와 타입은 모두 맞는데 공급업체의 납세자 번호를 고객 쪽에 넣었을 수 있습니다. "JSON 유효율" 하나만 보면 이런 실패는 가려집니다.
리뷰어가 필요한 작업도 있습니다. 리뷰어에게 루브릭을 주고, 가능하면 모델 라벨을 가리세요. 의견이 갈린 건은 기록하고 일관된 방식으로 정리합니다. 자동으로 판정한 레코드가 몇 건이고 사람이 필요했던 레코드가 몇 건인지도 보고하세요. 수동 검토가 늘어나는 마이그레이션은 운영 비용을 바꿉니다.
동시성을 올리기 전에 호환성부터 확인하기
대규모 재실행을 돌리기 전에 후보의 정확한 식별자와 지원되는 endpoint를 확인하세요. 모델 선택은 설정으로 빼 두어서, 작업을 만들어 내는 모든 프로듀서를 다시 작성하지 않고도 바꿀 수 있게 합니다. 검색용 slug를 문서화된 요청 ID 대신 쓰지 마세요.
추론 effort, 출력 한도, 스키마 형식, 스트리밍, 도구 응답 등 실제로 쓰는 제어 옵션을 점검하세요. GPT-5.6 Luna가 받아들이던 파라미터를 후속 모델은 거부하거나 다르게 해석할 수 있습니다. HTTP 성공 응답은 요청한 설정이 실제로 반영됐다는 증거가 아닙니다.
이 점검에서 실패 경로도 함께 돌려 보세요.
- 잘리거나 형식이 깨진 출력은 검증에서 실패하고, 횟수가 제한된 재시도 정책을 따라야 합니다.
- 거부(refusal)는 비어 있지만 유효한 추출 결과와 구분되어야 합니다.
- rate limit은 무제한 재시도 폭주가 아니라 통제된 백오프를 유발해야 합니다.
- 부분 스트림과 네트워크 타임아웃은 합격 레코드로 집계되어서는 안 됩니다.
- 재실행된 작업은 식별자를 유지하고 외부 쓰기를 중복하지 않아야 합니다.
필수 동작이 실패하면, 물량을 늘려 테스트하기 전에 연동을 고치거나 해당 워크로드를 기존 라우트에 남겨 두세요. 검증이 깨진 상태에서 얻은 처리량 수치는 쓸모 있는 비교가 아닙니다.
응답 속도가 아니라 합격 처리량 측정하기
두 구성 모두에 같은 레코드 구성과 재시도 정책을 적용해 동시성을 단계적으로 올려 가며 통제된 테스트를 돌리세요. 처음의 작은 시험은 기본적인 실패를 찾아내고, 더 큰 실행은 큐 적체와 rate limit 동작을 드러냅니다. 공급자가 문서화한 한도 안에서 진행하세요.
| 측정 항목 | 포함할 것 |
|---|---|
| 분당 합격 레코드 수 | 수락 규칙 전체를 통과한 레코드만 |
| 엔드투엔드 P50 / P95 | 큐 대기, 요청 시간, 백오프, 재시도, 필요한 에스컬레이션 |
| 큐 적체 시간(queue age) | 가장 오래 밀린 작업, 그리고 지속 부하에서 백로그가 늘어나는지 여부 |
| 오류율과 재시도율 | 전송, rate limit, 스키마, 의미 오류를 각각 구분 |
| 에스컬레이션 비중 | 다른 모델이나 수동 검토로 보낸 레코드 |
| 합격 레코드당 비용 | 측정한 파이프라인에서 과금된 모든 시도와 에스컬레이션 호출 |
출력 길이와 추론 구성은 항상 보이게 두세요. 응답이 훨씬 길어지는 후보는 지연 시간과 지출을 모두 바꿀 수 있습니다. 프롬프트 캐싱과 워밍업도 짧은 실행을 왜곡할 수 있으므로, 캐시가 데워진 상태였는지 밝히고 조건이 다른 실행을 설명 없이 섞지 마세요.
가능하면 테스트를 반복하고 샘플 크기와 실행 시간을 함께 제시하세요. 짧은 버스트로는 지속적인 큐 용량을 입증할 수 없고, 아주 작은 샘플에서 나온 낮은 P95는 믿을 만한 프로덕션 보증이 아닙니다.
쓸 수 있는 레코드의 비용 계산하기
합격 레코드당 API 비용 = 파이프라인 API 총지출 / 합격 레코드 수분자에는 실패한 시도와 재시도가 포함됩니다. 에스컬레이션 모델이 레코드를 고쳤다면 그 API 비용도 넣으세요. 사람의 수정 시간은 따로 추적하고, 금액으로 환산한다면 시간당 단가 가정을 명시합니다. 합격 레코드가 하나도 없는 큐라면 0으로 나누지 말고 실패로 보고하세요.
어떤 레코드를 마이그레이션할지, 혹은 하지 않을지 결정하기
시험 전에 중요한 슬라이스마다 임계값을 적어 두세요. 전체 성공 점수가 핵심 라벨이나 필드에서 발생한 용납할 수 없는 회귀를 덮어서는 안 됩니다. 값은 보편적인 마이그레이션 퍼센트가 아니라 여러분의 서비스 목표와 오류 비용에서 정하세요.
| 결과 | 조치 |
|---|---|
| 계약 또는 핵심 필드 점검 실패 | 워크로드를 기존 라우트에 유지하고, 재테스트 전에 실패를 문서화 |
| 정확도는 통과했지만 비용이나 큐 마감을 충족하지 못함 | 재시도, 출력 길이, effort, 에스컬레이션을 조사하고 아직 확대하지 않음 |
| 일상 슬라이스는 통과, 어려운 슬라이스는 회귀 | 라우팅 규칙을 테스트할 수 있고 그 오버헤드까지 계산에 넣은 경우에만 제한적인 분리를 검토 |
| 시험에서 모든 필수 관문 통과 | 중단 조건과 작동하는 롤백 경로를 갖춘 통제된 파일럿 시작 |
| 파일럿에서 오류, 백로그, 수정 시간이 증가 | 확대를 멈추고 영향받은 슬라이스를 롤백 |
섀도 재실행은 외부 부작용을 만들 수 없을 때 유용합니다. 라이브 작업에서는 작업 ID를 보관하고, 타임아웃 뒤 재시도하기 전에 상태를 확인하세요. 첫 응답을 받지 못했다는 이유만으로 fallback 라우트가 업데이트를 중복시켜서는 안 됩니다.
반복 작업에는 GPT-6 Luna일까, GPT-6 Sol일까?
FAQ
GPT-6 Luna가 GPT-5.6 Luna보다 빠르거나 저렴한가요?
이 가이드에는 검증된 비교가 없습니다. 새 모델의 가격, 처리량, 동작은 2026년 9월 20일에 확인한 출처에서 여전히 검증되지 않았습니다.
JSON이 유효하면 레코드를 합격 처리해도 되나요?
아니요. 스키마뿐 아니라 필수 필드, 값, 작업의 의미까지 검증하세요. 형식이 멀쩡한 응답도 레코드를 잘못 분류하거나 없는 값을 지어낼 수 있습니다.
초당 토큰 수를 비교해야 하나요?
실행을 진단하는 데는 도움이 될 수 있습니다. 하지만 큐 완료 상황은 분당 합격 레코드 수와 엔드투엔드 지연 시간이 더 잘 설명합니다. 재시도와 에스컬레이션도 포함하세요.
비용 예시는 실제 Luna 요율인가요?
아니요. 합격 레코드당 비용을 설명하기 위한 가상의 파이프라인 합계입니다. 실제 평가에는 현재 공급자 청구서를 사용하세요.
모든 레코드를 새 세대로 옮겨야 하나요?
아니요. 라우팅 규칙이 믿을 만하고 파이프라인 전체가 목표를 충족한다면 일부만 옮기는 것이 적절할 수 있습니다. 실패했거나 테스트하지 않은 슬라이스는 측정을 마친 라우트에 남겨 두세요.
어떤 경우에 롤백해야 하나요?
롤아웃 전에 정해 둔 중단 조건을 사용하세요. 핵심 필드 회귀, 늘어나는 백로그, 용납할 수 없는 오류율이나 재시도율, 추가 수정 작업, 비용 예산 초과가 그것입니다.
