OpenAI, ‘판단만 하는’ API 공개…긴 답변 대신 확률·선택·점수 반환

AI에게 길게 답을 쓰게 하지 않고 ‘어디로 보낼지, 무엇을 고를지’만 빠르게 판단시키는 전용 경로가 나왔다. OpenAI는 한국시간 10월 7일 오전 Decisions API 공개 베타를 발표했다. 텍스트나 이미지를 넣으면 GPT-6 Luna가 조건이 참일 확률, 미리 정한 선택지, 기준에 따른 점수 가운데 지정한 형식으로 답한다. OpenAI는 같은 Luna를 Responses API로 이용하는 경로보다 판단이 최대 10배 빠르다고 설명한다. 앱 전체가 항상 10배 빨라지거나 정답률이 10배 오른다는 뜻은 아니다.

민원 한 줄을 읽고 담당 부서를 고르는 식

예를 들어 ‘주문 대금이 두 번 청구됐다’는 요청을 결제·기술·배송·기타 가운데 어디로 보낼지 고를 수 있다. 모델이 부서 이름을 임의로 만들어 길게 서술하는 대신 개발자가 정한 선택지 중 하나를 반환한다. 이때 각 선택지의 확률과 별도 신뢰도도 포함된다. 앱은 이 값을 보고 담당 부서로 보내거나 애매한 요청을 사람이 검토하도록 설계할 수 있다. 아직 연결하지 않은 부서나 도구를 AI가 알아서 만들고 실행한다는 기능은 아니다.

조건 판정인 predicate는 질문이 참일 확률을 0에서 1 사이로 돌려준다. 공식 예시는 상품 사진에 균열·찢김·찌그러짐이 보이는지, 포장이나 그림자는 제외하고 확인하는 작업이다. 문장이나 사진을 통해 관찰할 기준을 질문에 적고 모델이 추정한 확률을 받는다. 이를 제품 파손의 확정 증명이나 실측 피해율로 읽을 수는 없다. 실제 서비스에서 어느 값부터 검토할지는 오탐과 놓친 사례의 비용을 고려해 정해야 한다.

choice는 순서가 없는 분류에, score는 낮음에서 높음으로 정렬된 기준에 쓰도록 구분했다. 예컨대 문제 심각도를 ‘겉모양 문제·우회 수단 있음·완전히 막힘’으로 정하면 단계의 번호는 0·1·2가 된다. score는 각 단계 확률을 가중 평균하므로 1.1처럼 단계 사이의 값도 나올 수 있다. 무조건 한 등급을 골라야 하는 업무라면 choice와 다르다는 점을 알아야 한다. 점수 수치가 곧 사람에게 부여된 객관적 평가라는 기능도 아니다.

같은 입력에 여러 질문, 설명문 생성은 다른 API

한 상품 사진의 파손 여부와 상품 종류를 따로 묻는 등 서로 독립된 질문은 한 요청에 담을 수 있다. 질문마다 이름을 붙이며 답은 질문 순서로 돌아온다. 반대로 앞선 답을 받아야 다음 결정을 할 수 있는 작업은 요청을 나눠야 한다. API 참조는 질문별로 점수 대신 refusal이 반환될 수도 있다고 명시한다. 답이 반드시 확률이나 선택으로 온다고 가정하고 거절 처리를 빼면 안 된다.

자신의 JSON 구조에 맞춰 여러 필드를 추출하거나 이유 설명을 글로 받아야 한다면 기존 Responses API의 Structured Outputs가 맞는 경로라고 공식 문서는 구분한다. 모델이 도구 호출을 요청하면서 인수까지 만들어야 할 때는 function calling을 쓴다. Decisions는 분류·선별·우선순위·모델이나 도구 선택을 위한 작은 판단 단계다. 앱이 이후 동작을 수행하는 부분까지 이 API에 맡기는 것은 아니다.

현재 지원 모델은 gpt-6-luna 한 가지이고 전용 /v1/decisions 경로를 이용한다. 입력은 텍스트 문자열 또는 텍스트·이미지가 담긴 user 메시지다. 이미지의 외부 웹 주소나 파일 ID 입력은 지원하지 않으며 인라인 데이터 형식이 필요하다. API 참조는 한 요청의 이미지 수를 최대 128개로 명시하고 파일·음성·도구·다른 역할의 메시지를 지원 입력에서 제외한다. 대화 기록이나 링크를 그대로 넘기던 기존 호출을 주소만 바꾸면 모두 호환된다는 출시가 아니다.

입력 100만 토큰당 10센트, 출력 요금은 없음

공식 가이드에 적힌 Decisions의 Luna 요금은 입력 100만 토큰당 0.10달러다. 입력 토큰만 과금하고 캐시 읽기·쓰기나 출력 토큰 요금은 없다고 안내한다. 지역 처리 가산과 긴 문맥의 입력 요금 배수는 적용될 수 있다. 이 가격은 /v1/decisions에 관한 조건이며 Luna로 다른 API를 호출하는 가격까지 같은 것으로 바꿔 읽으면 안 된다. 모든 앱에 월정액으로 무제한 제공되는 무료 기능도 아니다.

개발자는 Playground에서 질문과 입력을 먼저 확인할 수 있다. 공개 베타이며 정식 제공은 앞으로 수주 안을 예상한다고 안내하지만 확정 출시일은 적혀 있지 않다. 이번 변화의 실질적인 선택지는 단순 분류까지 장문의 생성 과정을 쓰던 앱이 판단 전용 경로를 따로 둘 수 있다는 점이다. 속도 주장은 OpenAI의 발표 조건이고, 실제 서비스의 정확도·총지연·비용 절감은 서비스 자료로 별도 평가해야 한다. PacPik은 이 기사 취재에서 유료 API를 실행하지 않았다.