TL;DR

  • OpenAI Decisions API는 제한된 선택지를 미리 지정하면 GPT-6 Luna가 텍스트나 이미지 맥락을 바탕으로 답을 고르는 API이며, 현재 제한적 프리뷰 단계임.
  • 선택 결과는 콘텐츠 분류, 요청 라우팅, 워크플로 분기, 에이전트의 다음 행동 선택 등에 활용 가능함.
  • Structured Outputs는 생성 응답의 JSON 형식을 제한하는 기능이고, Decisions API는 사전 정의된 답을 중심으로 한 인터페이스임.
  • 선택지가 적절하지 않거나 필요한 근거가 주어지지 않으면 잘못된 판단이 나올 수 있으므로 검토 경로와 애플리케이션 측 권한 확인이 필요함.
  • 공개 접근 전에 대표 입력과 기대 결과를 검토하고, 분류 오류·검토 전환율·전체 처리 시간을 측정해야 함.

Decisions API란 무엇인가

  • OpenAI는 2026년 9월 29일 DevDay에서 Decisions API를 발표함. API는 고객 메시지에 답변을 작성하기 전에 어느 팀이 요청을 처리할지와 같은 선택을 별도 인터페이스로 다룸.
  • 개발자는 애플리케이션이 내려야 할 결정을 정하고 가능한 답을 제공함. 모델은 주어진 맥락을 질문과 대조해 답을 선택하며, 애플리케이션은 자체 규칙에 따라 선택 결과를 해석함.

사전 정의된 답을 이용하는 방식

  • 지원 요청의 담당 팀을 정하는 예시에서 선택지는 계정 접근, 결제, 기술 지원, 검토 필요 등으로 구성 가능함.
  • 청구서가 언급됐더라도 고객이 로그인할 수 없어 청구서를 내려받지 못하는 상황이라면, 우선 대응할 문제는 결제가 아니라 계정 접근일 수 있음. 질문과 선택지 설명에 이런 우선순위를 담아야 모델이 최종 목표와 먼저 필요한 조치를 구분할 수 있음.
  • 이 라우팅 예시는 애플리케이션 설계 사례이며, Decisions API의 요청 스키마를 나타내지 않음. 범주 이름은 애플리케이션이 제공할 선택지이며, 실제 메시지에서 라우팅 동작을 시험해야 함.

OpenAI Decisions API의 활용 사례

  • 발표된 활용 사례는 가능한 결과를 애플리케이션이 미리 지정할 수 있다는 공통점이 있음. 따라서 워크플로 분기 선택이나 콘텐츠 범주 식별 등에 적용을 검토할 수 있음.
  • 문서 접수 시스템은 들어온 문서를 제품 안내서, 사고 보고서, 검토 필요 항목으로 분류하고 결과에 따라 다음 처리 단계를 선택할 수 있음. 문서에서 이름이나 날짜도 추출해야 한다면 별도의 추출 단계가 필요함.
  • 브라우저 워크플로는 화면 이미지가 로그인 화면인지 오류 대화상자인지 판별하고, 알 수 없는 화면을 위한 검토 선택지도 둘 수 있음. 분류 결과는 코드가 고려할 분기를 알려주지만, 브라우저와 상호작용하는 작업은 별도 동작임.
  • 위 사례는 평가 후보임. 입력을 지원한다는 사실만으로 특정 문서나 인터페이스를 모델이 얼마나 정확히 인식하는지는 입증되지 않음.

Structured Outputs와의 차이

  • Structured Outputs는 모델 응답을 JSON 스키마에 맞추는 기능임. 열거형(enum)으로 필드를 범주 목록에 제한할 수 있으므로, 일반 목적의 OpenAI 모델로도 분류 워크플로를 구축할 수 있음.
  • Decisions API는 사전 정의된 답을 중심으로 한 인터페이스인 반면, Structured Outputs는 생성 응답의 형식을 지정함. 분류에는 범주만 필요할 수 있지만, 지원 답변에는 범주와 설명, 추출된 세부 정보가 함께 필요할 수 있음. 필요한 출력을 먼저 정의한 뒤 결정 과정을 분리하는 것이 전체 워크플로를 개선하는지 시험해야 함.
  • 스키마 준수와 올바른 판단은 별개의 문제임. 응답이 스키마에 맞더라도 로그인 문제를 잘못된 팀에 배정할 수 있으며, OpenAI도 Structured Outputs에 오류가 포함될 수 있다고 명시함. 어느 API를 사용하든 검토된 사례를 기준으로 범주 선택을 평가해야 함.
  • 이미 AI SDK를 사용한다면 기존 OpenAI 평가 어댑터가 구조화된 출력을 사용해 Responses API를 호출함. openai.evaluationModel('gpt-6-luna') 예시는 이 통합을 사용하며, Decisions API 예시로 간주해서는 안 됨.

제한된 선택지의 한계

  • 고정된 답 목록에 적절한 결과가 빠질 수 있음. 라우팅 시스템에 결제와 기술 지원만 있다면 계정 접근 요청도 둘 중 하나에 억지로 배정될 수 있으므로, 명시적인 검토 경로와 적용 조건을 정의해야 함. 검토 선택지가 있어도 모델이 이를 적절히 사용하는지 확인해야 함.
  • 애플리케이션이 제공하지 않은 근거가 필요한 질문도 있음. 고객에게 환불이 필요한지 판단하려면 주문 기록과 관련 정책이 필요할 수 있음. “두 번 결제됐다”는 메시지는 고객의 신고 내용을 보여줄 뿐, 실제로 두 번 결제됐다는 사실은 결제 시스템에서 확인해야 함. 모델에 판단을 요청하기 전에 관련 기록을 가져와야 함.
  • 선택 결과가 작업을 유발하더라도 작업 요건은 애플리케이션 코드에서 유지해야 함. 계정 접근으로 티켓을 라우팅할 수는 있지만 계정 재설정에는 기존 신원 확인 절차가 필요함. 분류 결과는 권한을 입증하지 않음.

공개 접근 전 워크플로 준비

  • 대표 입력을 모으고 각 입력에 기대되는 결정을 기록해야 함. 여러 문제가 함께 언급된 요청과 맥락이 충분하지 않은 사례도 포함해야 함. 검토자들이 적절한 담당 팀에 동의하지 못한다면 모델 오류로 간주하기 전에 라우팅 정책을 정리해야 함.
  • 각 답이 애플리케이션에서 수행할 동작을 정의해야 함. 예를 들어 계정 접근은 대기열에 배정하고, 검토 필요는 분류 작업을 생성하도록 설정할 수 있음. 시간 초과와 호출 실패에도 원래 요청을 보존하는 경로가 필요함.
  • 접근이 가능해지면 모델의 답을 검토된 기준 사례와 비교해야 함. 라우팅 오류와 검토로 보내는 요청의 비율을 함께 측정해야 함. 거의 모든 요청을 사람에게 보내 정확해 보이는 애플리케이션은 실제 업무량의 요구를 충족하지 못할 수 있음.
  • 전체 처리 경로의 경과 시간을 대체 경로까지 포함해 측정한 뒤 사용자에게 도움이 되는 변화를 판단해야 함.
  • 기존 구현 사례를 살펴보려면 Vercel의 Jev 리소스 허브에서 타입이 지정된 의사결정 가이드와 애플리케이션 예제를 확인할 수 있음. 이러한 패턴은 Decisions API로 시험할 질문과 후속 동작을 정하는 데 참고가 될 수 있음.
  • 기존 Jev 워크플로가 있다면 코드에 필요한 입력과 답변 필드를 기준으로 OpenAI Decisions API와 Jev를 비교해야 함.

자주 묻는 질문

  • OpenAI Decisions API는 공개됐나? 제한적 프리뷰 단계이며, 아직 일반 공개되지 않음.
  • 어떤 모델을 사용하는가? OpenAI는 Decisions API의 기반 모델로 GPT-6 Luna를 밝힘. 그렇다고 의사결정 인터페이스가 일반 Luna 요청의 모든 설정이나 기능을 제공한다고 볼 수는 없음.
  • Structured Outputs로 이미 콘텐츠를 분류할 수 있나? 가능함. 지원되는 OpenAI 모델은 JSON 스키마로 제한된 범주를 반환할 수 있으며, 이를 Decisions API와 비교 평가할 수 있음.
  • 사전 정의된 답은 올바른 결정을 보장하나? 보장하지 않음. 허용된 답을 선택하더라도 입력을 잘못 해석하거나 선택지 자체가 불완전할 수 있음. 검토된 사례를 기준으로 시험하고 불확실성 및 실패 처리 방식을 정해야 함.

관련 자료

  • OpenAI의 DevDay 2026 정리
  • Structured Outputs 문서
  • AI SDK 평가에서 GPT-6.1 Sol 사용하기
  • Vercel Academy의 Jev 의사결정 가이드