AI NEWSROOMニュース · ガイド · 分析
検索
← ホーム
AIで開発

OpenAIがDecisions APIを公開、アプリ内の小さな分類・振り分けの工程向け

OpenAIはDecisions APIが最大10倍速く選べると述べています。答えが分かっている30件で今のやり方と並べて試し、信頼度のしきい値で難しいケースを人に回します。

中級6分で読めます参考ソース 2件

アプリが大きなモデルを1日に何千回も呼び出しているのは、サポートチケットを4つの担当窓口のどれかに振り分けるため、あるいはエージェント（自分でツールを呼び出すAIソフトウェア）が作業を続けるか聞き返すかを決めるため、ということがあります。2026年10月22日、OpenAIはDecisions APIを一般提供にしました。プログラムがサービスを呼び出すための入口であるAPIで、まさにこの種の仕事のために作られ、最大10倍速いと同社は述べています。この数字は、答えが分かっている自分のケース30件で、下の4つの手順に沿って試し、そのあとで切り替えを検討するのが妥当です。

OpenAIがDecisions APIについて述べていること

OpenAIによると、アプリやエージェントは1つの業務フローの中で小さな判断を数多く行います。入力を分類する、リクエストの送り先を選ぶ、次の行動を選ぶ、といったものです。1つ1つは単純でも、掛け合わせると遅延とコストが積み上がります。Decisions APIはGPT-6 Luna（OpenAIのモデル）をもとに作られ、答えの範囲が限られた質問に焦点を当てています。同社は、文章、画像、構造化データからほぼリアルタイムの判断を出せ、GPT-6 LunaをResponses API（OpenAIの標準的なモデル呼び出し口）で直接呼ぶより最大10倍速いと述べています。

投稿によれば、使い方はこうです。質問と許可する答えを定義し、文脈を文章、画像、JSON（キーと値の形の構造化データ）で渡します。APIは次の3種類のうち1つを返します。

  • predicate（命題）: ある条件が成り立つ確率（0から1）。例：商品に目に見える損傷があるか。
  • choice（選択）: あなたが渡した一覧の中の1つの値。例：エージェントは続行するか、再試行するか、確認を求めるか。応答には、各選択肢の確率と信頼度（confidence）も含まれます。
  • score（スコア）: 順序のある段階の採点基準に沿った点数。例：損傷の重さ。

1回のリクエストで最大400問まで尋ねられ、これは従来の上限の2倍です。料金は入力100万トークン（モデルが課金に使う文字量の単位）あたり0.10ドル、キャッシュされた入力（呼び出し間で再利用される文脈）は0.01ドルで、OpenAIは出力トークンには課金しないと述べています。米国とEUでは地域内処理が使えます。

投稿の顧客事例2件は、同社がこの数字をどう読ませたいかを示しています。Boxは、投稿内の引用によれば、企業文書を分類して次の工程へ振り分けるのに使っています。保険証明書30件のケースで、経路の選択はResponses APIより約5倍速く、精度は同じで、確信度の低いケースは人のレビュー担当に回します。Sierraは、顧客との実際の会話で次の行動を選ぶのに使っており、p95（呼び出しの95%がその時間以内に終わる）で280ミリ秒未満、従来の方法より約3倍速く、1回あたりのコストは90%低く、顧客の成果は落ちていないと述べています。これらはすべてOpenAIとその顧客が示した数字で、投稿には第三者が再実行したとは書かれていません。

答えが分かっている30件で試す4つの手順

以下の例は、あるオンラインショップ（説明のために作った例）が、サポートチケット1件ごとに4つの窓口（配送、返品交換、支払い、その他）のどれかを選ぶ場面です。

  1. 答えの範囲がはっきりした、繰り返しの選択を1つ選ぶ。 向いているのは、大きなモデルがラベルを1つ返すだけでよい工程で、上の4つの窓口がその例です。答えの一覧と、各答えの定義を1文ずつ書いておきます。それがそのままDecisions APIに渡すものになるからです。

  2. 人が答えを確認した30件を集める。 スタッフがすでに処理した過去のチケットから取り、2つの窓口の境目にある難しいケースも数件混ぜます。30という数はBoxの例にならったもので、大きな差を見るには足りますが、小さな差を見るにはもっと件数が必要です。

  3. 今のやり方とDecisions APIを、まったく同じ30件で実行する。 OpenAIの開発者ガイドによると、モデルにgpt-6-lunaを指定し、チケットの本文をinputに、choice型の質問をquestionsに入れてPOST /v1/decisionsを送ります。4つの窓口と、各答えに1文の説明を付けた場合、リクエスト本文は次のようになります（サンプルのチケットは説明のために作ったもので、構造はガイドの例に従っています）。

    {
  "model": "gpt-6-luna",
  "input": "Tôi bị trừ tiền hai lần cho đơn hàng này.",
  "questions": [{
    "type": "choice",
    "name": "hang_xu_ly",
    "instructions": "Chọn hàng xử lý phù hợp nhất cho phiếu hỗ trợ này.",
    "choices": [
      { "value": "giao_hang", "description": "Giao hàng và theo dõi đơn." },
      { "value": "doi_tra", "description": "Đổi hàng, trả hàng." },
      { "value": "thanh_toan", "description": "Thanh toán, hóa đơn và hoàn tiền." },
      { "value": "khac", "description": "Yêu cầu ngoài ba nhóm trên." }
    ]
  }]
}

    （サンプルのチケットは「この注文で二重に請求されました」という意味で、質問は「このサポートチケットに最も合う窓口を選んでください」、選択肢は配送と注文追跡、交換と返品、支払い・請求書・返金、上の3つ以外の依頼です。）

    応答は次のような形です（ガイドは「説明用の抜粋」と呼んでいます。ここのラベルと数字は、その形に合わせたサンプル値です）。

    {
  "answers": [{
    "type": "choice",
    "name": "hang_xu_ly",
    "choice": "thanh_toan",
    "probabilities": [
      { "value": "giao_hang", "probability": 0.01 },
      { "value": "doi_tra", "probability": 0.02 },
      { "value": "thanh_toan", "probability": 0.95 },
      { "value": "khac", "probability": 0.02 }
    ],
    "confidence": 0.93
  }]
}

    choiceは選ばれた答え、probabilitiesは各答えの確率、confidenceはその答えへの信頼度で、しきい値を決めるときに使うのがこのフィールドです。ガイドは、振り分け、絞り込み、レビューへの回付のしきい値を、自分のアプリのラベル付きの例で決め、誤検知と見逃しのコストに応じて選ぶよう勧めています。詳細はDecisions developer guideに、料金とキャッシュの詳細は同ガイドの料金と提供状況の項にあります。方法ごとに3つの数字を記録します。正解した件数、1回あたりの時間（通常の時間帯に何度か実行してp95、つまり20回のうち19回がその時間以内に収まる値を取る）、1回あたりのコストです。あわせて、Decisions APIが各ケースに返すconfidenceも見ます。間違ったケースのconfidenceが低いことが多ければ、しきい値を1つ決め、それを下回るものは人に回します。Boxのやり方と同じです。

  4. 結果を見る前に切り替えの条件を決める。 例：正解件数が今のやり方より低くなく、アプリで違いを感じられるだけ時間が減る場合にだけ切り替える。条件は実行前に紙に書き、結果に合わせて調整できないようにします。

結果が上回らなかったとき

Decisions APIの正解数が今のやり方より少なければ、間違ったケースを開き直します。許可した答えに意味の近いものが2つないか（「返品交換」と「返金」など）、担当者が頼りにしている情報が文脈から欠けていないかを確認します。答えの定義を直し、まったく同じ30件で再実行します。それでも誤りが1つの答えに集中するなら、その答えは今のやり方のままにして、残りだけ切り替えます。正解数が同じで、測った時間もほとんど減らないなら、今のやり方を続けます。OpenAIの投稿はアジアのいくつかの地域で容量を追加したと述べていますが、ベトナムについて個別には触れていないため、遅延は自分のサーバーから測る必要があります。

参考資料

  1. OpenAI, “Build more responsive apps with the Decisions API”（2026年10月22日） — Decisions APIの紹介、3種類の答え、料金、処理地域、BoxとSierraの事例を扱った投稿。
  2. OpenAI, Decisions developer guide — POST /v1/decisionsのリクエストと応答の形、信頼度にもとづくしきい値の助言、料金と提供状況の項の出典。

Nguồn tham khảo

  1. OpenAI
  2. developers.openai.com