OpenAI mở thử nghiệm rộng Decisions API: trước khi đổi luồng phân loại, hãy đo trên dữ liệu thật

OpenAI hiện đưa Decisions API vào giai đoạn thử nghiệm rộng (public beta). Thay vì yêu cầu mô hình viết một câu trả lời tự do rồi tự bóc JSON hoặc áp thêm logic phía sau, API này nhận văn bản, hình ảnh hoặc cả hai và trả về một quyết định có kiểu xác định. OpenAI nêu ba dạng chính: xác suất một điều kiện đúng, lựa chọn từ một tập cố định, hoặc điểm theo thang tiêu chí.

Điểm khác biệt này hữu ích cho những bước vốn không cần một đoạn văn: phân loại yêu cầu hỗ trợ, chọn hàng đợi xử lý, chấm mức độ nghiêm trọng hoặc ưu tiên một công việc. Tài liệu hiện tại cho biết địa chỉ gọi API (endpoint) riêng là POST /v1/decisions và mô hình duy nhất được hỗ trợ trong giai đoạn thử nghiệm rộng là GPT-6 Luna. OpenAI nói dự kiến đưa API lên trạng thái phát hành chính thức (GA) trong vài tuần tới; vì vậy giao diện, giới hạn hoặc điều kiện vận hành vẫn nên được coi là có thể thay đổi trong giai đoạn thử nghiệm.

OpenAI mô tả Decisions API nhanh hơn khoảng 10 lần so với Responses API cho loại việc tương ứng. Đây là con số do nhà cung cấp công bố trong tài liệu, không phải phép đo độc lập và cũng không có nghĩa mọi hệ thống sẽ giảm độ trễ (latency) đúng 10 lần. Tổng thời gian của một luồng còn phụ thuộc kích thước dữ liệu đầu vào, mạng, xử lý trước/sau, số lần thử lại khi lỗi và những dịch vụ khác nằm quanh lời gọi API.

Giá công bố cho GPT-6 Luna trên /v1/decisions là 0,10 USD cho mỗi 1 triệu token đầu vào — đây là giá theo mức sử dụng, không phải phí thuê bao. Với tỷ giá tham khảo khoảng 26.000 VND/USD ngày 7/10/2026, mức này tương đương khoảng 2.600 đồng cho mỗi 1 triệu token đầu vào. Tài liệu Decisions công khai được dùng cho bài này nêu mức giá đầu vào đó; bài không suy rộng rằng các loại phí khác bằng 0 nếu tài liệu không nói rõ. OpenAI cũng lưu ý phí xử lý theo vùng và hệ số giá cho dữ liệu đầu vào dài có thể áp dụng, nên 0,10 USD không tự động là chi phí cuối cùng của mọi yêu cầu.

Ba kiểu câu hỏi khiến API này dễ hiểu hơn nếu coi nó là một lớp quyết định có cấu trúc. Với predicate (kiểm tra một điều kiện), ứng dụng nhận xác suất cho điều kiện đó, chẳng hạn ảnh sản phẩm có dấu hiệu hư hỏng hay không. Với choice (chọn một phương án), mô hình chọn một giá trị từ danh sách do ứng dụng định nghĩa, chẳng hạn chuyển khiếu nại sang thanh toán, kỹ thuật hay giao hàng. Với score (chấm theo thang điểm), ứng dụng đưa ra các mức có mô tả và nhận một mức phù hợp. Cấu trúc này giảm nhu cầu yêu cầu mô hình tự viết định dạng đầu ra, nhưng không loại bỏ việc phải thiết kế tiêu chí rõ ràng.

Điều cần tránh là coi độ tin cậy hoặc xác suất (confidence/probability) như một ngưỡng đúng sẵn để đưa vào hệ thống đang vận hành thật. Nếu hệ thống đang phân loại yêu cầu hỗ trợ, hãy lấy một tập dữ liệu đã có nhãn và so Decisions API với mốc so sánh hiện tại (baseline). Đo ít nhất bốn thứ: tỷ lệ quyết định đúng theo từng lớp, các lỗi có hậu quả cao, độ trễ trung vị và độ trễ của nhóm yêu cầu chậm (p50/p95), cùng tổng token đầu vào. Sau đó mới chọn ngưỡng hoặc quyết định có cho phép tự động đi tiếp hay phải chuyển sang người kiểm tra.

Một thử nghiệm nhỏ có thể bắt đầu bằng một bước dễ hoàn tác. Ví dụ, giữ nguyên bộ định tuyến (router) hiện tại nhưng chạy Decisions API song song trong một tuần, không cho kết quả mới điều khiển hệ thống thật. So lựa chọn của API với quyết định thật của đội vận hành. Nếu một lớp hiếm nhưng quan trọng bị bỏ sót, con số độ trễ đẹp không bù được lỗi đó.

Cũng cần kiểm tra cách hệ thống xử lý từ chối trả lời (refusal) và dữ liệu khác đáng kể so với tập thử. Tài liệu mẫu của OpenAI cho thấy câu trả lời có thể là refusal; ứng dụng phải có nhánh xử lý rõ ràng thay vì giả định luôn nhận predicate, choice hoặc score. Với ảnh, ngôn ngữ khác, nội dung rất dài hoặc dữ liệu khác với tập thử, nên đo riêng thay vì suy từ một bản trình diễn ngắn.

Decisions API đáng chú ý vì biến một nhóm tác vụ “ra quyết định” thành một chức năng API riêng thay vì buộc mọi thứ đi qua sinh văn bản tự do. Nhưng giai đoạn thử nghiệm rộng mới cho biết OpenAI đã mở một giao diện, công bố một mức giá đầu vào và đưa ra tuyên bố hiệu năng. Nó chưa chứng minh API sẽ chính xác hơn, rẻ hơn tổng thể hoặc phù hợp hơn với bộ định tuyến hiện tại của từng đội. Quyết định thay thế nên đến sau một phép thử có mốc so sánh, dữ liệu thật và tiêu chí lỗi rõ ràng.

Nguồn tham khảo

• OpenAI API Docs — Decisions: trạng thái thử nghiệm rộng, endpoint, GPT-6 Luna, các kiểu câu hỏi, tuyên bố tốc độ và mức giá đầu vào; kiểm tra ngày 7/10/2026.
• OpenAI API Changelog: đối chiếu thời điểm và trạng thái phát hành của API.