Bài viết

Google vừa ra mắt Gemini Decisions API, endpoint mới dùng Gemini Decision 1 để chấm điểm lựa chọn thay vì tạo câu trả lời từng token. Theo thông tin từ Google, API có thể xử lý tối đa 1.000 câu hỏi trên cùng một đầu vào đa phương thức và trả về xác suất cùng điểm tin cậy.
Đây là hướng tiếp cận dành cho ứng dụng cần phân loại, định tuyến hoặc đánh giá theo tiêu chí rõ ràng — nơi tốc độ và tính nhất quán thường quan trọng hơn một đoạn văn trả lời dài.
Thay vì sinh văn bản theo từng token, Gemini Decision 1 đánh giá các phương án trong một lượt xử lý. API hỗ trợ ba dạng câu hỏi: yes/no với xác suất, lựa chọn từ 2 đến 255 phương án với xác suất được chuẩn hóa, và chấm điểm theo rubric có trọng số cùng xác suất cho từng mức.
Mỗi kết quả đi kèm điểm tin cậy từ 0 đến 1. Nhà phát triển có thể dùng ngưỡng này để chuyển trường hợp chưa rõ sang một model khác hoặc người kiểm duyệt. Một yêu cầu có thể chứa tối đa 1.000 câu hỏi, phù hợp với các luồng cần đánh giá hàng loạt trên cùng tài liệu hoặc dữ liệu đầu vào.
API nhận văn bản, hình ảnh, âm thanh, video và PDF. Google nêu giới hạn ngữ cảnh tối đa 256K token; các ngữ cảnh trong benchmark được công bố lên tới 16K token. Độ phân giải ảnh và video có thể điều chỉnh để kiểm soát lượng token đầu vào.
Google công bố độ trễ đầu-cuối khoảng 150–250 ms, trong đó thời gian tính toán trung vị của model là 50–100 ms. Độ trễ gần như không đổi khi tăng từ 1 lên 100 câu hỏi mỗi yêu cầu. Giá đầu vào là 0,10 USD mỗi triệu token, không tính phí token đầu ra; phần đầu vào dùng chung chỉ bị tính một lần cho mỗi yêu cầu.
Trên bộ benchmark dùng chung, Google cho biết API có chi phí thấp hơn gần 5 lần so với Gemini 3.5 Flash-Lite qua Interactions API. Google cũng nói Gemini Notebook dùng định tuyến này để giảm tới 40% độ trễ cho truy vấn thường ngày. Đây là số liệu do Google công bố, không phải cam kết hiệu năng cho mọi ứng dụng.
Google cho biết model dẫn đầu bộ benchmark của hãng về sai số calibration. Gemini Decisions API hiện có trên Gemini API và Google AI Studio, kèm gói miễn phí để thử nghiệm. Tích hợp với OpenRouter, LangChain, Vercel AI SDK, LiteLLM, Pydantic AI cùng các SDK khác đang được triển khai; hỗ trợ Gemini trên Google Cloud sẽ ra mắt sau.
Với tôi, điểm đáng chú ý là API biến việc phân loại và chấm rubric thành tác vụ có cấu trúc, dễ đưa vào quy trình tự động. Đội phát triển vẫn cần kiểm tra độ tin cậy trên dữ liệu riêng trước khi giao quyết định nhạy cảm cho model.
Nguồn tham khảo: Google
Tác giả: Cường Nguyễn — Founder AI Ops Solutions | Verified n8n Creator. Kết nối: Facebook · LinkedIn · YouTube · TikTok
Bài viết là góc nhìn cá nhân của tác giả, mang tính tham khảo — không phải tin tức báo chí.
Đừng bỏ lỡ bài viết tiếp theo. Đăng ký để nhận trong inbox.

Tác giả
Tôi là Cường Nguyễn - Founder của AI Ops Solutions.
Tôi từng là Logistics Operations Manager và đồng sáng lập thương hiệu CATCA - #1 Shopee ngành Pet Care.