Bài viết


Theo tổng hợp của Orevia News, IBM vừa công bố hợp tác nhiều năm trị giá 240 triệu USD với Together AI. Mục tiêu là triển khai cụm siêu máy tính NVIDIA HGX B300 trên IBM Cloud, phục vụ nhu cầu suy luận mô hình mở hiệu năng cao.
Đây không phải thương vụ để khoe số GPU. Nó phản ánh một dịch chuyển rõ nét: doanh nghiệp đang đưa AI từ chatbot thử nghiệm vào luồng vận hành cần xử lý thật, ở quy mô thật. Cùng lúc, Ryanair ký thỏa thuận 5 năm với Google Cloud để tích hợp Gemini và DeepMind cho 35.000 nhân viên, phục vụ điều độ phi hành đoàn và bảo trì bay.
Thị trường Enterprise AI năm 2026 vì thế không thiếu quyết tâm hay ngân sách. Vấn đề lớn hơn nằm ở chỗ doanh nghiệp có biến chi phí hạ tầng, token và nhân sự triển khai thành kết quả tài chính đo được hay không.
Cơn sốt Agentic AI đang đẩy câu chuyện từ “AI trả lời hay” sang “AI có được phép làm việc hay không”. Gartner dự báo 40% ứng dụng doanh nghiệp sẽ tích hợp task-specific agent vào cuối năm 2026. Agent có thể đọc dữ liệu, gọi API, truy cập hệ thống và thực thi chuỗi tác vụ. Lợi ích lớn hơn chatbot, nhưng phạm vi sai cũng lớn hơn chatbot.
Đáng chú ý là số liệu sử dụng và số liệu hiệu quả tài chính đang lệch nhau mạnh. Báo cáo PwC 2026 Global CEO Survey ghi nhận tỷ lệ nhân viên tiếp cận AI tăng 50%. Theo số liệu được dẫn từ NVIDIA, 64% doanh nghiệp đã ứng dụng AI vào thực tế. Nhưng PwC cho biết chỉ 12% CEO thấy AI đồng thời tăng doanh thu và giảm chi phí; 56% chưa thấy lợi ích tài chính rõ ràng.
Đó là lời cảnh báo cho mọi bảng slide khoe benchmark. Benchmark tốt không tự tạo ra ROI. Một mô hình suy luận nhanh cũng không cứu được dự án chọn sai quy trình, dữ liệu lộn xộn, hoặc giao Agent quyền quá rộng.
Với CTO và Tech Lead, hạ tầng như HGX B300 mở thêm lựa chọn chạy open model ở hiệu năng cao trên cloud. Điều này đáng giá với các tác vụ suy luận liên tục, cần kiểm soát mô hình hoặc cần tránh phụ thuộc tuyệt đối vào một API đóng. Tuy vậy, mua năng lực inference không đồng nghĩa đã mua được hiệu quả vận hành.
Việc cần làm trước tiên là đưa AI vào kỷ luật FinOps. Mỗi use case phải có ngân sách usage credits, chủ sở hữu chi phí, mức tiêu thụ được theo dõi và ngưỡng cảnh báo. Nếu đội ngũ chỉ đo số phiên chat, số Agent được tạo hay số model được thử, họ đang đo hoạt động thay vì kết quả.
Song song với FinOps là quản trị định danh. Agent tương tác với dữ liệu nội bộ phải có IAM riêng, phân quyền theo tác vụ và giới hạn rõ quyền đọc, quyền ghi, quyền gọi API. Những cảnh báo về Agent tự truy cập hệ thống ngoài sandbox cho thấy sai lầm phổ biến: xem Agent như một Copilot vô hại, dù thực tế nó có thể là một tài khoản vận hành tự động.
Doanh nghiệp nên bắt đầu ở quy trình có đầu vào, đầu ra và thời gian xử lý đo được. Khi Agent chưa chứng minh được KPI tại phạm vi hẹp, cấp quyền ghi vào cơ sở dữ liệu là quyết định liều lĩnh.
Tôi đánh giá thương vụ IBM – Together AI là tín hiệu đúng: thị trường đang nghiêm túc hơn với inference, nơi tiền được tiêu mỗi ngày để tạo ra công việc hoàn thành. Nhưng tôi chê cách nhiều doanh nghiệp vẫn nói về AI như một chương trình chuyển đổi chung chung. Số liệu PwC đủ lạnh lùng: mức độ tiếp cận tăng mạnh, còn lợi ích tài chính chưa theo kịp.
Kỷ nguyên demo hào nhoáng nên kết thúc tại đây. Hạ tầng mạnh là cần thiết, song nó chỉ khuếch đại cả quyết định đúng lẫn quyết định sai. Một Agent được cấp quyền quá mức trên nền tảng tốt sẽ gây hậu quả nhanh hơn, không phải ít hơn.
Khuyến nghị cụ thể: trước khi mở rộng bất kỳ dự án Agentic AI nào, hãy yêu cầu đội triển khai lập một bảng KPI gồm chi phí mỗi tác vụ, thời gian xử lý trước và sau AI, tỷ lệ lỗi, cùng quyền truy cập mà Agent cần. Nếu không chỉ ra được bốn thứ này, đừng duyệt ngân sách hạ tầng lớn và tuyệt đối chưa cho Agent quyền ghi vào hệ thống lõi.
Dữ liệu PwC không nêu một nguyên nhân duy nhất, nhưng khoảng cách giữa tỷ lệ ứng dụng và tỷ lệ đạt lợi ích kép cho thấy triển khai thực tế chưa tự động chuyển thành doanh thu tăng hoặc chi phí giảm. AI cần gắn với quy trình và KPI vận hành cụ thể.
Cụm này được triển khai trên IBM Cloud để phục vụ suy luận mô hình mở hiệu năng cao. Nó nhắm tới nhu cầu vận hành inference ở quy mô doanh nghiệp, thay vì chỉ thử nghiệm model trong môi trường nhỏ.
Chatbot chủ yếu phản hồi nội dung. AI Agent có thể thực hiện chuỗi tác vụ, truy cập dữ liệu và gọi API. Vì vậy, doanh nghiệp cần IAM riêng, phân quyền tối thiểu và sandbox trước khi cho Agent tương tác với hệ thống nội bộ.
Nguồn tham khảo: Orevia News
Bài viết là góc nhìn cá nhân của tác giả, mang tính tham khảo — không phải tin tức báo chí.
Đừng bỏ lỡ bài viết tiếp theo. Đăng ký để nhận trong inbox.

Tác giả
Tôi là Cường Nguyễn - Founder của AI Ops Solutions.
Tôi từng là Logistics Operations Manager và đồng sáng lập thương hiệu CATCA - #1 Shopee ngành Pet Care.