Kimi K3 ra mắt: Kỷ nguyên mới của mô hình AI mã nguồn mở

Cuộc đổ bộ của Kimi K3 vào thế giới Open-Weight

Theo báo cáo mới nhất từ XDA-Developers, Moonshot vừa gây chấn động cộng đồng công nghệ khi phát hành công khai trọng số (open weights) của mô hình Kimi K3 trên Hugging Face. Đây là một bước tiến quan trọng, thu hẹp khoảng cách giữa các mô hình đóng (closed-source) đắt đỏ và cộng đồng AI mã nguồn mở.

Sức mạnh khủng khiếp từ 2,8 nghìn tỷ tham số

Kimi K3 sở hữu kiến trúc Mixture-of-Experts (MoE) với 2,8 nghìn tỷ tham số. Dù được nén bằng công nghệ MXFP4, mô hình này vẫn yêu cầu hạ tầng trung tâm dữ liệu khổng lồ để vận hành. Với 896 chuyên gia và kích hoạt 16 chuyên gia cùng lúc cho mỗi yêu cầu, K3 đạt hiệu suất vượt trội so với các đối thủ trong cùng phân khúc. Kiểm chứng từ các thang đo như ProgramBench và BrowseComp cho thấy K3 bám đuổi sát nút, thậm chí vượt qua cả GPT-5.6 Sol và Fable 5 ở nhiều hạng mục cụ thể.

Thách thức về hạ tầng cho người dùng cuối

Dù được công khai, việc tự vận hành Kimi K3 là “giấc mơ xa vời” đối với người dùng cá nhân. Với dung lượng 1,56TB, người dùng cần khoản đầu tư hơn 500.000 USD để triển khai nội bộ. Tuy nhiên, các kỹ sư đã thử nghiệm chạy mô hình này trên MacBook Pro với 64GB RAM bằng cách chia nhỏ tệp tin, dù tốc độ xử lý hiện chỉ đạt khoảng 0,32-0,34 token mỗi giây. Điều này chứng tỏ dù K3 chưa thể thay thế hoàn toàn các mô hình cục bộ trên PC gaming hiện nay, nó đã thiết lập một tiêu chuẩn mới về sức mạnh cho AI mã nguồn mở.

Các điểm nhấn chính:

• Kimi K3 sở hữu 2,8 nghìn tỷ tham số với kiến trúc Mixture-of-Experts.
• Hiệu suất cạnh tranh trực tiếp, thậm chí vượt mặt nhiều mô hình hàng đầu hiện nay với chi phí thấp hơn đáng kể.
• Mô hình được phát hành dưới giấy phép riêng, cho phép fine-tune và tùy chỉnh cho các doanh nghiệp.

Nguồn tham khảo: Kimi K3’s open weights just dropped, and it’s another reason local AI is getting scary good