Hugging Face 2026: GGUF tăng 464%, Local AI bùng nổ

Hugging Face cho biết hệ sinh thái open models đang dịch chuyển mạnh về phía Local AI: repository dùng định dạng GGUF tăng 464%, còn model dưới 1B parameters chiếm tới 83% tổng lượt download. Theo Hugging Face, đây là một phần trong báo cáo State of Open Models: Summer 2026.

Các con số này bác bỏ khá thuyết phục suy nghĩ rằng AI mã nguồn mở chỉ là cuộc đua model khổng lồ. Người dùng đang tải những model đủ nhỏ để chạy thực tế trên thiết bị và hạ tầng của họ.

Hub gần 3 triệu model, nhưng model nhỏ mới là tầng thực dụng

Số public model repositories trên HF Hub đã tăng từ 2,43 triệu lên 2,96 triệu; số dataset chạm mốc 1 triệu. Quy mô này cho thấy open-source AI đã có một chuỗi cung ứng dữ liệu và model rất lớn, dù chất lượng giữa các repo dĩ nhiên không thể đánh đồng.

Điểm đáng chú ý hơn nằm ở hành vi download: model dưới 1B parameters chiếm 83% lượt tải, trong khi nhóm trên 70B parameters chỉ chiếm 3%. Với Local AI, đây là tín hiệu rõ ràng: phần đông không chờ một cụm GPU để dùng LLM, họ cần model chạy được ngay trên phần cứng sẵn có.

GGUF, MLX và runtime local tăng tốc

Repository khai báo GGUF tăng 464%, mức tăng mạnh nhất trong các chỉ dấu runtime được nêu trong báo cáo. Lerobot tăng 194%, còn Apple MLX tăng 148%. Các định dạng và runtime này cho thấy giá trị của open weights đang được chuyển từ phòng benchmark sang laptop, máy Mac và các thiết bị edge.

Theo tôi, GGUF đáng theo dõi hơn các tuyên bố về model nghìn tỷ parameters: nó phản ánh việc người dùng thật sự đang đóng gói, quantize và chạy AI ở đâu.

Qwen dẫn đầu, frontier open weights vẫn phình to

Dòng Qwen của Alibaba có 151.448 model phái sinh và đạt hơn 39,6 triệu lượt tải GGUF mỗi tháng. Con số này vượt Gemma với 20,8 triệu và Llama với 7,5 triệu. Đây là lợi thế phân phối thực tế, không chỉ là một vị trí trên benchmark.

Ở đầu kia của thị trường, các lab Trung Quốc đã phát hành open models từ 754B đến 2,78T parameters, gồm Kimi K3 và Qwen 3.8 2.4T. AMD và NVIDIA cũng đã xuất xưởng hơn 200 model repo mở mỗi bên để tối ưu hóa phần cứng. Cuộc đua open weights vì thế vừa là cuộc đua năng lực model, vừa là kênh kéo nhu cầu chip.

Điểm cần nhớ

• HF Hub có 2,96 triệu public model repositories và 1 triệu dataset.
• Model dưới 1B parameters chiếm 83% lượt download; model trên 70B chỉ chiếm 3%.
• Repo dùng GGUF tăng 464%, cao hơn Lerobot và Apple MLX.
• Qwen dẫn đầu với 151.448 derivatives và 39,6 triệu lượt tải GGUF hàng tháng.

Nguồn tham khảo: Hugging Face