Bài viết

[rank_math_breadcrumb]
Tích hợp Ollama ClawdBot: Bạn đã cài đặt ClawdBot (Moltbot) theo hướng dẫn bài trước chưa? Nếu rồi, chắc hẳn bạn đang rất “sướng” vì có một trợ lý sai đâu đánh đó.
Nhưng có một vấn đề: Tiền.
Mỗi lần bạn nhờ ClawdBot tóm tắt một bài báo hay viết một đoạn code, nó đều gọi API của Claude (Anthropic) hoặc OpenAI. Tiền cứ thế tinh ting trừ vào thẻ visa. Dù rẻ, nhưng cảm giác “xót ví” là có thật. Hơn nữa, bạn có dám gửi file bảng lương hay báo cáo tài chính cho một con AI chạy trên cloud không?
Đó là lúc chúng ta cần đến Ollama.
Hôm nay, tôi sẽ hướng dẫn bạn biến máy tính cá nhân thành một “AI Server” thực thụ. ClawdBot sẽ chạy hoàn toàn trên máy bạn, dùng bộ não Llama 3 (của Meta), miễn phí 100% và bảo mật tuyệt đối.
Direct Answer: Chạy Local AI giúp bạn làm chủ hoàn toàn dữ liệu (Privacy-first). Không một dòng chat hay file nào của bạn bị gửi ra khỏi máy tính. Đặc biệt, sau khi đầu tư phần cứng, chi phí vận hành gần như bằng 0 (chỉ tốn tiền điện), so với việc trả $20/tháng cho ChatGPT Plus hay tốn phí API theo token.
Hãy tưởng tượng viễn cảnh này: Bạn ngắt kết nối Internet. Bạn vẫn có thể bảo ClawdBot: “Quét folder Documents, tìm tất cả file hợp đồng và trích xuất tên khách hàng ra Excel cho tao” -> Nó làm phăm phăm. Ngầu chưa?
Chạy AI trên máy không dành cho máy văn phòng yếu nhớt. Để “đu” được trend này, bạn cần:
Nếu máy bạn đạt chuẩn, chúng ta bắt đầu.
Chúng ta sẽ dùng Ollama – công cụ giúp chạy Local LLM đơn giản nhất thế giới hiện nay.
ollama.com Tải bản cài đặt cho Mac hoặc Windows.ollama pull llama3Đợi nó tải xong (khoảng 4.7GB). Sau đó gõ thử: ollama run llama3>>>, chúc mừng bạn. Máy bạn đã chạy được AI.(Đây là bước quan trọng nhất, ít tài liệu hướng dẫn)
Mặc định ClawdBot chỉ hỗ trợ Claude và OpenAI. Nhưng chúng ta sẽ dùng một “mánh” (trick): Đó là Ollama có hỗ trợ chuẩn kết nối giống hệt OpenAI.
Chúng ta sẽ lừa ClawdBot rằng: “Ê, tao có cái server OpenAI này, dùng đi” – nhưng thực chất đó là server Ollama chạy trên máy mình.
~/.clawdbot/agents//agent/config.jsonmoltbot configure để sửa trực tiếp).Sửa phần cấu hình llm như sau:
{
“llm”: {
“provider”: “openai”,
“model”: “llama3”,
“apiKey”: “ollama”,
“baseUrl”: “http://127.0.0.1:11434/v1”
}
}
Giải thích:
provider: Vẫn để là “openai” (để Moltbot dùng giao thức OpenAI).baseUrl: Trỏ về địa chỉ Local của Ollama (port 11434).apiKey: Điền gì cũng được (Ollama không check key).moltbot restart).
Sau khi restart, tôi mở Telegram lên test ngay.
Test 1: Logic thông thường
“Viết cho tao một email xin nghỉ phép vào thứ 6 này vì lý do đi khám bệnh, giọng văn trang trọng.”
-> Kết quả: Llama 3 phản hồi sau 2 giây. Viết tiếng Việt khá mượt, chuẩn form. Tốc độ nhanh hơn cả chờ ChatGPT load.
Test 2: Coding (Thử thách)
“Viết script python để download video từ Youtube.”
-> Kết quả: Code chạy được. Tuy nhiên, Llama 3 (bản 8B) đôi khi code không “sạch” bằng Claude 3.5 Sonnet.
Test 3: Tốc độ
Trên chiếc MacBook Pro M1 Max của tôi, tốc độ trả về khoảng 40 tokens/s. Nghĩa là chữ hiện ra nhanh hơn mắt tôi đọc. Quá đã!
Sau một thời gian dùng song song, đây là chiến lược của tôi:
Tích hợp Ollama vào ClawdBot chính là bước cuối cùng để bạn sở hữu trọn vẹn sức mạnh của AI. Bạn không còn là “khách thuê” công nghệ nữa, bạn là “chủ nhà”.
Hãy thử ngay tối nay nhé!
Danh sách bài viết trước
— Cường Nguyễn (Richard)
AI Automation Architect | Founder, AI Ops Solutions
Facebook | Linkedin
Muốn nhận thêm bài viết thực chiến về AI mỗi tuần?
Tôi gửi 1 email/tuần, chia sẻ cách ứng dụng AI vào công việc thực tế và cập nhật tin tức mới nhất về AI. Không spam, không bán khóa học, chỉ có kiến thứcc
Đăng ký theo dõi tại đây
Bài viết là góc nhìn cá nhân của tác giả, mang tính tham khảo — không phải tin tức báo chí.
Đừng bỏ lỡ bài viết tiếp theo. Đăng ký để nhận trong inbox.

Tác giả
Tôi là Cường Nguyễn - Founder của AI Ops Solutions.
Tôi từng là Logistics Operations Manager và đồng sáng lập thương hiệu CATCA - #1 Shopee ngành Pet Care.