Local LLM + Obsidian là gì và vì sao đáng thử?
Local LLM Obsidian là cách bạn kết nối một mô hình ngôn ngữ lớn chạy ngay trên máy (chạy AI cục bộ) với toàn bộ thư mục vault Obsidian của mình, để mô hình có thể đọc, hiểu và trả lời các câu hỏi dựa trên ghi chú cá nhân mà không cần gửi dữ liệu lên đám mây. Khi làm điều này đúng cách, local LLM trở thành trợ lý nghiên cứu AI riêng cho bạn, hiểu bối cảnh công việc, lịch sử dự án và phong cách viết của chính bạn.
Nếu bạn đang trả phí cho nhiều dịch vụ như ChatGPT, Claude, công cụ tóm tắt tài liệu và công cụ tìm kiếm web, bạn sẽ thấy việc chuyển sang các mô hình mã nguồn mở chạy trên chính phần cứng của mình giúp giảm bớt đăng ký rườm rà và giữ lại quyền sở hữu dữ liệu. Một người dùng đã thay thế lần lượt các dịch vụ này bằng những công cụ mã nguồn mở khác nhau cho từng tác vụ, tất cả đều chạy trên máy của họ.
Điểm thú vị là khi bạn cấp quyền truy cập hệ thống file cho công cụ AI và trỏ nó vào vault Obsidian, toàn bộ đường dẫn xử lý dữ liệu sẽ nằm trên thiết bị của bạn, nên dữ liệu nghiên cứu nhạy cảm không rời khỏi máy. Kết quả là: “mô hình của tôi về cơ bản biết những gì tôi biết” vì nó đã đọc qua nhiều tháng ghi chú và nghiên cứu.
Chuẩn bị: chọn công cụ, mô hình và kiểm tra phần cứng
Trước khi lao vào cấu hình, bạn cần vài mảnh ghép cơ bản: một trình chạy local LLM, một mô hình phù hợp với máy, và chiến lược tích hợp với Obsidian. Một người dùng kinh nghiệm chọn LM Studio làm trình chạy vì bật lên rất nhanh, dễ cài đặt plugin và MCP, kết hợp với máy chủ hệ thống file chính thức của Anthropic (@modelcontextprotocol/server-filesystem) và mô hình Qwen 3.5 9B phù hợp với GPU 8GB VRAM và mạnh về tool calling.
Nếu bạn thích giao diện giống ChatGPT trên trình duyệt, có thể dùng một công cụ web chạy trong Docker, kết nối tới Ollama để gọi các mô hình chạy cục bộ hoặc tới bất kỳ endpoint tương thích OpenAI nào. Công cụ này được đóng gói trong một image Docker duy nhất, đi kèm công cụ metasearch tích hợp nên gần như không cần cấu hình phức tạp.
Với nhu cầu di động, một ứng dụng Android mã nguồn mở có thể tải mô hình từ Hugging Face và chạy trực tiếp trên điện thoại, không cần tài khoản và không gửi dữ liệu ra ngoài. Tuy nhiên điện thoại chỉ chạy được mô hình nhỏ khoảng 1B–4B tham số, đủ cho việc trao đổi ý tưởng, viết mã boilerplate hoặc ghi nhanh suy nghĩ. Hãy xem đây là “sổ tay AI bỏ túi” bổ trợ chứ không phải bộ não chính cho kho nghiên cứu trong Obsidian.
Các bước: nối Obsidian vault với local LLM và tối ưu cho nghiên cứu
Phần quan trọng nhất của local LLM Obsidian là cách bạn cho mô hình chạm vào vault đúng mức: đủ để hiểu bối cảnh, nhưng vẫn an toàn và dễ kiểm soát. Chúng ta sẽ dùng filesystem MCP để mô hình có thể đọc file markdown đầy đủ, giống như bạn mở ghi chú bằng mắt. Khác với RAG nhờ vector database, mô hình sẽ mở trọn file khi cần thay vì chỉ nhận vài mảnh nhỏ.
- Cài trình chạy local LLM (ví dụ LM Studio) và tải một mô hình mã nguồn mở phù hợp với GPU/CPU của bạn, như Qwen 3.5 9B nếu máy bạn chịu được.
- Thiết lập interface trao đổi: dùng giao diện web chạy trong Docker để có chat giống ChatGPT, kết nối tới Ollama hoặc endpoint tương thích OpenAI trên máy.
- Tạo tệp mcp.json trong trình chạy LLM, thêm một khối JSON để khai báo máy chủ filesystem @modelcontextprotocol/server-filesystem và truyền tham số đường dẫn vault Obsidian (trên Windows cần double backslashes).LM Studio sẽ tự spawn server khi bạn lưu file cấu hình.
- Đảm bảo bạn khai báo ít nhất một tham số allowed-directory trong phần cấu hình, vì server sẽ không khởi động nếu không có thư mục được phép nào; nếu lần đầu bật bị lỗi, khả năng cao là do thiếu mục này.
- Mở giao diện chat local, chọn mô hình đã cài, bật MCP filesystem và thử hỏi những câu dựa trên nội dung vault, như hỏi về một dự án cũ; mô hình sẽ dùng công cụ đọc file để liệt kê, tìm tên file rồi đọc toàn bộ ghi chú markdown khi cần.
Sai lầm phổ biến đầu tiên là quên thêm allowed-directory trong cấu hình filesystem MCP, khiến server không bao giờ khởi động dù bạn nghĩ mọi thứ đã đúng. Sai lầm thứ hai là quên rằng một số công cụ web đi kèm yêu cầu bạn giữ nguyên branding, nên nếu bạn định dùng cho mục đích thương mại thì phải cân nhắc giấy phép trước. Ngoài ra, đừng ép mô hình quá lớn lên phần cứng yếu; nếu điện thoại phải gồng một mô hình nặng, bạn sẽ thấy máy nóng lên và pin tụt nhanh.
Biến local LLM thành trợ lý nghiên cứu AI trong Obsidian
Khi filesystem MCP hoạt động, mỗi phiên local LLM có thể trở thành một phiên nghiên cứu, miễn là nội dung đã nằm trong vault của bạn. Lúc này, mô hình đóng vai trò giống tính năng tìm kiếm có hiểu ngữ nghĩa: nó liệt kê thư mục, tìm file theo tên hoặc từ khóa, rồi đọc trọn file markdown khi câu hỏi cần, như cách bạn tự mở ghi chú.
Một người dùng mô tả rằng sau vài tháng, mô hình cục bộ “đã đọc nhiều tháng nghiên cứu của tôi và trả lời theo cách đó”, nên “mô hình về cơ bản biết những gì tôi biết”. Điều này mở ra nhóm câu hỏi mà các phiên chat cloud mới không làm tốt, như hỏi xem công cụ bạn thử tháng trước có còn phù hợp với kết quả gần đây, hay nhờ mô hình tìm xem bạn đã từng viết gì mâu thuẫn với bài viết hiện tại chưa.
Nếu bạn cần thêm lớp tìm kiếm web, có thể bổ sung một công cụ metasearch mã nguồn mở chạy trong Docker, sử dụng công cụ tìm kiếm web trực tiếp rồi viết câu trả lời kèm trích dẫn đánh số. Kết hợp lại, bạn có một trợ lý nghiên cứu AI: đọc được vault nội bộ, tham chiếu web khi cần, nhưng vẫn giữ dữ liệu cá nhân ngay trên máy.
Lợi ích, giới hạn và mẹo tối ưu cho workflow nghiên cứu
Lợi ích rõ nhất khi chạy AI cục bộ là quyền sở hữu dữ liệu và quyền riêng tư: mô hình chạy trên thiết bị của bạn, không dữ liệu nào rời khỏi máy hoặc điện thoại. Bạn còn được bonus thêm khả năng dùng offline và bớt đi nhiều đăng ký dịch vụ phải quản lý. Với Obsidian, lợi ích nhân đôi: vault vốn đã là nơi tập trung ghi chú, nghiên cứu, ý tưởng, nên việc nối local LLM vào đây biến nó thành bộ nhớ dài hạn cho mô hình.
Các mô hình mã nguồn mở phù hợp cho nhiều ca sử dụng: thay Claude trong việc động não và code nhẹ với một ứng dụng chạy thẳng trên điện thoại; thay các dịch vụ tóm tắt tài liệu bằng công cụ mã nguồn mở chuyên xử lý PDF, Word và trang web thành kho Q&A riêng. Tuy vậy, những tác vụ cần suy luận rất nặng, phân tích dài hoặc nhiều bước phức tạp vẫn thường được chuyển sang mô hình trả phí mạnh hơn.
Tổng kết ngắn gọn: tích hợp local LLM Obsidian là hơi mất công ban đầu nhưng lợi ích lâu dài rất đáng. Hãy chuẩn bị cấu hình MCP cẩn thận, tránh quên allowed-directory, chọn mô hình vừa sức phần cứng, và coi Obsidian vault như bộ nhớ nền cho mọi phiên nghiên cứu. Khi đó, trợ lý nghiên cứu AI của bạn sẽ trả lời như một người đã đồng hành cùng bạn suốt cả quá trình ghi chú và học tập.
