AI cá nhân không nhất thiết phải lên đám mây
AI tự lưu trữ là cách chạy mô hình và dịch vụ trí tuệ nhân tạo trên thiết bị hoặc máy chủ do chính người dùng kiểm soát, để tìm kiếm dữ liệu cá nhân mà không phải gửi mọi yêu cầu lên đám mây. Giá trị của cách làm này không chỉ nằm ở quyền riêng tư: nó còn biến ảnh và ghi chú thành những kho dữ liệu có thể tìm bằng ngôn ngữ tự nhiên.
Xu hướng này xuất phát từ những phiền toái rất đời thường. Một người dùng có nhiều GPU, máy AI và dịch vụ riêng không muốn chọn máy, chọn mô hình mỗi lần gửi yêu cầu, cũng không muốn sửa cấu hình ứng dụng khi đổi mô hình. Người viết khác đã quen ghi chép trong Obsidian và muốn tìm lại nội dung từ mọi thiết bị. Cả hai đều muốn AI phục vụ dữ liệu của mình mà không phải đánh đổi quyền kiểm soát. Tuy vậy, AI chạy ngoại tuyến không đồng nghĩa với cài đặt dễ dàng: người dùng phải tự lo phần cứng, đồng bộ, bảo trì và sao lưu.
vLLM và Semantic Router: một cửa vào, nhiều máy xử lý
Một nền tảng AI tự lưu trữ cho thấy cách ghép vLLM và Semantic Router để phân phối yêu cầu giữa nhiều máy và mô hình. Sau những thử nghiệm trước đó, người xây dựng đã chuyển nền tảng chính sang vLLM Semantic Router, hướng tới một cổng truy cập chung thay vì buộc từng ứng dụng phải biết GPU nào đang chạy mô hình nào.
Trong kiến trúc này, Traefik xử lý điểm vào HTTPS và xác thực, rồi chuyển yêu cầu đến Semantic Router. Bộ định tuyến xem nội dung yêu cầu cùng năng lực của các mô hình để chọn máy chủ phù hợp; máy chủ vLLM được chọn chạy mô hình và trả kết quả qua router. Máy nhỏ có thể nhận tác vụ ngắn, còn GPU mạnh hơn dành cho suy luận hoặc yêu cầu dài. Đây là cách tổ chức hợp lý nếu đã có nhiều thiết bị, nhưng có cái giá vận hành: thêm dịch vụ đồng nghĩa thêm cấu hình và giám sát. Lợi ích thiết thực là ứng dụng chỉ cần một điểm kết nối, không phải gánh quyết định định tuyến.
Tìm ảnh cũ và ghi chú mà không gửi dữ liệu đi xa
Với ảnh cá nhân, động lực chuyển sang AI chạy ngoại tuyến là quyền riêng tư và khả năng tìm kiếm. Người dùng được dẫn trong tư liệu có hơn 5.000 ảnh, trong đó khoảng 4.000 ảnh chụp ba chú chó; việc tìm đúng tấm để chia sẻ từng tốn công. Ứng dụng mã nguồn mở Memoria dùng MobileCLIP-S0 của Apple và chạy hoàn toàn ngoại tuyến sau khi cài đặt, cho phép tìm bằng mô tả cảnh, cụm từ, từ khóa hoặc ảnh tương tự.
Cùng một ý tưởng áp dụng cho ghi chú. Một dự án Raspberry Pi 5 đồng bộ kho Obsidian để mô hình cục bộ có thể tìm trong các tệp Markdown. CouchDB trên Pi giữ dữ liệu đồng bộ dưới dạng blob mã hóa; một tiến trình Obsidian LiveSync chạy nền chuyển nội dung thành Markdown dễ đọc cho AI. Người dùng có thể hỏi Open WebUI với mô hình Qwen3 4B Instruct 2507 để tìm ghi chú từ Pi.
Riêng tư có cái giá là phần cứng và công sức
Không nên nhầm khả năng chạy AI cục bộ với sức mạnh ngang dịch vụ đám mây hàng đầu. Raspberry Pi 5 là mẫu Pi có thể chạy mô hình tại chỗ trong dự án này; khi bổ sung AI HAT+ 2, máy có thể chạy Qwen3 4B Instruct 2507 ở tốc độ được mô tả là khá ổn. Mô hình nhỏ không cạnh tranh với Claude hay ChatGPT, nhưng đủ để xử lý văn bản và gợi lại thông tin cần thiết.
Phần khó hơn là kết nối các mảnh ghép. Dự án ghi chú cần cấu hình CouchDB, LiveSync, truy cập tệp và sao lưu; người thực hiện mô tả quá trình là phải mày mò, đồng thời đã đưa mã lên GitHub để người khác đỡ lặp lại phần khó. Thư viện ảnh nhẹ nhàng hơn sau khi cài, nhưng hiện được phân phối qua GitHub và bản cập nhật trên F-Droid được kỳ vọng sẽ sớm xuất hiện. Nền tảng nhiều GPU còn phức tạp hơn, với nhiều dịch vụ cần quản lý dù chỉ có một điểm vào chung.
Kết luận: AI tự lưu trữ đáng thử nếu dữ liệu cá nhân quan trọng hơn sự tiện lợi tức thì và bạn sẵn lòng chăm sóc hệ thống. Hãy bắt đầu bằng một ứng dụng ảnh hoặc kho ghi chú nhỏ trước khi xây mạng nhiều máy; quyền riêng tư có giá trị, nhưng chỉ khi việc sao lưu và bảo trì cũng được tính vào thiết kế.
