AI cục bộ: trợ lý trên điện thoại không cần đám mây
AI cục bộ Android là cách chạy mô hình trí tuệ nhân tạo ngay trên điện thoại, để xử lý một số yêu cầu mà không gửi cuộc trò chuyện lên máy chủ đám mây. Cách làm này không thay thế mọi dịch vụ trực tuyến, nhưng phù hợp với tác vụ nhanh, quyền riêng tư và những lúc mất mạng.
PocketPal là điểm bắt đầu dễ tiếp cận: tải ứng dụng và mô hình khi có mạng, rồi dùng mô hình AI ngoại tuyến ngay trên thiết bị. Có thể chọn Gemma 3 1B khoảng 1.020 MB, LFM2.3.1 2B khoảng 700 MB hoặc một lựa chọn mạnh hơn như Qwen3. Khi mô hình đã nằm trên máy, việc chạy và lưu lịch sử trò chuyện diễn ra cục bộ; ứng dụng cũng có các hồ sơ hướng dẫn sẵn để khỏi nhập lại chỉ dẫn mỗi lần.
Ưu điểm là rõ ràng: hỏi nhanh, tóm tắt hay viết lại văn bản cơ bản mà không cần kết nối. Đổi lại, phản hồi chậm hơn trợ lý đám mây và chất lượng phụ thuộc vào mô hình cùng phần cứng. Hãy bắt đầu với mô hình nhỏ, thử vài yêu cầu thực tế rồi mới tải bản lớn hơn; tải mô hình nặng chỉ để chạy một lần là cách nhanh nhất làm đầy bộ nhớ.
Tái sử dụng Samsung cũ để chạy mô hình ngôn ngữ
Một điện thoại Samsung cũ vẫn có thể làm máy chủ mô hình ngôn ngữ cục bộ, nhưng đôi khi cần đi đường vòng thay vì trông chờ mọi thứ chạy mượt trong một ứng dụng. Trường hợp Galaxy S23 FE dùng Exynos 2200 có RAM 8 GB, trong đó Android nhận diện 7,3 GB. PocketPal chạy Gemma 3 1B ổn, nhưng Gemma 4 E2B liên tục khiến ứng dụng đóng do thiếu bộ nhớ.
Giải pháp là dùng Termux để tải và chạy máy chủ llama, sau đó mở giao diện web trong Chrome. Với Gemma 4 E2B, bản Unsloth Q4_K_M, tốc độ khoảng 5,4–6,6 token mỗi giây đủ dùng cho việc viết lại, tóm tắt và phân loại đơn giản. Đây không phải trải nghiệm gọn gàng: chế độ chia đôi màn hình buộc phải giữ cả Termux lẫn Chrome hoạt động, và hiệu suất còn tùy máy.
Cách này đáng thử nếu bạn có điện thoại cũ, thích vọc thiết lập và muốn tận dụng thiết bị thay vì để nó nằm trong ngăn kéo. Nhưng đừng biến con số tốc độ thành lời hứa cho mọi máy Samsung: dung lượng RAM, bộ xử lý và ứng dụng đang chạy nền đều có thể làm kết quả khác đi. Với người cần tiện lợi, PocketPal và mô hình nhỏ là lựa chọn hợp lý hơn.
Tìm lại ảnh riêng tư bằng AI ngoại tuyến
Nếu thư viện ảnh đã lên tới hàng nghìn tấm, cuộn thủ công thường tốn thời gian hơn cả chụp ảnh. Memoria dùng AI cục bộ để phân tích và tìm ảnh ngay trên điện thoại, thay vì tải toàn bộ bộ sưu tập lên dịch vụ đám mây. Ứng dụng sử dụng mô hình MobileCLIP-S0 của Apple và hoạt động ngoại tuyến sau khi cài đặt.
Sau khi cấp quyền và chọn thư mục cần lập chỉ mục, bạn có thể tìm ảnh bằng AI qua cụm từ, khung cảnh hoặc mô tả, bên cạnh từ khóa và siêu dữ liệu thông thường. Ứng dụng còn cho phép dùng một hình ảnh để tìm những ảnh tương tự trong thư viện. Đây là cách tổ chức thực dụng hơn với người muốn tìm, chẳng hạn, ảnh chó đang nằm trên ghế mà không muốn giao bộ sưu tập cá nhân cho dịch vụ đám mây.
Có một điểm cần chuẩn bị: lần lập chỉ mục đầu tiên có thể mất thời gian nếu thư viện lớn. Memoria được phát hành trên GitHub; ứng dụng khác cùng tên trong Play Store không phải bản này, nên hãy kiểm tra kỹ trước khi cài. Nếu ưu tiên quyền riêng tư và thường xuyên tìm lại ảnh cũ, sự chờ đợi ban đầu là cái giá hợp lý cho việc tìm kiếm trên máy.
Đổi bàn phím lấy nhập liệu giọng nói
Nhập liệu giọng nói là lối tắt hữu ích cho email dài, ghi chú và câu lệnh AI, nhất là khi gõ trên màn hình nhỏ khiến bạn chậm lại. Wispr Flow có thể chèn văn bản vào các ô nhập trên Android, đồng thời chỉnh dấu câu, ngữ pháp và từ đệm như “ừm” trong bản chép lời. Tính năng này không đòi hỏi điện thoại Pixel hay một dòng máy đặc biệt.
Thay vì thay hẳn bàn phím, Wispr Flow dùng quyền trợ năng để hiện một nút nhỏ bên cạnh màn hình; chạm nút rồi nói để nhập. Gói miễn phí giới hạn 1.500 từ mỗi tuần, và ứng dụng cần kết nối internet để chuyển giọng nói thành văn bản. Vì vậy, đây không phải giải pháp nhập liệu ngoại tuyến, dù vẫn giúp giảm đáng kể thời gian gõ nếu bạn thường soạn nội dung dài.
Nếu ưu tiên đọc chính tả khi không có mạng, SwiftKey của Microsoft là một lựa chọn khác với tính năng nhập giọng nói ngoại tuyến ở mức dùng được. Hãy chọn theo nhu cầu thay vì theo lời quảng bá: Wispr Flow có lợi thế làm sạch bản chép lời nhưng phụ thuộc mạng và hạn mức tuần; SwiftKey phù hợp hơn khi khả năng ngoại tuyến quan trọng.
