On-device AI: định nghĩa và cú xoay trục khỏi trung tâm dữ liệu
On-device AI là cách triển khai trí tuệ nhân tạo theo đó mô hình và quá trình xử lý cục bộ diễn ra trực tiếp trên thiết bị cá nhân như smartphone, laptop hoặc kính thông minh, thay vì phụ thuộc vào máy chủ cloud trung tâm, qua đó chuyển phần lớn khối lượng suy luận AI từ hạ tầng tập trung sang thiết bị nằm trong tay người dùng cuối. Điểm mấu chốt của câu chuyện hôm nay không phải là một phép màu công nghệ mới, mà là sự dịch chuyển quyền lực. Khi Sigil Wen, người đứng sau mô hình on-device AI Underdog, dự báo rằng phần lớn token AI con người tạo ra trong thời gian tới sẽ sinh ra ngay trên smartphone và laptop, ông đang đặt ra thách thức trực diện cho các mô hình frontier khổng lồ đang chạy trên đám mây. Nếu tương lai của AI nằm trong túi quần và balo của người dùng, các "đại bản doanh" AI sẽ buộc phải tự hỏi lại: liệu họ còn nắm được trung tâm của chuỗi giá trị nữa hay không?
Tốc độ và bảo mật: lợi thế tự nhiên của xử lý cục bộ
Sigil Wen có lý khi cho rằng phần lớn tác vụ hằng ngày không cần tới các mô hình quy mô cực lớn. Người dùng chỉ muốn tìm lại email xác nhận vé máy bay từ tháng 3, chuẩn bị hồ sơ yêu cầu bồi thường bảo hiểm, hay đặt bàn ăn tối, chứ không phải mô phỏng toàn bộ vũ trụ. Với những nhu cầu đó, on-device AI có hai lợi thế mà mô hình frontier chạy trên đám mây khó cạnh tranh: tốc độ và bảo mật. Về tốc độ, nền tảng Underdog tối ưu đồng thời cho cả thiết bị lẫn mô hình. Công cụ Husky có thể chạy cùng một mô hình nhanh hơn tối đa 4,5 lần so với MLX, framework machine learning của Apple. Đây là câu nói đáng trích: "Husky có thể chạy cùng một mô hình nhanh hơn tối đa 4,5 lần so với MLX". Về bảo mật, Sigil Wen nhấn mạnh rằng chỉ dữ liệu chưa từng được gửi lên máy chủ mới không thể bị rò rỉ và Underdog mã hóa, lưu toàn bộ dữ liệu ngay trên thiết bị, không có máy chủ riêng để giữ dữ liệu cá nhân. Khi toàn bộ xử lý cục bộ, smartphone AI processing không còn là "cửa ngõ" đưa dữ liệu lên đám mây, mà trở thành két sắt thông minh của người dùng.
Quan điểm của Qualcomm: chip mạnh chỉ là bước đầu
Trong bức tranh on-device AI, Qualcomm đưa ra một cảnh báo quan trọng: chip mạnh chưa đủ. Ngày 24/9 tại phiên "Elite Experience" trong khuôn khổ Snapdragon Summit ở Maui, Hawaii, Judd Heape cho biết phiên này nhằm giới thiệu cách agentic AI kết hợp với nền tảng Snapdragon để tạo trải nghiệm mới. Trong khoảng 33 phút trình bày của Vinesh Sukumar, riêng phần demo chiếm gần 20 phút – đó không phải là sự phô diễn sức mạnh silicon, mà là cách kể câu chuyện hệ sinh thái. Qualcomm dành phần lớn thời lượng để trình diễn giải pháp từ đối tác, qua đó nhấn mạnh rằng agentic AI trên thiết bị không thể chỉ dựa vào sức mạnh chip. Theo hãng, để AI có thể ghi nhớ, hiểu người dùng và chủ động thực hiện tác vụ, cần thêm lớp phần mềm nắm bắt ngữ cảnh và chuyển ngữ cảnh đó thành hành động cụ thể. Mục tiêu là xây dựng "digital twin" của người dùng – một đồ thị tri thức cá nhân hình thành ngay trên máy, dựa trên nhịp sinh hoạt, sở thích, lịch trình và địa điểm thường lui tới. Ở lớp ghi nhớ, memories.ai cho thấy smartphone có thể tổng hợp dữ liệu đời sống hằng ngày từ kính thông minh và laptop, lập chỉ mục ngay trên thiết bị và toàn bộ quá trình xử lý diễn ra trên máy, không có dữ liệu nào rời khỏi thiết bị. Đây là lời nhắc rằng on-device AI cần cả tốc độ lẫn hiểu biết sâu về ngữ cảnh, không chỉ vi xử lý với thông số ấn tượng.
Định luật Underdog và mối đe dọa với mô hình frontier
Sigil Wen nói thẳng: cuộc đua mô hình frontier có ý nghĩa với các bài toán như nghiên cứu chữa ung thư, nhưng với nhu cầu phổ thông, mô hình 1.000 tỷ tham số là không cần thiết. Chỉ 6 tháng trước, Claude Opus 4.6 được xem là mô hình AI dẫn đầu, nhưng ông cho biết Qwen 3.8 27B, chạy trên nền tảng Underdog 27B trên Mac và iPhone, đã đạt điểm số cao hơn Opus 4.6 Max trong các bài đánh giá hiệu năng công khai, dù chỉ có 27 tỷ tham số. Khi mô hình nhỏ hơn, chạy cục bộ, đã đủ "vượt mặt" mô hình frontier ở nhiều bài test, lý do tồn tại của các trung tâm dữ liệu khổng lồ trở nên ít thuyết phục hơn với người dùng phổ thông. Wen mô tả "định luật Underdog" là xu hướng theo đó mô hình AI tốt nhất ở thời điểm hiện tại sẽ có mặt trên thiết bị cá nhân sau khoảng 6 tháng. Cũng theo ông, những AI hiệu năng cao hiện mới chỉ vận hành trên máy chủ của các phòng thí nghiệm AI lớn sẽ có thể chạy trên smartphone và laptop cá nhân trong vòng 6 tháng. Nếu điều này tiếp tục đúng, các công ty phát triển mô hình ngôn ngữ lớn sẽ mất dần lợi thế độc quyền. Khi người dùng không còn lý do để giao dữ liệu cá nhân cho bên thứ ba hoặc trả tiền cho token mà máy tính cá nhân có thể tự tạo ra, mô hình kinh doanh dựa trên thu phí trung gian và khai thác sự chú ý sẽ bị lung lay.
Ngành AI sẽ thay đổi cấu trúc quyền lực ra sao?
Nếu phần lớn token AI được tạo ra trên smartphone và laptop như dự báo của Sigil Wen, cán cân quyền lực trong ngành AI sẽ chuyển dịch theo ba hướng. Thứ nhất, giá trị sẽ dồn nhiều hơn về phía các nền tảng on-device AI và nhà sản xuất chip biết khai thác tối đa phần cứng, thay vì chỉ các hãng sở hữu mô hình frontier. Thứ hai, cuộc chơi sẽ chuyển từ độc quyền hạ tầng cloud sang cạnh tranh trải nghiệm và quyền riêng tư: ai giúp người dùng giữ dữ liệu trên thiết bị, mã hóa và kiểm soát được đường đi của từng token sẽ thắng lòng tin lâu dài. Thứ ba, hệ sinh thái dịch vụ xoay quanh digital twin, từ công cụ ghi nhớ đến tác nhân hành động tự chủ, sẽ là nơi các bên tìm kiếm doanh thu mới. Ở lớp suy luận, những ví dụ như Liquid AI về người bị đau đầu gối khi chạy trên bãi biển cho thấy on-device AI không chỉ trả lời câu hỏi, mà còn có thể gợi ý hành động, chăm sóc sức khỏe và cuộc sống hằng ngày. Khi smartphone AI processing trở thành "trợ lý cá nhân" thực sự với tốc độ và bảo mật vượt trội, người dùng sẽ quen với việc AI là của họ, nằm trong thiết bị của họ. Đó là kết luận rõ ràng: mô hình frontier sẽ không biến mất, nhưng vai trò độc tôn của chúng đang bị thách thức. Tương lai AI nhiều khả năng là cấu trúc lai, trong đó on-device AI nắm phần lớn tương tác thường nhật, còn các mô hình khổng lồ lùi về hậu trường cho những bài toán ít nhưng nặng hơn.
