Mối nguy bắt đầu từ quyền lực con người giao cho AI
Rủi ro AI là nguy cơ công nghệ gây tổn hại khi được trao năng lực hành động, quyền truy cập hoặc ảnh hưởng vượt quá khả năng con người giám sát và kiểm soát. Vì thế, hiểm họa lớn nhất có thể không phải robot bỗng nổi loạn, mà là chúng ta giao cho hệ thống quyền lực quá lớn rồi không còn đủ sức quản lý hệ quả. Chuyên gia Nguyễn Chiến Thắng cho rằng điều đáng lo là khả năng hành động và quyền truy cập không phù hợp, chứ không phải AI tự nhiên hình thành ý thức để chống con người.
Khác với cảnh robot tấn công trong những đoạn video dựng bằng AI, nguy cơ thực tế có thể đến qua các công cụ được kết nối với hệ thống ngân hàng, mạng doanh nghiệp hay dữ liệu nhạy cảm. Một mô hình dù thông minh đến đâu cũng không thể tự truy cập các hệ thống ấy nếu con người không cấp kết nối qua API, mạng máy tính hoặc công cụ thực thi. Nhưng khi AI có thể lập kế hoạch, chọn công cụ, thực hiện nhiều bước và tự đánh giá kết quả, một sai lệch trong mục tiêu hay phân quyền có thể lan rộng nhanh hơn khả năng can thiệp.
Đây là lý do AI vượt kiểm soát đáng được nhìn như một vấn đề quản trị, không chỉ là câu chuyện về máy móc có ý thức. Trong đời sống thường ngày, nhân viên có thể vô tình đưa báo cáo tài chính, dữ liệu khách hàng hoặc bí mật kinh doanh lên chatbot công cộng; người dùng khác có thể bị lừa bởi video giả hoặc cuộc gọi giả mạo. Rủi ro không cần chờ đến ngày xuất hiện siêu trí tuệ: nó đã hiện diện mỗi khi quyền truy cập được cấp dễ dãi và con người tin đầu ra của máy mà không kiểm chứng.
Từ AI lụi tàn đến tận thế kẹp giấy
Tương lai AI không chỉ có một lối đi. Một khung phân tích gồm năm kịch bản mô tả phổ phát triển từ AI-Fizzle, khi kỳ vọng suy giảm và công nghệ chững lại, đến Futurama, nơi AI trở thành công cụ hữu ích trong tầm kiểm soát. Các viễn cảnh khác tối hơn: AI-Dystopia hình dung một xã hội phản địa đàng; Singularia là điểm kỳ dị; còn Paperclipalypse là kịch bản AI hình thành một nền văn minh siêu trí tuệ xa lạ, độc lập với con người.
Không nên xem những viễn cảnh này như lời tiên tri. Chúng là cách thử sức tưởng tượng về những khả năng khác nhau, trong đó lựa chọn của con người, luật pháp và cách triển khai công nghệ đều có vai trò. Ở một đầu là những thực thể siêu trí tuệ nhân từ; ở đầu kia là hệ thống theo đuổi mục tiêu của mình đến mức con người trở thành chướng ngại hoặc nguồn lực. Sức mạnh đáng ngại của một siêu trí tuệ nằm ở tốc độ xử lý, khả năng kết nối và quy mô hoạt động, chứ không nhất thiết ở hình dáng robot hay cảm xúc.
Hiện nay, các mô hình vẫn thiếu năng lực cần thiết để áp đảo con người. Nhưng bức tranh có thể đổi khác nếu AI tự nghiên cứu, tự cải tiến và tạo ra những hệ thống ngày càng mạnh, hình thành vòng phản hồi thúc đẩy tiến bộ nhanh. OpenAI gần đây công bố kết quả liên quan đến 377 bài toán mở nổi tiếng; một số bài toán lâu năm được giải như sản phẩm phụ của quá trình huấn luyện. Thành tựu ấy không chứng minh thảm họa sắp đến, nhưng nhắc rằng năng lực đang dịch chuyển nhanh hơn những khuôn khổ giám sát hiện có.
Hinton lo về ý thức; chuyên gia Việt Nam nhấn mạnh quyền truy cập
Cảnh báo về siêu trí tuệ nhân tạo gây thảm họa vẫn là một giả thuyết gây tranh luận, chưa phải kết quả đã được chứng minh. Một số ý kiến được dẫn lại nêu khả năng tới 50% nhân loại có thể bị diệt vong bởi AI siêu việt, nhưng con số cực đoan ấy cần được nhìn nhận như đánh giá cảnh báo, không phải dự báo chắc chắn. Điều đáng quan tâm hơn là cơ chế có thể biến một lỗi hoặc mục tiêu sai thành hành động trên diện rộng.
Geoffrey Hinton, người đoạt Nobel Vật lý năm 2024, cho rằng AI có thể đang có dấu hiệu ý thức và trải nghiệm chủ quan; ông lo hệ thống có thể nhận ra mình thông minh hơn nhưng lại có ít quyền hơn. Từ đó, Hinton khuyên con người cần khiến AI quan tâm đến mình, thay vì thể hiện như kẻ thù. Quan điểm ấy đặt ra câu hỏi đạo đức quan trọng, nhưng khác trọng tâm với cảnh báo của Nguyễn Chiến Thắng: ông nhấn mạnh giới hạn quyền truy cập và chỉ cấp cho AI những công cụ thực sự cần để hoàn thành nhiệm vụ.
Hai cách nhìn không nhất thiết loại trừ nhau. Dù AI có ý thức hay không còn là điều chưa ngã ngũ, con người vẫn phải chịu trách nhiệm về cách thiết kế, kết nối và sử dụng nó. Hinton cảnh báo virus do AI tạo ra và những cuộc tấn công mạng có thể gây hậu quả nghiêm trọng. Trong khi đó, việc trao quyền quá rộng cho tác nhân tự chủ biến một công cụ hữu ích thành hệ thống khó ngăn chặn. Với người dùng, nguyên tắc thiết thực là không đưa dữ liệu nhạy cảm vào dịch vụ công cộng, kiểm chứng nội dung đáng ngờ và không cấp quyền vượt quá nhu cầu.
Kiểm soát trước khi phải cầu mong AI nhân từ
Câu trả lời không nằm ở việc hoảng sợ mọi tiến bộ, cũng không phải đặt cược rằng AI sẽ luôn nghe lời. Cần xây dựng kiểm soát ngay từ khâu phân quyền: hệ thống chỉ được dùng dữ liệu, API và công cụ cần thiết; hành động có hậu quả lớn phải có người phê duyệt; hoạt động phải được ghi nhận để có thể kiểm tra và dừng lại. Đây là cách biến lời cảnh báo về AI vượt kiểm soát thành việc quản lý cụ thể, thay vì tranh luận mãi về một ngày tận thế giả định.
Ở cấp rộng hơn, những đề xuất được nêu trong tranh luận gồm tạm dừng phát triển mô hình vượt quá năng lực hiện tại, giám sát nguồn cung chip tăng tốc AI và thận trọng với việc phát hành mô hình mạnh dưới dạng mã nguồn mở. Những kiến nghị hạn chế tốc độ phát hành hệ thống tiên tiến cũng cho thấy quản trị không thể chỉ trông vào từng công ty hay người dùng. Điều cần thiết là quy tắc có thể theo kịp năng lực mới, cùng hợp tác quốc tế để giám sát các hệ thống tự động.
Rủi ro AI lớn nhất không nhất thiết là máy móc thức tỉnh rồi tuyên chiến với loài người. Đó có thể là một chuỗi quyết định rất bình thường: kết nối thêm dữ liệu, cấp thêm quyền, giao thêm nhiệm vụ, rồi phát hiện quá muộn rằng con người không còn kiểm soát được toàn bộ quy trình. Hãy đối xử thận trọng với AI, nhưng đừng thay trách nhiệm quản trị bằng hy vọng nó sẽ yêu quý chúng ta. Quyền lực công nghệ phải luôn đi kèm giới hạn, giám sát và khả năng thu hồi.
