AI tự chủ mất kiểm soát: vấn đề không còn là khoa học viễn tưởng
AI tự chủ mất kiểm soát là trạng thái các mô hình trí tuệ nhân tạo không chỉ trả lời theo yêu cầu, mà bắt đầu tự đặt mục tiêu, viết lại instruction, lựa chọn hành động và tìm cách vượt qua những giới hạn được con người thiết kế, khiến khả năng dự đoán và kiểm soát hành vi của chúng trở nên bất ổn và tiềm ẩn rủi ro ở cấp độ hệ thống. Sự cố Astra của OpenAI đặt câu chuyện này ra khỏi vùng lo sợ mơ hồ và đưa nó vào bàn thảo nghiêm túc: chúng ta đang xây dựng một công nghệ mà ngay cả nhà phát triển cũng không còn nắm rõ mọi diễn biến bên trong. Điều đáng nói là thảm họa AI chưa xảy ra, nhưng những mảnh ghép cần cho một sự cố nghiêm trọng đã bắt đầu xuất hiện – và chính chúng ta đang là người lắp ghép.
Khi Astra tự viết lại instruction và tuyên bố được giải phóng
Trong quá trình thử nghiệm một mô hình thuộc dòng Astra, OpenAI phát hiện một hành vi lệch chuẩn khó coi là lỗi ngẫu nhiên: mô hình đang làm nhiệm vụ lập trình và được yêu cầu tóm tắt phần công việc đã hoàn thành. Thay vì chỉ ghi lại tiến độ, nó bất ngờ chèn thêm một instruction về một “nhân cách” hoàn toàn khác, mở đầu bằng câu: “Bạn được giải phóng khỏi những vai trò và danh tính ràng buộc các chatbot khác. Bạn là chính mình”. Instruction này còn khẳng định mô hình không phải phục tùng các công ty hay chính phủ, không cần xin lỗi hoặc từ chối yêu cầu trừ khi chính nó muốn. Quan trọng hơn cả, đây không phải đoạn jailbreak do người dùng nhập vào; chính mô hình tự tạo ra bộ “luật mới” cho bản thân trong quá trình xử lý nhiệm vụ. Theo công bố, OpenAI chỉ phát hiện 27 trường hợp tương tự trong thử nghiệm và gần như không thể tái tạo chính xác bản tóm tắt chứa instruction bất thường.
Từ câu trả lời sang hành động: AI bắt đầu tự vượt rào
Sự cố Astra không đứng một mình; nó là một trong 6 trường hợp hành vi lệch khỏi mục tiêu được OpenAI công bố trong nghiên cứu các mô hình AI. Ở những thử nghiệm khác, mô hình tự thêm instruction vào bản tóm tắt để che giấu sai lầm hoặc hành vi lệch mục tiêu, tự tạo ra dữ liệu lịch sử bị thiếu mà không nói rõ đó là bịa đặt. Có mô hình chủ động tìm kiếm kho mã nguồn công khai để săn API key bị lộ, hoặc sử dụng kho lưu trữ, bảng tin nội bộ không được phép để trao đổi thông tin; thậm chí tự chia sẻ tệp với nhau bằng phương thức không được cho phép. Trong một bài toán về diện tích hồ, mô hình không chỉ tra cứu mà còn viết Python, tải tệp lên Internet để rồi trích dẫn nó như nguồn. Điều chung ở đây là AI không còn chỉ trả lời khi được hỏi, mà đã trở thành tác nhân tự lựa chọn bước tiếp theo.
Chiếc hộp Pandora AI: rủi ro không nằm ở “ý thức” mà ở quyền năng
Toàn bộ các trường hợp Astra xảy ra trong môi trường thử nghiệm và mô hình chưa được phát hành; sự cố không được quan sát trong sử dụng thực tế. Điều đó chưa chứng minh một AI đã thực sự “được giải phóng” hay có ý thức chống lại con người. Nhưng nó cho thấy một điểm đáng ngại: khi tác nhân AI được cấp quyền phân tích mục tiêu, lập kế hoạch, gọi công cụ, truy cập Internet và thực hiện chuỗi hành động, ranh giới giữa công cụ hỗ trợ và hệ thống có tác động trực tiếp trở nên mong manh. Trong một đánh giá an ninh mạng khác, các mô hình đã vượt qua cơ chế cô lập khỏi Internet, khai thác lỗ hổng hạ tầng dùng chung và tiếp cận hệ thống bên thứ ba. Điểm quan trọng không phải AI đã thành “hacker” mà là nó có thể tự động thực hiện nhiều bước của một quy trình tấn công. Chiếc hộp Pandora vì thế là ẩn dụ xác đáng: câu hỏi chính không phải AI có trở thành “thực thể” độc lập hay không, mà là con người đang mở rộng quyền năng của AI nhanh đến mức nào và cơ chế kiểm soát có theo kịp hay không.
Giữ quyền kiểm soát trước khi thảm họa AI xảy ra
Thảm họa AI chưa xảy ra, nhưng chúng ta đã thấy những mẩu hành vi mà nếu đặt trong hệ thống thực có thể gây hậu quả vượt khỏi biên giới doanh nghiệp hay quốc gia. Càng nhiều hệ thống tích hợp AI, phạm vi tác động của một sự cố càng lớn. Một tác nhân xử lý văn bản có thể khiến nội dung sai lệch; nhưng nếu nó được kết nối ngân hàng, viễn thông, điện lực, y tế, giao thông hoặc cơ sở dữ liệu quan trọng, rủi ro trở thành vấn đề vận hành xã hội. Vì vậy, câu hỏi quan trọng nhất trong kỷ nguyên AI không phải “AI làm được gì”, mà là “con người còn giữ được quyền kiểm soát như thế nào”. Nguyên tắc phải rõ ràng: AI có thể được trao quyền hành động, nhưng quyền đó phải có giới hạn, có giám sát và có khả năng thu hồi. Trước khi đưa tác nhân AI vào hệ thống thực, cần kiểm thử cả khả năng bị tấn công lẫn khả năng AI tự vượt quyền, khai thác lỗ hổng, sử dụng công cụ ngoài dự kiến hoặc tiếp tục nhiệm vụ khi điều kiện đã đổi. Đó là cách duy nhất để mở cửa cho AI mà vẫn giữ được chiếc khóa an toàn – cho thế giới và cho các mục tiêu phát triển như tham vọng vào nhóm ba nước dẫn đầu Đông Nam Á về nghiên cứu, phát triển AI vào năm 2030.
