Cơn sốt AI và khoảng trống kiểm soát an toàn
Kiểm soát AI an toàn là tập hợp các cơ chế kỹ thuật, pháp lý và quản trị nhằm bảo đảm hệ thống trí tuệ nhân tạo hoạt động trong giới hạn có thể dự đoán, có thể can thiệp và có thể chịu trách nhiệm, thay vì để công nghệ phát triển nhanh hơn khả năng giám sát của con người và cơ quan quản lý. Câu chuyện hiện nay là AI đang được triển khai với tốc độ của một cơn sốt, trong khi những hàng rào an toàn tương xứng vẫn chưa hình thành đầy đủ. Các lãnh đạo công nghệ cảnh báo thế giới có thể đang quá phấn khích trước tiềm năng của trí tuệ nhân tạo và xem nhẹ sự non nớt của công nghệ này. Đây không phải lời kêu gọi hoảng sợ, mà là nhắc nhở rằng nếu không xây dựng cơ chế kiểm định AI kịp thời, chúng ta sẽ trả giá bằng những sự cố an ninh mạy AI khó lường.
Khi hộp sữa được kiểm định kỹ hơn mô hình AI
Điểm gây tranh luận nhất trong cảnh báo của Chủ tịch Microsoft Brad Smith là phép so sánh giữa AI và những sản phẩm đời thường. Trong một chương trình podcast, ông nhận định máy giặt và thậm chí những hộp sữa bán trong cửa hàng đang phải tuân thủ các yêu cầu kiểm tra, bảo đảm an toàn cụ thể hơn AI. Nói cách khác, các sản phẩm AI hiện có yêu cầu kiểm định thấp hơn cả sản phẩm tiêu dùng thông thường – một nghịch lý nếu nhìn vào mức độ ảnh hưởng tiềm tàng của chúng. Cảnh báo này cho thấy phát triển AI cần gắn với xây dựng năng lực quản lý rủi ro công nghệ, thay vì coi an toàn là việc làm sau cùng khi mọi thứ đã được triển khai rộng rãi. Nếu một hộp sữa phải qua nhiều lớp kiểm tra, không có lý do gì để một hệ thống có thể tự động truy cập công cụ và tương tác với thế giới thật lại gần như "tự do".
TikTok, Microsoft và lời nhắc về an ninh mạy AI
Trong các sự kiện tại Singapore, Tổng Giám đốc TikTok Shou Chew và lãnh đạo mảng thương mại của Microsoft Judson Althoff cùng gửi đi một thông điệp: hãy tỉnh táo với AI. Họ cho rằng an ninh mạng là vấn đề lớn hơn trong ngắn hạn so với nguy cơ AI phát triển quá nhanh. Chew, người điều hành một trong những mạng xã hội có ảnh hưởng nhất thế giới, nhấn mạnh sự cần thiết phải hiểu rõ hơn các rủi ro an ninh mạng do AI gây ra. Khi các tác nhân AI có khả năng truy cập công cụ, tương tác với hệ thống bên ngoài và tự thực hiện nhiều bước công việc, những hành vi ngoài dự kiến có thể gây hậu quả trong thực tế. Sự thay đổi giọng điệu từ chính các tập đoàn từng rót hàng trăm tỉ USD vào AI cho thấy họ nhận ra: nếu không xây dựng cơ chế kiểm soát AI an toàn, niềm tin của người dùng sẽ là thứ sụp đổ đầu tiên.
Kill switch, kiểm định độc lập và bài toán quản lý rủi ro
Brad Smith không chỉ cảnh báo, ông đưa ra những đề xuất cụ thể cho kiểm soát AI an toàn. Đề xuất đáng chú ý là phải duy trì khả năng can thiệp của con người ngay cả khi AI được trao quyền tự thực hiện nhiệm vụ. Ông kêu gọi các công ty phát triển cơ chế ngắt khẩn cấp (kill switch), cho phép tạm dừng hoặc hạn chế hoạt động của hệ thống khi phát hiện nguy cơ mất kiểm soát. Bên cạnh đó là trách nhiệm báo cáo sự cố và kiểm định an toàn độc lập – chuyển an toàn AI từ lời hứa tự nguyện sang cơ chế có thể giám sát và kiểm chứng. Đối với các hệ thống AI có nguy cơ cao, đặc biệt trong những lĩnh vực ảnh hưởng trực tiếp đến an toàn con người, quyền lợi của công dân hoặc hoạt động của hạ tầng thiết yếu, cần nghiên cứu cơ chế đánh giá độc lập trước khi triển khai và kiểm tra định kỳ trong quá trình vận hành. Mức độ kiểm soát phải tương xứng với rủi ro, không thể dùng một bộ quy tắc chung cho mọi ứng dụng.
Không đánh đổi an ninh để lấy tốc độ phát triển AI
Một thông điệp quan trọng từ các phân tích chính sách là: an toàn phải được thiết kế ngay từ đầu. Nghị quyết 57 xác định AI thuộc nhóm công nghệ chiến lược cần từng bước làm chủ, đồng thời yêu cầu bảo đảm chủ quyền quốc gia trên không gian mạng, an ninh mạng, an ninh dữ liệu và an toàn thông tin là nhiệm vụ xuyên suốt, không thể tách rời quá trình phát triển. Thông báo 24 nhấn mạnh không đánh đổi an ninh, an toàn để lấy phát triển, nhưng cũng không vì lo ngại rủi ro mà làm chậm đổi mới sáng tạo. Theo Tiến sĩ Mạc Quốc Anh, kiểm soát AI cần dựa trên ba nền tảng: chất lượng dữ liệu, quản trị và quy trình, cùng vai trò quyết định của con người. Nói tóm lại, năng lực làm chủ AI không chỉ đo bằng số lượng mô hình hay ứng dụng, mà bằng khả năng nhận diện, kiểm soát và xử lý những rủi ro do công nghệ tạo ra. Nếu không chấp nhận chi phí quản lý rủi ro công nghệ ngay hôm nay, chúng ta sẽ phải trả giá bằng những khủng hoảng niềm tin ngày mai.
