AI hallucination quân sự là gì và vì sao suýt châm ngòi khủng hoảng?
AI hallucination quân sự là hiện tượng hệ thống trí tuệ nhân tạo tự “bịa” hoặc diễn giải sai dữ liệu, tạo ra thông tin tình báo không có căn cứ nhưng vẫn mang vẻ ngoài rất thuyết phục, dễ bị con người nhầm là sự thật và đưa vào quy trình ra quyết định chiến lược, kể cả trong bối cảnh xung đột vũ trang. Vụ việc mới đây của quân đội Mỹ là ví dụ điển hình cho mức độ nguy hiểm của hiện tượng này. Trong giai đoạn đầu chiến dịch chống Iran vào mùa xuân, một chuyên gia phân tích đã dùng chatbot AI để xử lý thông tin liên quan tới bản kê khai hàng hóa của một tàu Trung Quốc ở Trung Đông. AI đã kết luận con tàu đang chở các bộ phận phục vụ chương trình vũ khí hạt nhân, và từ đó kích hoạt cả một chuỗi hành động quân sự dựa trên tình báo AI sai lệch.
Từ một câu trả lời của chatbot tới kế hoạch đổ bộ lên tàu Trung Quốc
Điểm đáng lo nhất trong vụ này không phải là một câu trả lời sai của chatbot, mà là cách nó được “nâng cấp” thành báo cáo tình báo chính thức. Chuyên gia phân tích đã dùng chatbot để diễn giải dữ liệu, kết hợp thông tin công khai với tín hiệu mật rồi tạo ra đánh giá rằng con tàu Trung Quốc đang vận chuyển hàng liên quan vũ khí hạt nhân. Sau đó, chính AI tiếp tục được dùng để soạn thảo báo cáo theo định dạng chuẩn tình báo, gửi đến các cấp chỉ huy. Kết quả: quân đội Mỹ lập tức lên kế hoạch chặn tàu, lực lượng vũ trang chuẩn bị đổ bộ, máy bay quân sự đã cất cánh hỗ trợ. Chỉ ngay trước giờ G, khi một số quan chức quyết định kiểm tra kỹ lại, họ mới phát hiện chatbot đã AI misidentification hoàn toàn loại hàng hóa mà con tàu thực sự chở.
“Hoàn toàn sai” nhưng suýt thành chiến tranh: khi tình báo AI sai lệch chạm ngưỡng đỏ
Một nguồn tin mô tả bản báo cáo là “hoàn toàn sai” nhưng “suýt châm ngòi một cuộc chiến”. Một đánh giá tình báo sai lệch do AI-assisted analysis tạo ra đã gần như dẫn đến việc quân đội Mỹ xâm nhập một tàu Trung Quốc. Đây không còn là lỗi kỹ thuật; đó là nguy cơ leo thang trực diện giữa hai cường quốc. Khi một tàu quân sự hoặc tàu hàng của đối phương bị chặn dựa trên cáo buộc liên quan vũ khí hạt nhân, bất kỳ sai sót nào cũng có thể bị diễn giải như hành động thù địch. Đặc biệt, trong bối cảnh cạnh tranh chiến lược, chỉ một sự cố “AI hallucination quân sự” như vậy cũng đủ kích hoạt phản ứng trả đũa, rồi nhanh chóng vượt khỏi tầm kiểm soát. Thực tế lần này, các quan chức chỉ kịp kéo phanh khẩn cấp nhờ kiểm chứng muộn, chứ không phải nhờ hệ thống kiểm soát AI đã sẵn sàng.
Rủi ro AI quân đội trong bối cảnh mở rộng sử dụng ồ ạt
Sự cố này diễn ra đúng lúc quân đội và cộng đồng tình báo Mỹ đang nỗ lực tích hợp AI vào gần như mọi lĩnh vực: từ phân tích khối lượng dữ liệu tình báo thô khổng lồ và lựa chọn mục tiêu không kích, đến quản lý ngân sách, hậu cần và chuỗi cung ứng. Các công cụ AI đang được triển khai rộng khắp trong tình báo, tác chiến, hành chính và ra quyết định trên chiến trường. Đáng chú ý, có hơn 1,3 triệu nhân sự đã sử dụng hệ thống GenAI.mil, tạo ra hàng chục triệu câu lệnh chỉ trong năm tháng. Đây là con số cho thấy tốc độ “phổ cập” AI chóng mặt. Nhưng chính sự mở rộng đó, cộng với môi trường triển khai phân mảnh, mỗi đơn vị dùng một hệ thống và cách kiểm tra khác nhau, đang phóng đại rủi ro AI quân đội: mọi lỗi nhỏ của AI đều có thể bị khuếch đại lên quy mô chiến lược.
Không có AI an toàn nếu thiếu con người kiểm chứng
Bài học rõ ràng nhất từ vụ tàu Trung Quốc là: AI không được phép là mắt xích cuối cùng trong chuỗi quyết định quân sự. Công cụ AI có thể giúp phân tích nhanh hơn, dễ hơn, nhưng chính các nguồn tin cũng thừa nhận chúng “yêu cầu kiểm chứng nghiêm ngặt của con người trước mọi quyết định tác chiến”. Vấn đề không nằm ở chỗ AI thông minh tới đâu, mà ở việc liệu tổ chức có quy trình bắt buộc truy ngược dữ liệu gốc, đối chiếu đa nguồn và đặt câu hỏi với mọi kết luận do AI tạo ra hay không. Hiện tại, sự thiếu một quy trình xác minh thống nhất cho mọi sản phẩm tình báo AI-assisted trong quân đội là lỗ hổng lớn. Nếu không xây dựng văn hóa “AI nói gì cũng phải nghi ngờ”, các sự cố AI misidentification sẽ tiếp tục xảy ra, và lần sau có thể không may mắn dừng lại trước khi nổ súng.
