Khi AI lái xe, con người vẫn phải giữ tay lái

AI điều hành giao thông: không phải để thay con người, mà để giúp con người quyết định đúng

Khái niệm "xe tự hành giám sát" mô tả các hệ thống giao thông trong đó AI chịu trách nhiệm xử lý dữ liệu thời gian thực và tự động đưa ra khuyến nghị vận hành, nhưng mọi quyết định quan trọng vẫn cần con người xem xét, hiểu được lý do phía sau và có quyền can thiệp trực tiếp khi xuất hiện tình huống bất thường hoặc rủi ro an toàn cao. Đây không phải câu chuyện về thay thế tài xế, điều phối viên hay giám sát viên, mà là tái phân chia vai trò giữa thuật toán và con người trong hệ thống tự động con người. Lý do phải khẳng định ngay từ đầu: đặt toàn bộ niềm tin vào AI điều hành giao thông là một lựa chọn nguy hiểm. Các mô hình học sâu có thể xử lý khối lượng dữ liệu khổng lồ, nhưng chính sự phức tạp này khiến chúng trở thành “hộp đen” đầy bất ngờ. Trong môi trường rủi ro cao như giao thông, điều quan trọng không phải AI thông minh đến đâu, mà là con người có hiểu được AI đang làm gì hay không.

Singapore: AI “chỉ điểm” nhưng người điều hành vẫn là người ra quyết định

Việc Singapore đưa vào vận hành trung tâm điều hành xe buýt mới của một doanh nghiệp vận tải công cộng lớn từ tháng 6, khánh thành ngày 28/8, cho thấy cách dùng AI điều hành giao thông mà không tước bỏ vai trò con người. Trung tâm này áp dụng mô hình “điều hành thông minh”, dùng AI và dữ liệu thời gian thực để giám sát 75 tuyến, hơn 1.200 xe buýt đang vận hành tại 3 bến chính, với kế hoạch mở rộng thêm 1 bến trong tương lai. AI ở đây không ngồi vào ghế tài xế, mà đứng sau lưng tài xế và điều phối viên. Camera trên xe gửi dữ liệu về hành vi lái; hệ thống nhận diện các dấu hiệu buồn ngủ như nhắm mắt lâu, ngáp, ngủ gật rồi phát cảnh báo theo thời gian thực. Điều phối viên sẽ đánh giá mức độ, gọi nhắc tài xế hoặc yêu cầu dừng chuyến nếu nguy hiểm. Chỉ trong khoảng từ tháng 2/2025 đến tháng 8/2026, đã có hơn 1.500 lần can thiệp liên quan đến mệt mỏi của tài xế – một con số cho thấy AI đang giúp giảm lỗi con người, nhưng quyết định cuối cùng vẫn là của con người.

Từ giám sát sang phòng ngừa: khi hệ thống tự động con người làm việc cùng nhau

Điểm tiến bộ của trung tâm điều hành tại Singapore không nằm ở số lượng màn hình, mà ở cách AI thay đổi vai trò con người trong dây chuyền an toàn. Lãnh đạo đơn vị vận tải nhấn mạnh: "Chúng tôi không muốn các điều phối viên phải dán mắt vào màn hình để theo dõi hàng nghìn xe buýt. Hệ thống AI chỉ rõ chính xác chiếc xe nào cần được kiểm tra". Nghĩa là AI điều hành giao thông để lọc nhiễu, khoanh vùng rủi ro, còn con người tập trung vào những ca cần phán đoán. Cảm biến tích hợp AI trên xe buýt không chỉ theo dõi tài xế, mà còn phát hiện khi hành khách dùng xe lăn lên xe. Hình ảnh được gửi cho điều phối viên để kiểm tra xe lăn đã cố định đúng cách chưa; nếu chưa, tài xế được nhắc trước khi xe khởi hành. Hệ thống cũng dự báo hỏng hóc, giúp giảm 20% số vụ xe buýt hỏng từ tháng 11/2024. Trước đây, các vấn đề an toàn chủ yếu phụ thuộc vào tự quan sát của tài xế hoặc phản ánh của hành khách. Sự chuyển dịch từ “giám sát thụ động” sang “phòng ngừa chủ động” chỉ xảy ra khi AI và người vận hành cộng tác trong thời gian thực.

MIT và CW-Net: không chỉ giám sát xe tự hành, mà còn phát hiện sớm lỗi AI

Ở phía xe tự hành, bài toán khó hơn: con người không chỉ phải giám sát phương tiện, mà còn phải giám sát chính AI. Các mô hình học sâu điều khiển xe tự lái có thể bất ngờ phanh giữa đường hoặc đưa ra thao tác bất thường trong tình huống nguy hiểm. Vấn đề là tài xế an toàn thường không biết vì sao AI lại quyết định như vậy, trong khi họ chỉ có vài giây để phản ứng. Đó là lý do nhóm nghiên cứu tại một viện công nghệ và công ty xe tự hành Motional phát triển Concept-Wrapper Network (CW-Net). CW-Net được thiết kế để "phiên dịch" suy nghĩ của AI thành các khái niệm dễ hiểu như "đang tiến gần một phương tiện dừng phía trước" hay "ở gần người đi xe đạp". Quan trọng hơn, các khái niệm này được tích hợp trực tiếp vào bộ lập kế hoạch, buộc quyết định cuối cùng của xe phải dựa trên chính những khái niệm đó. CW-Net tạo ra lời giải thích theo thời gian thực cùng với quỹ đạo di chuyển, giúp tài xế an toàn không chỉ thấy xe làm gì mà còn biết hệ thống "cho rằng" điều gì đang diễn ra xung quanh. Đây là nền tảng để phát hiện sớm lỗi AI, thay vì chỉ nhận ra khi đã xảy ra tình huống nguy cấp.

Tin AI nhưng giữ tay lái: bài học chung cho các hệ thống tự hành

Một thử nghiệm trên robotaxi của Motional cho thấy vì sao giám sát con người vẫn là tuyến phòng thủ cuối cùng. Khi xe tiến gần một người đi xe đạp, nó liên tục dừng lại. Tài xế an toàn ban đầu nghĩ hệ thống đã phát hiện người đi xe đạp và đang tránh va chạm. Nhưng lời giải thích của CW-Net cho thấy mô hình không được cấu hình đúng để nhận diện người đi xe đạp; xe chỉ dừng vì hệ thống phanh khẩn cấp kích hoạt. Nếu không có CW-Net, kết quả dừng xe an toàn dễ bị hiểu lầm thành “AI hoạt động tốt” – một niềm tin sai lầm nguy hiểm. Trong các mô phỏng với tình huống giao thông được ghi lại tại Las Vegas, người tham gia nhận được lời giải thích từ CW-Net dự đoán hành vi xe tự lái tốt hơn rõ rệt so với nhóm không có thông tin này. Nhóm nghiên cứu cho rằng công nghệ như CW-Net giúp thu hẹp khoảng cách giữa cách AI thật sự ra quyết định và cách con người hình dung về nó, từ đó tránh cả hai cực đoan: tin tưởng mù quáng lẫn nghi ngờ vô lý. Khi nhiều quốc gia chuyển từ giám sát vi phạm sang nhận diện, cảnh báo và phòng ngừa rủi ro theo quy định pháp lý mới, bài học chung rất rõ ràng: hệ thống tự động con người chỉ an toàn khi AI và người vận hành cộng tác trong thời gian thực, và con người luôn giữ quyền kiểm soát cuối cùng.