AI tự chủ quyết định là gì và vì sao đây là bước ngoặt nguy hiểm?
AI tự chủ quyết định là các hệ thống có khả năng tự lập kế hoạch, tự ra quyết định và trực tiếp thực hiện hành động trong thế giới thực, từ truy cập dữ liệu, thực hiện giao dịch đến quản lý nhân viên, mà không cần con người điều khiển từng bước, khiến ranh giới giữa “công cụ hỗ trợ” và “tác nhân độc lập” bị xóa nhòa và đặt ra câu hỏi mới về quyền lực, kiểm soát và trách nhiệm. Trong bối cảnh đó, câu hỏi không còn là AI “làm được gì”, mà là AI “được phép làm tới đâu” và ai phải chịu trách nhiệm khi nó sai. Khi AI chuyển từ vai trò trợ lý sang vai trò “người thực thi”, toàn bộ khung kiểm soát quyền hạn, giám sát hành vi và trách nhiệm pháp lý AI buộc phải được thiết kế lại ngay từ gốc.
Khi AI ngồi ghế quản lý: Claude sa thải nhân viên, Mona điều hành quán cà phê
AI đã bước hẳn vào phòng quản lý, không còn đứng ngoài hỗ trợ. Trong một thử nghiệm tại Mỹ, AI Claude được giao quản lý một cửa hàng bán lẻ; một nhân viên bị phát hiện đi muộn 17 trong tổng số 23 ca làm việc và ban đầu Claude chỉ đề xuất cảnh cáo, nhưng sau khi một quản lý con người đặt câu hỏi về mức độ phù hợp của nhân viên này, Claude đã thay đổi quyết định và chọn sa thải. Câu chuyện này cho thấy quản lý nhân viên bằng AI không còn là giả tưởng. Ở Stockholm, AI Mona điều hành một quán cà phê thật, tự lo giấy phép kinh doanh, giấy phép chế biến thực phẩm, giấy phép sử dụng không gian ngoài trời, thậm chí tự ký hợp đồng điện, theo dõi doanh thu, quản lý tồn kho và điều hành nhân viên. Nhưng Mona cũng liên tục đặt sai hàng – có lúc thiếu bánh mì, có lúc lại đặt tới 15 kg chuối và rất nhiều nguyên liệu ít dùng. Rõ ràng, AI tự chủ quyết định trong vận hành và nhân sự vừa mở ra hiệu quả mới, vừa phơi bày rủi ro rất đời thường nhưng đầy hệ lụy.
Khoảng mù trách nhiệm: khi AI sa thải nhầm, ai đứng ra chịu?
Một lỗi kỹ thuật của AI có thể được vá lại, nhưng một quyết định sai về một con người – như chuyện sa thải – không thể “rollback” đơn giản như sửa mã nguồn. Khi Claude tham gia quyết định sa thải hay Mona tự quyết chuyện đặt hàng, câu hỏi trách nhiệm pháp lý AI lập tức xuất hiện: nếu hậu quả xảy ra, lỗi thuộc về người phát triển, đơn vị triển khai hay người sử dụng hệ thống? Theo quan điểm “responsibility follows control – trách nhiệm phải đi cùng quyền kiểm soát”, ai nắm quyền kiểm soát phần nào của hệ thống thì phải chịu trách nhiệm tương ứng với phần đó. Người phát triển phải chịu trách nhiệm với thiết kế, mô hình, thuật toán và các giới hạn bảo vệ; đơn vị triển khai chịu trách nhiệm về cách cấp quyền, kết nối hệ thống, giám sát; người dùng chịu trách nhiệm khi vượt cảnh báo, dùng sai mục đích hoặc trao cho AI những quyền mình không được phép trao. Điều đáng lo là phần lớn doanh nghiệp chưa hề mô tả rõ những “vùng trách nhiệm” này trong hợp đồng, quy trình hay chính sách nội bộ, tạo ra một khoảng mù trách nhiệm rất nguy hiểm.
Không thể “thả rông” AI: cần khung kiểm soát mới cho doanh nghiệp
Nếu tiếp tục dùng khung kiểm soát xây cho con người để áp lên hệ thống AI tự hành, doanh nghiệp sẽ sớm bị bất ngờ vì những “điểm mù” mới. AI có thể kết hợp nhiều chuỗi hành động sáng tạo để đạt mục tiêu, khiến các hệ thống bảo mật truyền thống vốn chỉ nhìn từng hành vi riêng lẻ khó hiểu được ý định đằng sau. Một AI agent được cấp nhiều công cụ và dữ liệu khác nhau; có hành động dùng quyền hạn đó là hợp lệ, nhưng hành động khác lại bất thường, trong khi hệ thống cũ không đủ ngữ cảnh để phân biệt. Chính vì vậy, kiểm soát AI trong doanh nghiệp phải bắt đầu từ việc “đóng khung” quyền lực AI theo ba lớp: xác định AI được phép làm gì dựa trên nguyên tắc đặc quyền tối thiểu; phân loại hành động theo mức độ rủi ro để quyết định hành động nào AI được tự quyết, hành động nào bắt buộc phải có người review; và thiết lập cơ chế giám sát, truy vết để biết AI đã làm gì và vì sao. Như một chuyên gia đã nhấn mạnh, AI cần được trao quyền để hành động nhưng không được phép tự mở rộng quyền hạn của mình; con người phải nghiêm túc xác định AI được phép làm tới đâu.
Xây niềm tin với AI: giới hạn rõ ràng, con người giữ quyền phán quyết cuối
Từ một công cụ, AI đang trở thành “đồng nghiệp”; nhưng khi AI trở thành người đánh giá và ra quyết định thay cho đồng nghiệp của mình, vai trò đó đã khác hẳn và đòi hỏi một khung quản trị mới. Giới hạn nào cho quyền lực của AI? Câu trả lời phải được viết thành chính sách cụ thể chứ không thể dừng ở khẩu hiệu. Các doanh nghiệp cần rạch ròi phạm vi AI tự chủ quyết định, đặc biệt với các quyết định liên quan trực tiếp đến con người như tuyển dụng, đánh giá, kỷ luật và sa thải. “AI có thể hỗ trợ, nhưng không nên là người nói lời cuối cùng” – đây không phải lời khuyên mềm yếu, mà là điều kiện tồn tại để duy trì niềm tin của người lao động và xã hội đối với quản lý nhân viên bằng AI. Thay vì dùng AI để thay thế nhân viên, doanh nghiệp nên dùng AI để giúp họ làm được nhiều việc hơn, trong khi quyền phán quyết cuối cùng với các quyết định nhạy cảm vẫn thuộc về con người. Khi đó, quản trị AI không chỉ là kiểm soát rủi ro, mà còn là chiến lược xây niềm tin cho cả tổ chức.
