Khám phá sở thích, cùng nhau

Deal thật, đánh giá chân thực và câu chuyện mua sắm từ những người cùng sở thích với bạn — mỗi ngày trên Sammfy.

Khám phá sở thích, cùng nhauDeal thật, đánh giá chân thực và câu chuyện mua sắm từ những người cùng sở thích với bạn — mỗi ngày trên Sammfy.

81% CIO khó kiểm soát AI agent: Rủi ro nằm ở đâu?

81% CIO khó kiểm soát AI agent: Rủi ro nằm ở đâu?
Sở thích|Phân tích dữ liệu AI

Tốc độ triển khai đang vượt năng lực kiểm soát

AI agent doanh nghiệp là phần mềm có thể thực hiện nhiệm vụ và hành động theo mục tiêu với mức tự chủ nhất định, thay vì chỉ trả lời từng yêu cầu riêng lẻ. Khi được nhân rộng mà thiếu quy trình phê duyệt và theo dõi, những tác nhân này có thể nằm ngoài tầm quản lý của tổ chức. Báo cáo của Dataiku công bố ngày 29/10, dựa trên khảo sát 685 CIO toàn cầu do Harris Poll thực hiện, ghi nhận 81% người được hỏi thừa nhận đã mất kiểm soát hoặc thiếu giám sát toàn diện đối với các agent do doanh nghiệp tạo ra. Vấn đề nổi bật nhất là những tác nhân do nhân viên tự xây dựng ngoài kênh chính thức hoặc hệ thống được phê duyệt: hơn 550 CIO cho biết họ không thể giám sát đầy đủ nhóm agent này. Đây không phải lời kêu gọi dừng triển khai AI. Đó là dấu hiệu cho thấy tốc độ đưa công cụ vào công việc đã vượt xa khả năng quản trị hiện có.

Agent tự phát tạo ra vùng mù quản trị

Nguyên nhân không chỉ nằm ở số lượng agent, mà còn ở cách chúng được tạo và phân tán giữa các bộ phận, ứng dụng và nền tảng. Nhân viên có thể xây tác nhân để giải quyết nhu cầu tức thời, trong khi bộ phận CNTT không nắm được agent đó dùng dữ liệu nào, được cấp quyền gì hoặc tiếp tục hoạt động ra sao. Theo khảo sát, 84% CIO nói nhân viên đang tạo agent và ứng dụng AI nhanh hơn khả năng quản lý của hệ thống CNTT. Quy mô càng làm vùng mù lớn hơn: 67% CIO ước tính doanh nghiệp có ít nhất 51 agent đang vận hành. Thế nhưng 83% tổ chức chưa có quy trình chuẩn hóa để quản lý vòng đời agent, còn 47% đã phải ngừng hơn 20 agent trong năm nay. Những con số này cho thấy giám sát AI doanh nghiệp không thể dựa vào một danh sách công cụ được cập nhật thủ công. Nếu không biết agent nào đang tồn tại và ai chịu trách nhiệm, tổ chức khó phát hiện tác nhân kém hiệu quả hoặc quyết định có nên duy trì nó.

Theo dõi hoạt động chưa đủ để chứng minh giá trị

Một agent vẫn chạy không có nghĩa là nó đang tạo ra kết quả hữu ích. Gần ba phần tư CIO không thể xác nhận nhất quán liệu agent có đạt mục tiêu kinh doanh ban đầu; chỉ 28% đo lường thường xuyên cả hiệu suất vận hành lẫn kết quả kinh doanh trên toàn bộ các tác nhân. Khoảng cách này khiến doanh nghiệp khó phân biệt công cụ tạo giá trị với công cụ chỉ tiêu thụ nguồn lực và làm tăng độ phức tạp. Khả năng nhìn thấy chi phí cũng còn hạn chế: chỉ 21% CIO cho biết họ có thể theo dõi chi phí AI toàn diện, gần thời gian thực và phân tách theo bộ phận hoặc trường hợp sử dụng. Bởi vậy, kiểm soát AI agent phải bao gồm cả đánh giá kết quả và quyền quyết định dừng, sửa hoặc giữ lại một agent. Như CEO Dataiku Florian Douetteau nhận định: “Giám sát chỉ báo cho bạn biết một agent đang hoạt động. Còn quản lý mới xác định xem agent đó có xứng đáng được giữ lại hay không”.

Quản trị theo vòng đời, không bóp nghẹt đổi mới

Giải pháp không nhất thiết là tập trung hóa mọi hoạt động hoặc cấm nhân viên thử nghiệm. Có tới 91% CIO cho rằng chiến lược AI hiệu quả có thể trao quyền cho các bộ phận tự phát triển trong một môi trường được quản trị. Điều doanh nghiệp cần là hàng rào rõ ràng: ai được tạo agent, agent được phép truy cập dữ liệu nào, ai phê duyệt trước khi đưa vào vận hành, và ai theo dõi hiệu quả cũng như xử lý sự cố. Quản trị tác nhân AI nên bao phủ toàn bộ vòng đời: ghi nhận agent ngay từ lúc đề xuất, đánh giá rủi ro và quyền truy cập, phê duyệt triển khai, theo dõi hoạt động cùng kết quả, rồi định kỳ quyết định tiếp tục hay ngừng. Cách làm này giúp các nhóm vẫn chủ động đổi mới nhưng không để tác nhân ngoài kênh chính thức trở thành điểm mù. Áp lực ngày càng rõ: 72% CIO cho biết ngân sách AI có thể bị cắt giảm hoặc đóng băng nếu không đạt mục tiêu hiệu suất vào cuối năm 2026. Quản trị vì thế không phải thủ tục cản trở AI; đó là điều kiện để chứng minh AI đáng được tiếp tục đầu tư.

Doanh nghiệp cũng đang cân nhắc dùng nhiều mô hình, xem xét mô hình mã nguồn mở hoặc trọng số mở và đánh giá rủi ro phụ thuộc vào AI. Những lựa chọn đó càng khiến việc theo dõi nhất quán trở nên cần thiết: khi hệ thống phân tán, trách nhiệm và tiêu chuẩn kiểm soát phải rõ ràng hơn chứ không thể mờ đi.

Kết luận: trao quyền phải đi cùng trách nhiệm

Con số 81% phản ánh khoảng cách giữa tốc độ triển khai AI agent doanh nghiệp và năng lực quản trị chúng. Tác nhân do nhân viên tự tạo ngoài kênh được phê duyệt là điểm yếu dễ thấy, nhưng thiếu quy trình vòng đời, dữ liệu hiệu quả không đầy đủ và trách nhiệm bị chia cắt mới khiến vấn đề kéo dài. Doanh nghiệp không cần chọn giữa đổi mới và kiểm soát. Họ cần cho phép thử nghiệm trong giới hạn đã định, yêu cầu phê duyệt phù hợp với rủi ro, theo dõi agent xuyên suốt và có cách ngừng những tác nhân không đạt mục tiêu. Nếu không thể xác định agent nào đang chạy, ai chịu trách nhiệm và nó tạo ra kết quả gì, tổ chức chưa thực sự quản lý AI — chỉ đang để AI vận hành.

Sammfy nhận hoa hồng khi bạn mua sắm qua liên kết của chúng tôi, bạn không phải trả thêm chi phí.

You May Also Like

Comments
Viết gì đó...
Chưa có bình luận nào. Hãy là người đầu tiên chia sẻ suy nghĩ!