Lọc trước khi gọi agent, nhưng đừng lọc mù
AI agent bảo mật là hệ thống dùng trí tuệ nhân tạo để xem xét cảnh báo và nhật ký, hỗ trợ phân loại sự kiện, nhận diện rủi ro và xác định trường hợp cần con người xử lý. Kindo công bố Deep Hat Sift ngày 28 tháng 10, hướng tới việc quyết định sự kiện nào cần kích hoạt lượt chạy agent trước khi mô hình lớn hơn bắt đầu phân tích. Ý tưởng này nhắm đúng một điểm nghẽn thường bị xem nhẹ: mỗi cảnh báo được đưa qua agent đều tiêu tốn tài nguyên, kể cả khi kết luận cuối cùng là không cần hành động. Ở quy mô doanh nghiệp, việc điều tra hàng loạt cảnh báo không đáng xử lý có thể thành khối lượng công việc đáng kể. Vì thế, giảm chi phí AI agent không nhất thiết đồng nghĩa với chọn mô hình rẻ hơn; đôi khi tốt hơn là tránh khởi chạy những cuộc điều tra ít khả năng dẫn đến hành động. Nhưng lọc sai một tín hiệu quan trọng sẽ biến khoản tiết kiệm thành rủi ro.
Deep Hat Sift đặt một cửa kiểm soát trước agent
Deep Hat Sift học từ kết luận của agent đích để nhận diện những sự kiện mà agent thường loại bỏ. Thay vì chặn dữ liệu ngay khi cài đặt, hệ thống ban đầu chạy ngầm: agent vẫn xem mọi sự kiện, còn Sift đưa ra dự đoán để nhóm vận hành so sánh và xem trước nội dung có thể bị chặn. Chỉ sau khi người phụ trách duyệt ngưỡng lọc, hệ thống mới bắt đầu loại sự kiện. Cách triển khai này đáng tin hơn việc giao quyền quyết định cho mô hình ngay từ đầu, nhưng nó cũng đòi hỏi giám sát liên tục. Sift tiếp tục chuyển ngẫu nhiên một mẫu sự kiện dự kiến bị chặn đến agent để đo tỷ lệ bỏ sót; khi chất lượng suy giảm, hệ thống có thể mặc định cho phép xử lý và đưa sự kiện trở lại agent. Đây là các lan can cần thiết, không phải lời bảo đảm rằng mọi cảnh báo an ninh mạng quan trọng đều sẽ được phát hiện.
Sản phẩm nhắm đến các luồng dữ liệu dày như cảnh báo SIEM, công cụ phát hiện trên thiết bị đầu cuối, thư báo cáo lừa đảo, hàng đợi phiếu và nhật ký hệ thống, mạng. Kindo cho biết Deep Hat Sift có thể triển khai tại chỗ, trên đám mây do khách hàng tự quản lý, trên đám mây của Kindo hoặc trong môi trường biệt lập. Với tổ chức có nhiều dữ liệu nhiễu, giảm lượt chạy thừa có thể làm nhẹ công việc rà soát liên tục. Tuy nhiên, các chỉ số bao phủ và bỏ sót được đối chiếu với đánh giá của agent mà Sift phục vụ; chúng không tự chứng minh agent ấy nhận diện chính xác mọi sự cố. Lọc càng mạnh, doanh nghiệp càng phải kiểm tra kỹ chất lượng của cả lớp lọc lẫn hệ thống phía sau.
Đánh giá rủi ro phải vượt khỏi mã nguồn
Trong khi Kindo tìm cách giảm số sự kiện kích hoạt agent, AimIntelligence chọn hướng xác minh liệu rủi ro được phát hiện có thật sự tồn tại trong vận hành. Ngày 23/10, công ty công bố dịch vụ đánh giá bảo mật ứng dụng kết hợp công cụ AI red team Stinger với chương trình Daybreak của OpenAI. Dịch vụ kết hợp phân tích mã nguồn với kiểm chứng môi trường vận hành cho ứng dụng AI, dịch vụ web và API. Hệ thống xem xét các điểm yếu liên quan đến quyền truy cập, cấu hình và luồng dữ liệu để xác định mức rủi ro thực tế, ưu tiên xử lý và cung cấp bằng chứng tái hiện cùng hướng dẫn khắc phục. Đây là phần bổ sung quan trọng cho tự động hóa: phát hiện một điểm yếu trong mã chưa đủ để kết luận mức độ nguy hiểm nếu chưa xét cách ứng dụng hoạt động trong môi trường cụ thể.
AimIntelligence cho biết dịch vụ giúp doanh nghiệp kiểm chứng rủi ro do AI phát hiện ngay trong môi trường dịch vụ thực tế của từng tổ chức. Với đơn vị thiếu nhân sự an ninh mạng, bằng chứng tái hiện và hướng dẫn sửa lỗi có thể giúp đội ngũ kỹ thuật có cơ sở hành động thay vì chỉ nhận thêm một danh sách phát hiện. Đây là hướng tiếp cận khác với Sift: một bên giảm những lượt phân tích có khả năng không cần thiết, bên kia kiểm chứng sâu hơn các rủi ro đã được nêu ra. Hai việc không thay thế nhau. Doanh nghiệp vẫn cần xác định khi nào nên tiết kiệm lượt chạy và khi nào phải đầu tư vào đánh giá bảo mật ứng dụng đầy đủ.
Tiết kiệm không được đánh đổi bằng điểm mù
Hai hướng đi cùng đặt ra một bài toán quản trị: lọc thận trọng giúp duy trì độ bao phủ nhưng tiết kiệm ít lượt chạy; lọc mạnh có thể giảm nhiều việc hơn nhưng khiến lấy mẫu, phát hiện suy giảm và độ tin cậy của agent phía sau trở nên quan trọng hơn. Không có một ngưỡng phù hợp cho mọi tổ chức, vì sự kiện vô nghĩa trong một quy trình có thể là tín hiệu cần chú ý trong quy trình khác. Do đó, doanh nghiệp nên coi việc bật lọc là một thay đổi vận hành có phê duyệt, nhật ký và khả năng quay về chế độ chuyển mọi sự kiện cho agent, chứ không phải thao tác tối ưu chi phí một lần.
Kết luận đáng chú ý không phải là AI có thể thay con người đọc mọi cảnh báo, mà là doanh nghiệp cần phân biệt rõ bước chọn sự kiện với bước xác minh nguy cơ. Deep Hat Sift có thể giảm công việc lặp lại nếu được giám sát và đo tỷ lệ bỏ sót; dịch vụ Stinger kết hợp Daybreak nhấn mạnh việc kiểm chứng phát hiện trong bối cảnh ứng dụng thực tế. Ghép hai tư duy này mới tạo ra thế cân bằng hợp lý: hạn chế chi phí AI agent từ những lượt chạy không cần thiết, nhưng không nhầm sự im lặng của bộ lọc với bằng chứng rằng hệ thống an toàn.
