Nội dung AI nhạy cảm: vấn đề mới của kiểm duyệt video
Nội dung AI nhạy cảm là những hình ảnh, âm thanh hoặc video do trí tuệ nhân tạo tạo ra có yếu tố tình dục, bạo lực, xâm phạm quyền riêng tư hoặc làm mờ ranh giới đạo đức, thường khó nhận diện bằng mắt thường và dễ vượt qua các lớp kiểm duyệt truyền thống của nền tảng xã hội. Vụ TikTok xác nhận gỡ bỏ các video quảng cáo phim 18+ do AI tạo ra sau phản ánh của báo Dân trí cho thấy vấn đề này đã chuyển từ rủi ro lý thuyết thành thách thức vận hành cụ thể. Nền tảng buộc phải rà soát lại video bị báo chí nêu, mở rộng kiểm tra sang nội dung tương tự và kết luận đây là những nội dung vi phạm chính sách nền tảng xã hội, từ đó tiến hành gỡ bỏ nội dung vi phạm. Động thái này cho thấy kiểm duyệt video AI không còn là việc bổ sung bên lề, mà đang trở thành tuyến phòng thủ chính của nền tảng.
TikTok siết chính sách sau làn sóng video AI 18+
Việc TikTok phải can thiệp thủ công sau khi báo chí phản ánh đặt ra câu hỏi khó: các lớp kiểm duyệt video AI hiện tại vẫn còn khoảng trống. Dù nền tảng khẳng định Quy chuẩn Cộng đồng và Chính sách quảng cáo đã quy định rõ các hành vi bị cấm, những quảng cáo phim ngắn 18+ do AI tạo vẫn len được vào luồng đề xuất, khiến người dùng phàn nàn bị tiếp xúc nội dung nhạy cảm dù không chủ động tìm kiếm. Theo đại diện TikTok, từ tháng 1 đến tháng 3/2026, mạng xã hội này đã gỡ gần 18 triệu quảng cáo vi phạm trên toàn cầu, cho thấy quy mô xử lý nội dung vi phạm là rất lớn nhưng không đồng nghĩa hệ thống tự động đã đủ tinh. Vấn đề không chỉ là cấm nội dung AI nhạy cảm, mà là làm sao nhận diện kịp thời trong biển video ngày càng giống người thật.
Seedance 2.0: khi video AI chân thực hơn khả năng kiểm soát
Trong khi TikTok loay hoay với gỡ bỏ nội dung vi phạm, ByteDance lại có một bài toán khác: công nghệ của họ tiến xa hơn khung kiểm soát hiện có. Seedance 2.0 tạo ra video nhiều góc quay, chuyển động camera mượt, âm thanh và giọng nói đồng bộ đến mức giống sản phẩm của ê-kíp phim chuyên nghiệp. Một nhà sáng tạo còn cho biết hệ thống có thể tái tạo giọng nói gần như hoàn hảo chỉ dựa trên ảnh khuôn mặt, không cần dữ liệu âm thanh đầu vào, khiến nỗi lo xâm phạm quyền riêng tư tăng vọt. Trước phản ứng mạnh mẽ, ByteDance buộc phải tạm dừng tính năng tham chiếu người thật trong Seedance 2.0. Việc một ông lớn công nghệ tự tay khóa bớt công cụ của mình cho thấy ranh giới giữa sáng tạo và lạm dụng đã trở nên quá mỏng, và kiểm duyệt video AI không thể chỉ trông chờ vào bộ quy tắc trên giấy.
Từ phát hiện tự động đến can thiệp thủ công có hệ thống
Để đối phó làn sóng nội dung AI nhạy cảm, TikTok đang mở rộng quy trình đánh giá theo hướng kết hợp máy móc và con người. Nền tảng cho biết đã dùng nhiều công nghệ nhận diện và gắn nhãn, với hơn 3 tỷ nội dung được đánh dấu là do AI tạo ra. Con số này cho thấy họ không chọn cách cấm tràn lan, mà cố phân loại giữa nội dung AI hợp lệ và nội dung vi phạm. Các tính năng AI do chính nền tảng cung cấp phải qua nhiều vòng kiểm duyệt trước khi đến tay người dùng, đồng thời bổ sung kênh phản hồi để người dùng báo cáo trải nghiệm bất thường. Tuy vậy, thực tế việc báo chí phải “gõ cửa” mới dẫn đến gỡ bỏ nội dung vi phạm cho thấy khâu can thiệp thủ công vẫn đóng vai trò quyết định. Khi video AI ngày càng khó phân biệt, thuật toán cần được coi là lớp lọc đầu, chứ không phải lớp lọc duy nhất.
Giữ trải nghiệm người dùng trong kỷ nguyên video AI siêu thực
Thách thức lớn nhất với các nền tảng xã hội không chỉ là chặn nội dung AI nhạy cảm, mà là làm sao làm điều đó mà không phá vỡ trải nghiệm người dùng. TikTok đang thử nhiều biện pháp: giới hạn quảng cáo phim ngắn chỉ phân phối cho người dùng từ 18 tuổi trở lên, dùng mô hình dự đoán tuổi để phát hiện tài khoản có thể là trẻ vị thành niên, đồng thời triển khai bộ công cụ kiểm soát như lọc từ khóa, chế độ hạn chế và tắt tiếng tài khoản. Với người dùng trẻ, nền tảng còn hạn chế quyền truy cập những tính năng AI mới trong giai đoạn đầu để có thêm thời gian theo dõi tác động. Tuy nhiên, khi hệ thống đề xuất vẫn có thể đưa quảng cáo nhạy cảm đến người dùng không hề tìm kiếm, rõ ràng thuật toán tối ưu tương tác đang va chạm với trách nhiệm bảo vệ người dùng. Nếu các nền tảng không sớm ưu tiên an toàn hơn lượt xem, họ sẽ trả giá bằng niềm tin bị bào mòn.
