Ứng dụng AI nudify là gì và vì sao San Francisco nổi giận?
Ứng dụng AI nudify là các phần mềm dùng trí tuệ nhân tạo để biến ảnh người đang mặc quần áo thành hình ảnh khỏa thân hoặc khiêu dâm giả, chỉ trong vài giây, thường không có sự đồng ý của người xuất hiện trong ảnh, từ đó mở ra nguy cơ bị quấy rối, tống tiền và xâm hại nghiêm trọng quyền riêng tư trên môi trường số. Thành phố San Francisco không còn coi đây là một trò nghịch công nghệ vô hại: Công tố viên David Chiu đã gửi thư yêu cầu Apple và Google gỡ bỏ 13 ứng dụng AI nudify khỏi App Store và Google Play Store, đồng thời chấm dứt việc phân phối các công cụ tạo ảnh thân mật giả không có sự đồng thuận. Động thái này phát đi một thông điệp rõ ràng: kho ứng dụng không thể tiếp tục né tránh trách nhiệm, khi chính hạ tầng của họ đang biến deepfake khiêu dâm thành “dịch vụ thương mại” dễ tiếp cận.
AI tạo ảnh khỏa thân giả: từ trò nghịch đến công cụ xâm hại trẻ em công nghệ
Điểm đáng sợ của các ứng dụng AI nudify là chúng biến mọi bức ảnh đời thường – một tấm selfie trên mạng xã hội, ảnh lớp học, ảnh gia đình – thành vật liệu cho nội dung khiêu dâm giả chỉ trong vài giây. Theo văn phòng Công tố viên San Francisco, công nghệ này đang bị sử dụng để quấy rối phụ nữ, bắt nạt học sinh, phát tán nội dung giả mạo và tống tiền nạn nhân. Nhìn từ góc độ xâm hại trẻ em công nghệ, vấn đề còn nghiêm trọng hơn: một số vụ việc liên quan trực tiếp đến trẻ vị thành niên, khiến cơ quan thực thi pháp luật buộc phải siết chặt quản lý những ứng dụng dạng này. Những bức ảnh học sinh tưởng chỉ để bạn bè xem có thể bị biến thành deepfake khiêu dâm, rồi lan truyền và gắn vĩnh viễn với danh tính số của các em. Bảo vệ trẻ em trong kỷ nguyên AI không chỉ là dạy kỹ năng số, mà là buộc các nền tảng ngăn chặn công cụ gây hại ngay từ cửa ngõ.
Bảo mật App Store và Google Play Store: gatekeeper hay chợ trời kỹ thuật số?
Cuộc điều tra của Tech Transparency Project cho thấy vấn đề không dừng ở vài ứng dụng vi phạm: App Store và Google Play Store đã cho phép ứng dụng AI nudify tồn tại và còn giúp người dùng dễ dàng tìm thấy chúng thông qua tìm kiếm, quảng cáo và gợi ý từ khóa. Khi gõ các từ như “nudify”, “undress” hay “deepnude”, khoảng 40% kết quả là ứng dụng có khả năng tạo ảnh khỏa thân hoặc gợi dục giả từ ảnh phụ nữ. Theo dữ liệu AppMagic, nhóm ứng dụng nudify trong kết quả tìm kiếm đã đạt 483 triệu lượt tải và hơn USD 122 triệu (khoảng ₫3.100.000.000.000) doanh thu trọn đời, cho thấy đây là một thị trường béo bở hơn là rủi ro nhỏ lẻ. Câu hỏi đặt ra: bảo mật App Store và Google Play Store an toàn đến đâu, nếu chính cơ chế đề xuất và quảng cáo lại “nuôi sống” công cụ xâm hại? Khi các kho ứng dụng được hưởng phần doanh thu từ giao dịch trong ứng dụng, việc né tránh trách nhiệm không còn thuyết phục.
Kiểm duyệt ứng dụng: 28 ngày để chứng minh App Store và Google Play Store đủ trách nhiệm
San Francisco không chỉ yêu cầu gỡ bỏ 13 ứng dụng AI nudify, mà còn đặt ra thời hạn 28 ngày để Apple và Google khắc phục vấn đề trước khi thành phố cân nhắc thêm hành động pháp lý, với nguy cơ chịu các mức phạt dân sự đáng kể theo luật California. Đây là lời cảnh báo rằng “hàng rào kiểm duyệt ứng dụng hiện có chưa đủ”, như chính động thái của thành phố đã hàm ý. Google cho biết đã xóa hàng trăm ứng dụng vi phạm, chặn tìm kiếm từ khóa liên quan đến nudify, và dùng kết hợp thuật toán cùng đánh giá thủ công để phát hiện nội dung lạm dụng. Phía Apple cũng xác nhận đã gỡ bỏ một số ứng dụng trong danh sách và chuẩn bị khóa tài khoản nhà phát triển liên quan, đồng thời yêu cầu các ứng dụng khác khắc phục vi phạm hoặc sẽ bị xóa. Tuy vậy, nếu chiến lược kiểm duyệt vẫn dựa vào phản ứng sau khi có scandal thay vì chủ động truy vết chức năng nguy hiểm, kho ứng dụng sẽ tiếp tục chạy đua không hồi kết với các nhà phát triển cố tình lách luật.
Người dùng cần thay đổi cách nhìn về kho ứng dụng “an toàn”
Động thái của San Francisco là tín hiệu rõ ràng rằng bảo mật App Store hay Google Play Store an toàn không phải là mặc định, mà là kết quả của kiểm duyệt ứng dụng nghiêm ngặt – và hiện chúng ta chưa có điều đó. Các kho ứng dụng không còn là chợ trời trung lập; chính quyền muốn xem chúng như gatekeeper chủ động, phải chịu trách nhiệm về phần mềm họ phát hành và kiếm tiền. Với người dùng, điều này có hai hệ quả. Một mặt, ta có thể kỳ vọng các ứng dụng AI nudify, deepfake khiêu dâm và công cụ xâm hại trẻ em công nghệ sẽ khó sống sót hơn trên kho chính thống. Mặt khác, không nên ảo tưởng rằng việc “đã lên App Store/Google Play” đồng nghĩa ứng dụng an toàn với quyền riêng tư. Kết luận thực tế nhất: hãy coi kho ứng dụng là nguồn tiện lợi chứ không phải bộ lọc đạo đức; kiểm tra kỹ tính năng, quyền truy cập và đánh giá độc lập trước khi giao ảnh, dữ liệu và danh tính số của bạn cho bất kỳ ứng dụng AI nào.
