Ứng dụng nudify AI: từ trò “chỉnh ảnh” đến công cụ gây hại
Ứng dụng nudify AI là các phần mềm di động dùng trí tuệ nhân tạo để biến ảnh người mặc quần áo thành hình ảnh khỏa thân hoặc gợi dục giả, không phản ánh cơ thể thật, thường được tung ra dưới vỏ bọc công cụ chỉnh sửa ảnh vô hại nhưng thực chất tiềm ẩn nguy cơ xâm phạm quyền riêng tư, quấy rối và tống tiền nạn nhân trên quy mô lớn. Công tố viên thành phố San Francisco David Chiu đã gửi thư yêu cầu Apple và Google gỡ bỏ 13 ứng dụng nudify AI khỏi kho ứng dụng và chấm dứt phân phối trong vòng 28 ngày. Điều đáng nói là nhiều ứng dụng được quảng bá như công cụ hoán đổi khuôn mặt hay chỉnh sửa ảnh nghệ thuật, nhưng thực tế cho phép tạo ảnh khỏa thân giả mà không có sự đồng thuận của người trong ảnh. Đây không còn là câu chuyện về vài ứng dụng “tai nạn” mà là lời cảnh báo trực diện: khi công nghệ AI được thương mại hóa thiếu kiểm soát, người dùng di động trở thành vật thí nghiệm.
Lỗ hổng kiểm duyệt trên App Store và Google Play: khi nền tảng không còn “trung lập”
Cuộc điều tra của Tech Transparency Project cho thấy kho ứng dụng không chỉ chứa ứng dụng nudify AI, mà còn vô tình giúp chúng dễ dàng tiếp cận người dùng. Khi tìm các từ khóa như “nudify”, “undress” hay “deepnude”, khoảng 40% ứng dụng xuất hiện có khả năng tạo hình ảnh khỏa thân hoặc gợi dục giả từ ảnh phụ nữ. Tệ hơn, hệ thống gợi ý từ khóa và quảng cáo lại tiếp tay, dẫn người dùng đến cả một hệ sinh thái ứng dụng nudify AI. Theo dữ liệu AppMagic, nhóm ứng dụng này đạt 483 triệu lượt tải và mang về hơn USD 122 triệu (khoảng ₫3.050.000.000.000) doanh thu trọn đời, cho thấy đây là thị trường khổng lồ chứ không phải hiện tượng nhỏ lẻ. Theo một cuộc điều tra được trích dẫn, "các ứng dụng nudify xuất hiện trong kết quả tìm kiếm đã đạt 483 triệu lượt tải xuống và tạo ra hơn 122 triệu USD doanh thu trọn đời". Khi Apple và Google hưởng lợi từ giao dịch mua trong ứng dụng, họ khó có thể tiếp tục tự nhận là "chợ ứng dụng trung lập".
Rủi ro thực tế với phụ nữ, trẻ em và người dùng di động
Đằng sau các ứng dụng nudify AI là những nạn nhân bị biến ảnh đời thường thành nội dung khiêu dâm giả trong vài giây. Chỉ cần một bức ảnh đăng trên mạng xã hội, AI có thể dựng nên hình ảnh thân mật giả dùng để quấy rối, bắt nạt học sinh, phát tán nội dung giả mạo hoặc tống tiền. Những trường hợp liên quan đến trẻ vị thành niên khiến bài toán bảo vệ người dùng di động trở nên cấp bách: khi chiếc điện thoại là cửa ngõ vào kho ứng dụng, mỗi cú nhấp tải là một khả năng xâm phạm quyền riêng tư. Các ứng dụng này dùng AI biến ảnh người mặc quần áo thành ảnh khỏa thân hoặc gợi dục giả và được sử dụng để quấy rối, khai thác, đe doạ phụ nữ và trẻ em gái. Nếu không có rào cản kiểm soát hiệu quả, deepfake từ các ứng dụng nudify AI dễ trở thành công cụ quấy rối, lừa đảo và gây tổn hại tâm lý lâu dài. Bảo vệ an toàn ứng dụng di động rõ ràng không thể chỉ dừng ở chỗ "gắn nhãn 18+" rồi phó mặc cho người dùng.
28 ngày và bài toán trách nhiệm: từ nhà phát triển đến nền tảng
San Francisco dựa trên một luật mới của California, cấm hành vi cố ý hỗ trợ tạo nội dung khiêu dâm deepfake không có sự đồng thuận, để gửi thư “cease-and-desist” cho Apple và Google. City Attorney David Chiu cho hai công ty 28 ngày để khắc phục – gỡ 13 ứng dụng nudify AI, ngăn app tương tự quay lại, nếu không sẽ đối mặt chế tài dân sự nhiều khả năng rất nặng. Dù hai nền tảng đã từng gỡ một số ứng dụng và chặn nhiều tìm kiếm, thành phố cho rằng các biện pháp đến nay vẫn mang tính phản ứng, không đủ chủ động để ngăn các dịch vụ hại tiếp tục lọt vào kho ứng dụng. Như một phân tích quốc tế nhận định, "San Francisco đang kiểm tra xem trách nhiệm đối với AI gây hại có nên dừng ở nhà phát triển, hay mở rộng tới các công ty cung cấp nền tảng". Nói cách khác, gỡ bỏ ứng dụng App Store lần này không chỉ là xử lý vi phạm cụ thể mà là phép thử giới hạn trách nhiệm của nền tảng trong chuỗi giá trị công nghệ.
An toàn ứng dụng di động: Apple, Google phải chuyển từ “duyệt giấy tờ” sang bảo vệ chủ động
Làn sóng siết chặt AI tạo sinh trên toàn cầu cho thấy thách thức không nằm ở bản thân công nghệ mà ở thiếu cơ chế kiểm duyệt đối với sản phẩm thương mại hoá. Việc San Francisco yêu cầu gỡ ứng dụng nudify AI khẳng định một điều: chỉ đăng tải chính sách sử dụng là chưa đủ; nếu ứng dụng độc hại vẫn liên tục vượt qua hàng rào kiểm duyệt, nền tảng sẽ bị xem là đồng hành với hành vi xâm hại. Thực tế này đặt áp lực lớn lên Apple và Google: ngoài việc gỡ bỏ ứng dụng vi phạm, họ phải xây dựng cơ chế rà soát chủ động, kết hợp tìm kiếm, quảng cáo và khuyến nghị để không vô tình thúc đẩy nội dung có hại. An toàn ứng dụng di động phải trở thành tiêu chuẩn thiết kế: từ thuật toán phát hiện deepfake, quy trình phê duyệt nghiêm ngặt hơn cho ứng dụng AI, đến khả năng phản hồi nhanh trước cảnh báo từ cơ quan quản lý. Nếu các nền tảng không xem bảo vệ người dùng là trách nhiệm cốt lõi, luật và hình phạt sẽ buộc họ phải thay đổi.
