Ứng dụng AI lột đồ là gì và vì sao chúng ta phải lo ngại?
Ứng dụng AI lột đồ là các công cụ dùng trí tuệ nhân tạo để biến ảnh người mặc quần áo thành hình ảnh khỏa thân hoặc gợi dục giả, chỉ cần một bức ảnh bình thường và cho kết quả trong vài giây, thường được dùng để quấy rối, bôi nhọ và tống tiền nạn nhân thay vì mục đích giải trí vô hại.
Câu chuyện không còn là chuyện vài ứng dụng độc hại bị lọt lưới. Thành phố San Francisco đã chính thức gửi thư yêu cầu Apple và Google chấm dứt phân phối các ứng dụng kiểu này trên kho ứng dụng của mình, nhấn mạnh rằng đây là công cụ tạo hình ảnh khỏa thân giả không có sự đồng thuận. Nói thẳng, các nền tảng đã để cho công nghệ vượt quá kiểm soát, và phụ nữ, trẻ em gái là những người gánh hậu quả nhiều nhất.
Lệnh trong 28 ngày: tín hiệu mạnh tay với 13 ứng dụng AI lột đồ
Công tố viên thành phố San Francisco, David Chiu, đã gửi thư yêu cầu Apple và Google gỡ bỏ 13 ứng dụng AI lột đồ khỏi App Store và Google Play, coi đây là hành vi vi phạm luật California về việc hỗ trợ tạo nội dung khiêu dâm deepfake không có sự đồng thuận. Ông đặt ra thời hạn 28 ngày để hai công ty “dọn sạch” vấn đề trước khi thành phố xem xét các hành động pháp lý tiếp theo.
Các ứng dụng này không chỉ tạo ảnh khỏa thân giả trong vài giây từ ảnh đăng trên mạng xã hội, mà còn được dùng để quấy rối phụ nữ, bắt nạt học sinh, phát tán nội dung giả mạo và tống tiền nạn nhân, bao gồm cả trẻ vị thành niên. Một câu nói có thể trích dẫn là: “Các ứng dụng ‘nudify’ đã đạt 483 triệu lượt tải xuống và tạo ra hơn 122 triệu USD (khoảng ₫3.100.000.000.000) doanh thu trọn đời”, cho thấy đây là một ngành kinh doanh béo bở dựa trên việc xâm phạm quyền riêng tư.
Lỗ hổng kiểm duyệt: an toàn trên App Store có thực sự an toàn?
Cuộc điều tra của một tổ chức giám sát cho thấy Apple và Google không chỉ cho phép ứng dụng AI tạo ảnh khỏa thân giả tồn tại trên App Store và Google Play, mà còn giúp người dùng dễ dàng tìm thấy chúng qua tìm kiếm, quảng cáo và gợi ý từ khóa. Khi người dùng tìm các từ như “nudify”, “undress” hay “deepnude”, khoảng 40% ứng dụng hiện ra có khả năng tạo hình ảnh khỏa thân hoặc gợi dục giả từ ảnh phụ nữ. Đây là minh chứng rõ ràng rằng an toàn trên App Store và các kho ứng dụng không thể chỉ tin bằng niềm tin.
Dù Google nói đã xóa hàng trăm ứng dụng vi phạm, chặn tìm kiếm liên quan đến phần mềm lột đồ và kết hợp kiểm duyệt tự động lẫn thủ công, và phía Apple cũng tuyên bố đã gỡ ba trong tám ứng dụng bị nêu tên, chuẩn bị khóa tài khoản lập trình viên, đồng thời liên hệ bốn ứng dụng khác để buộc chỉnh sửa hoặc xóa bỏ, điều đó vẫn chưa đủ. Khi các ứng dụng mới liên tục “chui” vào lại, rõ ràng các nền tảng đang phản ứng chậm hơn tốc độ phát triển của những kẻ lợi dụng AI.
Tại sao phụ nữ và trẻ em gái là nạn nhân chính?
Theo văn phòng Công tố viên, chỉ với một bức ảnh bình thường trên mạng xã hội, AI có thể tạo ra hình ảnh mang tính khiêu dâm trong vài giây, và thường nhắm vào phụ nữ, học sinh, đặc biệt là trẻ vị thành niên. Những hình ảnh này được dùng để quấy rối, đe dọa, ép buộc hoặc làm nhục nạn nhân. Khi đường ranh giữa ảnh thật và ảnh giả bị xóa mờ, nạn nhân phải gánh cả sự kỳ thị của cộng đồng lẫn nguy cơ bị tống tiền.
Điều đáng phẫn nộ là mọi thứ có thể bắt đầu từ một tấm ảnh chụp đời thường. Một bức ảnh kỷ yếu, một tấm hình đi biển, hay một avatar vô hại có thể bị biến thành “bằng chứng giả” chống lại chính chủ nhân của nó. Trong khi đó, các ứng dụng AI lột đồ lại được ngụy trang dưới danh nghĩa công cụ chỉnh sửa ảnh hoặc hoán đổi khuôn mặt, khiến người dùng lầm tưởng chúng vô hại. Đây không còn là “trò đùa công nghệ”, mà là một dạng bạo lực giới mới, tinh vi và dễ lan rộng.
Cần một chuẩn mực mới cho AI và trách nhiệm nền tảng
Việc San Francisco yêu cầu Apple và Google gỡ bỏ các ứng dụng AI lột đồ và ngăn chặn chúng quay lại kho ứng dụng không chỉ là một vụ tranh chấp pháp lý, mà là phép thử cho trách nhiệm của các nền tảng lớn đối với những công cụ AI gây hại. Nếu họ tiếp tục chỉ đóng vai “chợ phần mềm” trung lập, thay vì người gác cổng chủ động, các ứng dụng độc hại sẽ luôn đi trước mọi chính sách một bước.
Cuộc điều tra đã nhấn mạnh rằng Apple và Google không chỉ là nền tảng phân phối, mà còn góp phần làm tăng khả năng tiếp cận các công cụ có thể bị lạm dụng để tạo nội dung nhạy cảm giả mạo. Khi họ hưởng lợi từ giao dịch mua trong ứng dụng và thuê bao trả phí của những sản phẩm này, câu hỏi không còn là “họ có biết không” mà là “họ sẽ chịu trách nhiệm đến đâu”. Muốn AI phục vụ con người thay vì làm tổn thương họ, luật pháp, nền tảng và cộng đồng người dùng đều phải đặt ra những giới hạn rõ ràng – và lần này, quả bóng đang nằm ở phía các ông lớn.
