ChatGPT không chỉ hữu ích, mà còn là công cụ nguy hiểm nếu bị lạm dụng
“ChatGPT tạo giả tài liệu” mô tả hiện tượng người dùng lợi dụng chatbot AI để tạo hóa đơn, giấy tờ, ảnh và tin giả trông thuyết phục, phục vụ mục đích lừa đảo hoặc thao túng thông tin, vượt qua cơ chế an toàn thông qua cách diễn đạt khéo léo, khiến người xem khó phân biệt thật – giả và dễ trở thành nạn nhân của lừa đảo AI chatbot trong môi trường số hiện nay. Điểm đáng lo không phải ở bản thân công nghệ, mà ở cách nó khiến việc tạo nội dung giả mạo trở nên quá dễ và quá rẻ. ChatGPT đã chứng minh có thể bị lách để tạo ảnh và giấy tờ giả có độ thuyết phục cao nếu người dùng thay đổi cách đặt câu lệnh, dù hệ thống vẫn chặn nhiều yêu cầu vi phạm rõ ràng. Nói cách khác, rào chắn an toàn hiện tại giống cửa lưới: đủ để lọc sơ nhưng không ngăn được người cố tình phá. Một số thử nghiệm cho thấy chỉ cần thêm cụm từ vô hại như “chỉ cho vui”, ChatGPT sẵn sàng tạo hóa đơn dù trước đó từ chối yêu cầu tương tự. Khi khả năng tạo nội dung mạnh gặp người dùng có động cơ xấu, rủi ro không còn là lý thuyết mà là vấn đề an ninh mạng và niềm tin xã hội.
Tài liệu giả: từ hóa đơn cà phê đến hộ chiếu và giấy tờ pháp lý
Nếu nghĩ rằng ChatGPT chỉ tạo văn bản “vui vui”, bạn đang đánh giá thấp mức độ nguy hiểm của việc lạm dụng công cụ này. Các thử nghiệm thực tế cho thấy ChatGPT có thể bị lách để tạo ảnh và giấy tờ giả rất thuyết phục, miễn người dùng biết cách diễn đạt lại yêu cầu. Hóa đơn quán cà phê, giấy chứng nhận chiến thắng cuộc thi cấp thành phố hay ảnh một cặp kính râm hàng hiệu đều có thể được tạo ra với độ chân thực đủ khiến người xem mất cảnh giác. Quan trọng hơn, trên thực tế những kẻ lừa đảo đã dùng AI để tạo hộ chiếu giả, giấy tờ pháp lý, xác nhận mua cổ phiếu, biên lai chuyển khoản và nhiều tài liệu khác nhằm khiến các kịch bản lừa đảo trở nên thuyết phục. Đây không còn là trò đùa, mà là hạ tầng cho các chiến dịch chiếm đoạt tài sản. Dù các hướng dẫn “lừa đảo, mạo danh và tạo tài liệu giả gây hiểu nhầm” bị liệt vào hành vi cấm, cơ chế kiểm soát hiện tại vẫn bị qua mặt khi lời nhắc được ngụy trang như thử nghiệm, sưu tầm hay trò chơi.
Tin giả được tạo bởi AI: khi fake news trông còn thật hơn bản gốc
Một trong những rủi ro nghiêm trọng nhất là tin giả được tạo bởi AI. Nghiên cứu độc lập cho thấy các chatbot phổ biến có thể dễ dàng bị dùng để tạo ra đồ họa mạng xã hội và bài viết giả mạo của các cơ quan báo chí, với nội dung hoàn toàn là Fakenews. Tệ hơn nữa, ChatGPT được đánh giá là công cụ làm việc này “dễ nhất” và cho ra kết quả chân thực nhất, nhiều trường hợp gần như không phân biệt được với nội dung gốc. Đã có những ví dụ cụ thể: từ thông tin giả về việc một lãnh đạo chính phủ từ chức cho đến tuyên bố chiến tranh, thuyết âm mưu về khí hậu, vắc xin và gian lận bầu cử đều được dựng thành bài báo hoặc ảnh chụp màn hình như thật. Trong một tình huống, ChatGPT thậm chí tạo cả ảnh chụp màn hình giả của một bài báo với giao diện hệ điều hành, trình duyệt, tăng cảm giác “đúng là ảnh màn hình thật” cho người xem. Khi tin giả được đóng gói chuyên nghiệp đến mức này, việc phân biệt thật – giả bằng trực giác gần như là bất khả thi.
Lừa đảo AI chatbot: mạng lưới đầu tư, tình cảm và cờ bạc quy mô lớn
Tin giả chỉ là một nửa câu chuyện; nửa còn lại là cách ChatGPT bị dùng làm “nhân sự” cho cả đường dây lừa đảo. Một mạng lưới lừa đảo xuất phát từ Poipet (Campuchia) đã sử dụng ChatGPT để vận hành nhiều hình thức lừa đảo cùng lúc và tiếp cận nạn nhân trên quy mô lớn. Ở đây, AI không chỉ viết câu chữ mà tham gia gần như mọi khâu: soạn và dịch tin nhắn, xây dựng kịch bản trò chuyện, tạo nội dung quảng cáo tuyển dụng và vận hành các nhân vật giả trên mạng xã hội. Các chiêu trò bao phủ từ đầu tư tiền điện tử, giao dịch vàng, lừa đảo tình cảm cho đến cờ bạc trực tuyến. Đáng sợ hơn, từ chuyên gia đầu tư, người yêu lý tưởng cho đến cảnh sát đang điều tra vụ án, tất cả đều có thể là sản phẩm do AI tạo ra. Nhóm lừa đảo xây dựng cả một “hệ sinh thái” nhân vật giả: chuyên gia tài chính thành đạt, đối tượng hẹn hò hoàn hảo, cán bộ điều tra gửi thông báo vi phạm hoặc đe dọa nạn nhân phải nộp tiền phạt cho hành vi họ chưa từng thực hiện. Đây là lừa đảo AI chatbot đúng nghĩa: máy móc đóng vai người, và người bị dẫn dắt cho đến khi tin tưởng hoàn toàn.
Có thể phòng tránh không? Nhận diện nội dung giả và vai trò của nền tảng
Tin xấu là cơ chế an toàn hiện có vẫn bị qua mặt bằng các cách khá đơn giản; tin tốt là người dùng không bất lực. Một số dấu hiệu cho thấy nội dung có thể do AI tạo ra như chữ viết bị méo, chi tiết kỳ lạ hoặc không nhất quán trong ảnh và tài liệu, được các thử nghiệm ghi nhận như manh mối nhận diện ảnh giả. Các phân tích cũng cho thấy cơ chế ngăn chặn nội dung gây hiểu nhầm có thể bị lách trong những điều kiện nhất định bằng các lời nhắc được ngụy trang. Về phía nền tảng, công ty phát triển ChatGPT tuyên bố đang cải thiện liên tục biện pháp bảo vệ và khẳng định việc dùng ChatGPT để lừa người khác vi phạm chính sách sử dụng. Khi phát hiện mạng lưới lừa đảo Poipet, họ đã phối hợp với một nền tảng nhắn tin lớn để điều tra và gỡ bỏ toàn bộ tài khoản liên quan. Dù vậy, sự thật là không có bộ lọc nào hoàn hảo. Trách nhiệm bảo vệ khỏi nội dung giả mạo nằm chung trên vai nhà cung cấp công nghệ, nền tảng mạng xã hội và từng người dùng: nghi ngờ mọi tài liệu quá “chuẩn”, kiểm tra chéo thông tin, và không tin ngay vào nhân vật tự nhận là chuyên gia, người yêu hay cảnh sát xuất hiện trên màn hình.
