Khi trí tuệ nhân tạo bước từ công cụ hỗ trợ sang nguồn khủng hoảng đạo đức
Khủng hoảng tin cậy trong khoa học liên quan đến AI xảy ra khi các hệ thống trí tuệ nhân tạo không còn chỉ là công cụ hỗ trợ nghiên cứu, mà bắt đầu sinh ra nội dung giả mạo như trích dẫn, dữ liệu hay tài liệu tham khảo, len lỏi vào các công trình được tài trợ công và đăng trên tạp chí uy tín, buộc giới học thuật phải rút bài, siết quy trình và đặt lại câu hỏi về nền tảng đạo đức của toàn bộ hệ thống xuất bản khoa học hiện nay. Một bài nghiên cứu trong hệ thống tạp chí khoa học uy tín của Hàn Quốc đã bị rút lại sau khi bị phát hiện trích dẫn hàng loạt nguồn tài liệu giả mạo do trí tuệ nhân tạo tạo ra. Đây không chỉ là một sự cố kỹ thuật, mà là dấu mốc biểu tượng cho "khủng hoảng khoa học AI" – khi niềm tin vào quy trình kiểm soát chất lượng nghiên cứu bị lung lay tận gốc.
Công trình 17 tỷ đồng bị rút: cú sốc đầu tiên từ AI giả mạo trích dẫn
Trong hệ thống KCI – nơi quy tụ các tạp chí khoa học được quản lý và lập chỉ mục bởi Quỹ Nghiên cứu Quốc gia Hàn Quốc – một bài nghiên cứu về hệ sinh thái ngành công nghiệp vũ trụ và cơ chế hợp tác dân sự – quân sự của Trung Quốc đã bị rút sau khi bị phát hiện sử dụng AI tạo sinh để tạo ra danh mục tài liệu tham khảo giả. Công trình này được tài trợ bằng tiền ngân sách, nhưng nhóm tác giả lại sao chép và dán nguyên các "tài liệu tham khảo giả" do AI tạo ra vào bài báo. Trong khoảng 40 trường hợp được kiểm tra, có tới 17 lỗi liên quan đến nguồn tài liệu, bao gồm cả việc đưa tài liệu về "chính sách chăm sóc sức khỏe mắt" của Chính phủ Trung Quốc vào một bài viết về chiến lược không gian. Việc bài báo đã được xuất bản hơn một năm, được trích dẫn và chỉ đến khi một trợ lý hiệp hội học thuật phát hiện sai sót mới bị rút lại cho thấy lỗ hổng nghiêm trọng của hệ thống thẩm định.
Trách nhiệm của tác giả và lỗ hổng kiểm soát chất lượng nghiên cứu
Tác giả bài nghiên cứu khẳng định AI chỉ được dùng cho việc tìm kiếm tài liệu tham khảo và các sai sót là lỗi vô ý trong quá trình biên tập. Lập luận này phản ánh tâm lý phổ biến: coi AI như trợ lý vô hại, trong khi thực tế, việc sao chép máy móc đầu ra của AI vào danh mục tài liệu đã vi phạm chuẩn mực nền tảng của đạo đức nghiên cứu. Quyết định cấm tác giả gửi bài cho tạp chí trong vòng ba năm là thông điệp rõ ràng rằng giới học thuật không chấp nhận thái độ "đổ lỗi cho công cụ" để né trách nhiệm cá nhân. Vấn đề nghiêm trọng hơn nằm ở quy trình thẩm định: một bài được tài trợ lớn, vào tạp chí thuộc danh mục KCI, vẫn lọt qua vòng xét duyệt và tồn tại hơn một năm trước khi bị phát hiện. Điều này chứng minh các hướng dẫn về sử dụng AI tạo sinh hiện nay mới dừng ở mức hình thức, thiếu cơ chế ràng buộc và kiểm chứng thực sự.
arXiv siết giới hạn tải lên: phản ứng phòng thủ trước làn sóng "AI slop"
Trong khi KCI đối mặt với vụ rút bài, kho lưu trữ tiền ấn phẩm arXiv lại chọn một chiến lược phòng thủ khác: đặt giới hạn cứng đối với số lượng bài nộp mỗi tháng nhằm chặn làn sóng bài báo chất lượng thấp được AI hỗ trợ. Nền tảng này hiện giới hạn người gửi ở mức tối đa hai bài nộp mới mỗi tháng, với tổng số bài đang ở trạng thái hoạt động không quá ba bài cùng lúc, quy định có hiệu lực ngay khi được công bố. Theo ban điều hành, một số ít tác giả đã gửi số lượng lớn bài kém chất lượng, tiêu tốn không cân xứng thời gian của đội ngũ duyệt bài và khiến bài tốt bị chậm công bố hàng ngày, thậm chí hàng tuần. "Trong tháng 9, arXiv nhận 40.363 bài nộp, tăng 309% so với 9.869 bài cùng tháng cách đây 10 năm, và gấp đôi so với 20.569 bài cách đây hai năm" – tỉ lệ tăng này cho thấy vì sao kho tiền ấn phẩm phải coi giới hạn tải lên như biện pháp khẩn cấp tạm thời để bảo vệ kiểm soát chất lượng nghiên cứu.
Từ sự cố cá biệt đến cuộc cải tổ hệ thống: khoa học không thể dựa vào niềm tin mù quáng
Việc một công trình được tài trợ lớn bị rút khỏi tạp chí thuộc danh mục KCI vì AI giả mạo trích dẫn đánh dấu lần đầu tiên một bài do Quỹ Nghiên cứu Quốc gia Hàn Quốc tài trợ trong 5 năm qua bị thu hồi vì vấn đề liên quan đến AI. Cùng lúc, arXiv đặt giới hạn tải lên như biện pháp tạm thời và tuyên bố sẽ theo dõi tác động của thay đổi này đối với tỷ lệ bài nộp và khối lượng duyệt, rồi điều chỉnh tiếp nếu cần. Hai động thái tưởng chừng riêng lẻ đang phác họa một xu hướng chung: hệ thống khoa học buộc phải chuyển từ niềm tin mù quáng sang cơ chế kiểm chứng có cấu trúc đối với mọi dấu vết AI trong nghiên cứu. Muốn ra khỏi "khủng hoảng khoa học AI", giới học thuật không thể chỉ ban hành thêm hướng dẫn mềm; họ phải tái thiết toàn bộ quy trình, từ khâu tài trợ, thẩm định đến xuất bản, để đảm bảo rằng không công trình nào được xây trên nền trích dẫn giả mạo và sự nhầm lẫn giữa tiện lợi và liêm chính.
