AI chẩn đoán bệnh: định nghĩa nghe đẹp, thực tế không hề phẳng
AI chẩn đoán bệnh là các hệ thống trí tuệ nhân tạo dùng dữ liệu y khoa, như ảnh da, phim X-quang hay hồ sơ bệnh án, để đưa ra dự đoán về tình trạng sức khỏe và kèm theo giải thích nhằm giúp bác sĩ hoặc người bệnh quyết định có nên tin vào kết quả đó hay không. Nghiên cứu mới của các nhà khoa học tại MIT, Stanford và Columbia về AI hỗ trợ chẩn đoán bệnh da, được công bố trên Nature Medicine, đã phơi bày một nghịch lý: cùng một AI chẩn đoán bệnh và cùng một kiểu giải thích, người có chuyên môn thì được nâng hiệu suất, còn người không chuyên lại bị đẩy vào nguy cơ hiểu sai và phụ thuộc mù quáng. Đây không còn là câu chuyện “AI tốt thì mọi thứ đều tốt” mà là câu hỏi: ai đang được hệ thống ưu ái, ai đang bị bỏ lại phía sau?
Giải thích AI y tế: chuyên gia tỉnh táo, người thường phục tùng
Nghiên cứu về AI phân tích hình ảnh da đã cho cả người không chuyên và bác sĩ đa khoa xem ảnh, kèm dự đoán và các dạng giải thích khác nhau của hệ thống Explainable AI (XAI). Về mặt con số, độ chính xác của cả hai nhóm đều tăng. Nhưng chất lượng tăng này lại không giống nhau. Người không có nền tảng y khoa cải thiện chủ yếu vì họ… nghe theo AI, đặc biệt bị thuyết phục bởi các giải thích dạng ngôn ngữ tự nhiên từ mô hình ngôn ngữ lớn, dù đúng hay sai. “Hiệu ứng phục tùng” và thiên vị tự động hóa khiến họ neo vào kết luận của máy, giảm hẳn khả năng tự đánh giá. Ngược lại, bác sĩ lâm sàng không dễ bị đánh lừa: họ làm tốt nhất khi chỉ nhận dự đoán thô, không có giải thích, và dùng chuyên môn để kiểm tra độc lập. Vấn đề không nằm ở một mô hình AI duy nhất, mà ở việc cùng một lời giải thích đã tạo ra bất bình đẳng thông tin giữa hai nhóm người dùng.
Từ phòng khám đến gara: trình độ AI quyết định ai tiết kiệm, ai trả giá
Sự bất cân xứng này không chỉ xuất hiện trong AI y tế. Trong thế giới ô tô, AI đang được quảng bá như “trợ lý” giúp chủ xe khoanh vùng hỏng hóc, tránh bị thợ máy “vẽ bệnh” và tiết kiệm chi phí sửa chữa. Chỉ với vài mô tả như tiếng kêu lạ, động cơ rung hay đèn báo lỗi, hệ thống có thể gợi ý những nguyên nhân có khả năng nhất nhờ học từ tài liệu kỹ thuật và kinh nghiệm cộng đồng. Khi người dùng chịu khó đọc, đối chiếu sách hướng dẫn và làm vài bước kiểm tra, AI trở thành bước sàng lọc đầu tiên mỗi khi xe trục trặc, giúp quyết định có thể tự xử lý hay phải vào gara. Nhưng điều này lại đòi hỏi một mức “đọc hiểu AI” nhất định: ai không phân biệt được gợi ý và chẩn đoán chắc chắn rất dễ hoặc quá tin, hoặc bỏ qua các cảnh báo quan trọng. Một công cụ giống nhau nhưng chất lượng quyết định phụ thuộc mạnh vào tri thức của người cầm nó.
Thiết kế “một kiểu cho tất cả”: công bằng bề ngoài, bất công bên trong
Chúng ta thường mặc định: cứ có giải thích AI y tế là sẽ công bằng hơn. Thực tế, các hệ thống XAI hiện tại đang được thiết kế theo mô hình “một kích cỡ cho tất cả”, từ bác sĩ đến bệnh nhân, từ kỹ sư tới chủ xe. Nghiên cứu về AI chẩn đoán bệnh da cho thấy cùng một heatmap hay đoạn giải thích bằng ngôn ngữ đời thường có thể giúp bác sĩ xác nhận lại suy luận, nhưng lại làm người không chuyên bỏ qua những khả năng khác đáng lưu ý. Orson Xu cảnh báo rằng một lời giải thích có thể hỗ trợ chuyên gia nhưng đánh lạc hướng người mới bắt đầu. Điều nghịch lý là: những người có thể hưởng lợi nhiều nhất từ AI – nhóm ít kiến thức, ít nguồn lực – lại chính là nhóm dễ bị dẫn dắt sai nhất. Nếu chúng ta tiếp tục coi “AI tốt” là đủ mà không quan tâm đến người dùng là ai, công bằng trong AI sẽ chỉ là khẩu hiệu.
Muốn AI công bằng hơn: phải dám thiết kế khác nhau cho những người khác nhau
Nếu AI chẩn đoán bệnh và AI chẩn đoán hỏng hóc ô tô đang tạo ra khoảng cách mới, cách giải quyết không thể là bổ sung thêm vài đoạn giải thích dài dòng rồi giao hết phần còn lại cho người dùng. Các nhà nghiên cứu đề xuất một hướng đi khác: thay vì để AI nói trước, hãy để người dùng đưa ra giả thuyết của mình rồi hệ thống mới gợi ý thêm những khả năng khác cần xem xét. Cách này buộc họ chủ động suy nghĩ, giảm bớt neo vào kết luận của máy và hạn chế thiên vị tự động hóa. Trong lĩnh vực ô tô, người dùng được khuyến nghị sử dụng AI như ý kiến thứ hai, luôn đối chiếu với tài liệu kỹ thuật và hỏi thêm thợ lành nghề, nhất là với các hạng mục liên quan trực tiếp đến an toàn. Nếu không, chúng ta sẽ có những hệ thống AI phân tích hình ảnh ngày càng tinh vi, nhưng lại để người dùng yếu thế bị chìm trong biển “giải thích” mà không có kỹ năng tự cứu mình.
