Khi cùng một lời giải thích AI lại tạo ra hai thế giới khác nhau
AI chẩn đoán y tế là các hệ thống trí tuệ nhân tạo được huấn luyện trên dữ liệu y khoa để hỗ trợ bác sĩ và bệnh nhân nhận diện bệnh, gợi ý chẩn đoán và ra quyết định điều trị, thường thông qua hình ảnh, tín hiệu sinh học và mô tả triệu chứng. Vấn đề là, chúng ta đang để cùng một hệ thống, cùng một kiểu giải thích AI phục vụ cả bác sĩ lẫn bệnh nhân không chuyên rồi giả định rằng mọi người hiểu và sử dụng nó giống nhau. Một nghiên cứu từ các nhà khoa học MIT, Stanford và Columbia về AI hỗ trợ chẩn đoán bệnh da cho thấy giả định đó là sai cơ bản. Nói thẳng: cùng một lời giải thích, chuyên gia được hỗ trợ tốt hơn, trong khi người thường lại bị kéo sâu vào ảo tưởng tin tưởng mù quáng.
Nghiên cứu được công bố trên một tạp chí y khoa quốc tế, tập trung vào AI hỗ trợ chẩn đoán bệnh da, đo cách người không chuyên và bác sĩ đa khoa sử dụng dự đoán và giải thích của hệ thống. Kết quả rất khó bỏ qua: độ chính xác AI hỗ trợ lâm sàng tăng lên cho cả hai nhóm, nhưng không phải theo cùng một cơ chế. Với người không chuyên, thành tích tốt hơn chủ yếu đến từ việc họ phục tùng hoàn toàn quyết định của AI, kể cả khi giải thích dựa trên mô hình ngôn ngữ lớn mơ hồ hoặc sai vẫn được họ xem là thuyết phục. Trong khi đó, bác sĩ lâm sàng lại ít bị đánh lừa, thậm chí làm tốt nhất khi chỉ xem dự đoán thô của mô hình, không cần giải thích kèm theo.
Explainable AI: Cầu nối tri thức hay chiếc bẫy cho bệnh nhân?
Explainable AI (XAI) được quảng bá như chiếc cầu nối giúp người dùng hiểu vì sao hệ thống đưa ra một dự đoán nào đó: từ bản đồ nhiệt tô sáng vùng quan trọng trên ảnh cho tới các đoạn giải thích bằng ngôn ngữ đời thường từ mô hình ngôn ngữ lớn. Nghe có vẻ như đây là giải pháp hoàn hảo để tăng công bằng trong AI và giúp mọi người biết khi nào nên tin, khi nào nên nghi ngờ. Nhưng nghiên cứu về AI chẩn đoán bệnh da lại cho thấy XAI đang trở thành chiếc bẫy tinh vi cho bệnh nhân thường. Người không chuyên có xu hướng tin vào giải thích LLM bất kể đúng sai, và càng mơ hồ càng dễ tin, thể hiện rõ “hiệu ứng phục tùng” và thiên vị tự động hóa.
Ở chiều ngược lại, bác sĩ lâm sàng không bị XAI dẫn dắt nhiều như vậy. Họ có nền tảng chuyên môn để tự đánh giá dự đoán, nên khi lời giải thích không chính xác, họ ít bị neo suy nghĩ vào đó. Điều trớ trêu là XAI đang được thiết kế và đánh giá chủ yếu từ góc nhìn chuyên gia, trong khi ngày càng nhiều bệnh nhân tìm đến AI để hỗ trợ chăm sóc sức khỏe. Khi XAI được dựng lên với ngôn ngữ, cấu trúc và độ chi tiết dành cho người có kiến thức, nó vô tình đẩy người không chuyên vào tình trạng lệ thuộc, thay vì trao cho họ quyền hiểu và lựa chọn. Nói cách khác, “giải thích AI cho bệnh nhân” đang bị nhầm lẫn với “sao chép giải thích cho bác sĩ và đưa cho mọi đối tượng xem”.
Giải pháp “một kích cỡ cho tất cả”: Công bằng trên danh nghĩa, bất công trên thực tế
Niềm tin phổ biến hiện nay là cứ có AI hỗ trợ thì mọi thứ sẽ tốt hơn, nhất là trong y tế, nơi sai sót có thể trả giá bằng mạng sống. Nhưng sự thật là các giải pháp “một kích cỡ cho tất cả” không hề phù hợp trong bối cảnh trình độ hiểu biết và khả năng diễn giải chênh lệch sâu giữa bác sĩ và bệnh nhân. Orson Xu từ Đại học Columbia đã nói rất rõ: cùng một lời giải thích có thể giúp ích cho một chuyên gia nhưng làm lạc lối một người mới bắt đầu. Đó là bản chất của vấn đề công bằng trong AI: không chỉ là dữ liệu và thuật toán, mà còn là ai đang đọc, hiểu và hành động theo đầu ra của hệ thống.
Các nhà nghiên cứu cho thấy, những người dễ phục tùng AI nhất lại cũng là những người có hiệu suất chẩn đoán kém nhất khi không có trợ giúp. Đây là nhóm bệnh nhân và người dùng phổ thông, những người lẽ ra được hưởng lợi nhiều nhất từ AI chẩn đoán y tế nhưng lại trở thành đối tượng dễ bị dẫn dắt sai nhất. Khoảng cách công bằng xuất hiện đúng ở đây: cùng một hệ thống, cùng một XAI, bác sĩ nâng được độ chính xác AI hỗ trợ lâm sàng mà vẫn giữ được khả năng phản biện, còn bệnh nhân thì đánh đổi quyền tự quyết lấy cảm giác an toàn giả tạo. Khi đó, AI không thu hẹp bất bình đẳng y tế, mà âm thầm tái sản xuất nó ở tầng sâu hơn, khó nhìn thấy hơn.
Nguy cơ khoảng cách y tế nới rộng: Khi bệnh nhân dùng AI mà không hề hay biết
Nguy cơ không dừng lại ở XAI trên màn hình. Một bác sĩ nhãn khoa đã nhắc rằng AI đã được tích hợp sẵn trong nhiều thiết bị chẩn đoán, khiến người bệnh có thể đang dùng AI mà không hề hay biết. Nghĩa là khoảng cách hiểu biết về công nghệ giữa bệnh nhân và bác sĩ còn lớn hơn cả những gì nghiên cứu da liễu kia cho thấy. Tiến sĩ Iman Aslam và cộng sự đang triển khai một khảo sát ẩn danh để đo nhận thức của công chúng về công cụ AI trong y tế, đồng thời thu thập ý kiến từ giới chuyên môn và pháp lý ở hai quốc gia khác nhau nhằm so sánh mức độ chấp nhận và lo ngại.
Bài toán công bằng trong AI còn vướng thêm tầng pháp lý: nếu AI chẩn đoán sai, trách nhiệm thuộc về nhà phát triển, bệnh viện, đơn vị mua thiết bị hay bác sĩ vận hành? Ngay cả tiêu chuẩn hiện có để báo cáo độ chính xác chẩn đoán dựa trên AI cũng đang chật vật theo kịp tốc độ biến đổi của công nghệ. Trong bối cảnh đó, việc triển khai AI mà không tính tới đa dạng người dùng – khác biệt về kiến thức y khoa, khả năng đọc hiểu, văn hóa, hoàn cảnh kinh tế – là một lựa chọn nguy hiểm. Nó biến công bằng trong AI thành khẩu hiệu, trong khi trên thực tế, những người ít tiếng nói nhất lại phải gánh nhiều rủi ro nhất.
Từ XAI đến công bằng thực chất: Cần AI nói nhiều thứ “ngôn ngữ” khác nhau
Nếu tiếp tục dùng cùng một kiểu giải thích cho mọi đối tượng, AI y tế sẽ tiếp tục có lợi cho chuyên gia nhưng hại cho bệnh nhân. Cách thiết kế hiện nay cần thay đổi ở mức hệ thống. Các nhà nghiên cứu gợi ý một hướng tiếp cận khác: thay vì tăng độ dài và độ cầu kỳ của giải thích bằng mô hình ngôn ngữ lớn, hãy yêu cầu người dùng đưa ra giả thuyết chẩn đoán riêng trước, rồi AI mới đưa gợi ý để mở rộng suy nghĩ và làm nổi bật các phương án thay thế. Nói cách khác, giải thích AI cho bệnh nhân phải mang tính đối thoại và huấn luyện, chứ không phải là một bản “kết luận kèm chú thích” buộc họ phục tùng.
Ở tầm hệ thống, điều đó có nghĩa: các cơ sở y tế phải thiết kế AI chẩn đoán y tế với nhiều tầng giải thích khác nhau cho từng nhóm người dùng – bác sĩ chuyên khoa, bác sĩ tuyến cơ sở, điều dưỡng, bệnh nhân và người nhà. Đồng thời, các nghiên cứu hiện tại về nhận thức của công chúng và giới chuyên môn ở nhiều quốc gia khác nhau đang hướng tới mục tiêu đảm bảo việc áp dụng AI trong y tế luôn đi kèm đánh giá rủi ro, giới hạn và hệ lụy lâu dài cho xã hội. Độ chính xác AI hỗ trợ lâm sàng chỉ là một phần câu chuyện; nếu bỏ qua người sử dụng thật, mọi “tăng độ chính xác” đều có thể biến thành ảo tưởng. Công bằng trong AI sẽ chỉ có ý nghĩa khi bệnh nhân không cần trở thành chuyên gia nhưng vẫn được thông tin đầy đủ, hiểu đúng và được bảo vệ khi hệ thống sai.
