Vì sao bác sĩ phải nhìn thấy lý do phía sau chẩn đoán AI
AI giải thích y tế là cách thiết kế mô hình trí tuệ nhân tạo sao cho mỗi dự đoán đi kèm chuỗi lập luận, quan hệ nhân quả và bằng chứng có thể đọc được, giúp bác sĩ lần theo được đường đi của suy luận máy, đối chiếu với kiến thức lâm sàng và quyết định có nên tin tưởng, điều chỉnh hay bác bỏ khuyến nghị đó trong một tình huống cụ thể. Nếu không có lớp giải thích này, mọi hệ thống chẩn đoán AI minh bạch chỉ là khẩu hiệu. Trong thực tế, bác sĩ phải chịu trách nhiệm cuối cùng với bệnh nhân, nên "con số nguy cơ" không đủ; họ cần bối cảnh, mối liên hệ giữa triệu chứng, lối sống, xét nghiệm và bệnh lý. Việc ép bác sĩ tin một mô hình hộp đen là đi ngược đạo đức nghề nghiệp và phá vỡ nền tảng tin tưởng mô hình AI trong quyết định lâm sàng AI.
CREOG: Biến hộp đen dự đoán thành đồ thị tri thức có thể đọc
Điểm thú vị của CREOG nằm ở chỗ nó không chấp nhận kiểu dự đoán đơn độc rồi bảo người dùng "hãy tin tôi". Khung này kết hợp ontology y sinh, các thuật toán khám phá nhân quả và đồ thị tri thức để từ dữ liệu xây dựng một mạng lưới khái niệm cùng liên kết có trọng số, nguồn gốc và diễn giải. Theo bài báo trên Knowledge-Based Systems, nhóm của TS Phạm Thị Thu Thúy khởi đầu với một đồ thị tri thức về đái tháo đường gồm 82 khái niệm và 67 liên kết, rồi mở rộng bằng cách neo vào hệ SNOMED CT thành 21.542 thực thể và 107.710 cạnh nhân quả hoặc liên kết. Những con số này không phải để gây ấn tượng kỹ thuật, mà để chứng minh rằng giải thích có cấu trúc vẫn có thể tồn tại trên quy mô hàng chục nghìn thực thể, thay vì chỉ là minh họa đẹp trên vài chục nút.
Từ luật kết hợp đến quan hệ nhân quả: khi đồ thị bắt đầu "nói tiếng bác sĩ"
Ở tầng khai phá, CREOG dùng các luật kết hợp Apriori cùng nhiều thuật toán nhân quả như PC, NOTEARS, FCI, GES/GIES để săn lùng những cặp, chuỗi yếu tố có khả năng là quan hệ nhân quả hoặc ít nhất là liên kết thống kê đáng chú ý. Những quan hệ này được đưa vào đồ thị dưới dạng bộ ba, kèm trọng số và phần diễn giải. Nghĩa là, thay vì máy trả về "nguy cơ đái tháo đường cao", bác sĩ có thể nhìn thấy tuyến suy luận: béo phì → kháng insulin → đường huyết tăng → đái tháo đường, với mỗi cạnh gắn nguồn gốc tri thức từ ontology và dữ liệu. Cách biểu diễn này giúp tin tưởng mô hình AI trở nên hợp lý hơn: bác sĩ có thể kiểm tra mô hình đang nối những yếu tố nào, loại quan hệ gì, chuỗi lập luận có phù hợp kiến thức chuyên ngành hay không, trước khi để chẩn đoán AI minh bạch ảnh hưởng đến quyết định lâm sàng AI.
Bác sĩ không nhường quyết định, nhưng cần AI như đồng nghiệp biết giải thích
Một bác sĩ cấp cứu như Imamu "Mu" Tomlinson nhấn mạnh rằng AI không nên tự mình quyết định những điều trị thay đổi cuộc đời, việc rút chăm sóc hay các quyết định hệ trọng khác; đó là vùng của phán đoán con người, bối cảnh và giá trị cá nhân. Quan điểm này phản ánh ranh giới mà nghiên cứu CREOG cũng ngầm thừa nhận: phương pháp mạnh hơn đối chứng trong dự đoán liên kết, nhưng chưa phải công cụ chẩn đoán. AI có thể phân tích lượng dữ liệu khổng lồ, phát hiện mẫu mà mắt thường bỏ sót, giảm việc giấy tờ; nhưng người bác sĩ phải là người "sở hữu" quyết định. Để điều đó diễn ra có trách nhiệm, họ cần nhìn thấy lý do phía sau khuyến nghị của AI. Tính minh bạch – cả với bác sĩ lẫn bệnh nhân – là điều kiện bắt buộc nếu ngành y muốn tích hợp AI giải thích y tế mà không đánh mất niềm tin.
Minh bạch để giảm sai lầm chẩn đoán và nâng chất lượng chăm sóc
Không một hệ thống nào, kể cả AI, miễn nhiễm với sai lầm. Khi AI tham gia sàng lọc ung thư vú hay các bệnh mạn tính, một lỗi suy luận có thể làm lệch cả phác đồ điều trị. Điểm khác biệt của mô hình có khả năng giải thích như CREOG là khi sai, nó cho bác sĩ cơ hội truy vết: liên kết nào quá mạnh tay, quan hệ nhân quả nào bị hiểu sai, ontology nào còn thiếu? Đó là nền tảng để điều chỉnh mô hình thay vì cấm đoán công nghệ. Quan điểm chia sẻ trách nhiệm giữa bác sĩ, tổ chức y tế và nhà phát triển AI càng khiến yêu cầu minh bạch trở nên cấp thiết: nếu không hiểu hệ thống mình dùng, bác sĩ khó có thể bảo vệ bệnh nhân lẫn chính mình. Một tương lai nơi chẩn đoán AI minh bạch giúp giảm sai lầm chẩn đoán và tăng chất lượng chăm sóc sẽ chỉ đến khi chúng ta coi giải thích là tính năng trung tâm, không phải phụ lục marketing.
