Vì sao cần biết khi không dùng ChatGPT
ChatGPT giới hạn sử dụng là tập hợp những tình huống mà công cụ này không nên được dùng để ra quyết định hoặc thay thế chuyên gia, đặc biệt khi liên quan đến pháp lý, y tế, tài chính, sức khỏe tâm thần và dữ liệu nhạy cảm, bởi câu trả lời trôi chảy không bảo đảm chính xác và trách nhiệm cuối cùng vẫn thuộc về con người. Khi AI ngày càng hiện diện trong mọi hoạt động, điều quan trọng không phải là dùng càng nhiều càng tốt, mà là biết lúc nào nên dừng lại. ChatGPT rất giỏi trong việc giải thích khái niệm, gợi ý ý tưởng, soạn bản nháp, nhưng lại dễ gây ảo tưởng tin cậy tuyệt đối. Nội dung bạn nhập có thể được lưu giữ hoặc trở thành đối tượng của yêu cầu pháp lý, nên mỗi câu hỏi gửi cho AI đều là một lựa chọn mang tính trách nhiệm cá nhân và tổ chức. AI trách nhiệm nghĩa là chấp nhận rằng có những ranh giới không được vượt qua.
Tác vụ pháp lý, tài chính: nơi AI phải đứng sang một bên
Giao vụ việc pháp lý hoặc quyết định tài chính cho ChatGPT là một sai lầm nghiêm trọng. Chatbot có thể tạo ra tên vụ án, trích dẫn và lập luận nghe hợp lý nhưng không có thật, dẫn đến hồ sơ chứa án lệ bịa đặt và án phạt dành cho người sử dụng trong thực tế. Quy định sử dụng của OpenAI không cho phép dịch vụ đưa ra lời khuyên pháp lý được cá nhân hóa, thuộc loại đòi hỏi giấy phép hành nghề, nếu không có sự tham gia thích hợp của chuyên gia được cấp phép. Điều tương tự cũng áp dụng cho lời khuyên y tế được cá nhân hóa. Ở đây, ranh giới khi không dùng ChatGPT rất rõ: hỏi một khái niệm pháp lý chung là một việc; nhờ chatbot quyết định cách xử lý vụ kiện của mình là việc khác. Bất kỳ lời khuyên nào có thể tác động tới hợp đồng, tranh chấp hay tài sản đều cần chuyên gia thẩm định, không phải mô hình ngôn ngữ. Người dùng phải tự chịu trách nhiệm về quyết định của mình, nên không thể “đổ” trách nhiệm cho AI.
Sức khỏe tâm thần: AI hỗ trợ, con người ra quyết định
Coi chatbot là nhà trị liệu hoặc người tư vấn tâm lý là một xu hướng nguy hiểm. Theo OpenAI, khoảng 0,15% người dùng hoạt động trong một tuần có cuộc trò chuyện chứa dấu hiệu rõ ràng của việc lên kế hoạch hoặc có ý định tự hại bản thân, tương đương hơn một triệu người mỗi tuần trên quy mô mà họ đề cập. AI trách nhiệm trong lĩnh vực này nghĩa là phải đặt an toàn và sức khỏe con người lên trước hết: "Our research focuses on helping models respond with care across a wide range of needs and put people’s safety and well-being first". MentalHealthBench được đồng tạo bởi hơn 80 chuyên gia sức khỏe tâm thần có giấy phép từ 22 quốc gia để đánh giá cách AI phản hồi trong các kịch bản khác nhau. Tuy nhiên, ChatGPT không phải là thay thế cho trị liệu hoặc chăm sóc chuyên nghiệp; mục tiêu của nó là hỗ trợ người dùng tìm tới đường dây khủng hoảng địa phương hoặc người họ tin tưởng, chứ không tự đưa ra chẩn đoán và phác đồ điều trị. Việc các bang như Illinois, Nevada và Maine hạn chế AI thực hiện trị liệu hoặc ra quyết định trị liệu cho thấy nhà nước cũng nhìn nhận đây là ranh giới không thể bỏ qua.
Dữ liệu cá nhân, tài liệu nội bộ: không bao giờ đưa cho chatbot
Bảo vệ dữ liệu AI là một phần cốt lõi của sử dụng AI trách nhiệm. Tài liệu nội bộ, mã nguồn, dữ liệu khách hàng và nội dung chịu ràng buộc bảo mật không nên được dán vào tài khoản chatbot cá nhân. Nhập dữ liệu khách hàng hoặc thông tin thuộc thỏa thuận bảo mật của cơ quan còn có thể vi phạm quy định nơi làm việc. Mối lo của doanh nghiệp là dữ liệu đã gửi tới máy chủ bên ngoài khó thu hồi, khó xóa và có thể bị sử dụng hoặc lộ ngoài ý muốn. Vì vậy, đừng nhập mật khẩu, mã đăng nhập một lần, số an sinh xã hội, số hộ chiếu, thông tin đầy đủ của thẻ hoặc tài khoản ngân hàng, hay ảnh giấy tờ tùy thân vào lời nhắc. Bài viết cũng ghi nhận các cuộc trò chuyện chứa thông tin về nghiện ngập, lạm dụng hoặc khó khăn sức khỏe tâm thần, đủ chi tiết để có thể nhận ra người viết. Trong khi chưa có cơ chế bảo mật pháp lý tương tự bác sĩ, luật sư hay nhà trị liệu, thông điệp hợp lý nhất là hãy cân nhắc khả năng nội dung mình nhập hôm nay có thể được người khác đọc lại trong tương lai.
Khi nào nên dùng ChatGPT – và khi nào phải quay về với con người
Soạn thảo văn bản, gợi ý ý tưởng, học khái niệm mới, ôn tập hoặc lập trình thử nghiệm là những trường hợp phù hợp để dùng ChatGPT. Tuy nhiên, câu trả lời trôi chảy không bảo đảm thông tin chính xác, nên mọi quyết định nhạy cảm phải qua bước kiểm chứng độc lập. Đặc biệt, các gợi ý có liên quan đến thuốc men, chế độ ăn hoặc điều trị có thể dẫn đến hành vi nguy hiểm nếu người dùng làm theo mà không có bác sĩ kiểm tra; trong nguồn tư liệu có nhắc đến một người đàn ông 60 tuổi mua sodium bromide và dùng thay muối ăn suốt ba tháng sau khi hỏi ChatGPT. Đây là ví dụ điển hình cho việc nhầm lẫn giữa công cụ hỗ trợ và chuyên gia y khoa. Những hệ thống như MentalHealthBench được thiết kế để đánh giá khả năng AI hỗ trợ sức khỏe tâm thần, nhấn mạnh rằng mục tiêu là hướng người dùng tới hỗ trợ ngoài đời thực và đảm bảo an toàn lâu dài, không phải thay thế trách nhiệm của con người. Cuối cùng, AI trách nhiệm bắt đầu từ người dùng: biết khi không dùng ChatGPT chính là bước đầu tiên để bảo vệ bản thân và người xung quanh.
