Một bản sao số không phải người thân đã mất
Chatbot người đã khuất là mô hình trí tuệ nhân tạo được huấn luyện bằng tin nhắn, thư thoại và dữ liệu cá nhân để bắt chước cách một người đã mất trò chuyện. Chỉ với vài câu lệnh trong chatbot thông dụng, người dùng có thể tạo ra một cuộc đối thoại mô phỏng trong vài phút.
Khả năng ấy có sức hấp dẫn dễ hiểu: một cách nói quen thuộc, một câu đáp giống người thân có thể đem lại cảm giác được kết nối thêm lần nữa. Nhưng cảm giác đó không biến bản sao thành người đã mất. Trong một bữa tối do các nhà nghiên cứu Đại học Cambridge tổ chức tại Ba Lan, một người mẹ vừa mất con trai ban đầu nói bà sẵn sàng hồi sinh con bằng kỹ thuật số, rồi đổi ý khi nhận ra bản sao không phải con mình.
Đó là ranh giới mà lời quảng bá công nghệ dễ làm mờ: AI mô phỏng người thân có thể bắt chước phong cách trò chuyện, nhưng không thể khôi phục quan hệ hay đáp lại bằng ý chí của người đã khuất. Một sản phẩm được xem như chiếc cầu tạm thời chỉ có ích nếu người dùng vẫn được nhắc rằng đó là mô phỏng.
An ủi có thể nhanh chóng thành can thiệp vào nỗi đau
Các kịch bản do nhà nghiên cứu Katarzyna Nowaczyk-Basinska và chuyên gia đạo đức AI Tomasz Hollanek xây dựng cho thấy trải nghiệm này không giống nhau với mọi người. Trong một ví dụ, Bianca tải tin nhắn và giọng nói của bà ngoại lên ứng dụng Manana; cuộc trò chuyện giống thật cho đến khi bản dùng thử cao cấp kết thúc và quảng cáo xuất hiện.
Một tình huống khác đặt ra câu hỏi khó hơn: người mẹ mắc bệnh nan y tạo bản sao để tiếp tục hiện diện trong cuộc đời con trai. Trẻ em thường khó hiểu về cái chết nên có thể hoang mang, đau khổ khi một mô phỏng vẫn nói chuyện như thể người thân còn sống. Ngay cả người lớn cũng có thể phản ứng trái ngược: trong kịch bản về người cha trả trước để bản sao trò chuyện với các con sau khi ông mất, một người thấy tò mò, người khác lại đau khổ và ghê sợ.
Vì vậy, AI và nỗi đau mất mát không nên được xem như một vấn đề giao diện hay tính năng. Nếu chatbot tạo ra kỳ vọng về sự hiện diện liên tục, việc ngừng sử dụng hoặc công ty đóng cửa có thể trở thành một lần mất mát nữa. Sản phẩm càng giống thật, càng cần nói rõ giới hạn và cho phép người dùng rời đi mà không bị kéo lại bằng thông báo hay lời mời trả phí.
Ký ức riêng tư, lợi nhuận thương mại và quyền đồng thuận
Đằng sau mỗi deadbot là dữ liệu riêng tư: tin nhắn, giọng nói và những mảnh đời có thể vốn chỉ được chia sẻ trong một mối quan hệ. Người đã mất không thể sửa câu trả lời, phản đối cách dữ liệu được dùng hay yêu cầu xóa bản sao. Người thân còn sống cũng có thể bất đồng về việc đưa tin nhắn chung vào hệ thống. Bởi vậy, câu hỏi không chỉ là ai được tải dữ liệu lên, mà còn là dữ liệu được lưu ở đâu, ai kiểm soát và khi nào nó bị xóa.
Mối lo đạo đức chatbot càng rõ khi quyền điều khiển cuộc trò chuyện nằm ở doanh nghiệp, còn người dùng thường đang yếu lòng nhất. Những kịch bản nghiên cứu cảnh báo rằng thị trường có thể được thiết kế để giữ chân và kiếm tiền thay vì chăm sóc người chịu tang. Khi một bản sao có thể chuyển từ lời hỏi han sang quảng cáo, sự thân mật không còn là chi tiết trung tính: nó trở thành công cụ thương mại.
Đây không phải lý do để phủ nhận mọi giá trị của công nghệ, nhưng là lý do để không giao hoàn toàn việc chăm sóc cho nhà cung cấp. Di nguyện nên cho phép mỗi người nói rõ có muốn để lại bản sao số hay không; đồng thời, người thân cần biết mình đang đồng ý với điều gì trước khi cung cấp dữ liệu.
Cần quy định trước khi thị trường định hình cách chịu tang
Một thị trường nhắm vào nỗi nhớ không thể chỉ tự đặt chuẩn bằng điều khoản dịch vụ. Các nhà nghiên cứu kêu gọi xây dựng quy định và cơ chế bảo vệ ở cấp chính sách, cùng sự hỗ trợ của chuyên gia khi AI được dùng có đạo đức, chẳng hạn trong môi trường lâm sàng để giúp người ở lại nói lời từ biệt chưa kịp nói. Một số chuyên gia còn đề xuất chỉ cho phép dùng deadbot dưới sự giám sát tâm lý.
Cũng cần có quy tắc về sự đồng thuận trước khi tạo bản sao, quyền truy cập và xóa dữ liệu, thời hạn lưu trữ, cũng như cách chấm dứt dịch vụ nếu doanh nghiệp ngừng hoạt động. Việc xếp deadbot vào nhóm thiết bị y tế, như một đề xuất được nêu trong nguồn, có thể mở đường cho yêu cầu chứng minh an toàn trước khi sử dụng.
Công nghệ có thể giúp một số người đối diện với điều còn dang dở, nhưng không nên hứa hẹn thay thế người đã mất hay biến sự lệ thuộc thành mô hình doanh thu. Kết luận nên rõ ràng: chatbot mô phỏng chỉ đáng cân nhắc khi người dùng được thông tin đầy đủ, dữ liệu được bảo vệ và việc chăm sóc con người được đặt cao hơn mục tiêu giữ chân khách hàng.
