Tính năng tóm tắt AI Overviews của Google bị tố đưa lời khuyên y tế nguy hiểm

“AI Overviews” là các bản tóm tắt do trí tuệ nhân tạo của Google tạo ra và hiển thị ở đầu kết quả tìm kiếm.

Google khẳng định các bản tổng quan AI, vốn sử dụng trí tuệ nhân tạo tạo sinh để cung cấp thông tin nhanh về một chủ đề hoặc câu hỏi, là “hữu ích” và “đáng tin cậy”. Tuy nhiên, theo tờ Guardian, nhiều ví dụ thực tế cho thấy một số bản tóm tắt này lại chứa nội dung không chính xác, đặc biệt trong lĩnh vực sức khỏe, và có thể dẫn đến những quyết định nguy hiểm đối với người dùng.

Trong một trường hợp được các chuyên gia mô tả là “thực sự nguy hiểm”, bản tóm tắt AI của Google đã khuyên những người mắc ung thư tuyến tụy nên tránh các loại thực phẩm giàu chất béo. Các chuyên gia y tế cho biết khuyến nghị này hoàn toàn trái ngược với hướng dẫn điều trị thông thường, bởi bệnh nhân ung thư tuyến tụy thường cần chế độ ăn giàu năng lượng để duy trì cân nặng và đủ sức chịu đựng hóa trị hoặc phẫu thuật. Việc làm theo lời khuyên sai lệch này, theo các chuyên gia, có thể làm tăng nguy cơ tử vong.

Một ví dụ khác được Guardian đánh giá là “đáng báo động” liên quan đến các xét nghiệm chức năng gan. Các bản tóm tắt AI đã cung cấp thông tin không chính xác về phạm vi kết quả “bình thường”, điều có thể khiến những người mắc bệnh gan nghiêm trọng lầm tưởng rằng tình trạng sức khỏe của họ không đáng lo ngại.

Ngoài ra, các tìm kiếm về xét nghiệm ung thư ở phụ nữ cũng cho ra những thông tin bị các chuyên gia mô tả là “hoàn toàn sai lệch”, tiềm ẩn nguy cơ khiến người bệnh bỏ qua các triệu chứng thực sự.

Phản hồi trước các phát hiện này, người phát ngôn của Google cho rằng nhiều ví dụ được chia sẻ chỉ là “ảnh chụp màn hình không đầy đủ”. Theo Google, các bản tóm tắt AI thường dẫn tới những nguồn thông tin đáng tin cậy và khuyến nghị người dùng tìm kiếm ý kiến từ chuyên gia y tế.

Cuộc điều tra của Guardian được công bố trong bối cảnh ngày càng gia tăng lo ngại về việc dữ liệu do AI tạo ra có thể gây nhầm lẫn cho người tiêu dùng, khiến họ tin rằng những thông tin này có độ tin cậy cao hơn thực tế.

Trong một ví dụ khác, khi người dùng tìm kiếm cụm từ “phạm vi bình thường của xét nghiệm máu chức năng gan là bao nhiêu”, các bản tóm tắt AI đã đưa ra nhiều con số rời rạc, thiếu ngữ cảnh và không tính đến các yếu tố như quốc tịch, giới tính, dân tộc hay độ tuổi của bệnh nhân.

Pamela Healy, giám đốc điều hành của British Liver Trust, cho rằng điều này “rất đáng báo động”. Bà lưu ý rằng nhiều người mắc bệnh gan không có triệu chứng cho đến giai đoạn muộn, vì vậy xét nghiệm đóng vai trò đặc biệt quan trọng. Theo bà, những gì AI của Google coi là “bình thường” có thể khác xa so với tiêu chuẩn y khoa thực tế, khiến người bệnh chủ quan và không đi khám lại.

Stephanie Parker, giám đốc phụ trách mảng kỹ thuật số tại tổ chức từ thiện Marie Curie, chuyên chăm sóc người hấp hối, cũng cảnh báo rằng nhiều người tìm đến internet trong những thời điểm lo lắng hoặc khủng hoảng. Theo bà, nếu thông tin họ nhận được không chính xác hoặc thiếu bối cảnh, hậu quả đối với sức khỏe có thể rất nghiêm trọng.