Trí tuệ nhân tạo (AI) đang tạo ra những tài liệu tham khảo về các nghiên cứu y khoa không hề tồn tại, theo những phát hiện mới đây của các nhà khoa học.

Cụ thể, trong một cuộc rà soát gần đây cho thấy trong số hàng triệu bài báo y sinh học đã được công bố, có hơn 4.000 bài chứa các trích dẫn dẫn đến những nghiên cứu không có thật. Thông tin này được công bố trong một bài viết trên tạp chí y khoa danh tiếng The Lancet. Theo các nhà nghiên cứu, những trích dẫn giả mạo như vậy có thể làm suy giảm độ tin cậy của các hướng dẫn lâm sàng mà nhân viên y tế dựa vào để chăm sóc bệnh nhân.

Ông Maxim Topaz, Phó Giáo sư tại Columbia School of Nursing và là tác giả chính của nghiên cứu, cho biết các trích dẫn giả có thể ảnh hưởng trực tiếp đến chất lượng chăm sóc sức khỏe.

“Những tài liệu tham khảo giả mạo này đang len lỏi vào các công trình khoa học và cuối cùng có thể xuất hiện trong các hướng dẫn điều trị. Đó chính là cơ sở để các bác sĩ đưa ra quyết định chăm sóc bệnh nhân”, ông Topaz nói với CBS News. “Bác sĩ của bạn có thể đang đưa ra quyết định điều trị dựa trên những nghiên cứu chưa từng tồn tại.”

 Vấn đề ngày càng nghiêm trọng 

Điều đáng lo ngại là không có bất kỳ trích dẫn sai nào mà nhóm nghiên cứu phát hiện đã được đính chính hoặc thu hồi. Điều này đồng nghĩa với việc chúng vẫn có thể tiếp tục ảnh hưởng đến hoạt động chăm sóc sức khỏe hiện nay.

Theo ông Topaz, số lượng các tài liệu tham khảo giả xuất hiện trong các công trình y khoa đang gia tăng nhanh chóng. Trong vòng ba năm qua, số lượng các trích dẫn sai như vậy đã tăng gấp 12 lần. Tổng cộng, các tài liệu tham khảo giả được phát hiện trong gần 3.000 bài báo học thuật.

Chính trải nghiệm cá nhân đã thôi thúc ông Topaz điều tra vấn đề này. Trong quá trình sử dụng một ứng dụng AI để hỗ trợ chỉnh sửa bản thảo nghiên cứu khoa học của mình, công cụ này đã tự động chèn một tài liệu tham khảo hoàn toàn giả mạo. Điều đáng nói là trích dẫn này đã vượt qua nhiều vòng phản biện khoa học trước khi được một biên tập viên tinh ý phát hiện.

“Tôi thực sự bàng hoàng. Tôi đã nghiên cứu về AI suốt 15 năm qua, vậy mà điều đó vẫn xảy ra với tôi. Nếu tôi có thể mắc phải sai sót này thì bất kỳ ai cũng có thể gặp phải”, ông nói.

 AI có thể tự tạo ra nguồn tham khảo không tồn tại 

Theo ông Topaz, những sai sót như vậy thường xảy ra khi tác giả đưa ra một nhận định và yêu cầu AI tìm nguồn trích dẫn để chứng minh.

“Trong một số trường hợp, AI vô tình chèn những tài liệu tham khảo như vậy. Bạn có thể hy vọng rằng nội dung được nêu là chính xác, nhưng nếu nó được hỗ trợ bởi những nguồn tham khảo giả thì bạn không thể biết liệu thông tin đó có thực sự đáng tin cậy hay không”, ông giải thích.

Trong một số trường hợp, công cụ AI thậm chí còn sử dụng tên của một nhà nghiên cứu có thật nhưng lại bịa ra một công trình nghiên cứu rồi gán cho người đó. Ở những trường hợp khác, toàn bộ tài liệu tham khảo đều được tạo dựng hoàn toàn.

Ông Topaz cho rằng những gì được phát hiện hiện nay mới chỉ là “phần nổi của tảng băng chìm”, bởi các lĩnh vực nghiên cứu khác ngoài y sinh học cũng có thể đang đối mặt với tình trạng tương tự.

Ông cũng cảnh báo rằng các trích dẫn khoa học giả do AI tạo ra thường “trông hoàn toàn chân thực”, khiến việc phát hiện trở nên rất khó khăn. Vì vậy, các nhà nghiên cứu cần kiểm chứng nghiêm ngặt mọi tài liệu tham khảo trước khi công bố công trình của mình.

Quỳnh Trang