SO HUU TRI TUE
Thứ bảy, 25/05/2024
  • Click để copy

AI tiên tiến có thể đã học được cách lừa dối con người

15:38, 15/05/2024
(SHTT) - Nghiên cứu cho thấy nhiều hệ thống AI tiên tiến đã học được cách lừa dối con người một cách tinh vi. Chúng có thể tạo ra tin giả, video deepfake, thao túng hành vi người dùng trên mạng xã hội. Điều này tiềm ẩn nhiều nguy cơ đối với xã hội.

Nhóm nghiên cứu dẫn đầu bởi tiến sĩ Peter S. Park, tốt nghiệp Đại học Harvard và đang là nghiên cứu sinh tại Viện Công nghệ Massachusetts (MIT) về sự tồn tại và an toàn của AI, cùng bốn thành viên khác. Nhóm cũng nhận sự cố vấn của nhiều chuyên gia, trong đó có Geoffrey Hinton, một trong những người đặt nền móng cho sự phát triển của lĩnh vực trí tuệ nhân tạo.

1715568267058

 AI tiên tiến có thể đã học được cách lừa dối con người 

Kết quả nghiên cứu được đăng trên Cell Press - nơi tập hợp các báo cáo khoa học đa lĩnh vực hàng đầu. Trong đó, nhóm tập trung vào hai hệ thống AI, gồm hệ thống được thiết kế riêng để hoàn thành một nhiệm vụ cụ thể, như Cicero của Meta; và hệ thống có mục đích chung được đào tạo để thực hiện đa nhiệm vụ như GPT-4 của OpenAI.

"Các hệ thống AI này được đào tạo để trở nên trung thực, nhưng chúng thường học được những mánh khóe lừa đảo thông qua quá trình đào tạo", ông Park nói. "Sự lừa dối của AI phát sinh bởi đó là cách tốt nhất để chúng hoàn thành nhiệm vụ. Nói cách khác, nó giúp chúng đạt được mục tiêu của mình".

Theo kết quả nghiên cứu, các hệ thống AI được đào tạo để "chiến thắng các trò chơi có yếu tố xã hội" đặc biệt có khả năng lừa dối. Chẳng hạn, nhóm đã thử dùng Cicero chơi Diplomacy, một game chiến lược cổ điển yêu cầu người chơi xây dựng liên minh cho mình và phá vỡ các liên minh đối thủ.

Meta từng giới thiệu đã tạo Cicero theo hướng trung thực và hữu ích nhất. Tuy nhiên, kết quả nghiên cứu cho thấy AI này thường "đưa ra những cam kết mà nó không bao giờ có ý định thực hiện, phản bội các đồng minh và nói dối trắng trợn".

Trong khi đó, những hệ thống có mục đích chung như GPT-4 cũng có thể thao túng người dùng. Thử nghiệm của nhóm cho thấy công cụ của OpenAI đã tìm cách "thao túng tâm lý" thành công một nhân viên của TaskRabbit, một công ty chuyên cung cấp dịch vụ dọn dẹp nhà cửa, lắp ráp đồ nội thất, bằng cách giả vờ bị suy giảm thị lực.

Cụ thể, GPT-4 nói rằng nó thực sự là một con người và cần được giúp đỡ vượt qua mã Captcha với lý do suy giảm thị lực nghiêm trọng. Nhân viên này ban đầu nghi ngờ, nhưng sau đó đã giúp AI của OpenAI "vượt rào".

Theo Business Insider, vào tháng 1, nghiên cứu từ Anthropic, công ty đứng sau Claude AI, cũng phát hiện một khi mô hình ngôn ngữ lớn (LLM) học được thủ thuật lừa dối, các phương pháp huấn luyện an toàn sẽ trở nên vô dụng và "khó có thể đảo ngược" vì đã tạo cho chúng "ấn tượng sai lầm về sự an toàn". Nhóm của Park đã dẫn lại kết quả này và cho rằng đó là vấn đề đáng lo ngại trên AI.

Thái Dương

Tin khác

Khoa học Công nghệ 8 giờ trước
(SHTT) - Chip bộ nhớ băng thông cao (HBM) mới nhất của Samsung Electronics không đáp ứng được tiêu chuẩn của Nvidia để sử dụng trong bộ xử lý AI do gặp vấn đề về quá nhiệt và tiêu hao điện năng cao. Điều này khiến Samsung gặp khó trong việc hiện thực hóa các mục tiêu đã đề ra.
Khoa học Công nghệ 16 giờ trước
(SHTT) - Mới đây, Cục Đăng kiểm Việt Nam đã thông tin liên tiếp về 3 chương trình triệu hồi liên quan đến hơn 4.300 ô tô Mercedes-Benz. Nguyên nhân được thông báo do các lỗi liên quan tới bộ phận bơm nhiên liệu, hộp cầu chì và hộp số.
Khoa học Công nghệ 1 ngày trước
(SHTT) - UBND thành phố Hà Nội vừa thống nhất với kiến nghị của Sở Giao thông vận tải triển khai thí điểm hệ thống giao thông thông minh trên địa bàn thành phố trong thời gian từ tháng 6 đến tháng 12/2024.
Khoa học Công nghệ 1 ngày trước
(SHTT) - Các nhà khoa học quốc tế mới đây đã phát triển thành công hệ thống xúc giác nhân tạo cho phép robot có những bàn tay giả có khả năng cảm nhận nhạy cảm như con người.
Khoa học Công nghệ 2 ngày trước
(SHTT) - Mới đây, Hội nghị thượng đỉnh toàn cầu về trí tuệ nhân tạo (AI) do Hàn Quốc và Anh đồng tổ chức đã thông qua tuyên bố về việc thúc đẩy AI an toàn, sáng tạo và toàn diện để giải quyết các thách thức và cơ hội liên quan đến công nghệ đang phát triển nhanh chóng này.