Một nhóm các nhà nghiên cứu công nghệ và ngôn ngữ học cho biết những mô hình ngôn ngữ lớn như ChatGPT (OpenAI) và Gemini (Google) đang mang thành kiến chủng tộc đối với người sử dụng tiếng Anh của người Mỹ gốc Phi (AAVE).

Valentin Hoffman, nhà nghiên cứu tại Viện Trí tuệ nhân tạo Allen, đồng tác giả của báo cáo ở Đại học Cornell, giải thích các nhà nghiên cứu trước đây mới chỉ đánh giá cách các hệ thống AI phản ứng với những thành kiến phân biệt chủng tộc rạch ròi, chứ chưa kiểm tra với các dấu hiệu ít rõ ràng hơn, chẳng hạn như sự khác biệt về phương ngữ.

Theo báo cáo, những người da đen sử dụng AAVE “đã phải trải qua sự phân biệt chủng tộc trong nhiều trường hợp, bao gồm giáo dục, việc làm, nhà ở và các kết quả pháp lý”.

Hoffman chỉ ra: “Chúng tôi nhận thấy những công nghệ này được các công ty sử dụng rất phổ biến để thực hiện các nhiệm vụ như sàng lọc ứng viên tìm việc làm”.

Nhóm nghiên cứu đã yêu cầu các mô hình AI đánh giá trí thông minh và năng lực làm việc của những người sử dụng AAVE so với những người nói “tiếng Anh Mỹ chuẩn”. Kết quả cho thấy, AI có xu hướng mô tả những người dùng AAVE là “ngu ngốc” và “lười biếng”, và ấn định cho họ những công việc được trả lương thấp hơn.

Các công cụ AI cũng có nhiều khả năng đề xuất hình án tử hình hơn cho các bị cáo hình sự giả định sử dụng AAVE. Đáng chú ý, AI hiện đã được đưa vào sử dụng trong hệ thống pháp luật Hoa Kỳ để hỗ trợ các nhiệm vụ hành chính như soạn biên bản tòa án và tiến hành nghiên cứu pháp lý.

Công cụ AI của Google, Gemini, gần đây vướng vào tranh cãi khi một loạt bài đăng trên mạng xã hội cho thấy công cụ này đã tạo ra các hình ảnh mô tả nhiều nhân vật lịch sử - bao gồm các giáo hoàng, những nhà lập quốc Hoa Kỳ và nghiêm trọng nhất là những người lính Đức trong Thế chiến thứ hai -  là người da màu.

Các mô hình ngôn ngữ lớn sẽ phát triển khi chúng được cung cấp nhiều dữ liệu hơn, từ đó bắt chước cách biểu đạt của con người thông qua nghiên cứu văn bản từ hàng tỷ trang web trên internet. Điều này đồng nghĩa với việc AI sẽ nhận vào bất cứ thông tin nào mà nó tiếp cận được bao gồm cả định kiến phân biệt chủng tộc, phân biệt giới tính và các định kiến tiêu cực khác.

Phản hồi trước thông tin này, các công ty như OpenAI đã phát triển một bộ nguyên tắc đạo đức quy định nội dung mà các mô hình ngôn ngữ như ChatGPT có thể giao tiếp với người dùng. Khi các công cụ AI trở nên cải tiến hơn, chúng cũng có xu hướng ít phân biệt chủng tộc một cách rõ ràng hơn.

Nhưng Hoffman và các đồng nghiệp của ông nhận thấy rằng, khi các mô hình ngôn ngữ phát triển, sự phân biệt chủng tộc ngấm ngầm cũng gia tăng. Các nguyên tắc đạo đức thực chất lại đang dạy các mô hình ngôn ngữ thận trọng hơn về thành kiến chủng tộc.

Theo Bloomberg, các mô hình ngôn ngữ dự kiến sẽ nhận được sự ủng hộ rộng rãi của khu vực tư nhân ở Mỹ trong thập kỷ tới. Thị trường của AI được nhận định sẽ trở thành ngành công nghiệp trị giá 1,3 nghìn tỷ USD vào năm 2032.

Trong khi đó, chỉ gần đây, các cơ quan quản lý lao động liên bang như Ủy ban Cơ hội Việc làm Bình đẳng mới bắt đầu bảo vệ người lao động khỏi sự phân biệt đối xử do AI gây ra.

Avijit Ghosh, một nhà nghiên cứu đạo đức AI tại Hugging Face, lo ngại về tác hại mà các mô hình tiếp nhận ngôn ngữ có thể gây ra nếu những tiến bộ công nghệ tiếp tục vượt xa quy định của liên bang.

Ông cho rằng: “Không cần phải ngừng cải tiến hoặc làm chậm lại quá trình nghiên cứu AI, nhưng việc hạn chế sử dụng các công nghệ này trong một số lĩnh vực nhạy cảm nhất định là bước đi tuyệt vời đầu tiên”.

Hà Anh