Theo thông tin từ các nhà chức trách Hạt Baltimore, Dazhon Darien, Giám đốc thể thao trường Trung học Pikesville, đã thực hiện hành vi giả mạo giọng nói của Hiệu trưởng Eric Eiswert nhằm mục đích bôi nhọ danh tiếng của vị hiệu trưởng này. Cụ thể, đoạn ghi âm giả mạo được tung ra chứa đựng những lời lẽ phân biệt chủng tộc và bài xích người Do Thái, gây phẫn nộ cho cộng đồng nhà trường và dư luận. Ban đầu, tệp âm thanh này được gửi qua email cho một số giáo viên, sau đó bị lan truyền rộng rãi trên mạng xã hội.

Cảnh sát cho biết đoạn ghi âm xuất hiện sau khi Eiswert đặt ra những vấn đề về hiệu suất làm việc và các cáo buộc lạm dụng quỹ trường học của Darien. Nhà chức trách cho biết đoạn âm thanh giả đã buộc Eiswert phải tạm ngừng công tác trong khi cảnh sát thường xuyên túc trực tại nhà vị hiệu trưởng. Những cuộc điện thoại giận dữ liên tục được gọi đến trường học, trong khi những tin nhắn đầy thù hận tràn ngập trên khắp mạng xã hội.

Để làm sáng tỏ vụ việc deepfake giả mạo giọng nói Hiệu trưởng trường Pikesville, các thám tử đã tìm đến sự trợ giúp của các chuyên gia bên ngoài. Theo một chuyên gia, đoạn ghi âm "mang dấu vết của nội dung do AI tạo ra", cho thấy khả năng phần mềm trí tuệ nhân tạo đã được sử dụng để tổng hợp giọng nói. Tuy nhiên, “dấu vết AI” không đồng nghĩa với việc con người không can thiệp.

Một chuyên gia khác, Giáo sư Hany Farid thuộc Đại học California, Berkeley, nhận định rằng tệp âm thanh là “nhiều bản ghi âm được ghép lại với nhau”. Điều này cho thấy sau khi AI tạo bản nháp, con người đã "chỉnh sửa" thêm để tăng độ hoàn thiện và tính thuyết phục cho đoạn ghi âm giả mạo.

Trong một cuộc phỏng vấn với các bên báo chí, Giáo sư Farid đã có những chia sẻ quan điểm về vụ deepfake giả mạo giọng nói Hiệu trưởng trường Pikesville. Vị giáo sư này cho biết ông vẫn còn những thắc mắc về cách thức tạo ra bản ghi âm giả này. Ông chưa thể khẳng định chắc chắn rằng nó hoàn toàn do AI tạo ra hay có sự can thiệp của con người. T

uy nhiên, Giáo sư Farid nhấn mạnh rằng vụ việc này là một “con chim hoàng yến trong mỏ than”, cảnh báo về nguy cơ tiềm ẩn của công nghệ AI. Với sự phát triển nhanh chóng của AI, khả năng tạo ra deepfake ngày càng tinh vi và khó phát hiện hơn, tiềm ẩn nguy cơ lừa đảo, thao túng thông tin và gây hại cho xã hội.

Vụ việc diễn ra tại trường trung học Pikesville là một lý do khác khiến mọi người - không chỉ các chính trị gia và người nổi tiếng - nên lo ngại về công nghệ deepfake ngày càng mạnh mẽ này. Đoạn ghi âm giả mạo giọng nói Hiệu trưởng trường Pikesville là minh chứng cho sự nguy hiểm của một nhánh trí tuệ nhân tạo (AI) gọi là AI tổng quát. Loại AI này có khả năng tạo ra hình ảnh, video và âm thanh mới vô cùng chân thật, đánh lừa thị giác và thính giác của con người một cách tinh vi.

Điều đáng lo ngại là AI tổng quát ngày càng trở nên dễ tiếp cận hơn trong những năm gần đây. Chi phí và kỹ thuật sử dụng đã được đơn giản hóa, cho phép bất kỳ ai có kết nối internet đều có thể tạo ra các sản phẩm với công nghệ deepfake.

Các công ty công nghệ lớn cũng có những giải pháp nhằm hạn chế tình trạng này. chẳng hạn như Meta, công ty mẹ của Facebook và OpenAI, nhà sản xuất ChatGPT, chỉ cho phép một nhóm nhỏ người dùng đáng tin cậy thử nghiệm công nghệ của mình vì có nguy cơ lạm dụng.

Farid cho biết các công ty cung cấp sản phẩm từ trí tuệ nhân tạo vẫn còn nhiều việc phải làm để hạn chế tình trạng lạm dụng trí tuệ nhân tạo. Ông đưa ra giải pháp yêu cầu tất cả các công ty nên yêu cầu người dùng gửi số điện thoại và thẻ tín dụng để họ có thể truy tìm lại các tập tin về những người sử dụng công nghệ này với những mục đích xấu.

Hoàng Kim