Theo truyền thông, các video clip deepfake được tạo bằng công nghệ AI tiên tiến, khiến việc phân biệt giữa nội dung giả và nội dung thật ngày càng khó khăn.

Nhiều người nổi tiếng đã trở thành nạn nhân của tội phạm deepfake, nhưng do khó khăn trong việc theo dõi và truy tố nên hiếm trường hợp phải chịu hình phạt thực sự, dẫn đến việc tình trạng này lặp đi lặp lại.

Theo Ten Asia, vào ngày 15/12, nhiều người nghi ngờ Lisa đã "lột" đồ khi biểu diễn tại quán rượu 19+ - Crazy Horse  ở Paris, Pháp.

Theo đó, một clip hiện được lan truyền trên các trang web người lớn và một số cộng đồng tại Hàn Quốc có gắn logo "Crazy Horse" nên nhiều cư dân mạng lầm tưởng đây là video biểu diễn thực sự của nữ ca sĩ.

Thực tế, vào cuối tháng 10, em út Blackpink đã có 5 đêm diễn tại Crazy Horse - một trong 3 quán rượu hàng đầu ở Paris, cùng với Moulin Rouge và Lido. Nơi đây nổi tiếng với sân khấu hoành tráng và những màn trình diễn khỏa thân táo bạo của các vũ công nữ. 

Ngay sau các buổi diễn, hàng loạt thông tin trái chiều xoay quanh màn biểu diễn của Lisa được đăng tải, từ việc cô có màn biểu diễn táo bạo, cho đến việc diện trang phục "hở quá đà"...

Tuy nhiên, việc nữ ca sĩ bị lan truyền clip lộ ngực tại quán rượu nổi tiếng gây bất ngờ, khiến Ten Asia vào cuộc, minh oan cho cô. Theo đó, thông qua KaiCatch - một ứng dụng phát hiện deepfake được phát triển tại KAIST cho thấy kết quả xác nhận rằng video này 100% là video deepfake. 

Theo các nguồn tin của Ten Asia, không chỉ Lisa mà trên một trang web bất hợp pháp, khuôn mặt của nhiều idol Kpop như SNSD, TWICE, Red Velvet, NewJeans, IVE, Blackpink, IU, aespa... đang được lan truyền bất hợp pháp. Theo báo Hàn, những người nổi tiếng có thể trở thành mục tiêu của tội phạm bất cứ lúc nào.

Tại Hàn Quốc, việc sản xuất video tổng hợp bất hợp pháp có thể bị phạt tới 5 năm hoặc phạt tiền lên tới 50 triệu won (khoảng 936 triệu đồng). Hơn nữa, việc bán chúng có thể bị phạt tù lên tới 7 năm. Tuy nhiên, việc tìm ra các trường hợp lạm dụng công nghệ AI - như phát tán nội dung nhạy cảm là một thách thức.

Ngoài ra, nhiều trang web sản xuất hình ảnh AI có máy chủ ở nước ngoài, gây khó khăn cho việc bắt giữ những người chịu trách nhiệm sản xuất nội dung phản cảm.