Nếu vài năm trước, bạn chỉ có thể thấy Tom Cruise nhảy múa trong "Mission: Impossible", thì giờ đây, với công nghệ deepfake, Tom Cruise có thể… nấu ăn trên TikTok, học nói giọng miền Tây hay thậm chí tranh cử hội trưởng lớp ở một trường cấp ba tại Cà Mau – tất nhiên là chỉ trong video được tạo ra bằng AI.a

Deepfake – ghép từ "deep learning" (học sâu) và "fake" (giả mạo) – là công nghệ sử dụng trí tuệ nhân tạo để tạo ra video, hình ảnh hoặc âm thanh giả nhưng giống thật đến mức đánh lừa cả mắt thường lẫn tai nghe. Tưởng chỉ dừng lại ở việc "tấu hài mạng xã hội", nhưng deepfake đã và đang gây ra những hệ lụy nghiêm trọng cho đời sống chính trị, pháp luật, giáo dục và thậm chí cả đời tư của bạn.

Tờ Korea Times đăng tải, những video deepfake do trí tuệ nhân tạo (AI) tạo ra làm dấy lên mối lo ngại mới về việc sử dụng sai mục đích AI để tạo nội dung khiêu dâm nhắm vào những người nổi tiếng. Những quảng cáo cho các ứng dụng hỗ trợ AI này gần đây đã gây ra mối quan tâm rộng rãi trong các cộng đồng trực tuyến, nhiều người dùng chỉ trích việc phát tán nội dung không phù hợp trên các nền tảng video ngắn như TikTok và Instagram.

Các quảng cáo đang được đề cập quảng bá các công cụ AI tạo video hai người hôn nhau, thúc đẩy người dùng tải ảnh của riêng họ cùng với hình ảnh thần tượng K-pop yêu thích của họ để tạo ra một clip giả mạo. Ảnh chụp màn hình của những quảng cáo này được lưu hành trực tuyến, và những người hâm mộ K-pop cho rằng chúng rất đáng lo ngại và họ cảm thấy rất tệ với những quảng cáo cho các ứng dụng liên quan đến nội dung này - khi chúng xuất hiện ngày càng nhiều hơn.

Theo luật pháp Hàn Quốc, việc tạo, thao túng, phân phối hoặc đe dọa phân phối nội dung khiêu dâm không được đồng ý bằng các công cụ kỹ thuật số, chẳng hạn như AI, là một hành vi phạm tội. Bất chấp khuôn khổ pháp lý, tội phạm tình dục deepfake đã gia tăng trong những năm gần đây ở nước này, trở thành một trong những mối đe dọa cấp bách nhất đối với các thần tượng K-pop. Các tội phạm này thường xuất phát từ hành vi ám ảnh của người hâm mộ hoặc ý định xấu muốn gây hại cho những người của công chúng mà họ quan tâm đến.

Chỉ trong tháng trước, cảnh sát Hàn Quốc đã bắt giữ hàng chục nam giới ở độ tuổi thiếu niên, 20 và 30 tuổi, vì tạo hoặc chia sẻ các video có sự can thiệp về tình dục có sự tham gia của những người nổi tiếng và nhân vật nổi tiếng trên nền tàng Internet.

Theo HYBE, công ty đã ký biên bản ghi nhớ (MOU) với Cảnh sát Bắc Gyeonggi vào ngày 25 tháng 2 để giải quyết các tội phạm deepfake. Kể từ đó, công ty đã tích cực báo cáo nội dung bất hợp pháp cho chính quyền và chia sẻ thông tin để hỗ trợ điều tra.

"Chúng tôi sẽ tiếp tục ứng phó với các tội phạm xâm phạm quyền hình ảnh và phẩm giá các nghệ sĩ của chúng tôi bằng thái độ không khoan nhượng" - CEO của HYBE Lee Jae-sang cho biết trong một tuyên bố.

TH