Sự phát triển của AI tạo sinh đang mang lại nhiều công cụ chỉnh sửa ảnh với tốc độ nhanh và độ chân thực cao. Tuy nhiên, làn sóng này cũng kéo theo sự xuất hiện của các ứng dụng "nudify", trở thành tâm điểm chỉ trích do nguy cơ bị lạm dụng vào mục đích quấy rối, trả thù hoặc tống tiền. Theo văn phòng Công tố viên San Francisco, nhiều ứng dụng hiện núp bóng dưới dạng công cụ chỉnh sửa ảnh thông thường hoặc hoán đổi khuôn mặt để cho phép người dùng tạo ra hình ảnh khỏa thân giả của người khác trong vài giây mà không có sự đồng ý. Công nghệ này đang bị lợi dụng để quấy rối phụ nữ, bắt nạt học sinh, phát tán nội dung giả mạo và tống tiền nạn nhân, trong đó có cả các trường hợp liên quan đến trẻ vị thành niên.

Một cuộc điều tra từ tổ chức Tech Transparency Project (TTP) cho thấy Apple và Google không chỉ cho phép các ứng dụng này tồn tại mà còn giúp người dùng tiếp cận dễ dàng thông qua hệ thống tìm kiếm, quảng cáo và gợi ý từ khóa. Khi tìm kiếm các từ khóa liên quan như "nudify", "undress" hay "deepnude", có khoảng 40% ứng dụng hiển thị trong kết quả có khả năng tạo hình ảnh khỏa thân hoặc gợi dục giả từ ảnh phụ nữ. Hai kho ứng dụng lớn này cũng hiển thị quảng cáo cho một số công cụ vi phạm, đồng thời tính năng tự động hoàn thành từ khóa còn đề xuất thêm các truy vấn liên quan. Thống kê từ dữ liệu của AppMagic do TTP trích dẫn cho thấy, các ứng dụng "nudify" xuất hiện trong kết quả tìm kiếm đã đạt tổng cộng 483 triệu lượt tải xuống và mang lại hơn 122 triệu USD doanh thu trọn đời.

Thư yêu cầu của Công tố viên David Chiu đã nêu đích danh 13 ứng dụng vi phạm, đồng thời chỉ ra rằng Apple và Google dù đã nhận nhiều cảnh báo nhưng vẫn tiếp tục duy trì chúng trên nền tảng. Hai tập đoàn công nghệ này bị cáo buộc thu lợi từ các giao dịch mua trong ứng dụng cũng như các gói thuê bao trả phí mà người dùng đăng ký để tạo ảnh AI. Ông Chiu nhận định việc tiếp tục lưu hành các ứng dụng đồng nghĩa với việc các nền tảng đang tạo điều kiện cho hành vi phát tán hình ảnh nhạy cảm giả mạo không đồng thuận.

Cơ quan quản lý yêu cầu Apple và Google nhanh chóng gỡ bỏ các ứng dụng "nudify" và triển khai biện pháp ngăn chặn triệt để. Nếu không thực hiện, hai công ty có thể đối mặt với các biện pháp pháp lý theo luật của bang California liên quan đến hành vi tạo và phát tán hình ảnh thân mật giả mạo. Động thái này phản ánh xu hướng siết chặt quản lý của các cơ quan chức năng đối với các nền tảng công nghệ trước nguy cơ gây hại từ AI. Giới chuyên gia nhận định thách thức lớn hiện nay nằm ở sự thiếu hụt các cơ chế kiểm duyệt đối với các ứng dụng thương mại hóa. Áp lực hiện tại buộc Apple và Google không chỉ gỡ bỏ các phần mềm vi phạm cụ thể mà phải xây dựng hệ thống rà soát chủ động để ngăn chặn các ứng dụng AI có chức năng tương tự xuất hiện trong tương lai.

Phạm Tuấn