Trung tâm quốc gia về trẻ em mất tích và bị bóc lột (NCMEC) đã công bố một công cụ mới được thiết kế để giúp loại bỏ hình ảnh khiêu dâm của trẻ vị thành niên trên mạng.

Trong một bài đăng trên blog, Meta tiết lộ rằng họ đã cung cấp kinh phí ban đầu nhằm phát triển công cụ “Take It Down” miễn phí của NCMEC2. Công cụ cho phép người dùng ẩn danh báo cáo và xóa “hình ảnh hoặc video khỏa thân (khỏa thân một phần) hoặc khiêu dâm” của trẻ vị thành niên được tìm thấy trên các nền tảng xã hội tham gia chương trình và chặn nội dung vi phạm được chia sẻ lại.

Với ‘Take It Down’, trẻ vị thành niên hay những người trưởng thành xuất hiện trong những nội dung đó khi chưa đủ 18 tuổi đều có thể tự báo cáo và yêu cầu xóa hình ảnh hay video của mình bị lan truyền trái phép trên các trang mạng xã hội.

Cha mẹ hoặc những người trưởng thành khác cũng có thể báo cáo thay cho trẻ vị thành niên đó.

Nghi vấn được đặt ra cho ‘Take It Down’ là người dùng phải có hình ảnh hoặc video được báo cáo trên thiết bị của họ mới có thể sử dụng dịch vụ. Nội dung này không được gửi như một phần của quy trình báo cáo và do đó những hình ảnh hay video vi phạm vẫn ở chế độ riêng tư.

Thay vào đó, hình ảnh/video đó được sử dụng để tạo ra một bộ băm, một dấu vân tay kỹ thuật số duy nhất được gán cho mỗi hình ảnh/ video, sau đó có thể được cung cấp cho các nền tảng tham gia để phát hiện và xóa chúng trên các trang web và ứng dụng của họ, đồng thời giảm thiểu số lượng người xem thực tế.

"Chúng tôi tạo ra hệ thống này bởi vì nhiều trẻ em đang phải đối mặt với những bi kịch này. Chúng tôi hy vọng trẻ vị thành niên biết đến công cụ này và cảm thấy yên tâm khi vẫn còn đó các công cụ giúp gỡ bỏ các nội dung độc hại xuống. NCMEC luôn có mặt để giúp đỡ", Michelle DeLaune, chủ tịch kiêm giám đốc điều hành của NCMEC chia sẻ.

‘Take It Down’ có thể được so sánh với StopNCII, một công cụ được ra mắt vào năm 2021 với mục tiêu  ngăn chặn việc chia sẻ hình ảnh chưa được sự cho phép của những người trên 18 tuổi. StopNCII cũng sử dụng các bộ băm để phát hiện và xóa nội dung khiêu dâm trên Facebook, Instagram, TikTok và Bumble.

Tháng 11/2022, Meta đã nhá hàng nền tảng mới cùng với việc ra mắt các tính năng bảo mật mới cho Instagram và Facebook. Thời điểm đó, ngoài việc công bố hợp tác với NCMEC, Meta đã triển khai các tính năng bảo mật mới cho Instagram và Facebook nhằm bảo vệ trẻ vị thành niên đang sử dụng nền tảng mạng xã hội này.

Các tính năng bảo mật mới bao gồm: Thông báo thanh thiếu niên báo cáo tài khoản sau khi họ chặn tài khoản của một người trưởng thành đáng ngờ, xóa nút tin nhắn trên tài khoản Instagram của thanh thiếu niên khi họ được theo dõi bởi tài khoản từng bị chặn và áp dụng cài đặt bảo mật nghiêm ngặt hơn theo mặc định cho người dùng Facebook dưới 16 tuổi (hoặc 18 tuổi ở một số quốc gia nhất định).

Các nền tảng khác tham gia chương trình đã thực hiện các bước để ngăn chặn và xóa nội dung vi phạm nhằm bảo vệ trẻ vị thành niên. 

Yubo, một ứng dụng mạng xã hội của Pháp, đã triển khai một loạt các công cụ kiểm duyệt do con người và AI điều khiển nhằm phát hiện nội dung liên quan đến tình dục của trẻ vị thành niên. Pornhub thì  cho phép các cá nhân trực tiếp đưa ra yêu cầu gỡ xuống đối với nội dung bất hợp pháp hoặc chưa có sự đồng ý được đăng trên nền tảng này.

Trước đây, tất cả 5 nền tảng tham gia từng bị chỉ trích vì không bảo vệ trẻ vị thành niên khỏi bị bóc lột tình dục.

Năm 2021, theo báo cáo của BBC News chỉ ra rằng trẻ em có thể dễ dàng bỏ qua các hệ thống xác minh trên 23 tuổi của OnlyFans, trong khi đó, có đến 34 phụ nữ bị lạm dụng tình dục đã kiện Pornhub với cáo buộc rằng trang web cố tình trục lợi từ các video mô tả hiếp dâm, lạm dụng tình dục trẻ em, buôn bán và nội dung tình dục phi đồng thuận khác. 

Yubo - được coi như Tinder dành cho thanh thiếu niên, đã được những kẻ xấu sử dụng để liên lạc và hãm hiếp người dùng chưa đủ 18 tuổi. NCMEC ước tính rằng năm 2022,  kế hoạch áp dụng mã hóa đầu cuối của Meta cho các nền tảng của họ có thể đã tiếp tay che giấu hiệu quả 70% nội dung lạm dụng tình dục trẻ em mới được phát hiện và báo cáo trên đây.

"Khi các công ty công nghệ thực hiện mã hóa đầu cuối, không có biện pháp phòng ngừa nào được xây dựng để phát hiện nội lạm dụng tình dục trẻ em, ảnh hưởng đến an toàn trẻ em là không được chấp nhận", DeLaune nói với Ủy ban Tư pháp Thượng viện.

Một thông cáo báo chí cho ‘Take It Down’ đề cập rằng các nền tảng tham gia có thể sử dụng các bộ băm được cung cấp để phát hiện và xóa hình ảnh trên “các trang web và ứng dụng công khai hoặc không được mã hóa”, nhưng không rõ liệu điều này có mở rộng đến việc sử dụng mã hóa đầu cuối của Meta trên các dịch vụ như Messenger hay không. Các bên đã liên hệ với Meta để xác nhận và sẽ cập nhật khi nhận được phản hồi.

Thùy Mai