SO HUU TRI TUE
Thứ ba, 16/07/2024
  • Click để copy

Bức ảnh ‘Giáo hoàng mặc Balenciaga' gây sốt và vấn nạn Deepfake

16:35, 31/03/2023
(SHTT) - Mới đây, hình ảnh Giáo hoàng Francis được tạo ra bởi AI đã lan truyền và đánh lừa không ít người dùng mạng xã hội. Điều này làm dấy lên lo ngại về tính chân thực của thông tin trên mạng xã hội và nguy cơ từ Deepfake.

Chỉ trong vài tháng, các công cụ tạo hình ảnh bằng AI cho phép truy cập công khai đã phát triển tới mức có thể tạo ra những hình ảnh chân thực và dễ dàng đánh lừa người dùng Internet. Gần đây, bức ảnh của Giáo hoàng Francis mặc áo khoác phao thương hiệu Balenciaga cũng tạo nên làn sóng lớn trong cộng đồng mạng. Mặc dù hình ảnh này có chứa một số điểm bất thường, nhưng nó vẫn đánh lừa được nhiều cư dân mạng.

Tuy trước đó đã có những hình ảnh được tạo bởi AI lan truyền trên internet, nhưng chưa có trường hợp nào lừa được nhiều người nhanh như hình ảnh của Giáo hoàng. Nguyên nhân bức ảnh này “nổi lên” phần lớn do người dùng cố ý chia sẻ để gây cười trước bức ảnh “ngộ nghĩnh”. Có lẽ “Giáo hoàng mặc Balenciaga” là bức ảnh deepfake đầu tiên thực sự lan truyền và qua mặt được cộng đồng mạng. Đây cũng là dấu hiệu cho thấy những nguy cơ nghiêm trọng có thể xảy ra trong tương lai.

Các nạn nhân của công nghệ deepfake, bao gồm phụ nữ bị sử dụng trái phép hình ảnh của mình trong các bộ phim khiêu dâm ghép mặt, đã cảnh báo về những rủi ro của công nghệ này suốt nhiều năm. Song, trong những tháng gần đây, việc độ tin cậy và tiếp cận của các công cụ tạo ảnh tăng lên đã tạo điều kiện cho sự ra đời của nhiều loại hình ảnh giả mạo với chất lượng tốt hơn. Khi sức mạnh của AI ngày càng tiến bộ, việc phân biệt độ thật giả của hình ảnh hoặc video sẽ càng khó khăn hơn. Điều đó có thể gây tác động đáng kể đến sự nhạy cảm của công chúng đối với các hoạt động can thiệp của nước ngoài, hành vi quấy rối có chủ đích đối với các cá nhân và độ tin cậy của tin tức.

Dưới đây là một số cách giúp mọi người phát hiện hình ảnh AI và tránh bị đánh lừa bởi các thế hệ công nghệ thậm chí còn tiên tiến hơn trong tương lai.

Cách phát hiện hình ảnh do AI tạo ra ngày nay

Nếu quan sát kỹ hình ảnh “Giáo hoàng mặc Balenciaga”, ta sẽ thấy một vài dấu hiệu chỉ ra sự can thiệp của trí tuệ nhân tạo. Hình dạng cây thánh giá đeo trước ngực Giáo hoàng bị biến dạng một cách khó hiểu và nửa còn lại sợi dây chuyền bị biến mất. Mặc dù trong ảnh, tay phải Giáo hoàng là cốc cà phê nhưng các ngón tay lại cầm vào khoảng không vô định. Mí mắt ông cũng bị dính vào phần gọng và bóng của chiếc kính.

Pope-annotation

 

Để nhận biết một hình ảnh do AI tạo ra ngày nay, ta thường cần chú ý vào các chi tiết nhỏ trong bức ảnh. Các công cụ tạo hình ảnh AI về cơ bản là các trình sao chép mẫu. Bằng cách “học” ngoại hình Giáo hoàng và thiết kế chiếc áo khoác phao Balenciaga, chúng có thể ghép hai thứ lại với nhau một cách thần kỳ.

Nhưng những công cụ này chưa thể nắm được các quy luật vật lý như tại sao một cây thánh giá không thể lơ lửng giữa không trung nếu không có dây xích hỗ trợ, hoặc kính mắt và bóng của chiếc kính không cùng một vật thể. Chính các chi tiết nhỏ nhặt này giúp con người có thể phát hiện ra những sự điểm không nhất quán bằng trực giác, điều mà AI không thể làm được.

Nhưng chẳng bao lâu nữa công nghệ AI sẽ được cải tiến để sửa những sai sót trên. Chỉ mới vài tuần trước, công cụ AI Midjourney đã thất bại trong việc tái tạo hình ảnh chân thực về bàn tay con người nay đã được sử dụng để tạo ra hình ảnh Giáo hoàng “gây bão”. Ta có thể xác định ảnh người có do AI tạo ra hay không thông qua các bộ phận cơ thể bị mờ hay biến dạng như ngón tay. Tuy nhiên, phiên bản mới nhất của Midjourney có thể sao chép bàn tay con người giống như thật, loại bỏ những dấu hiệu dễ nhất để xác định hình ảnh AI. Do đó, những lời khuyên trên có thể nhanh chóng lỗi thời.

Làm thế nào để “tỉnh táo” trong tương lai

Hiện tại, kỹ năng đọc hiểu thông tin truyền thông có thể là lựa chọn tốt nhất để xác định các ảnh được tạo ra bởi trí tuệ nhân tạo trong tương lai. khi bắt gặp bất cứ hình ảnh nghi ngờ nào, hãy nhớ đặt các câu hỏi: Hình ảnh này đến từ đâu? Ai đang chia sẻ nó và tại sao? Nó có mâu thuẫn với bất kỳ thông tin đáng tin cậy nào khác không? Tuy không giúp xác định được 100% hình ảnh giả mạo, nhưng những câu hỏi này sẽ giúp ta phát hiện được nhiều ảnh AI hơn. Từ đó, ta trở nên tỉnh táo và sáng suốt trước các dạng thông tin sai lệch khác.

Khi phát hiện các hình ảnh “gây bão” do AI tạo ra, cách tốt nhất là kiểm tra xem người khác đang bàn tán những gì. Google và các công cụ tìm kiếm khác có chức năng tìm kiếm nguồn hình ảnh, cho phép người dùng kiểm tra xem hình ảnh đó đã được chia sẻ ở đâu trên internet và mọi người đang nói gì về nó. Sử dụng công cụ này có thể cho phép xem liệu các chuyên gia, ấn phẩm đáng tin cậy đã xác thực độ thật giả của ảnh hay chưa hoặc giúp tìm ra nơi bức ảnh được đăng tải lần đầu tiên. Ta cũng nên kiểm chứng tính minh bạch của ảnh khi được đăng lần đầu tiên trên mạng xã hội bởi một người dùng ẩn danh, cho dù họ nói là do phóng viên chụp.

Đối với người dùng Twitter, tính năng ghi chú cộng đồng thường cung cấp thông tin bổ sung về hình ảnh nhưng đa số không được hiển thị ngay khi bài viết được đăng tải. Sau khi hình ảnh của Giáo hoàng được lan truyền, Twitter đã đính kèm một chú thích rằng bức ảnh là giả mạo và được tạo ra bởi AI.

Các công nghệ phát hiện ảnh giả mạo

Hiện, tồn tại rất nhiều phần mềm tính phí nói rằng có thể phát hiện deepfake, trong đó có Intel với độ chính xác đạt tới 96%. Nhưng có rất ít công cụ trực tuyến miễn phí đủ đáng tin cậy để giúp ta biết liệu một hình ảnh có phải do AI tạo ra hay không. Một công cụ miễn phí trên nền tảng AI Hugging Face có thể chắc chắn 69% rằng hình ảnh Giáo hoàng mặc Balenciaga được tạo ra bởi AI. Nhưng đối với hình ảnh Elon Musk được tạo ra bởi phiên bản mới nhất của Midjourney, công cụ này đã trả lời sai và kết luận ảnh 54% là thật.

Theo một bài viết được nhóm nghiên cứu AI tại công ty phần mềm Nvidia và Đại học Naples xuất bản vào tháng 11 năm 2022, họ đã phát hiện ra một số hạn chế khi tìm hiểu về độ khó trong việc chế tạo máy phát hiện hình ảnh AI. Cụ thể, các trình tạo hình ảnh AI để lại những dấu hiệu nhận biết vô hình trong các bức ảnh chúng tạo ra. Tùy vào chương trình được sử dụng để tạo mà chúng sẽ cho ra kết quả hơi khác nhau. Song, sẽ càng khó phát hiện hơn khi hình ảnh bị điều chỉnh kích thước hoặc giảm chất lượng. Đây là trường hợp người dùng hay gặp phải khi chia sẻ hình ảnh trên mạng xã hội.

Annalisa Verdoliva, một trong những tác giả của bài viết,cho biết các nhà nghiên cứu đã tạo ra một công cụ có thể phát hiện hình ảnh Giáo hoàng mặc Balenciaga là do AI tạo ra. Tuy nhiên, dù mã của công cụ này có sẵn trực tuyến, nhưng lại không được tích hợp thành một ứng dụng web. Đồng nghĩa với việc đa số người dùng gặp khó khăn trong việc truy cập công cụ này.

Một nghiên cứu xuất bản đầu tháng 3 mới giới thiệu đến phương pháp có thể mang lại kết quả tổng quát hơn. Nhóm nghiên cứu đã phát hiện ra mô hình khuếch tán - một trình tạo ảnh AI tiên tiến, có thể dễ dàng tái tạo lại gần như hoàn hảo hình ảnh đầu vào khi cung cấp một hình ảnh do AI tạo ra. Ngược lại, công cụ này gặp khó khăn trong việc tái tạo chính xác  khi sử dụng ảnh thật. Mặc dù những khám phá này chưa được phát triển thành công cụ trực tuyến khả dụng được, nhưng đây sẽ là bước đầu trong việc phát minh ứng dụng phát hiện chính xác hình ảnh AI trong tương lai.

Tin khác

Tài sản trí tuệ 5 giờ trước
(SHTT) - Đội QLTT số 1, Cục QLTT phối hợp với Phòng Cảnh sát Giao thông, Công an tỉnh Nam Định và Công an phường Thống Nhất tiến hành khám phương tiện vận tải mang biển kiểm soát 29K-080XX, thu giữ gần 1.000 sản phẩm quần áo không rõ nguồn gốc, xuất xứ. Trị giá hàng hóa vi phạm gần 40 triệu đồng.
Tài sản trí tuệ 5 giờ trước
(SHTT) - Đội Quản lý thị trường số 3 phối hợp với Tổ công tác Thương mại điện tử (cùng thuộc Cục Quản lý thị trường tỉnh Đắk Lắk) tiến hành kiểm tra một cơ sở kinh doanh online trên địa bàn huyện Krông Pắc. Qua đó phát hiện hàng trăm sản phẩm không rõ nguồn gốc xuất xứ.
Tài sản trí tuệ 22 giờ trước
(SHTT) - Ngày 14/7, Công an huyện Đông Anh (Hà Nội) cho biết, đã ra lệnh giữ người trong trường hợp khẩn cấp đối với Lương Thị Bích (sinh năm 1982) và Ngô Thị Vinh (sinh năm 1962) cùng trú tại thành phố Từ Sơn, tỉnh Bắc Ninh, về hành vi buôn bán hàng giả là phụ gia thực phẩm.
Tài sản trí tuệ 22 giờ trước
(SHTT) - Luật sư đại diện Sconnect khẳng định: Phạm vi tranh chấp phim hoạt hình Wolfoo chỉ ở trên YouTube. Ngoài ra, không có bất cứ rủi ro nào ảnh hưởng đến Quyền sở hữu IP (Intellectual Property - Tài sản trí tuệ, viết tắt là IP) Wolfoo và quyền kinh doanh IP Wolfoo của Sconnect trên toàn cầu.
Tài sản trí tuệ 1 ngày trước
(SHTT) - Cục An toàn thực phẩm (Bộ Y tế) vừa ban hành thông báo đề nghị tạm dừng lưu thông hàng hoá đối với lô sản phẩm thực phẩm bảo vệ sức khỏe Brewer’s Yeast Biotin 1000 của Công ty TNHH Thương mại Hân Korea.
Liên kết hữu ích