SO HUU TRI TUE
Thứ năm, 30/05/2024
  • Click để copy

Trình tạo ảnh AI Midjourney lo ngại trước vấn nạn deepfake

07:09, 04/04/2023
(SHTT) - Mới đây, phòng thí nghiệm AI Midjourney đã quyết định tạm dừng các bản dùng thử miễn phí của phần mềm tạo hình ảnh bằng AI cho đến khi hệ thống triển khai phiên bản mới.

Bên cạnh ChatGPT của OpenAI, Midjourney cũng đang gây chú ý ở lĩnh vực AI khi có khả năng tạo ảnh như thật chỉ thông qua một đoạn mô tả ngắn bằng văn bản. Tháng trước, AI này tạo ảnh cựu tổng thống Mỹ Donald Trump bị bắt, hay Giáo hoàng Francis mặc áo khoác trắng thời trang. Hai bức ảnh được chia sẻ rầm rộ trên mạng xã hội với đa số người dùng tin là thật, theo Washington Post.

David Holz, người sáng lập Midjourney cho biết: Do sự kết hợp giữa nhu cầu sử dụng đặc biệt và lạm dụng bản dùng thử, chúng tôi tạm thời vô hiệu hoá các bản dùng thử miễn khí cho đến khi chúng tôi cho ra mắt những cải tiến tiếp theo trên hệ thống. Midjourney cũng xác nhận, các tài khoản trả phí hiện vẫn có thể sử dụng dịch vụ. Phiên bản trả phí của công cụ AI Midjourney hiện có giá 10 USD (khoảng 230.000 VNĐ) mỗi tháng.

a48c9aa35eb30ef23e12f189c464009607eaefab

 

Quyết định ban đầu được cho là do sự tràn lan của các hình ảnh tạo ra bởi công nghệ Deepfake trong thời gian qua. Dù có nhiều tranh cãi nổi lên quanh Deepfake, David Holz trả lời truyền thông, việc tạm dừng dùng thử miễn phí là do lượng người dùng mới tăng làm quá tải hệ thống: Chúng tôi đã thử cho dùng lại bản thử nghiệm kết hợp các biện pháp an toàn mới nhằm tránh tình trạng lạm dụng công nghệ, nhưng hệ thống đã quá tải. Do vậy, chúng tôi tạm dừng dùng thử miễn phí để duy trì dịch vụ cho người dùng khác. 

Midjourney cũng đã đưa ra một số biện pháp mới, cấm các từ khoá như “bị bắt” khi gợi ý tạo hình ảnh mới. Tính năng mới cũng không cho phép tạo hình ảnh của một số nhà lãnh đạo như Chủ tịch Trung Quốc Tập Cận Bình.

Tuy nhiên, dường như các biện pháp bảo vệ mới vẫn chưa “đủ” để ngăn chặn việc sử dụng sai mục đích trong thời gian dùng thử, do đó, công ty đã loại bỏ dịch vụ dùng thử miễn phí cho đến khi thực hiện các cải tiến mới.

Sự gia tăng mức độ phổ biến của các công cụ tạo AI như Midjourney hoặc ChatGPT gây ra nhiều lo ngại. Hơn 1.300 nhà hoạt động và chuyên gia, trong đó có Elon Musk (CEO Twitter) và Steve Wozniak (người đồng sáng lập Apple) kêu gọi các phòng thí nghiệm AI tạm dừng tất cả các thử nghiệm AI quy mô lớn trong ít nhất 6 tháng. Con người và kể cả người tạo ra AI hiện khó kiểm soát được sự phát triển của hệ thống máy học. 

Trước mối nguy hiểm này, các quốc gia như Vương quốc Anh đã bắt đầu thiết kế các khung pháp lý liên quan đến việc sử dụng AI một cách an toàn.

Hải Hà

Tin khác

Tài sản trí tuệ 18 phút trước
Sở Khoa học và Công nghệ tỉnh Thừa Thiên Huế cho biết, Cục Sở hữu trí tuệ Việt Nam vừa cấp văn bằng bảo hộ nhãn hiệu chứng nhận số 492669 “Huế - Kinh đô ẩm thực Gastronomy Capital, hình”. Văn bằng bảo hộ sẽ được giao cho Sở Du lịch tỉnh Thừa Thiên Huế quản lý và khai thác.
Tài sản trí tuệ 2 giờ trước
(SHTT) - Hiện nay, truy xuất nguồn gốc giúp doanh nghiệp kiểm soát rủi ro phát sinh khi theo dõi, xác minh toàn bộ đường đi của hàng hóa. Điều này không chỉ giúp doanh nghiệp tạo sự tin tưởng nơi khách hàng, mà còn là "hàng rào" bảo vệ sản phẩm và doanh nghiệp.
Tài sản trí tuệ 8 giờ trước
(SHTT) - trước tình hình thị trường vàng diễn biến phức tạp, Tổng cục Quản lý thị trường đã chỉ đạo Cục Quản lý thị trường các tỉnh, thành phố tăng cường kiểm soát đấu tranh phòng, chống buôn lậu vàng, vàng giả mạo nhãn hiệu.
Tài sản trí tuệ 8 giờ trước
(SHTT) - Theo thông tin từ Cục QLTT Lạng Sơn, vừa qua, lực lượng chức năng trên địa bàn đã bắt giữ 4 tấn chân gà không rõ nguồn gốc xuất xứ đang trên đường đi tiêu thụ.
Tài sản trí tuệ 8 giờ trước
(SHTT) - Vừa qua, thông qua công tác kiểm tra, kiểm soát địa bàn, Đội QLTT số 24 thuộc Cục QLTT Hà Nội đã phát hiện và tạm giữ 600 chiếc đầu đốt dùng cho máy hút thuốc lá điện tử.
Liên kết hữu ích