Bên cạnh ChatGPT của OpenAI, Midjourney cũng đang gây chú ý ở lĩnh vực AI khi có khả năng tạo ảnh như thật chỉ thông qua một đoạn mô tả ngắn bằng văn bản. Tháng trước, AI này tạo ảnh cựu tổng thống Mỹ Donald Trump bị bắt, hay Giáo hoàng Francis mặc áo khoác trắng thời trang. Hai bức ảnh được chia sẻ rầm rộ trên mạng xã hội với đa số người dùng tin là thật, theo Washington Post.

David Holz, người sáng lập Midjourney cho biết: Do sự kết hợp giữa nhu cầu sử dụng đặc biệt và lạm dụng bản dùng thử, chúng tôi tạm thời vô hiệu hoá các bản dùng thử miễn khí cho đến khi chúng tôi cho ra mắt những cải tiến tiếp theo trên hệ thống. Midjourney cũng xác nhận, các tài khoản trả phí hiện vẫn có thể sử dụng dịch vụ. Phiên bản trả phí của công cụ AI Midjourney hiện có giá 10 USD (khoảng 230.000 VNĐ) mỗi tháng.

Quyết định ban đầu được cho là do sự tràn lan của các hình ảnh tạo ra bởi công nghệ Deepfake trong thời gian qua. Dù có nhiều tranh cãi nổi lên quanh Deepfake, David Holz trả lời truyền thông, việc tạm dừng dùng thử miễn phí là do lượng người dùng mới tăng làm quá tải hệ thống: Chúng tôi đã thử cho dùng lại bản thử nghiệm kết hợp các biện pháp an toàn mới nhằm tránh tình trạng lạm dụng công nghệ, nhưng hệ thống đã quá tải. Do vậy, chúng tôi tạm dừng dùng thử miễn phí để duy trì dịch vụ cho người dùng khác. 

Midjourney cũng đã đưa ra một số biện pháp mới, cấm các từ khoá như “bị bắt” khi gợi ý tạo hình ảnh mới. Tính năng mới cũng không cho phép tạo hình ảnh của một số nhà lãnh đạo như Chủ tịch Trung Quốc Tập Cận Bình.

Tuy nhiên, dường như các biện pháp bảo vệ mới vẫn chưa “đủ” để ngăn chặn việc sử dụng sai mục đích trong thời gian dùng thử, do đó, công ty đã loại bỏ dịch vụ dùng thử miễn phí cho đến khi thực hiện các cải tiến mới.

Sự gia tăng mức độ phổ biến của các công cụ tạo AI như Midjourney hoặc ChatGPT gây ra nhiều lo ngại. Hơn 1.300 nhà hoạt động và chuyên gia, trong đó có Elon Musk (CEO Twitter) và Steve Wozniak (người đồng sáng lập Apple) kêu gọi các phòng thí nghiệm AI tạm dừng tất cả các thử nghiệm AI quy mô lớn trong ít nhất 6 tháng. Con người và kể cả người tạo ra AI hiện khó kiểm soát được sự phát triển của hệ thống máy học. 

Trước mối nguy hiểm này, các quốc gia như Vương quốc Anh đã bắt đầu thiết kế các khung pháp lý liên quan đến việc sử dụng AI một cách an toàn.

Hải Hà