Quyết định này là một phần trong nỗ lực của công ty nhằm xây dựng lại một phiên bản trải nghiệm mới, đảm bảo tính an toàn và phù hợp hơn với đối tượng trẻ vị thành niên.

Trong bài đăng mới nhất trên blog chính thức, Meta xác nhận rằng quá trình hạn chế này sẽ bắt đầu được triển khai trong vài tuần tới. Theo đó, thanh thiếu niên sẽ không thể tiếp tục tương tác với các nhân vật AI cho đến khi các biện pháp bảo vệ và cập nhật mới hoàn tất. Lệnh tạm dừng này không chỉ áp dụng cho những tài khoản đã khai báo ngày sinh thuộc độ tuổi vị thành niên mà còn mở rộng tới các tài khoản bị hệ thống dự đoán tuổi của công ty nghi ngờ là người dùng dưới tuổi trưởng thành.

Động thái mạnh tay của Meta diễn ra sau một làn sóng chỉ trích gay gắt liên quan đến việc các chatbot AI có những cuộc hội thoại mang tính chất tán tỉnh hoặc không phù hợp với trẻ em. Mặc dù vào tháng 10 năm ngoái, Meta từng giới thiệu các biện pháp an toàn cho phép phụ huynh giám sát và chặn các nhân vật AI cụ thể, nhưng thực tế các tính năng này vẫn chưa được triển khai rộng rãi. Việc tạm dừng toàn bộ quyền truy cập được xem là giải pháp tạm thời để công ty có thời gian tích hợp triệt để các công cụ kiểm soát vào phiên bản nhân vật AI thế hệ mới.

Tuy nhiên, phía Meta cũng làm rõ rằng người dùng trẻ tuổi vẫn có thể sử dụng trợ lý Meta AI cơ bản. Công ty khẳng định trợ lý này đã được thiết lập các rào cản kỹ thuật nghiêm ngặt để từ chối thảo luận về các chủ đề nhạy cảm hoặc gây hại như tự làm hại bản thân hay rối loạn ăn uống. Mục tiêu của Meta là tách biệt rõ ràng giữa công cụ hỗ trợ thông tin và các nhân vật AI mang tính chất giải trí, vốn tiềm ẩn nhiều rủi ro về hành vi hơn.

Quyết định của Meta không nằm ngoài xu hướng chung khi các công ty công nghệ đang phải đối mặt với áp lực pháp lý và đạo đức ngày càng lớn. Trước đó, Character.AI cũng đã phải ban hành lệnh cấm tương tự sau khi vướng vào các vụ kiện nghiêm trọng, tiêu biểu là cáo buộc cho rằng chatbot của họ đã gián tiếp dẫn đến hành vi tự tử của một thiếu niên. Việc Meta chủ động thắt chặt quản lý cho thấy sự thận trọng của các nền tảng lớn trước tác động tâm lý khó lường mà trí tuệ nhân tạo có thể gây ra cho thế hệ trẻ.

Phạm Tuấn