Facebook chưa bao giờ giấu giếm ý định dùng AI vào vai trò quản lý nhiều hơn trên nền tảng của họ. Việc kiểm soát thông tin, nội dung được đăng tải trên nền tảng này có thể được hiểu đơn giản qua các bước như sau: đầu tiên, bài đăng nghi vấn vi phạm quy định của công ty (spam, dùng ngôn từ gây thù địch, cổ vũ bạo lực…) sẽ bị đánh dấu, sau đó nhân sự phụ trách hoặc hệ thống máy học sẽ tiến hành lọc phân loại. Một số trường hợp rõ vi phạm sẽ được xử lý tự động (xóa bài đăng, khóa tài khoản), số khác sẽ vào danh sách chờ để chuyên viên duyệt lại một lần nữa.

Mike Schroepfer - Giám đốc Công nghệ của Facebook nói: “Nỗi lực tập trung vào AI của Facebook đang giúp triển khai công nghệ máy học để bảo vệ con người khỏi các nội dung độc hại. Với hàng tỉ người sử dụng nền tảng của mình, chúng tôi phải dựa vào AI để kiểm soát thông tin và tự động đưa ra quyết định khi có thể. Mục tiêu đặt ra là khoanh vùng nội dung gây thù địch, tin thất thiệt cũng như các hình thức vi phạm tiêu chuẩn Facebook một cách nhanh chóng và chính xác, dù đó là nguồn nội dung hay ngôn ngữ, cộng đồng nào trên thế giới”.

Cuối năm 2020, báo cáo của hãng cho biết AI đã phát hiện 94,7% trường hợp sử dụng ngôn từ gây thù địch và gỡ bỏ khỏi nền tảng. Con số này tăng đáng kể so với năm 2019 (80,5%) và có thể xem là đột phá nếu so với 24% của năm 2017. Có hơn 96% nội dung gây thù địch liên quan tới các tổ chức, nhóm đã bị hệ thống phát hiện mà không cần tới sự hỗ trợ của con người.

Không chỉ vậy, Facebook còn có thể quét nội dung bài đăng và phát hiện các dấu hiệu tiêu cực nhờ Al. Hệ thống này sẽ tìm ra các từ ngữ, hình ảnh hoặc biểu tượng cảm xúc có dấu hiệu tự hủy hoại bản thân từ những dòng trạng thái, hình ảnh hoặc video hay chức năng Livestream.

Nếu người dùng có biểu hiện tuyệt vọng, muốn làm tổn thương chính mình hoặc thậm chí tự sát, công cụ quét của Facebook có thể phát hiện ra và thông báo tới các nhân viên bộ phận kiểm duyệt. Bộ phận này sẽ xem xét mức độ nghiêm trọng của tình huống và thông báo với nhà chức trách hoặc các cơ quan chức năng khi cần thiết.

Đây là một chức năng tuy nhỏ bé nhưng có  ý nghĩa quan trọng, giúp cộng đồng kịp thời ngăn chặn các hành vi dại dột và tránh được những hậu quả đáng tiếc

Facebook cũng huấn luyện các tác nhân hội thoại (chatbot) để có thể đàm phán với con người. Chatbot có thể hoạt động độc lập, phân tích dữ liệu và tự động trả lời như con người. Nhờ vậy, các nhà bán lẻ, trang fanpage, shop bán hàng… có thể tương tác trực tiếp và nhanh chóng với khách hàng.

Các chatbot hoạt động giống như một người bán hàng/trợ lý ảo, trò chuyện trực tiếp với người dùng và có khả năng tự học hỏi trong thời gian sử dụng. Theo kết quả khảo sát, trong 50% các cuộc đàm phán, chatbot đã thành công. Ngoài ra, các tác nhân hội thoại này còn được phát triển những thủ thuật thương lượng như một dạng chiêu trò để thuyết phục khách hàng

Có thể thấy, đối với tất cả những tiến bộ đã đạt được, AI kiểm duyệt nội dung của Facebook chỉ mới bắt đầu tác động đến hiệu quả của công ty trong việc phát hiện nội dung vi phạm trong từng lĩnh vực nằm trong tiêu chuẩn cộng đồng của nó, chẳng hạn như thù địch, khủng bố và thông tin sai lệch. Thế nên, Facebook sẽ phải tiếp tục nỗ lực để phát triển ứng dụng của mình hơn nữa.

Hà Châu