Hé lộ cách Facebook dùng AI để loại bỏ nội dung độc hại

TGVN. Facebook đang từng bước sử dụng trí tuệ nhân tạo (AI) để giải quyết nội dung xấu độc, sai sự thật trên nền tảng của mình.

Hé lộ cách Facebook dùng AI để đối phó nội dung xấu độc

Facebook đang dùng AI để đối phó nội dung xấu độc. (Nguồn: Dân trí)

Là mạng xã hội lớn nhất hành tinh, Facebook cho biết họ đang dần cải thiện công cụ kiểm duyệt nội dung của mình với trí tuệ nhân tạo (AI) nâng cao và máy học (machine learning) để chống lại các bài đăng thù địch, thông tin xấu độc, sai sự thật... một cách hiệu quả hơn.

Ryan Barnes, Giám đốc sản phẩm thuộc đội ngũ Community Integrity của Facebook, tiết lộ rằng hệ thống mới sẽ cho phép ưu tiên nội dung thông qua các yếu tố gồm mức độ lan truyền, mức độ nghiêm trọng và tác động của chúng.

Từ trước tới nay, các bài đăng được cho là vi phạm quy tắc của Facebook thường được đích thân các kiểm duyệt viên can thiệp bằng cách "gắn cờ" cảnh báo. Điều này được thực hiện trong mọi tình huống từ chủ động cho tới ứng biến.

Tuy nhiên giờ đây, Facebook sẽ cho phép thuật toán AI can thiệp mạnh mẽ hơn vào việc nhận diện, cũng như kiểm duyệt các nội dung xấu độc. Tất nhiên, con người vẫn đóng vai trò quan trọng khi được ưu tiên xử lý các bài đăng quan trọng, và AI chỉ đóng vai trò là phụ tá.

Lý do là bởi AI không hoàn hảo, và Facebook cũng khẳng định điều này. "Con người đôi khi cũng xử lý sai, và AI cũng không ngoại lệ. Chúng chắc chắn sẽ bị lỗi", Chris Palow - kỹ sư phần mềm tại Facebook cho biết.

Chia sẻ thêm, đại diện của Facebook cho hay, AI sẽ chỉ xử lý các nội dung đơn giản, dễ nhận biết, hoặc ứng phó nhanh với các bài đăng có tính lan truyền cao và mức độ ảnh hưởng nghiêm trọng. Đây cũng là mặt hạn chế của con người khi chúng ta thường phản ứng chậm hơn so với máy móc.

Dẫu vậy, mục tiêu cuối cùng mà Facebook hướng đến là tăng cường mức độ thông minh của AI để biến máy móc thay thế vai trò của con người trong hệ thống nhận dạng, phát hiện hình ảnh/bài đăng vi phạm, điều mà cho đến nay vẫn thực sự hoàn thiện.

Hiện trung bình mỗi ngày Facebook có khoảng 1,82 tỷ người truy cập từ khắp nơi trên thế giới, đăng tải hàng tỷ nội dung mỗi ngày - từ ảnh, video, cho đến văn bản, và sử dụng hàng trăm ngôn ngữ khác nhau. Do đó, nếu như chỉ sử dụng sức người để kiểm duyệt hết số lượng nội dung này sẽ là "điều không tưởng".

Nhiều trường hợp đưa thông tin sai sự thật về dịch bệnh Covid-19 trên Facebook đã bị cơ quan chức năng xử lý. (Nguồn: Dân trí)

Trong vài năm gần đây, Facebook đã bị chỉ trích nặng nề vì xử lý sai các bài đăng kích động thù địch và thông tin sai lệch trên nền tảng của mình.

Trong đại dịch Covid-19, Facebook cũng đối mặt với hàng loạt thách thức từ việc nhận diện thông tin sai lệch liên quan đến dịch bệnh, số ca nhiễm, cách phòng dịch... trên mọi nền tảng. Những thông tin này khi được lan truyền đã gây nhiễu loạn thông tin và tâm lý lo lắng, bất an trong cộng đồng.

Tin vui là Facebook cũng đang nỗ lực để khắc phục vấn đề này. Hồi đầu tháng 10, "gã khổng lồ" công nghệ đã cấm mọi hội nhóm, bài đăng, và tài khoản liên quan tới phong trào thuyết âm mưu QAnon - vốn bị cáo buộc phát tán thông tin sai lệch liên quan đến Covid-19 từ Facebook. Công ty cũng thực hiện một số bước để hạn chế thông tin sai lệch trong thời điểm diễn ra cuộc bầu cử Tổng thống Mỹ.

Theo thống kê trong 3 tháng từ 4-6/2020, đã có 99,6% tài khoản giả mạo, 99,8% tin rác, 99,5% nội dung - hình ảnh bạo lực, 98,5% nội dung khủng bố và 99,3% ảnh khỏa thân trẻ em cùng nội dung xâm hại tình dục, đã được xác định và xóa bằng công nghệ, mà không cần đến sự can thiệp của con người.