Năm ngoái, Facebook đã cho áp dụng thí điểm hệ thống kiểm duyệt các nội dung trên khi người dùng tải các hình ảnh khỏa thân lên máy chủ của mạng xã hội này.
Chương trình thí điểm ban đầu chỉ được áp dụng tại Australia, nay đã được mở rộng tới Mỹ, Vương quốc Anh và Canada.
Trong một bài đăng công khai trên trang Facebook Safety, Giám đốc an toàn toàn cầu của Facebook Antigone Davis cho biết mạng xã hội lớn nhất thế giới đang “hợp tác với các tổ chức bảo mật để đảm bảo mọi người an toàn với các bức ảnh mà họ sợ sẽ được chia sẻ mà không có sự đồng ý của họ, vì vậy chúng tôi có thể chặn sự chia sẻ nàytrên Facebook, Instagram và Messenger.”
Về cơ bản, Facebook sử dụng phương pháp kỹ thuật để gắn thẻ cảnh báo lên các bức ảnh khiêu dâm mà người dùng lo ngại có thể lưu thông mà không có sự đồng ý của họ. Các bức ảnh bị gắn thẻ sẽ xem được bởi các những người dùng khác và dần bị xóa khỏi hệ thống máy chủ của Faecbook.
Facebook cho biết điều này có thể được thực hiện khi một hình ảnh có thể đang lưu hành hoặc trong trường hợp người dùng nghi ngờ một bên thứ ba gây hại – ví dụ như một đối tác cũ hoặc một người nào đó lạm dụng và quấy rối nạn nhân trực tuyến.
Bên cạnh việc sử dụng hệ thống thuật toán máy tính tự động, Facebook còn cẩn thận sử dngj đội ngũ nhân viên kiểm duyệt thủ công để xác nhận nội dung vi phạm điều khoản dịch vụ và tạo thành một mô tả được chấp nhận chung là hình ảnh mang tính trả thù khiêu dâm.
Hệ thống kiểm duyệt của Facebook sẽ thông báo cho nạn nhân qua email và xóa các hình ảnh từ các máy chủ trong vòng bảy ngày.
