Cẩn thận với chính sách "Ngôn từ gây thù ghét" của Facebook – Vật Vờ Studio - VVS

Facebook thường xuyên phải cập nhật những chính sách cho mọi người dùng sử dụng mạng xã hội của họ. Tuy nhiên, đa số người sử dụng không quan tâm đến Bộ tiêu chuẩn cộng đồng này, một phần vì nó quá dài, phần khác vì họ chỉ chú tâm đến việc sử dụng Facebook mà thôi. Nhưng cũng cần lưu ý rằng, Bộ tiêu chuẩn cộng đồng xác định nghĩa vụ và quyền lợi của người dùng Facebook, do đó người dùng ít nhiều cũng cần biết để bảo vệ quyền lợi của mình.

Mới đây Facebook đã cập nhật chính sách mới trong Bộ tiêu chuẩn cộng đồng mới của họ. Một trong những chính sách được Facebook quan tâm và cập nhật thường xuyên trong bộ tiêu chuẩn cộng đồng là chính sách về “Ngôn từ gây thù ghét” (hate speech).

Vậy ngôn từ gây thù ghét là gì?

Facebook định nghĩa ngôn từ gây thù ghét là sự công kích trực tiếp vào mọi người dựa trên những đặc điểm cần được bảo vệ: chủng tộc, dân tộc, nguồn gốc quốc gia, tình trạng khuyết tật, thành phần tôn giáo, đẳng cấp, thiên hướng tình dục, giới tính và bệnh tật nghiêm trọng. Sự công kích mà Facebook đề cập đến được định nghĩa là ngôn từ bạo lực hoặc xúc phạm nhân phẩm, định kiến có hại, lời lẽ nhục mạ, thể hiện sự khinh miệt, ghê tởm hoặc xua đuổi, chửi thề, kêu gọi bài trừ hay cô lập.

Facebook cũng đã liệt kê rất chi tiết những nội dung không được đăng (kể cả trong dòng trạng thái lẫn trong nhận xét), nếu đăng sẽ bị xử lý thích đáng. Hình phạt nhẹ nhất là không cho đăng nội dung đó, nếu tái phạm sẽ khóa tài khoản một thời gian hoặc vĩnh viễn. Dưới đây là một vài nội dung không được đăng, vi phạm ở cấp độ 1 (cấp độ thấp nhất) mà Facebook quy định:

Lời nói hoặc thái độ ủng hộ bạo lực dưới dạng văn bản hoặc hình ảnh
Lời nói hoặc hình ảnh xúc phạm nhân phẩm dưới dạng so sánh, khái quát hóa hoặc tuyên bố chê trách về tư cách (dưới dạng văn bản hoặc hình ảnh) đề cập đến: côn trùng; động vật bị nhìn nhận về mặt văn hóa là thấp kém về trí tuệ hoặc thể chất; rác rưởi, vi khuẩn, bệnh và phân kẻ lạm dụng tình dục; không phải con người; tội phạm.
Chế nhạo khái niệm, sự kiện hoặc nạn nhân của tội ác thù ghét, ngay cả khi không có người thật nào được mô tả trong hình ảnh.
Xem phụ nữ là đồ gia dụng hoặc nhắc đến phụ nữ như là tài sản hoặc “đồ vật”…

Đây mới chỉ là cấp độ 1, cấp độ thấp nhất mà Facebook đề cập đến, ở những cấp độ tiếp theo sẽ có những ngôn từ không phù hợp, mang tính chất nặng nề hơn thì mình xin phép không được đề cập đến ở đây. Các bạn có thể đọc kỹ hơn tại bộ tiêu chuẩn của Facebook.

Cách Facebook phát hiện ra ngôn từ gây thù ghét

Mỗi ngày có hàng tỷ nội dung được đưa lên Facebook với hàng trăm ngôn ngữ khác nhau, việc phát hiện ra ngôn từ gây thù ghét cũng là một việc vô cùng khó khăn. Đây là hai phương pháp mà Facebook dùng để thực hiện điều này:

Người dùng có thể báo cáo những nội dung chứa ngôn từ gây thù ghét cho Facebook để họ xử lý

Thứ nhất, một cách khá là thủ công đó là do người dùng báo cáo. Khi đang sử dụng Facebook, nếu phát hiện ngôn từ gây thù ghét người dùng sẽ có thể báo cáo ngay cho Facebook bằng cách nhấp vào nút có dấu 3 chấm ở phần đầu đề mục đó rồi chọn báo cáo. Sau đó Facebook sẽ duyệt các báo cáo này từ người dùng. Nhưng nhiều khi, người dùng sẽ “lơ đi” những bài viết thế này, họ chỉ quan tâm đến việc lướt Facebook mà ít quan tâm đến những bài viết độc hại. Cho nên, cách này không quá hiệu quả và số liệu thực tế từ Facebook cũng chứng minh điều này.

Thứ hai, hiện đại hơn rất nhiều, Facebook sử dụng thuật toán tự động phát hiện những nội dung gây thù ghét. Phương pháp này mặc dù hiện đại nhưng vẫn gặp nhiều khó khăn do các nội dung quá nhiều và có hàng trăm ngôn ngữ khác nhau. Việc xử lý những dữ liệu thế này khiến thuật toán gặp khó khăn. Và rồi AI (trí tuệ nhân tạo) bắt đầu “thông minh” hơn, Facebook đã sử dụng nó vào trong việc này và nó đã mang lại những hiệu quả nhất định.

Những tiến bộ trong công nghệ AI đã cho phép Facebook xóa nhiều ngôn từ gây thù ghét hơn và tìm thấy nhiều ngôn từ hơn trước khi người dùng báo cáo cho họ. Lần đầu tiên Facebook báo cáo các chỉ số về ngôn từ gây thù ghét (quý IV-2017), tỷ lệ phát hiện chủ động là 23,6%, nghĩa là trong số ngôn từ gây thù ghét Facebook đã xóa thì 76,4% là do người dùng báo cáo, chỉ 23,6% là do các thuật toán của Facebook tìm ra. Tuy nhiên đến đến quý I-2021, 97% ngôn từ gây thù ghét mà Facebook xóa là do chính họ phát hiện tự động bằng các thuật toán có hỗ trợ của công nghệ AI.