Google phát triển bộ lọc 'chống quấy rối' dành cho nhà báo

Ảnh minh họa

Công cụ này dành cho các nhà báo và các nhân vật công chúng khác, sử dụng API của Jigsaw để cho phép người dùng sắp xếp các bình luận có khả năng lạm dụng trên các nền tảng truyền thông xã hội, bắt đầu từ Twitter. Nó ra mắt dưới dạng mã nguồn để các nhà phát triển xây dựng, sau đó được khởi chạy như một ứng dụng chức năng cho các nhà báo của Thomson Reuters Foundation vào tháng 6 tới.

Trình quản lý quấy rối hiện có thể làm việc với API của Twitter để kết hợp các tùy chọn kiểm duyệt - như ẩn trả lời tweet và tắt tiếng hoặc chặn tài khoản - với một hệ thống lọc và báo cáo hàng loạt. Nó có thể kiểm tra ngôn ngữ của tin nhắn để biết mức độ “độc hại” dựa trên các yếu tố như đe dọa, lăng mạ và thô tục.

Trình quản lý quấy rối sắp xếp các tin nhắn thành hàng đợi trên bảng điều khiển, nơi người dùng có thể giải quyết chúng theo lô thay vì riêng lẻ thông qua các công cụ kiểm duyệt mặc định của Twitter. Người dùng có thể chọn làm mờ văn bản của tin nhắn trong khi đang làm việc, vì vậy họ không cần đọc từng tin nhắn và họ có thể tìm kiếm từ khóa ngoài việc sử dụng các hàng đợi được tạo tự động.

Trình quản lý Quấy rối cũng cho phép người dùng tải xuống một báo cáo độc lập chứa các tin nhắn lạm dụng. Jigsaw đã công bố Trình quản lý quấy rối vào Ngày Quốc tế Phụ nữ và công cụ này là đặc biệt phù hợp với các nhà báo nữ phải đối mặt với.

Trong một bài đăng trên Medium, nhóm phát triển cho biết họ hy vọng các nhà phát triển có thể điều chỉnh nó cho những người dùng mạng xã hội có nguy cơ khác. “Hy vọng công nghệ này cung cấp một nguồn lực cho những người đang phải đối mặt với nạn quấy rối trực tuyến với mức độ độc hại cao trên mạng, đặc biệt là các nhà báo nữ, nhà hoạt động, chính trị gia và các nhân vật công chúng khác”, bài đăng trên Medium viết.

Tuy nhiên, không giống như tính năng kiểm duyệt do AI hỗ trợ trên các dịch vụ như Twitter và Instagram, Trình quản lý quấy rối không phải là tính năng kiểm duyệt phía nền tảng. Nó là một công cụ phân loại để giúp người dùng quản lý phản hồi trên mạng xã hội.

Trước đây, Google đã khai thác Perspective API để kiểm duyệt tự động trước đây. Vào năm 2019, nó đã phát hành một tiện ích mở rộng cho trình duyệt có tên là Tune cho phép người dùng mạng xã hội tránh nhìn thấy các tin nhắn có khả năng độc hại cao và nó được nhiều nền tảng bình luận (bao gồm cả Vox Media's Coral) sử dụng để bổ sung cho việc kiểm duyệt. 

Theo theverge