Twitter тестирует фильтр потенциально оскорбительных сообщений

Команда Twitter объявила о тестировании фильтра сообщений, содержащих оскорбительный контент. Отсеянные таким образом письма будут отправляться в отдельную папку.

В 2019 году Twitter начала предпринимать первые шаги по определению и блокировке оскорбительных твитов без вмешательства человека. Однако система работает не идеально: в социальном сети всё еще много грязи, а алгоритму присущи ложные срабатывания.

Разработчики выяснили, что большинство «чернухи» приходится на личные сообщения от совершенно незнакомых людей, особенно этому подвержены различные меньшинства и женщины. Новый фильтр должен исправить эту проблему. С ним все потенциально оскорбительные письма будут отправляться в папку «дополнительные сообщения». При этом первые несколько строк будут замазаны пометкой «Это сообщение скрыто, поскольку оно может содержать оскорбительное содержание». Далее всё зависит от пользователя, будет ли ему интересно читать такое сообщение или нет.