3063
«ВКонтакте» запустила масштабный эксперимент по борьбе с травлей
«ВКонтакте» запустила масштабный эксперимент для борьбы с оскорблениями и травлей в комментариях, сообщает РИА Новости со ссылкой на релиз социальной сети.
В частности, в ходе эксперимента будут протестированы две функции, которые помогут пользователям реже сталкиваться с нетерпимостью, в том числе травлей по национальному признаку, оскорблениями на почве религиозной принадлежности и угрозами. У администраторов появится возможность включить специальный фильтр враждебных высказываний в настройках сообщества, а комментаторы увидят предложение отказаться от обидных реплик.
В сообщении уточняется, что оба инструмента работают на основе алгоритмов — в том числе нейросети, распознающей оскорбления.
Нейросеть удаляет комментарии, в которых содержатся угрозы – например, пожелания смерти или обещания причинить вред здоровью. При этом администратор сможет увидеть все комментарии, которые отсеял фильтр, и восстановить их или отправить автора в черный список. Как и другие фильтры в сообществах, фильтр враждебных высказываний можно включить или выключить в любой момент.
Результаты эксперимента будут использованы для дальнейшего обучения нейросети и доработки фильтра.