«ВКонтакте» будет бороться с враждебными высказываниями с помощью нейросети

Георгий
VK
«ВКонтакте» работает над искусственным интеллектом для автоматического распознавания материалов с хейтспичем — враждебными высказываниями. Технология ускорит время обработки жалоб и поможет пользователям реже сталкиваться с проявлениями нетерпимости.

Новая нейросеть поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.

Чтобы усилить модерацию по теме языка ненависти и обучить искусственный интеллект, «ВКонтакте» добавила новую категорию жалоб — «Враждебные высказывания». Пользователь может выбрать её, если нажмёт кнопку «Пожаловаться» у оскорбительной публикации. После этого материал попадёт на рассмотрение к модераторам. Эта категория позволит точнее откалибровать уже существующие инструменты и собрать датасет для новых решений на основе нейросетей. При этом команды Модерации и Поддержки не только реагируют на жалобы, но и проводят проактивный внутренний мониторинг — в частности, с помощью механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей.
-4
iGuides в Яндекс.Дзен —  zen.yandex.ru/iguides.ru
iGuides в Telegram — t.me/igmedia

Будь в курсе последних новостей из мира гаджетов и технологий

Мы в соцсетях

Комментарии

Panker
+215
А..ну теперь как на ютубе, чтобы написать комментарий придётся порой по 15 минут времени потратить. На ютубе запретных словечек с каждым днём всё больше и больше. Умнее и умнее интеллект тытрубовский. Короче, шляпа это всё цензурированная.
20 августа 2020 в 15:48
#
+4534
Если случай, материал и конкретная ситуация подразумевает негатив или порицание то, почему надо молчать или восторженно себя вести? Ясно всё, тупо борьба со свободой слова, хоть в ВК уже давно не сидел, но не стоит строить иллюзий, что всё зашибись и мы живём в утопии. Стыдоба одним словом, сначала ЦИК борется с негативом (точнее правдой и свободой слова) теперь вот эти. Верно говорят настоящие журналисты, что 90% СМИ и этих самых журналистов продажны и подконтрольны и государству и тому, кто платит больше. Главное, позитивная информационная политика, а как по факту всё обстоит этим чудикам абсолютно пофиг. Не нужны такие соцсети, где единственно верное мнение то, которое диктует какое-нибудь министерство или группа лиц
20 августа 2020 в 15:53
#
+230
Лучше бы дизлайки ввели, чтобы народ сам решал судьбу коммента
20 августа 2020 в 19:45
#
cuantro
+625
Зачем это завинчивание гаек и тотальный контроль (пока что словесный)!? Сначала будут диктовать что писать, потом как жить и что говорить. Не туда повернул ВК.
22 августа 2020 в 20:16
#
+789
Сначала запретят ругать гомосятину, потом педобиров. Развели толерастию.
23 августа 2020 в 21:05
#