«ВКонтакте» будет бороться с враждебными высказываниями с помощью нейросети
Георгий Лямин
—
«ВКонтакте» работает над искусственным интеллектом для автоматического распознавания материалов с хейтспичем — враждебными высказываниями. Технология ускорит время обработки жалоб и поможет пользователям реже сталкиваться с проявлениями нетерпимости.
Новая нейросеть поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.
Чтобы усилить модерацию по теме языка ненависти и обучить искусственный интеллект, «ВКонтакте» добавила новую категорию жалоб — «Враждебные высказывания». Пользователь может выбрать её, если нажмёт кнопку «Пожаловаться» у оскорбительной публикации. После этого материал попадёт на рассмотрение к модераторам. Эта категория позволит точнее откалибровать уже существующие инструменты и собрать датасет для новых решений на основе нейросетей. При этом команды Модерации и Поддержки не только реагируют на жалобы, но и проводят проактивный внутренний мониторинг — в частности, с помощью механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей.
iGuides в Яндекс.Дзен — zen.yandex.ru/iguides
iGuides в Telegram — t.me/iguides
iGuides в VK — vk.com/iguides
iGuides в Ok.ru — ok.ru/iguides
Рекомендации
Рекомендации
Комментарии
+4634
Если случай, материал и конкретная ситуация подразумевает негатив или порицание то, почему надо молчать или восторженно себя вести? Ясно всё, тупо борьба со свободой слова, хоть в ВК уже давно не сидел, но не стоит строить иллюзий, что всё зашибись и мы живём в утопии. Стыдоба одним словом, сначала ЦИК борется с негативом (точнее правдой и свободой слова) теперь вот эти. Верно говорят настоящие журналисты, что 90% СМИ и этих самых журналистов продажны и подконтрольны и государству и тому, кто платит больше. Главное, позитивная информационная политика, а как по факту всё обстоит этим чудикам абсолютно пофиг. Не нужны такие соцсети, где единственно верное мнение то, которое диктует какое-нибудь министерство или группа лиц
+229