Искусственный интеллект против буллинга. В Instagram решили использовать новые технологии для противодействия травли в Сети

в 8:41, , рубрики: Новости

В компании Instagram решили бороться с онлайн-буллингом. Проблема травли в Сети существует очень давно, но без использования модераторов, что невозможно в масштабах Instagram, ранее можно было максимум запретить использование определённых слов, включая нецензурную лексику.

Однако сейчас эпоха искусственного интеллекта, так что в Instagram решили использовать эти технологии, чтобы бороться с буллингом. Для этого разработчики социальной сети создали алгоритмы, определяющие соответствующие элементы в комментариях пользователей.

Искусственный интеллект против буллинга. В Instagram решили использовать новые технологии для противодействия травли в Сети

Если приложение обнаружит в комментарии того или иного человека подозрительные особенности, оно предложит пользователю исправить его текст. Ранние тесты Instagram показали, что часть пользователей в такой ситуации отказывается от своего намерения оскорбить или каким-то иным образом задеть «собеседника».

Искусственный интеллект против буллинга. В Instagram решили использовать новые технологии для противодействия травли в Сети

Кроме того, вскоре в Instagram появится ещё одна функция, связанная с оговариваемой проблемой, но не связанная с искусственным интеллектом. У пользователей появится кнопка Restrict, которая позволит скрыть комментарии агрессивно настроенного человека таким образом, что они будут видны лишь ему одному. В дополнение к этому пользователи, отмеченные такой кнопкой, не будут видеть активность «жертвы».

Источник

* - обязательные к заполнению поля


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js