| 9 окт 2018 — 7:49 PT
Instagram объявил об усилении мер по борьбе с издевательствами, используя ИИ для обнаружения признаков буллинга на фотографиях и в подписях…
В прошлом году Instagram начал использовать машинное обучение для выявления слов и фраз в комментариях, которые могут указывать на издевательства, и, как сообщает The Verge, теперь компания стремится делать то же самое визуально.
Сегодня компания объявила, что будет использовать ИИ для «проактивного обнаружения издевательств» перед отправкой контента на проверку модераторами.
Новая функция будет развернута для пользователей в ближайшие недели, начиная с октября, месяца борьбы с издевательствами в США, и незадолго до Недели борьбы с издевательствами в Великобритании. Та же технология также добавляется в прямые трансляции для фильтрации комментариев.
Потенциал использования социальных сетей для издевательств побудил большинство платформ к созданию инициатив по борьбе с буллингом.
Неясно, какие визуальные подсказки будет искать система, хотя компания привела один пример.
Представитель привел пример того, как ИИ ищет изображения, разделенные на части, как пример потенциального буллинга, поскольку один человек может быть в негативном сравнении с другим.
Instagram также запускает фильтр «доброты», который накладывает на фотографии добрые комментарии на нескольких языках.
Официальный сайт американского проекта по борьбе с издевательствами: stopbullying.gov. Там говорится, что раннее вмешательство со стороны взрослых оказалось эффективным.
Когда взрослые быстро и последовательно реагируют на буллинг, они посылают сигнал, что это неприемлемо. Исследования показывают, что это может со временем остановить буллинг.
Родители, школьный персонал и другие взрослые в сообществе могут помочь детям предотвратить издевательства, говоря об этом, создавая безопасную школьную среду и разрабатывая общественную стратегию по предотвращению буллинга.
Британский сайт: bullying.co.uk, с недельной кампанией в ноябре. Сайт объясняет рекомендации Instagram по реагированию на издевательства.
Издевательства или насилие в Instagram могут проявляться по-разному. Это могут быть негативные комментарии, фейковые профили или взлом аккаунтов. Instagram очень серьезно относится ко всем этим нарушениям и предоставляет множество советов на своих страницах, если вы или кто-то из ваших знакомых подвергается издевательствам или насилию в Instagram. Их первоначальный совет – заблокировать и отписаться от обидчика. Однако, если это продолжается или ухудшается, вы можете использовать их встроенный инструмент для сообщений. На этой странице подробно описано, как сообщить о нарушении напрямую им.
Instagram заявляет, что работа по борьбе с издевательствами является частью общей программы Digital Wellbeing.
Фото: Shutterstock
Смотрите 9to5Mac на YouTube для получения большего количества новостей об Apple: