Instagram объявил об усилении мер по борьбе с буллингом путем использования ИИ для выявления признаков травли на фотографиях и в подписях…
В прошлом году Instagram начал использовать машинное обучение для выявления слов и фраз в комментариях, которые могут указывать на буллинг. Как сообщает The Verge, теперь компания стремится достичь того же и в визуальном плане.
Сегодня компания объявила, что будет использовать ИИ для «проактивного выявления буллинга» перед отправкой контента на проверку людям-модераторам.
Новая функция будет развернута для пользователей в ближайшие недели, перед Октябрьским национальным месяцем профилактики буллинга в США и перед Неделей борьбы с буллингом в Великобритании. Та же технология также добавляется к прямым трансляциям для фильтрации комментариев.
Потенциал социальных сетей для использования в целях буллинга побудил большинство платформ к созданию инициатив по борьбе с ним.
Неясно, какие визуальные подсказки может искать система, хотя компания привела один пример.
Представитель компании привел в пример то, что ИИ будет искать изображения с разделенным экраном как признак потенциального буллинга, поскольку один человек может быть негативно сравнен с другим.
Instagram также запускает фильтр «доброты», который накладывает на фотографии добрые комментарии на нескольких языках.
Официальный веб-сайт американского проекта по борьбе с буллингом – stopbullying.gov. Он утверждает, что раннее вмешательство взрослых показало свою эффективность.
Когда взрослые быстро и последовательно реагируют на поведение, связанное с буллингом, они посылают сигнал о недопустимости такого поведения. Исследования показывают, что это может остановить буллинг со временем.
Родители, сотрудники школы и другие взрослые в сообществе могут помочь детям предотвратить буллинг, говоря о нем, создавая безопасную школьную среду и разрабатывая общественную стратегию профилактики буллинга.
Британский сайт – bullying.co.uk, с недельной кампанией в ноябре. Сайт объясняет рекомендации Instagram по реагированию на буллинг.
Буллинг или оскорбления в Instagram могут проявляться по-разному. Это могут быть как негативные комментарии, так и фейковые профили или взлом аккаунтов. Instagram очень серьезно относится ко всем этим нарушениям и предоставляет множество советов на своих страницах, если вы или кто-то из ваших знакомых подвергается буллингу или оскорблениям в Instagram. Их первоначальный совет – заблокировать и отписаться от пользователя, совершающего насилие. Однако, если это продолжается или усугубляется, вы можете использовать их инструмент отчетности в приложении. На этой странице есть подробная информация о том, как напрямую сообщить о насилии им.
Instagram заявляет, что работа по борьбе с буллингом является частью их общей программы Digital Wellbeing.
Фото: Shutterstock
Смотрите 9to5Google на YouTube для получения большего количества новостей: