Twitter в настоящее время использует комбинацию человеческого контроля и ИИ для выявления проблемных твитов. Если твит нарушает политику компании, он удаляется.
Однако теперь компания стремится использовать инновационный подход для борьбы с твитами, которые технически не нарушают правила, но являются «нездоровыми» или уводят от темы разговора…
В собственном блоге Twitter не раскрывалось много подробностей о том, как это будет работать, но Slate предоставил больше деталей. По сути, Twitter привлекает пользователей к работе по выявлению троллей, анализируя, как люди реагируют на их твиты.
Его программное обеспечение будет анализировать большое количество сигналов […], таких как частота, с которой учетная запись является объектом жалоб пользователей, как часто ее блокируют и скрывают, в отличие от получения более позитивных взаимодействий, таких как избранное и ретвиты. Компания не будет рассматривать фактический контент твитов для этой функции — только типы взаимодействий, которые генерирует та или иная учетная запись.
Например, сказал Харви: «Если вы отправите одно и то же сообщение четырем людям, и двое из них заблокировали вас, а один пожаловался на вас, мы можем предположить, даже не видя содержания сообщения, что это было в целом негативное взаимодействие».
После того как проблемная учетная запись будет идентифицирована, Twitter применяет своего рода «теневой бан». Их твиты перемещаются в конец ветки под ссылкой «Показать еще ответы» и не появляются в обычных результатах поиска. Все их последующие твиты затрагиваются таким же образом, пока их «рейтинг» не улучшится.
Twitter полагает, что этот подход будет одинаково эффективен как против троллей, так и против ботов, и ожидает, что будет затронуто менее 1% учетных записей.
Фото: Reuters/Kacper Pempel
Проверьте 9to5Google на YouTube для получения новостей о Google и Android: