Jigsaw — это инкубатор Alphabet, который занимается решением глобальных проблем безопасности с помощью технологий. Среди заметных проектов — защита от DDoS-атак и манипуляций с DNS. Его последняя разработка — расширение для Chrome под названием Tune, которое с помощью машинного обучения отфильтровывает токсичные онлайн-комментарии.
В 2017 году Jigsaw и Google анонсировали Perspective API, которую новостные организации и онлайн-сообщества могли внедрить для фильтрации преследований. Вместо ручной модерации для проверки комментариев и оценки токсичности используется машинное обучение. Такие партнеры, как *The New York Times*, *The Economist* и *The Guardian*, уже экспериментировали с этим API.
Теперь Jigsaw выводит Perspective напрямую пользователям с помощью расширения для Chrome для Mac, Windows, Linux и Chrome OS. Tune, пока еще находящийся на стадии эксперимента, позволяет пользователям регулировать уровень токсичности в комментариях на YouTube, Facebook, Twitter, Reddit и Disqus.
Регулятор «громкости» предлагает различные варианты: от полного отключения токсичных комментариев до отображения всего контента: «скрыть все», «тихо», «низкий», «средний», «громкий», «очень громко» и «показать все». Скрытые комментарии отмечаются точкой рядом с ними, цвет которой указывает на степень серьезности.
Tune также предлагает возможность фильтровать токсичность или комбинации, позволяя пользователям отображать/скрывать комментарии, которые являются нападками на личность, оскорблениями, нецензурной бранью, угрозами или сексуально откровенными.
Jigsaw отмечает, что персональные данные не сохраняются: текст комментариев отправляется для оценки, а затем автоматически удаляется после ранжирования. Пользователям необходимо войти в свою учетную запись Google для первоначального доступа к Perspective API.
Как эксперимент, Tune «все еще пропускает некоторые токсичные комментарии и ошибочно скрывает некоторые нетоксичные комментарии».
Мы постоянно работаем над улучшением базовой технологии, и пользователи могут легко оставлять отзывы прямо в инструменте, чтобы помочь нам улучшить наши алгоритмы. Tune не является решением для прямых объектов преследования (для которых возможность видеть прямые угрозы может быть жизненно важна для их безопасности), и Tune также не является решением для всей токсичности. Скорее, это эксперимент, призванный показать людям, как технология машинного обучения может создавать новые способы расширения прав и возможностей людей при чтении дискуссий в Интернете.