Вчера YouTube обновил список того, что он считает «вредоносным или опасным контентом». Одним из заметных дополнений стали видео с «обучением взлому и фишингу», при этом компания Google, по сообщениям, уже удаляет существующий контент и накладывает страйки на авторов.
2 июля YouTube Help добавил «больше примеров контента, который нарушает» его политику в отношении «вредоносного или опасного контента». Список включает «чрезвычайно опасные челленджи», «насильственные события» и «расстройства пищевого поведения».
Последний пункт теперь — «обучение взлому и фишингу», который видеосервис определяет как «показ пользователям, как обойти безопасные компьютерные системы или украсть учетные данные пользователей и личные данные». На странице поддержки отмечается, что «изменений в политике нет».
Применение правил уже началось: один из авторов YouTube заметил страйк на своем канале, который создает «видео для начинающих этичных хакеров, компьютерных специалистов и сообщества infosec». Он сообщает, что «существующий контент помечается и удаляется», а страйк запрещает ему загружать новые видео в течение недели.
Обновление: Сегодня днем YouTube восстановил видео на канале Null Byte, включая одно, которое привело к страйку. По словам компании Google, вчера никаких конкретных изменений в политике не было, и новые примеры просто совпали с ошибочным удалением. У видеосервиса есть исключение для видео, «основная цель которых — образовательная, документальная, научная или художественная (EDSA)».
Благодаря СОТНЯМ ЗЛЫХ КОМПЬЮТЕРНЫХ ГИКОВ YouTube восстановил наши видео, и наше видео о запуске фейерверков через Wi-Fi скоро появится! Я люблю это сообщество, спасибо за поддержку, и следите за новыми классными материалами! https://t.co/wswvRsX82q
— Kody (@KodyKinzie) July 3, 2019
Хотя это похоже на другие правила, запрещающие «инструкции по убийству или причинению вреда», «употребление или создание наркотиков» и «инструкции по краже», видео, обучающие хакингу, имеют образовательную и информационную цель.
В ветке в Twitter описано, почему потеря этого ресурса вредит сообществу infosec, а сам автор, пострадавший от этого, отметил, как это может остановить тех, кто хочет изучать безопасность в будущем.
Применяя правила против экстремизма, YouTube критиковали за случайное удаление видео, посвященных развенчанию мифов, и другие исторические примеры, опубликованные педагогами. Алгоритм не смог отличить подлинный контент от целевых видео.
YouTube, вероятно, не хочет ассоциироваться с местом, где учат взлому, но существует явное различие в том, как используются видео. В прошлом компания особенно гордилась тем, что является ресурсом для миллионов учащихся по всему миру. Мы обратились к YouTube за комментарием по этому изменению.