YouTube сообщает, что в течение нескольких часов после террористического акта в Новой Зеландии люди загружали копии видеоматериалов, транслировавшихся в прямом эфире стрелком, со скоростью одна копия в секунду.
Facebook заявил, что автоматически заблокировал 1,2 миллиона копий в момент загрузки и удалил еще 300 000 копий…
Главный директор по продуктам YouTube описал реакцию компании в интервью Washington Post.
Команда работала всю ночь, пытаясь идентифицировать и удалить десятки тысяч видео — многие из них были перепакованными или отредактированными версиями оригинальных кадров, показывающих ужасные убийства. Как только группа удаляла одну копию, появлялась другая, со скоростью до одной в секунду в часы после стрельбы [сказал Нил Мохан, главный директор по продуктам YouTube].
Поскольку их усилия оказались тщетными, команда предприняла беспрецедентные шаги, включая временное отключение нескольких поисковых функций и прекращение работы функций человеческой модерации, чтобы ускорить удаление видео, помеченных автоматизированными системами. Многие из новых клипов были изменены таким образом, что обошли системы обнаружения компании.
Мохан сказал, что убийства подчеркнули трудности, связанные с попыткой опередить злоумышленников, активно стремящихся распространять копии подобных материалов.
«Это была трагедия, которая почти специально была создана для того, чтобы стать вирусной», — сказал Мохан. «Мы добились прогресса, но это не значит, что нам не предстоит еще много работы, и этот инцидент показал, что, особенно в случае более вирусных видео, подобных этому, предстоит еще много работы».
Загрузки поступали быстрее и в гораздо большем объеме, чем во время предыдущих массовых расстрелов, сказал Мохан…
«Каждый раз, когда происходит такая трагедия, мы узнаем что-то новое, и в данном случае это был беспрецедентный объем» видео, сказал Мохан. «Честно говоря, я хотел бы справиться с этим раньше».
Видео с расстрелом в Новой Зеландии изначально транслировалось в прямом эфире на Facebook самим убийцей. Социальная сеть быстро удалила кадры и заблокировала аккаунт, но столкнулась с той же проблемой — люди повторно загружали их.
Facebook заявил, что удалил 1,5 миллиона видео, демонстрирующих кадры стрельбы, в первые 24 часа после инцидента — из них 1,2 миллиона были заблокированы программным обеспечением в момент загрузки.
Учитывая шаги, которые предпринимают некоторые для обхода автоматического обнаружения — такие как кадрирование видео, добавление водяных знаков, окружение видео статичным или движущимся изображением — для систем искусственного интеллекта практически невозможно заблокировать все копии. И ни одно разумное количество человеческих модераторов не может справиться с новыми копиями, загружаемыми со скоростью одна в секунду. Решение может крыться в поиске.
YouTube незаметно разработал программное обеспечение под названием «полка экстренных новостей» и «полка главных новостей», которая активируется, когда происходит крупное новостное событие, и люди ищут информацию на YouTube, либо через поиск, либо находя ее на главной странице. Полка экстренных новостей использует сигналы от Google News и других источников для отображения контента из более авторитетных источников, таких как основные средства массовой информации, иногда обходя контент, загружаемый обычными пользователями.
YouTube также отключил фильтр поиска «недавние загрузки», который не будет возвращаться в течение некоторого времени, сообщили в компании.