Google обязалась использовать сочетание искусственного интеллекта и человеческих ресурсов для выявления и удаления экстремистских видео с YouTube.
Это решение было принято после того, как сбой в существующей системе фильтрации YouTube привел к появлению рекламы от правительств и крупных брендов в ходе и рядом с экстремистскими видео. Среди них были видео бывшего официального лица Ку-клукс-клана и отрицателя Холокоста Дэвида Дюка, а также Стивена Андерсона, проповедника, которому был запрещен въезд в Великобританию после того, как он похвалил теракт в гей-клубе в Орландо…
YouTube изначально объявила о новых политиках и мерах контроля, когда рекламодатели объявили бойкот платформе. Эти политики были объявлены ранее в этом месяце, и теперь Google раскрыла шаги, которые она предпринимает для их обеспечения.
Google заявила, что использовала удаленный контент, связанный с терроризмом, для обучения систем ИИ.
Мы использовали модели видеоанализа для поиска и оценки более 50 процентов контента, связанного с терроризмом, который мы удалили за последние шесть месяцев. Теперь мы направим больше инженерных ресурсов для применения наших самых передовых исследований в области машинного обучения для обучения новых «классификаторов контента», чтобы помочь нам быстрее выявлять и удалять экстремистский контент и контент, связанный с терроризмом.
Но поскольку контекст важен – те же кадры могут иметь разное значение в новостном репортаже BBC и в пропагандистском видео ИГИЛ – компания также расширит свою программу «доверенных флаггеров». Это независимые неправительственные организации, обладающие экспертизой в таких областях, как борьба с терроризмом и разжигание ненависти.
Машины могут помочь выявлять проблемные видео, но эксперты по-прежнему играют роль в принятии тонких решений о границе между насильственной пропагандой и религиозной или новостной речью. В то время как многие пользовательские флаги могут быть неточными, отчеты доверенных флаггеров точны более чем в 90 процентах случаев и помогают нам масштабировать наши усилия и выявлять новые проблемные области. Мы расширим эту программу, добавив 50 экспертных НПО к 63 организациям, которые уже являются частью программы, и будем поддерживать их операционными грантами.
Компания заявляет, что также займет более жесткую позицию в отношении пограничных видео, гарантируя, что когда они будут разрешены к размещению на платформе, они не смогут быть монетизированы, рекомендованы или комментироваться – и будут отображаться за предупреждениями.
Это означает, что у таких видео будет меньше вовлеченности, и их будет труднее найти. Мы считаем, что это обеспечивает правильный баланс между свободой выражения мнений и доступом к информации, не пропагандируя крайне оскорбительные точки зрения.
Полные сведения можно прочитать в блоге Google.
Фото: Reuters/Dado Ruvic
Заходите на YouTube-канал 9to5Google, чтобы узнать больше новостей!