На выходных Google представила технический документ на Мюнхенской конференции по безопасности, подробно описывающий, как она борется с дезинформацией в своих крупнейших сервисах. Это включает усилия, охватывающие Google Поиск, Новости и YouTube, а также рекламные платформы.
Дезинформация в последние годы имеет много названий, включая «фейковые новости» и эпоху «постправды». Google характеризует дезинформацию как «преднамеренные усилия по обману и введению в заблуждение с использованием скорости, масштаба и технологий открытого Интернета», а также как нечто, подрывающее ее миссию по организации мировой информации.
Субъекты, занимающиеся дезинформацией, преследуют разнообразные цели. Некоторые мотивированы финансово и занимаются дезинформацией с целью получения прибыли. Другие мотивированы политически, занимаясь дезинформацией для формирования определенных точек зрения среди населения, оказания влияния на политические процессы или исключительно для поляризации и раскола общества. Третьи занимаются дезинформацией ради развлечения, что часто включает в себя издевательства, и их обычно называют «троллями».
В целом, усилия компании состоят из трех стратегий, адаптированных для каждого продукта.
Качество имеет значение
Google организует и отображает контент, используя «алгоритмы ранжирования», которые «не [поддерживают] идеологические точки зрения лиц, которые их создают или проверяют». В Поиске это измеряется многими реальными оценщиками качества поиска по всему миру, которые придерживаются руководящих принципов.
Противодействие злонамеренным участникам
Это включает создателей контента, которые пытаются обмануть системы ранжирования, чтобы получить больше видимости, причем каждый сервис определяет, что это означает: «искажение информации о владении или основной цели на Google Новостях и в наших рекламных продуктах, или выдача себя за другие каналы или людей на YouTube». Google отмечает, как его 20-летний опыт борьбы со спамом может быть применен для борьбы с дезинформацией.
Предоставление пользователям большего контекста
Как показал Google Новости в прошлом году, компания считает, что предоставление «разнообразного набора точек зрения является ключом к предоставлению пользователям информации, необходимой для формирования собственных взглядов». Это включает в себя блоки «Знания» и «Справочные сведения» в Поиске и YouTube, а также расширенное использование «фактчекеров» в Новостях. В рекламе это включает информирование пользователей о том, почему они видят ту или иную рекламу, и раскрытие информации о сторонах, стоящих за рекламой на выборах.
Google также заявляет о своей приверженности поддержке качественной журналистики с помощью News Initiative (GNI) и путем сотрудничества с внешними экспертами и исследователями. В будущем медиаграмотность может помочь людям распознавать дезинформацию, в то время как защита демократических выборов также является важным аспектом. Еще одна будущая угроза — «дипфейки» или «синтетические медиа», генерируемые ИИ.
Область синтетических медиа быстро развивается, и трудно предсказать, что может произойти в ближайшем будущем. Чтобы подготовиться к этой проблеме, Google и YouTube инвестируют в исследования, чтобы понять, как ИИ может помочь обнаружить такой синтетический контент по мере его появления, сотрудничая с ведущими экспертами в этой области со всего мира.
Полный технический документ стоит прочтения и охватывает шаги, которые Google предпринимает в четырех своих ключевых продуктах.