Примеры того, как AI Overviews от Google выходят из-под контроля, быстро стали вирусными по мере того, как обновление было выпущено для общественности. Хотя компании пришлось отключить ИИ для некоторых особенно вирусных запросов, Google подтверждает, что «подавляющее большинство» результатов ИИ являются «высококачественными».
За последние пару дней AI Overviews от Google стали выдавать неверную, а иногда и потенциально опасную информацию. Существует множество примеров этого, причем один особо вирусный пример советовал людям класть клей на пиццу.
Это потенциально опасное предложение, но Google прекратил показ AI Overviews по запросу, который изначально его вызвал: «сыр не прилипает к пицце». Другой опасный запрос, по которому мы заметили, что AI Overviews больше не появляются, — это температура, до которой должна быть приготовлена курица. Однако это, похоже, не применяется повсеместно, и стоит отметить, что ни один AI Overview не будет идентичным. Часто выполнение одного и того же поиска дважды приведет к тому, что Overview перефразирует результат или сосредоточится на другом аспекте ответа.
Google в своем заявлении для 9to5Google подтвердил, что он «принимает быстрые меры, где это уместно, в соответствии с нашей политикой в отношении контента» в отношении некоторых из этих опасных результатов.
Google также отмечает, что многие из циркулирующих в настоящее время вирусных примеров «отредактированы» или не могут быть воспроизведены — несколько иронично, что Google указывает пальцем на преднамеренную дезинформацию, учитывая, что AI Overviews представляют другую преднамеренную дезинформацию как факт — и заявил, что «подавляющее большинство AI Overviews предоставляют высококачественную информацию».
Представитель Google пояснил:
Подавляющее большинство AI Overviews предоставляют высококачественную информацию со ссылками для более подробного изучения в Интернете. Многие из примеров, которые мы видели, были редкими запросами, и мы также видели примеры, которые были отредактированы или которые мы не смогли воспроизвести. Мы провели обширное тестирование перед запуском этого нового опыта, и, как и в случае с другими функциями, которые мы запустили в Поиске, мы ценим обратную связь. Мы принимаем быстрые меры, где это уместно, в соответствии с нашей политикой в отношении контента, и используем эти примеры для разработки более широких улучшений наших систем, некоторые из которых уже начали разворачиваться.