На прошлой неделе Google запустила функцию AI Overviews в Поиске для широкой публики, и результаты уже вышли из-под контроля. Однако Google утверждает, что это всего лишь «единичные случаи».
AI Overviews в Google Поиске использует генеративный ИИ для составления краткого изложения или прямого ответа на запрос пользователя. Основная идея заключается в том, чтобы сжать информацию из множества различных источников, чтобы предоставить конечному пользователю что-то быстрое и легкое для усвоения.
Но почти сразу же все пошло наперекосяк.
Просматривая социальные сети, очень легко найти примеры того, как AI Overviews в Google Поиске уверенно выдают заведомо неверную информацию. Среди них — советы пользователям добавлять клей в пиццу, что курицу нужно готовить только до 102 градусов по Фаренгейту, утверждение, что жидкость для стеклоочистителя — это реальная вещь, указание людям, что они могут потушить масляный пожар, добавив больше масла, и заявление о том, что в Африке нет страны, название которой начинается с буквы «К». И все это при том, что система напрямую крадет контент с других веб-сайтов, используя его как свой собственный, даже не ссылаясь на эти сайты.
Конечно, как и в любом деле, плохие примеры не всегда являются самыми распространенными. На каждый плохой результат, который мы видим от AI Overviews, приходится, вероятно, множество других хороших. По крайней мере, так говорит Google.
В разговоре с изданием The Verge по поводу таких ошибок, как указаны ниже, Google объяснил, что ошибки, распространяющиеся в интернете, касаются «в целом очень редких запросов и не отражают большинства пользовательских опытов», и добавил, что компания использует «единичные примеры» для улучшения нового функционала. Надеемся, это означает, что со временем результаты станут лучше.
Обновление: В своем заявлении для 9to5Google Google подтверждает, что эти результаты в AI Overviews генерируются «необычными запросами», и добавляет, что «ценит обратную связь» от пользователей.
Подавляющее большинство AI Overviews предоставляют высококачественную информацию со ссылками для дальнейшего изучения в интернете. Многие из увиденных нами примеров касались редких запросов, а также были случаи, которые были подделаны или которые мы не смогли воспроизвести. Мы провели обширное тестирование перед запуском этого нового функционала, и, как и в случае с другими функциями, которые мы запускали в Поиске, мы ценим обратную связь. Мы принимаем быстрые меры, где это уместно, в соответствии с нашей политикой в отношении контента, и используем эти примеры для разработки более общих улучшений наших систем, некоторые из которых уже начали внедряться.
AI Overvierws теперь являются стандартной функцией в Google Поиске, хотя они появляются не для каждого вашего запроса.
Взгляд 9to5Google
Было очевидно, что ИИ в Поиске приведет к подобным проблемам. Между получением ответов из саркастических тредов на Reddit и галлюцинациями, которые так распространены для любого генеративного ИИ, примеры, которые циркулируют, были неизбежны. Но все же, видеть такие явные ошибки так быстро, трудно не почувствовать, что AI Overviews, став стандартной функцией, стало огромным просчетом, особенно учитывая, что их буквально нельзя отключить.
По крайней мере, скоро появятся рекламные объявления, чтобы разбавить дезинформацию.