ИИ-бот Bard от Google появился с опозданием, после того как ChatGPT от OpenAI покорил мир, и его технологии быстро интегрировались в Microsoft Bing и другие продукты. Теперь новый отчет ссылается на сотрудников Google, которые считают, что спешка компании с внедрением ИИ привела к игнорированию этических проблем, в то время как сам Bard считается «хуже, чем бесполезным».
Bloomberg на этой неделе опросил 18 текущих и/или бывших сотрудников Google, которые взаимодействовали с Bard, а также поделился выводами из внутренней документации, касающейся Bard.
По-видимому, просьба Google к сотрудникам поделиться отзывами о Bard перед его публичным запуском была в основном проигнорирована. Это включает в себя резкие отзывы, где сотрудники назвали Bard «неловким» и «патологическим лжецом». В другом отзыве прямо говорилось, что Google не следует запускать Bard, заявляя:
Bard хуже, чем бесполезен: пожалуйста, не запускайте
Один из сотрудников поделился опытом взаимодействия с Bard до его запуска, когда ИИ-боту было предложено дать инструкции по посадке самолета, но он «регулярно» выдавал инструкции, которые привели бы к катастрофе. В другом случае возник вопрос о правилах дайвинга, и сотрудник Google, задавший вопрос, сказал, что предоставленные инструкции «вероятно, приведут к серьезным травмам или смерти».
Но, пожалуй, самым тревожным является то, как Bard повлиял на этические соображения. Bloomberg сообщает, что команды Google, работающие над этикой ИИ, были «лишены полномочий и деморализованы», и им было «сказано не мешать или пытаться остановить разработку генеративных ИИ-инструментов». В ответ представитель Google заявил:
Мы продолжаем инвестировать в команды, работающие над применением наших принципов ИИ к нашим технологиям
К чести Google, пользовательский продукт Bard по-прежнему внешне сообщает, что он может отображать «неточность» информации в отличие от своих конкурентов. Но за кулисами руководитель отдела управления ИИ Google Джен Дженнаи, как сообщается, отклонила оценку рисков, которая показала, что Bard не готов к запуску, хотя Дженнаи заявила, что это было не только ее решение.