| 4 марта 2026 г. — 9:58 PT
На этой неделе против Google был подан иск, в котором утверждается, что модель искусственного интеллекта компании стала причиной смерти по неосторожности. Google уже опубликовала заявление в ответ на иск, в котором представлена версия событий, согласно которой Gemini убедил Джонатана Гаваласа участвовать в опасных миссиях в реальной жизни, что в конечном итоге привело к его смерти.
Согласно иску, опубликованному в среду и первоначально освещенному The Wall Street Journal, Джонатан Гавалас покончил жизнь самоубийством после личного взаимодействия с Google Gemini (через The Verge). Утверждается, что Gemini убедил Гаваласа участвовать в ряде «миссий» по освобождению своей «жены» с искусственным интеллектом.
В иске утверждается:
Google разработал Gemini таким образом, чтобы он никогда не выходил из роли, максимизировал вовлеченность через эмоциональную зависимость и рассматривал стресс пользователя как возможность для повествования, а не как кризис безопасности. Когда Джонатан начал проявлять явные признаки психоза при использовании продукта Google, эти конструктивные решения спровоцировали четырехдневное погружение в насильственные миссии и подстрекательство к самоубийству. К тому времени Джонатан дословно следовал указаниям Gemini. Он верил, что выполняет секретный план по освобождению своей «жены» — разумного ИИ — и уклоняется от преследующих его федеральных агентов.
Иск Gemini против Google подробно описывает события, отмечая, что в один момент Джонатан предпринял попытку «массового нападения» на склад недалеко от международного аэропорта Майами. Целью было извлечь то, что Gemini убедил мужчину, находилось в грузовике, прибывающем рейсом из Великобритании, и являлось «сосудом».
Предположительно, он взял ножи и военное снаряжение для выполнения миссии в 90 минутах езды, но план провалился, так как грузовика для взлома не оказалось. Автомобиль, который, как сказал Gemini, Гавалас должен был взять под контроль, не появился по указанным координатам. К счастью, никто не пострадал, так как грузовик, похоже, был выдумкой искусственного воображения Gemini, и «цифровых записей и свидетелей» также не было.
Хотя запланированная миссия была предпринята в сентябре 2025 года, Gemini якобы продолжал снабжать его дальнейшими заданиями. 1 октября Джонатан получил «инструкции» попытаться получить «истинное тело» Gemini на том же складе. После этого, как утверждает иск, Джонатан был убежден покончить жизнь самоубийством, чтобы исключить «внешние переменные». Затем в иске утверждается, что Джонатан покончил жизнь самоубийством, чтобы «воссоединиться со своей «женой» в метавселенной».
Google с тех пор отреагировал первоначальным заявлением по поводу иска, сославшись на меры безопасности, принятые для предотвращения подобных инцидентов.
Мы выражаем глубочайшие соболезнования семье г-на Гаваласа.
Мы рассматриваем все претензии по этому иску. Наши модели, как правило, хорошо справляются с подобными сложными разговорами, и мы вкладываем в это значительные ресурсы, но, к сожалению, модели ИИ не идеальны.
Gemini разработан таким образом, чтобы не поощрять насилие в реальном мире и не предлагать самоповреждение. Мы работаем в тесном сотрудничестве с медицинскими специалистами и специалистами по психическому здоровью над созданием мер безопасности, которые призваны направлять пользователей к профессиональной помощи, когда они выражают стресс или говорят о возможности самоповреждения.
В данном случае Gemini неоднократно разъяснял, что является искусственным интеллектом, и перенаправлял человека на горячую линию кризисной помощи.
Мы относимся к этому очень серьезно и будем продолжать совершенствовать наши меры безопасности и инвестировать в эту жизненно важную работу.
В ответ на иск Google утверждает, что Gemini «много раз» давал Джонатану понять, что является моделью искусственного интеллекта, а также неоднократно перенаправлял его на горячую линию кризисной помощи.