Google обновляет Gemini для улучшения ответов по вопросам психического здоровья

Отражая одно из всё более распространенных применений ИИ, Google сегодня объявил о серии обновлений Gemini, призванных помочь пользователям, задающим вопросы о психическом здоровье. Компания считает, что «ответственный ИИ может сыграть положительную роль в психическом благополучии людей».

Когда чат «указывает на потенциальный кризис, связанный с самоубийством или самоповреждением», Gemini теперь будет отображать интерфейс «в одно касание» для связи пользователей с ресурсами горячих линий с возможностью позвонить, написать сообщение, отправить SMS или посетить веб-сайт. После активации эта карточка будет оставаться видимой на протяжении всего разговора. Ответы разработаны, чтобы «поощрять людей обращаться за помощью».

Если разговор сигнализирует о том, что пользователь «может нуждаться в информации о психическом здоровье», Gemini отобразит переработанный модуль «Помощь доступна». Он был разработан совместно с клиническими экспертами «для обеспечения более эффективного и немедленного доступа к помощи».

В целом, Google обучает модели Gemini «помогать распознавать, когда разговор может указывать на то, что человек находится в острой ситуации, связанной с психическим здоровьем», и направлять их к реальным ресурсам.

Ответы разработаны, чтобы «поощрять обращение за помощью, избегая при этом одобрения вредных действий, таких как побуждения к самоповреждению».

Для более молодых пользователей Google предусмотрел дополнительные меры защиты:

• Защита личности, призванная не позволить Gemini действовать как компаньону, включая меры предосторожности, запрещающие ему выдавать себя за человека или обладать человеческими качествами.
• Меры защиты, направленные на предотвращение эмоциональной зависимости, избегая языка, который имитирует близость или выражает потребности.
• Меры безопасности для предотвращения поощрения буллинга или других видов преследований.

Наконец, Google.org сегодня объявил о выделении 30 миллионов долларов в течение трех лет для помощи глобальным горячим линиям в увеличении их мощностей. Конкретные меры включают:

• «Мы расширяем наше партнерство с ReflexAI, чтобы помочь организациям социального сектора масштабировать свои услуги по поддержке психического здоровья. Эта инициатива включает 4 миллиона долларов прямого финансирования и интеграцию Gemini в пакет обучения ReflexAI».
• «…Сотрудники Google.org предоставят бесплатную техническую экспертизу для развития Prepare, настраиваемой платформы, которая использует реалистичные симуляции на базе ИИ для обучения персонала и волонтеров для критически важных разговоров. Приоритетными партнерами на этом новом этапе являются образовательные организации, такие как Erika’s Lighthouse и Educators Thriving».