В июне Google опубликовал Принципы ИИ — в ответ на негативную реакцию на Project Maven — которые кодифицировали, как искусственный интеллект будет использоваться в исследованиях и продуктах в дальнейшем. В настоящее время компания детализирует дополнительные инициативы и процессы, которые она внедрила для обеспечения соблюдения всех руководящих принципов.
За последние шесть месяцев Google призывал команды по всей компании «рассмотреть, как и повлияют ли наши Принципы ИИ на их проекты». Новый тренинг, предназначенный как для технических, так и для нетехнических сотрудников, призван «рассмотреть многогранные этические вопросы, возникающие в их работе».
Он основан на «Практике этики в технологиях», разработанной в Университете Санта-Клары, и дополнительно адаптирован для Принципов ИИ. Более ста сотрудников со всего мира прошли этот курс, и Google надеется сделать его более доступным в будущем.
Google также пригласил внешних экспертов в рамках серии выступлений по этике ИИ для освещения таких тем, как предвзятость в обработке естественного языка и ИИ в системе уголовного правосудия. Для всех желающих в этом году курс «Основы машинного обучения» был дополнен техническим модулем по справедливости, который фокусируется на выявлении и смягчении предвзятости в обучающих данных.
Помимо этих ресурсов для сотрудников, Google создал официальную структуру рассмотрения для оценки новых проектов, продуктов и сделок. Существует три основные группы, хотя компания публично не назвала их руководителей или членов.
- Команда по ответственным инновациям, которая занимается повседневными операциями и первичными оценками. Эта группа включает исследователей пользователей, социологов, специалистов по этике, специалистов по правам человека, консультантов по политике и конфиденциальности, а также юристов, работающих на полную и частичную ставку, что обеспечивает разнообразие и инклюзивность точек зрения и дисциплин.
- Группа старших экспертов из различных дисциплин Alphabet, которые предоставляют технологическую, функциональную и прикладную экспертизу.
- Совет старших руководителей для решения наиболее сложных и трудных вопросов, включая решения, затрагивающие несколько продуктов и технологий.
На практике было проведено более 100 обзоров для оценки «масштаба, серьезности и вероятности наилучших и наихудших сценариев для каждого продукта и сделки». Например, некоторые проекты были изменены, чтобы «четко обозначить вспомогательные преимущества, а также ограничения модели, которые сводят к минимуму возможность злоупотребления».
Другие, такие как универсальный API распознавания лиц, были приостановлены. На прошлой неделе Google публично объявил об этом решении и отмечает, что «небольшое количество вариантов использования продуктов» были приостановлены до тех пор, пока не будут решены «важные технологические и политические вопросы».
В дальнейшем Google также планирует создать внешнюю консультативную группу экспертов из различных областей для «дополнения внутреннего управления и процессов».
Смотрите 9to5Google на YouTube для получения дополнительных новостей: