В течение последних нескольких месяцев Google ожесточенно обсуждал военное применение искусственного интеллекта, при этом многие сотрудники были против использования их работы в вооружении и военных действиях. Такая позиция фактически означала бы, что Google откажется от огромного рынка в пользу Amazon и Microsoft, сотрудники которых не испытывают подобных колебаний.
Новый отчет сегодня предоставляет некоторую информацию о принципах, которыми будет руководствоваться будущая работа, а также выделяет несколько позиций внутри компании.
С момента раскрытия информации о работе над проектом Maven Министерства обороны в марте, компания пообещала, что создает «политики и меры безопасности, связанные с разработкой и использованием наших технологий машинного обучения».
В комментарии для New York Times Google заявил, что новые принципы «исключают использование ИИ в вооружении», но не предоставил дополнительных подробностей. Сотрудники ожидают, что правила появятся «в ближайшие несколько недель», а Сундар Пичаи предоставил обновленную информацию на совещании TGIF на прошлой неделе, отметив, что цель состоит в создании правил, которые «выдержат испытание временем».
Неясно, будут ли эти руководящие принципы достаточно четкими для более чем 4000 подписавших внутреннюю петицию, в которой к генеральному директору Google обратились с просьбой отменить Maven и обязаться не создавать «технологии для ведения войны». Некоторые критиковали то, что эти правила должны были быть введены до контакта с Министерством обороны.
В сегодняшней статье NYT также рассматриваются точки зрения высшего руководства Alphabet и Google. Сооснователю Сергею Брину на общекорпоративном собрании на прошлой неделе был задан вопрос по этой теме. Брин в прошлом занимал моральную позицию и выступал за выход Google из Китая вместо продолжения цензуры поиска. Это, конечно, привело к отсутствию присутствия Google на значительном рынке, и компания лишь медленно возвращалась в последние годы.
Как президент Alphabet, Брин отметил обширные дискуссии с Ларри Пейджем и Пичаи. Однако он выдвинул нюансированный аргумент о том, что мир в целом выигрывает от сотрудничества правительств и военных с такими компаниями, как Google.
В Google главный научный сотрудник Cloud доктор Фей-Фей Ли предостерегла и предвидела негативную реакцию СМИ на Maven, в то время как ее руководитель, глава Cloud Дианна Грин, защищала работу компании с военной промышленностью. Контракты, особенно от правительств в ближайшие годы, будут стоить миллиарды, в то время как сотрудники Amazon и Microsoft менее колеблются по поводу спорного участия.
Приблизительно десяток сотрудников уволились из-за работы Google, в то время как академический бэкграунд многих ведущих исследователей в области ИИ предполагает противодействие военным контрактам. Недавно назначенный глава отдела ИИ Google в этом месяце подписал петицию против использования автономного оружия, где человек не принимал бы окончательного решения.
Тем временем дочерняя компания Alphabet DeepMind выступает против этой сделки. Приобретение в 2014 году включало условия, запрещающие использование работы лаборатории ИИ в военных или разведывательных целях. По данным NYT, ее соучредители участвуют в текущих дискуссиях по новым руководящим принципам.
Смотрите 9to5Google на YouTube для получения дополнительных новостей: