В прошлом году сотрудники Google организовались в знак протеста против проекта машинного обучения с Вооруженными силами США для анализа изображений с беспилотников. Сотрудникам Google удалось остановить Project Maven, и компания создала Принципы ИИ для регулирования будущих продуктов. Эти 4000 анонимных сотрудников Google сегодня были названы «Людьми года» в области контроля над вооружениями за 2018 год.
Ассоциация по контролю над вооружениями (Arms Control Association) ежегодно номинирует отдельных лиц и группы, работающие над продвижением «эффективных решений в области контроля над вооружениями, нераспространения и разоружения». Общественное голосование открылось в декабре, в нем приняли участие 1200 человек из более чем 70 стран.
В этом году награда присуждается анонимной группе из 4000 сотрудников Google, которые распространили внутреннюю петицию с призывом к генеральному директору Сундару Пичаи прекратить проект ИИ. Многие сотрудники в то время были возмущены тем, что их работа может быть использована в военных целях, а некоторые в конечном итоге покинули компанию.
Со стороны Google сотрудничество с военными было прибыльным способом монетизировать свои инвестиции и лидировать в области машинного обучения. Однако эффективность и автоматизация, возможные благодаря ИИ, могут изменить будущее ведения войны.
Технологические разработки, которые устраняют или уменьшают прямой человеческий контроль над летальными системами вооружений, могут изменить характер войны и подорвать глобальную безопасность. Правительствам необходимо не только усерднее работать над разработкой новых правил для снижения рисков, но и исследователям в частных учреждениях и технологических компаниях необходимо вмешаться, когда это необходимо, чтобы гарантировать ответственное использование их проектов.
Project Maven был раскрыт в марте, а в июне Google выпустил Принципы ИИ, запрещающие использование оружия. Google Cloud аналогично объявил, что не будет продлевать свое сотрудничество с Министерством обороны США.
Ассоциация по контролю над вооружениями отмечает, что «сотрудники Google помогли улучшить культуру и политику компании, и это пример для подражания другим». Среди других номинантов в этом году — президент Южной Кореи Мун Чжэ Ин и различные дипломаты.
В прошлом году Google предоставил обновленную информацию о своих Принципах ИИ и работе над созданием внутренней структуры для проверки проектов. Примечательно, что эти руководящие принципы привели к тому, что компания приостановила работу над распознаванием лиц для сторонних поставщиков через Google Cloud.
Смотрите 9to5Google на YouTube для получения дополнительных новостей: