Отчет: DeepMind будет контролировать любой созданный ею общий искусственный интеллект, а не Alphabet/Google

DeepMind — весьма заметно — утверждает, что является «мировым лидером в области исследований искусственного интеллекта». AlphaGo и AlphaStar, безусловно, подтверждают это звание, но конечной целью подразделения Alphabet является создание общего искусственного интеллекта (AGI). Если оно когда-либо достигнет этого знаменательного результата, то, по сообщениям, контроль над ним будет сохранять DeepMind, а не его материнская компания.

Машинное обучение и ИИ все чаще применяются в приложениях и сервисах Google и за его пределами. Буквально на прошлой неделе Google выпустила Lookout, который, как и Google Lens, использует ИИ для распознавания объектов и текста в мире. Тем временем Gboard теперь имеет функцию транскрипции речи в реальном времени на устройстве для Pixel. Другие примеры включают Smart Reply и Smart Compose в Gmail, а также предложения по грамматике в Google Docs.

Однако все это примеры прикладного ИИ, в том смысле, что алгоритмы могут решать только ту конкретную задачу, для которой они были назначены, и ничего более. Напротив, общий искусственный интеллект — теоретически — превосходил бы любую поставленную перед ним задачу, подобно человеку. AGI объединил бы возможности современных ИИ и использовался бы для достижения прорывов в лечении болезней или открытия новых элементов.

Реклама — прокрутите для просмотра большего контента

Это заявленная цель DeepMind, основанной в 2010 году Демисом Хассабисом и купленной Google в 2014 году. В настоящее время она является подразделением Alphabet и продолжает проводить собственные исследования. Например, Google управляет отдельной исследовательской организацией Google AI, которая часто выпускает потребительские разработки на основе машинного обучения, такие как Night Sight.

Интересный профиль в журнале 1843 Magazine от The Economist проливает свет на процесс приобретения. Хотя DeepMind могла бы остаться независимой, Google предоставил вычислительные мощности и денежные средства. В результате Хассабис и его команда договорились о строгой независимости:

В рамках сделки DeepMind создала механизм, который запрещал бы Google единолично получать контроль над интеллектуальной собственностью компании. По словам человека, знакомого с этой сделкой, за год до приобретения обе стороны подписали контракт под названием «Соглашение об этической и безопасной проверке».

Новые подробности из 1843 раскрывают, как Этический совет будет иметь единоличный контроль над любым AGI DeepMind «в любое время его создания». Кто именно входит в эту комиссию, неизвестно, но ходят слухи, что в нее входят все три основателя DeepMind.

По словам того же источника, Это не просто косметическая уступка со стороны Google, а скорее Этический совет дает DeepMind прочную юридическую основу для сохранения контроля над своей самой ценной и потенциально самой опасной технологией.

После реорганизации контракт, предположительно, теперь применяется к более широкой управляющей структуре Alphabet.

Полная статья в 1843 — это увлекательное чтение, и далее в ней подробно рассказывается о том, что финансовая оптимизация Alphabet, похоже, пока не затрагивает DeepMind. Однако компания все больше вносит свой вклад, например, помогая управлять энергопотреблением в центрах обработки данных Google, или как Adaptive Brightness в Android Pie и Q работает на базе DeepMind.

Однако недавно возникла некоторая напряженность из-за того, как коммерциализированная работа DeepMind в области здравоохранения была переведена в прошлом году в развивающийся отдел здравоохранения Google; это вызвало опасения по поводу конфиденциальности данных. Также обсуждается, что подход DeepMind — обучение с подкреплением — к созданию AGI, который привел к появлению AlphaGo и AlphaStar, может в конечном итоге не оправдаться. Этот подход явно успешен в определенных задачах, но наука, лежащая в основе этих общеотраслевых исследований, все еще находится в стадии разработки.