Google Research сегодня анонсировал ИИ-архитектуру нового поколения под названием «Pathways». Этот «новый взгляд на ИИ» призван устранить существующие «слабые стороны нынешних систем».
Google утверждает, что Pathways может «обучать одну модель выполнять тысячи или миллионы задач», в отличие от нынешнего, сильно индивидуализированного подхода. Старый метод занимает много времени и требует «значительно больше данных», поскольку каждый раз фактически начинается с нуля.
Вместо того чтобы расширять существующие модели для изучения новых задач, мы обучаем каждую новую модель с нуля выполнять одну и только одну задачу (или иногда мы специализируем общую модель для конкретной задачи). В результате мы разрабатываем тысячи моделей для тысяч отдельных задач.
Pathways может «использовать и комбинировать свои существующие навыки для более быстрого и эффективного изучения новых задач». Подобно работе человеческого мозга, особенно млекопитающих, это приводит к созданию ИИ-модели, способной выполнять множество различных задач.
Как и в случае работы Google над MUM и Lens в следующем году, Pathways «может обеспечить мультимодальные модели, которые одновременно охватывают понимание зрения, слуха и языка», подобно тому, как человек использует несколько чувств для восприятия мира. В настоящее время ИИ-модели выбирают для анализа один корпус данных за раз: текст, изображения или речь.
Таким образом, обрабатывает ли модель слово «леопард», звук произнесения слова «леопард» или видео с бегущим леопардом, внутренне активируется один и тот же ответ: концепция леопарда. В результате получается более проницательная модель, менее подверженная ошибкам и предубеждениям.
Для анализа также могут использоваться более абстрактные формы данных:
И, конечно же, ИИ-модель не обязательно должна быть ограничена этими знакомыми чувствами; Pathways может обрабатывать более абстрактные формы данных, помогая находить полезные закономерности, ускользающие от человеческих ученых в сложных системах, таких как климатическая динамика.
В дополнение к обобщению, Google заявляет, что Pathways допускает определенную степень специализации с ИИ-моделями, которые являются «разреженными и эффективными», поскольку им не нужно активировать всю нейронную сеть для выполнения простой задачи:
Мы можем построить одну модель, которая активируется «разреженно», что означает, что активируются только небольшие пути через сеть по мере необходимости. Фактически, модель динамически изучает, какие части сети хорошо справляются с определенными задачами — она учится направлять задачи через наиболее релевантные части модели. Большим преимуществом такой архитектуры является то, что она не только имеет большую емкость для изучения различных задач, но и быстрее и гораздо энергоэффективнее, поскольку мы не активируем всю сеть для каждой задачи.
Google надеется, что Pathways переведет вычисления из «эры одноцелевых моделей, которые просто распознают закономерности, в эпоху более универсальных интеллектуальных систем, отражающих более глубокое понимание нашего мира и способных адаптироваться к новым потребностям». На практике это должно позволить создавать более вспомогательные инструменты в различных областях.
ИИ призван помочь человечеству справиться с одними из самых трудных задач, с которыми мы когда-либо сталкивались, от хронических проблем, таких как болезни и неравенство, до возникающих угроз, таких как изменение климата.