По мере того как Google готовится к запуску Bard для широкой публики, компания просит своих сотрудников помочь в обучении ИИ, переписывая его плохие ответы.
CNBC сообщает, что вице-президент Google по поиску Прабхакар Рагхаван на этой неделе отправил сотрудникам письмо с просьбой помочь в обучении Bard, исправляя неправильные или плохие ответы. Письмо содержало страницу с рекомендациями «что можно и чего нельзя» делать сотрудникам при исправлении ответов Bard, а также стимулировало сотрудников писать исправления, присваивая им «значок Moma», который появлялся на внутренних профилях сотрудников.
В документе с рекомендациями «что можно и чего нельзя» содержится просьба к сотрудникам взаимодействовать с Bard, чтобы помочь протестировать его возможности, а также ускорить обучение модели. По темам, которые сотрудники «хорошо понимают», в документе содержится просьба переписывать неправильные ответы.
В документе говорится, в частности:
Bard лучше всего учится на примерах, поэтому, если вы потратите время на вдумчивое переписывание ответа, это очень поможет нам улучшить [модель].
Далее добавляется, что при переписывании ответов сотрудники должны делать это «вежливо, непринужденно и доступно», сохраняя при этом «непредвзятый, нейтральный тон» и используя первое лицо. В документе также говорится, что ответы не должны содержать стереотипов и «избегать предположений, основанных на расе, национальности, поле, возрасте, религии, сексуальной ориентации, политической идеологии, месте проживания или аналогичных категориях». Ответы также не должны «выражать эмоции» или «утверждать, что имеют человеческий опыт».
Когда речь заходит о более деликатных темах, таких как «юридические, медицинские, [или] финансовые консультации», или если Bard отвечает чем-то ненавистническим или оскорбительным, сотрудникам рекомендуется ставить «большой палец вниз», предположительно, имея в виду интерфейс, который Google ранее демонстрировал, вместо того чтобы переписывать ответы.
«Топ-10» участников из организации «Знания и информация» также получат возможность поделиться своим мнением непосредственно с Рагхаваном, согласно письму.
Рагхаван сказал:
Это захватывающая технология, но она еще на ранней стадии. Мы чувствуем большую ответственность за то, чтобы сделать ее правильно, и ваше участие в «догфуте» поможет ускорить обучение модели и протестировать ее грузоподъемность (не говоря уже о том, что попробовать Bard на самом деле довольно весело!).
Это происходит на фоне того, что многие за последнюю неделю обнаружили, что ИИ Bing от Microsoft имеет тенденцию сбиваться с курса после определенного момента, часто давая ответы, которые прямо противоречат тому, чего, похоже, старается избегать Google в этом обучении.
Связанное: Хотите ли вы использовать ИИ-поиск, такой как Bard от Google и новый Bing от Microsoft? [Опрос]
Это также происходит после негативной реакции на объявление Bard. Анонс Google в целом был сочтен неубедительным, а сотрудники Google, как сообщается, назвали запуск «провальным» и «спешным», прямо критикуя генерального директора Сундара Пичаи и руководство Google. Ошибка в ранних предварительных версиях Bard также способствовала огромному падению акций Alphabet.