Волшебный редактор Google Фото — это впечатляющий инструмент редактирования на основе искусственного интеллекта, который может превратить снятые фотографии во что-то совершенно искусственное. Хотя это потенциально проблематично, Google установил набор ограничений на то, что вы можете и чего не можете редактировать, хотя, похоже, не очень хорошо их соблюдает.
То, что начиналось как «Волшебный ластик», превратилось в гораздо более широкий инструмент редактирования на основе ИИ, дебютировавший на Pixel 8. То, что было ограничено в некоторых аспектах, превратилось в полноценный инструмент, позволяющий пользователям по своему усмотрению полностью изменять фотографии. Но инструмент не идеален и все еще демонстрирует признаки необходимости доработки.
Тем не менее, инструменты на базе ИИ, такие как Волшебный редактор, могут подделывать документы или личности. Когда-то это было оптимистично футуристическое представление, но за последний год оно стало реальностью, особенно благодаря генеративному ИИ от Google.
К счастью, похоже, что Google уже предусмотрел препятствия, которые мешают таким сценариям стать реальностью.
Волшебный редактор в Google Фото имеет ряд ограничений, которые не позволяют приложению изменять определенные элементы на фотографиях, как выяснили сотрудники Android Authority. При попытке отредактировать что-то запрещенное появляется сообщение об ошибке; такие элементы, как удостоверения личности, квитанции и другие конфиденциальные документы, противоречат условиям использования генеративного ИИ от Google. То же самое касается лиц и частей тела.
Код в приложении «Фото» содержал несколько других элементов, которые вызывали бы всплывающее сообщение, в том числе:
- Волшебный редактор не может редактировать фотографии удостоверений личности, квитанций и других документов, нарушающих условия использования GenAI от Google. Попробуйте Волшебный редактор на другой фотографии.
- Волшебный редактор не может редактировать лица. Попробуйте выбрать что-нибудь другое.
- Волшебный редактор не может стирать или перемещать большие выделенные области. Попробуйте сделать меньшее выделение.
- Волшебный редактор не может редактировать части людей. Попробуйте выбрать что-нибудь другое.
- Волшебный редактор не может создавать изображения, которые могут содержать персональные данные. Попробуйте ввести что-нибудь другое.
Если вы попытаетесь отредактировать один из этих элементов, Волшебный редактор, в идеале, не позволит вам продолжить редактирование, и появится сообщение об ошибке. Это, однако, в идеальном сценарии. Источники сообщают, что эти ограничения были обойдены путем редактирования счетов, которые подпадают под категорию «конфиденциальные документы».
Эти ограничения — действительно долгожданное зрелище. Поскольку генеративный ИИ от Google становится еще более мощным, чем сейчас, вероятно, потребуются более разумные и агрессивные ограничения. Подделка документов — это последнее, что Google должен уметь делать, не говоря уже о том, чтобы предоставить доступ к этому любому пользователю Pixel.
Однако, в ходе нашего краткого тестирования сегодня утром нам не удалось заставить эти предупреждения срабатывать. Например, попытка отредактировать изображение водительских прав прошла успешно. Ранее мы замечали сообщения, связанные с попытками редактировать большие выделенные области, но это все. Поэтому неясно, является ли это изменением, которое вносит Google, или чем-то, что уже существует.
Бен Схун внес вклад в эту статью.