Google Play сегодня «предоставляет рекомендации, призванные помочь разработчикам повысить качество и безопасность приложений на базе ИИ» по мере роста использования этих технологий, причем особое внимание уделяется расширенному тестированию.
Google начинает с рекомендации разработчикам ознакомиться с его Политикой в отношении контента, созданного с помощью ИИ:
- «Запретить и предотвратить создание ограниченного контента»
- «Предоставить пользователям возможность сообщать о недопустимом контенте или помечать его»: об этом было объявлено впервые в октябре
Тем временем разработчики должны позаботиться о том, чтобы эти приложения с генеративным ИИ правильно управлялись. Google удалит приложение из Play, если оно рекламируется «для ненадлежащего использования».
…просмотрите свои маркетинговые материалы, чтобы убедиться, что ваша реклама точно отражает возможности вашего приложения, и что вся реклама и рекламный контент, связанные с вашим приложением, на всех платформах соответствуют нашим требованиям к продвижению приложений.
Наконец, Google призывает к тщательному тестированию, включая наличие мер безопасности для «запросов, которые могут манипулировать вашей функцией генеративного ИИ для создания вредоносного или оскорбительного контента». Примечательно, что Google рекомендует разработчикам «начать документировать это тестирование, поскольку мы можем попросить его проверить в будущем, чтобы лучше понять, как вы обеспечиваете защиту своих пользователей».
Вы несете ответственность за то, как ваше приложение используется, поэтому крайне важно, чтобы вы понимали основные инструменты и модели ИИ, используемые для создания медиа, и чтобы эти инструменты были надежными, а результаты соответствовали политикам Google Play и уважали безопасность и конфиденциальность пользователей.
В будущем Google добавит «новые возможности для онбординга приложений», чтобы сделать «отправку приложения с генеративным ИИ в Play еще более прозрачной и удобной».
Сегодня Google также рассказал о том, как он использует большие языковые модели «для решения новых проблем, связанных с приложениями с функциями генеративного ИИ».
Мы используем новые технологии, такие как большие языковые модели (LLM), для быстрого анализа отправляемых приложений, включая огромные объемы текста, чтобы выявлять потенциальные проблемы, такие как сексуальный контент или разжигание ненависти, и помечать их для наших глобальных команд, чтобы они могли более внимательно их изучить. Это сочетание человеческого опыта и повышенной эффективности ИИ помогает нам улучшить процесс проверки приложений для разработчиков и создать более безопасную среду приложений для всех.