Google стремится обуздать рост дипфейк-видео в интернете, выпуская серию примеров видео, чтобы помочь исследователям разработать более точные методы обнаружения.
Этот шаг был анонсирован в блоге Google AI, где компания подтвердила, что работала в сотрудничестве с Jigsaw — фирмой, созданной в рамках инкубационной программы Google.
Google серьезно относится к обнаружению дипфейков, поскольку видеотехнологии могут быть использованы в злонамеренных целях. Мы уже видели случаи использования дипфейк-видео для имитации политиков, и это может быть только началом.
Google более года напрямую работал с актерами над созданием серии дипфейк-видео исключительно для целей этого исследования. Глядя на примеры, некоторые подделки очень легко распознать, в то время как другие удивительно реалистичны — и даже более того, если у вас не было точки отсчета.
Google серьезно относится к этим проблемам. Как мы опубликовали в наших Принципах ИИ в прошлом году, мы стремимся разрабатывать лучшие практики ИИ для смягчения потенциального вреда и злоупотреблений.
В январе прошлого года мы объявили о выпуске набора данных синтетической речи в поддержку международного конкурса по разработке высокопроизводительных детекторов поддельного аудио. Набор данных был загружен более чем 150 исследовательскими и отраслевыми организациями в рамках конкурса, и теперь он свободно доступен для общественности.
Сегодня, в сотрудничестве с Jigsaw, мы объявляем о выпуске большого набора данных визуальных дипфейков, которые мы произвели и которые были включены в новый эталон FaceForensics от Технического университета Мюнхена и Университета Федерико II в Неаполе, — инициативу, которую Google софинансирует.
Интеграция этих данных в видеоэталон FaceForensics осуществляется в партнерстве с ведущими исследователями, включая профессора Маттиаса Нисснера, профессора Луизу Вердоливу и команду FaceForensics. Вы можете скачать данные на странице FaceForensics на GitHub.
Не потребуется эксперт, чтобы понять, что возможность создания видео, где вы говорите то, чего не говорили на самом деле, может нанести ущерб вашей репутации или личной безопасности. Очевидно, выпуская собственные наборы данных и видеопримеры, Google хочет помочь исследователям разработать системы обнаружения для впечатляющих видео-ИИ технологий.
Google также подтвердил, что набор видеоданных будет продолжать расти и развиваться, чтобы помочь исследователям разрабатывать еще более точные системы обнаружения дипфейков по мере развития технологий.