Технологии синтеза речи в последние годы значительно продвинулись, при этом нейронные сети от DeepMind особенно хорошо создают реалистичные, человекоподобные голоса. Как и любая технология, она может быть использована во зло, и Google работает над продвижением передовых исследований в области обнаружения поддельного аудио.
В прошлом году Google News Initiative (GNI) объявила о своем намерении бороться с «дипфейками» и другими системами, которые пытаются обойти системы голосовой аутентификации.
Злоумышленники могут синтезировать речь, чтобы попытаться обмануть системы голосовой аутентификации, или они могут создавать поддельные аудиозаписи для дискредитации публичных фигур. Возможно, не менее тревожным является то, что осведомленность общественности о «дипфейках» (аудио- или видеоклипах, сгенерированных моделями глубокого обучения) может быть использована для манипулирования доверием к СМИ: по мере того, как становится труднее отличить реальный контент от измененного, злоумышленники могут более правдоподобно утверждать, что аутентичные данные являются поддельными.
В сотрудничестве с Google AI GNI сегодня выпустила корпус синтетической речи, содержащий тысячи фраз, произнесенных ее моделями синтеза речи по тексту (TTS) на основе глубокого обучения. Этот корпус содержит 68 синтетических «голосов» с различными региональными акцентами, читающих газетные статьи на английском языке.
Этот набор данных доступен участникам чемпионата ASVspoof 2019 для создания «средств противодействия поддельной (или «спуфинговой») речи с целью повышения безопасности систем автоматической верификации говорящего (ASV)».
Обучая модели как на реальной, так и на сгенерированной компьютером речи, участники ASVspoof могут разрабатывать системы, которые учатся различать их. Результаты будут объявлены в сентябре на конференции Interspeech 2019 в Граце, Австрия.
Это усилие также является частью Принципов Google в области ИИ, направленных на обеспечение «строгих мер безопасности для избежания непреднамеренных результатов, создающих риски вреда».
Посетите 9to5Google на YouTube для получения большего количества новостей: