Компания Meta разработала новую систему AudioSeal, которая позволяет встраивать скрытые сигналы, известные как водяные знаки, в аудиоклипы, созданные искусственным интеллектом.
Что известно
Новая технология может помочь в борьбе с распространением дезинформации и мошенничества с использованием инструментов клонирования голоса. Например, она может указать, какие части аудио в часовом подкасте были сгенерированы AI. Несмотря на то, что водяные знаки еще не получили широкого распространения и отсутствует единый стандарт в индустрии, команда Meta достигла точности обнаружения водяных знаков между 90% и 100%, что является значительным улучшением по сравнению с предыдущими попытками. В то же время Meta пока не планирует применять водяные знаки к аудио, созданному с помощью ее инструментов. Кроме того, водяные знаки для контента, созданного ИИ, часто можно легко подделать или удалить.
AudioSeal доступен на GitHub и может быть использован для добавления водяных знаков к AI-сгенерированным аудиоклипам. В будущем его можно будет интегрировать в модели генерации AI-аудио, чтобы автоматически применять его ко всей сгенерированной речи. Работа над этой системой будет представлена на Международной конференции по машинному обучению в Вене, Австрия, в июле.
