Как понять, что голос создан ИИ или клонирован

Сегодня нескольких секунд записи достаточно, чтобы подделать чей угодно голос. В аудиофайлах меньше метаданных, чем в изображениях, и они быстро портятся в звонках и мессенджерах, поэтому проверка во многом опирается на детекторы, читающие сам звук.

Сначала файл и водяной знак

Некоторые сервисы и открытые инструменты встраивают неслышимые водяные знаки. Origma читает часть публичных аудиознаков и проверяет контейнер и запись кодировщика. Подтверждённая метка — сильное доказательство, но в большинстве гуляющих копий её уже нет.

Что слышит детектор

Синтезированная речь оставляет в дыхании, шуме и распределении частотных полос иные закономерности, чем записи людей. В блоке выше — аудионабор. По решению руководства порог для аудио допускает отметку до 3 % записей людей, поэтому он чаще, чем для изображений, может ошибочно отметить человека.

Записи звонков и перекодирование

Телефонные сети и мессенджеры сжимают звук в узкую полосу. По пути теряется многое из того, что читает детектор, поэтому записи звонков чаще получают «вывод отложен». Оригинальный файл, если он есть, гораздо точнее.

Если подозреваете голосовое мошенничество

Не ждите оценки: сначала свяжитесь с человеком напрямую по другому каналу. Результат лишь помогает решению, и если просят деньги, правило одно — не платить до подтверждения, что бы ни показал результат.

Частые вопросы

Можно ли проверить несколько секунд аудио?
В очень коротких фрагментах мало материала, они получают «вывод отложен». Чем длиннее, тем стабильнее.
Может ли настоящий голос быть отмечен как ИИ?
Да. Порог для аудио допускает отметку до 3 % записей людей, и мы говорим об этом открыто.
Работает ли это с песнями и музыкой?
Детектор настроен на речь, поэтому на музыке результаты менее стабильны и чаще «вывод отложен».
Скажет ли он, чей это голос?
Нет. Он не определяет говорящего, а только оценивает, был ли звук вероятно сгенерирован.

Читать дальше

Это общее пояснение, а не юридическая консультация. Результат проверки — вероятностная оценка, а не доказательство.

Попробовать на файле