Microsoft не будет публиковать свой генератор речи с искусственным интеллектом, потому что он «слишком реалистичен»

Vall-e 2 может имитировать человеческие голоса с жуткой реалистичностью. Настолько хорошо, что этот инструмент, возможно, никогда не покинет лабораторию Microsoft.

Microsoft Vall-e — генератор голоса на базе искусственного интеллекта. Первая версия была представлена ​​в январе 2023 года и может имитировать чей-то голос за доли нескольких секунд. Вал Е2 Он еще более мощный и может даже имитировать звуки, для которых не был специально обучен. Прослушав короткий клип, Валл-е 2 также меняет произношение и интонацию для создания синтетической речи.

Читайте также

VALL-E от Microsoft требуется всего три секунды, чтобы имитировать ваш голос

Любой, кто пробовал разговаривать с ИИ-помощником на разговорном языке, согласится, что такие инструменты часто кажутся слишком роботизированными. В случае с Vall-e 2 это уже не так. Исследователи Microsoft, обучавшие эту модель, утверждают, что Vall-e 2 — это первая модель преобразования текста в речь, достигшая «человеческого паритета».

Риск злоупотребления

Именно поэтому исследователи Microsoft считают, что разумно хранить модель в помещении. Хотя исследователи видят потенциальное применение в образовании, развлечениях, журналистике и других областях, риск неправильного использования будет слишком велик. «Валл-и-2 — это всего лишь исследовательский проект», — написано в нем черным по белому.

Даже при наличии первой версии Валле пессимисты опасались того, что произойдет, если реалистичная речевая модель станет доступна публике. Используя эту технологию, вы можете заставить людей достоверно говорить то, что они никогда бы не сказали, или заставить их думать, что вы кто-то другой по телефону. Сотрудник компании в Гонконге однажды был обманут ИИ-версией своего начальника; Неправильная оценка стоила миллионов евро.