Интересная история о том, как голосовые технологии ElevenLabs оказались замешаны в российской кампании по дезинформации в Европе. Компания Recorded Future обнаружила серию фейковых новостных роликов, направленных против поддержки Украины, где использовались сгенерированные AI голоса на разных европейских языках без акцента (что забавно, когда использовались реальные дикторы, был заметен русский акцент).

За кампанией, по данным исследователей, стоит российское Social Design Agency, которое уже попало под санкции США за создание сети из 60 сайтов, имитирующих европейские СМИ.

Для ElevenLabs это уже не первый скандал — недавно их технологии использовались для создания фейковых робозвонков от имени Байдена с призывом не ходить на праймериз. При этом компания активно растет: выручка выросла с $25 до $80 млн за год, а оценка может достичь $3 млрд. Среди инвесторов — Andreessen Horowitz и бывший CEO Github.

Впрочем, я игрался с ней, в том числе используя мой клонированный голос. К сожалению, с интонациями в славянских языках у машин пока сложно, а bobuk утверждает, что и голос на мой не очень похож.

https://techcrunch.com/2024/12/10/elevenlabs-ai-voice-generation-very-likely-used-in-a-russian-influence-operation/