OpenAI lancia l’intelligenza artificiale vocale: Voice Engine

OpenAI lancia Voice Engine: una AI che replicale voci umane con precisione, utile per l’accessibilità e le traduzioni, ma potenzialmente pericolosa per deepfake e truffe.

OpenAI ha svelato un nuovo strumento di intelligenza artificiale che può imitare le voci umane con sorprendente precisione. Il generatore di voci IA ha una serie di possibili applicazioni, compresi i servizi di accessibilità, ma potrebbe anche sollevare preoccupazioni in merito alla disinformazione (deepfake) e ad altre forme di truffa.

OpenAI Voice Engine

OpenAI ha condiviso alcuni dei primi test effettuati con il nuovo strumento, chiamato Voice Engine, che utilizza un campione di 15 secondi di una persona che parla per generare una convincente replica della sua voce. Gli utenti possono quindi registrare la lettura di un paragrafo di testo e lo strumento leggerà poi qualunque cosa con la voce generata dall’IA.

L’intelligenza artificiale vocale

Esistono già diversi servizi di voci generate dall’ AI disponibili ma, come ha fatto con il chatbot di grande successo di ChatGPT, OpenAI si è dimostrata particolarmente abile nel diffondere l’adozione di nuove tecnologie.
Una piattaforma di text-voice alimentata dall’AI potrebbe migliorare con le traduzioni, essere impiegata nell’assistenza alla lettura per i bambini o per ridare voce alle persone che l’hanno persa. Ma alcuni scettici temono che potrebbe anche alimentare la creazione di messaggi ingannevoli o facilitare le truffe. OpenAI afferma che Voice Engine è attualmente utilizzato solo da un “piccolo gruppo di partner fidati”, tra cui aziende tecnologiche nel settore dell’educazione e della sanità, e che utilizzerà i loro test per determinare se e come permettere un uso più diffuso. Questi tester hanno accettato di non ricreare le voci delle persone senza il loro esplicito consenso e di identificare chiaramente agli ascoltatori che ciò che stanno ascoltando è generato dall’IA, secondo quanto riferito dall’azienda.

I rischi della AI vocale

“Riconosciamo che generare un audio che somiglia alla voce di persone reali comporta seri rischi, che sono particolarmente presenti in un anno elettorale”, ha affermato OpenAI in un post sul blog. L’azienda ha riconosciuto la necessità di importanti cambiamenti man mano che l’audio generato dall’AI diventerà più diffuso, anche se non prevede di rilasciare immediatamente Voice Engine al pubblico. Addirittura l’azienda suggerisce di eliminare l’autenticazione vocale per i conti bancari.
“Qualsiasi implementazione su larga scala di voci sintetiche dovrebbe essere accompagnata da esperienze di autenticazione vocale che verificano che il soggetto originale stia consapevolmente aggiungendo la sua voce al servizio e un elenco di voci non ammesse che impedisca la creazione di voci troppo simili a figure di rilievo”, ha detto OpenAI.
Voice Engine può utilizzare un campione vocale in una lingua per creare una voce AI che può parlare in diverse altre lingue.
Il post sul blog di OpenAI mostra un esempio in cui il clip audio registrato una persona viene trasformato in spagnolo, mandarino, tedesco, francese e giapponese. Nelle registrazioni generate dall’intelligenza artificiale, sia il tono che l’accento del parlante originale vengono fedelmente preservati. Qui sotto ci sono alcuni esempi audio di OpenAI che mostrano come funziona Voice Engine.

Riferimento

 

Francese

Spagnolo