Si aún no estás preocupado por la clonación de voz por inteligencia artificial, probablemente deberías estarlo.
Para poner a prueba los límites de esta tecnología, el periodista Joseph Cox, de Vice, accedió a su propia cuenta bancaria utilizando un clon de su voz sintetizado por inteligencia artificial para demostrar su identidad, lo que pone de manifiesto tanto el peligroso potencial de esta tecnología como las deficiencias de la biometría vocal.
Cuando Cox llamó a la línea de atención automática del banco británico Lloyds Bank, el robot que estaba al otro lado le pidió que dijera el motivo de su llamada. Cox le pidió que “comprobara mi saldo”, para lo que utilizó un clip de sonido de su voz sintetizado por inteligencia artificial.
El banco le pidió entonces su fecha de nacimiento, que Cox introdujo, antes de pedirle que dijera en voz alta “mi voz es mi contraseña”.
“Mi voz es mi contraseña”, afirmó el clon de voz de Cox.
“Gracias”, respondió el banco. Y ahí lo tienen: un clon de voz de inteligencia artificial dirigido por un ser humano se abrió camino hasta una cuenta bancaria, permitiendo a su portador acceder a los saldos y transacciones recientes de la cuenta.
“No me lo podía creer: había funcionado”, escribió Cox.
Atrápalos si puedes
Por suerte, esta vez el que lo hizo fue el propietario, pero nada garantiza que en el futuro los hackers malintencionados no puedan realizar la misma estafa a personas desprevenidas.
Cox utilizó una herramienta de clonación de voz de IA barata y popular de ElevenLabs, que puede que ya hayas visto desplegada en memes virales de una voz falsa de Joe Biden y en las alcantarillas de 4chan.
Para producir una copia convincente, lo único que tiene que hacer el usuario de la herramienta es subir muestras de la voz que quiere clonar y escribir lo que quiere que diga el clon, sin necesidad de conocimientos técnicos.
Cox afirma que utilizó otras herramientas de inteligencia artificial para intentar realizar el trabajo del banco, pero ninguna, salvo ElevenLabs, fue capaz de eludir la autenticación.
La biometría de voz se utiliza en varios bancos, como Chase, Wells Fargo y TD Bank, para verificar a los titulares de cuentas que llaman por teléfono.
El Lloyds Bank, donde se coló el clon de Cox, afirma que su “segura” función de seguridad Voice ID analiza más de “100 características diferentes de tu voz, que al igual que tu huella dactilar, son únicas para ti”.
En estos momentos, el fraude de la clonación de voz no está arrasando en todo el mundo, ya que no siempre resulta práctico para un hacker obtener tu voz -a menos que seas famoso-, pero probablemente sea mejor no confiar en ella como única línea de defensa.
Y aunque tu voz sea única para ti, está claro que no lo es para una IA, al menos a los ojos de la biometría.
Fuente: Futurism
