Los peligros de la clonación de voz en Horizonte

El pasado jueves por la noche los grandes Iker Jiménez y Carmen Porter me invitaron unos minutos a su programa Horizonte, para hablar un rato de la Clonación de Voz y cómo algunos lo están utilizando para hacer ciberestafas, suplantando a personas cercanas, famosos o ejecutivos de empresas. De este tema os hablé en el artículo de Are You Talkin’ Ta Me?, que se basa en la presentación que preparamos desde el equipo de Ideas Locas para la pasada RootedCON.

El programa completo lo puedes ver online, y la sección dedicada a la clonación de voces la tienes al principio. Y el programa completo lo puedes ver online en la web, así que si quieres ver de lo que hablamos, aquí lo tienes.

Para este programa, como vais a poder ver, preparamos algunos ejemplos sencillos basados en DeepFakes de Audio, que luego empleamos en hacer alguna DeepFake de Vídeo, a partir de una fotografía estática que animamos con un modelo de Talking Heads, y que sincronizamos con un algoritmos de Lips Syncing.

En algún artículo más adelante os contaremos cómo hacer estos ejemplos, que es bastante sencillo, pero aquí tenéis un ejemplo con el script en Pyhton que hemos hecho para generar con la voz clonada de una persona los mensajes de audio que desees.

Y un ejemplo de los que utilizamos en el programa, basados en la animación de una fotografía para luego sincronizar los labios y que encaje con el audio que acabamos de crear. Por supuesto, estamos jugando, pero esto se puede utilizar como herramienta de ciberestafa o difamación para hacer daño o engañar a las personas.

Vamos a ver muchos incidentes de seguridad en los que se emplean este tipo de técnicas de clonación de voz y de DeepFakes en vídeo conferencias en el futuro, ya que, la llegada de los humanos sintéticos digitales perfectos está a la vuelta de la esquina, y vamos a tener que desarrollar nuevas medidas de seguridad para protegernos de ellos.

Por último, si queréis proponer algún tema para tratar en Horizonte, además de que me lo digáis a mí si queréis, podéis contactar con Iker Jiménez o Carmen Porter en MyPublicInbox, donde ellos tienen buzones de contacto público.

Estamos preparando para este verano un “juguete” muy divertido que esperemos que os guste, ya que llevamos más de un año con él, y cada día lo vamos cambiando un poco con todos los avances que van apareciendo. Pero tiene que ver con estas cosas y a nosotros nos ha encantado jugar con todo esto. Si queda muy chulo, lo llevaré al programa de visita.

¡Saludos Malignos!