Cómo detectar que un empleado de tu empresa está sufriendo una estafa con Deepfakes

Uno de los proyectos a los que más cariño estamos dando en Tu.com es Tu Verifai, la versión empresarial del proyecto AutoVerifAI que os dejamos en abierto desde hace tiempo para que lo probéis. La idea es tan sencilla como poder detectar vídeos o imágenes generadas con GenAI o que sean DeepFakes utilizando diferentes algoritmos de inteligencia artificial.

Hoy os voy a hablar de una de las capacidades que tiene, utilizando su API empresarial para poder analizar imágenes o vídeos, y descubrir si se está utilizando una DeepFake. 

Dejadme que os haga un ejemplo muy sencillo con una sesión de Microsoft Teams en la que un empleado está siendo engañado por un atacante que está ocultando su verdadero aspecto usando una DeepFake.

En este caso el atacante está usando un software que permite usar DeepFake en tiempo real, y esta salida es la que está retransmitiendo por la cámara que está configurada en su reunión de Microsoft Teams, por lo que está ocultando su verdadero aspecto en una reunión virtual de tu empresa.

Lo que estamos haciendo ahora con nuestra tecnología es seleccionar trozos de vídeo o simplemente fotogramas de la cámara de nuestro interlocutor, y enviarlos vía API al servidor de Tu VerifAI – la versión profesional para empresas de AutoVerifAI -. 

Para hacer esto, usamos una Consola de Seguridad Centralizada que recibe los fotogramas y los analiza con el API de Tu VerifiAI, dándonos una lista de posibles resultados, entre otros, el de Posible DeepFake.

Si filtramos en la consola solo por los que han dado el resultado de «Posible DeepFake«, podremos hacer un análisis más detallado de los posibles ataques están recibiendo nuestros empleados, tal y como vemos en la imagen siguiente.

Y si entramos en cada uno de estos análisis, podemos ver los resultados de ese análisis, los fotogramas y los algoritmos que han detectado la posible DeepFake en cada una de estas alertas. Aquí tienes un ejemplo de cómo han saltado unas alarmas.

Si quieres probar estas tecnologías, integrar esta solución en tus productos, o en las herramientas de vídeo conferencia de tu organización, no dudes en ponerte en contacto con nosotros a través de la web de Tu para Empresas, y te ayudaremos con ello.

Por supuesto, si quieres ser nuestro partner, y distribuir estas tecnologías o ayudar a desplegarlas en tus clientes, también contacta con nosotros.

¡Saludos Malignos!