Cámaras de “Super High Definition”, Inteligencia Artificial y Drones (o globos) de Vigilancia

En el año 2019, en mi último año como responsable ejecutivo de ElevenPaths y Chief Data Officer, poco antes de comenzar una nueva andadura como Chief Digital Consumer Officer, tuvimos el último Security Innovation Day. En aquel evento elegimos la temática de Blade Runner porque la película original estaba datada en un futuro lejano de un año 2019, exactamente en el que estábamos. En mi charla, que podéis ver en mi canal de youtube, yo hacía un recorrido a algunas tecnologías de seguridad, de pentesting, de hardening, de investigación y, por supuesto, de privacidad. 

Entre ellas, al final de mi presentación, hablaba de cómo las cámaras de Super-High Definition mezcladas con los avances en “Cognitive Services” para el reconocimiento facial ya eran una realidad. Se podría controlar a todas las personas de una gran área con fotografías de Super-High Definition de manera muy sencilla. 

Para hacer una demostración a las personas de cómo de potentes eran las cámaras comerciales SHD, es decir, las que pueden comprar las empresas, hacía una demo sencilla con una fotografía de 195 billones de píxeles de la ciudad de Shangai de la empresa china Big Píxel, que podéis ver en este vídeo y con la que podéis jugar en este enlace: Shangai Big Píxel.

Es decir, que si sumamos cámaras de Super-High Definition con servicios cognitivos de reconocimiento facial, de lectura de datos de vehículos, de generación de metainformación de una foto, de contado de personales, de reconocimiento de casi lo que queráis, tenemos un sistema de vigilancia en modo GIS generado de forma muy sencilla mezclando estos dos avances tecnológicos.

Por supuesto, este tipo de vigilancia de las ciudades está protegido en muchos países con limitaciones, pero lo cierto es que cada vez más (y mejor) la tecnología permite implementar estas soluciones de control que recuerdan mucho a la película de Enemigo Público, donde una persona no podía esconderse del mega-control de un país usando toda la potencia de estas tecnologías.

Por supuesto, esto no es perfecto, y su uso en fines militares empieza a ser un gran debate. En el año 2015, en el congreso de Future of Life, al final del mismo se firmó una carta abierta en la que se pedía el uso responsable de estas tecnologías. Elon Musk, Steve Wozniak, Bruce Shneier, en una larga lista pedían que el la Inteligencia Artificial no se explotara militarmente de esta forma.

Figura 9: KARGU – Autonomous Tactical Multi-Rotor Attack UAV

Pero esto ya está en uso y se ha utilizado en operaciones donde Drones han usado AI para elegir su objetivo y tomar la decisión de disparar y matar un objetivo. Esto generó mucha polémica en el año 2020 y Human Rights Watch levanto el caso de los Robots Asesinos que toman decisiones autónomas de vida o muerte usando tecnología. En un artículo del año 2021, hablaba de todo esto mi compañero Sergio Sancho, donde veíamos también los drones de ataque a objetivos tipo Kargu, y los sistemas militares que utilizan los enjambres de drones bomba como Kerkes para destruir objetivos militares.

La polémica está en que, si utilizan un sistema cognitivo basado en AI para el reconocimiento facial, y esta falla, podrían estar atacando al objetivo equivocado. Y por eso, yo ponía el ejemplo de cómo el servicio cognitivo de reconocimiento facial de Microsoft Azure me confundía con George Clooney, algo que este verano pasado volví a probar con otra IA en otra fotografía, y volvía a suceder.

Todo esto que conté en el año 2019, y que es un debate abierto desde el año 2015, se ha vuelto a poner de actualidad por culpa de los globos chinos que estaban sobre volando EEUU y que han sido derribados por este último país. Y de todo esto es para lo que me invitó ayer el gran Iker Jiménez para hablar en su programa Horizonte de ayer. De cómo funcionan estas tecnologías y qué podrían hacer o no.

Lo cierto es que la preocupación es grande, y empresas como Google, Microsoft, o nosotros mismos en Telefónica, tenemos controles éticos para el uso de la Inteligencia Artificial en determinados proyectos, y hay que reportar su uso y validarlo.

En el caso de Microsoft, este equipo ha puesto limitación al uso de los sistemas de Inteligencia Artificial para el reconocimiento facial, por las implicaciones que esto supone hoy en día, pero… ya os garantizo que no todas las empresas tienen esos controles y que el uso de la IA en la industria militar para la selección de objetivos ya empieza casi a ser algo que todos tienen como capacidad.

¡Saludos Malignos!