México no está listo para el reconocimiento facial ético

Las ciudades inteligentes son parte del futuro, pero para su construcción ética se necesita de una regulación desde el lado de las políticas públicas, pero en México no existe un enfoque claro en este sentido, a diferencia de otras regiones del mundo, como la Unión Europea. José Cantú, especialista técnico de Genetec, empresa enfocada en el software para la seguridad electrónica, resalta que para la construcción de ciudades inteligentes, la ética es fundamental para no vulnerar los derechos humanos y, de hecho, pueda representar un beneficio para las sociedades en las que se implementan sistemas de vigilancia. Si bien uno de los principales temores de la gente respecto a estos sistemas es que los utilicen los gobiernos en tareas de vigilancia, como sucede en China, donde existe un sistema de puntos para premiar o degradar socialmente a las personas, Cantú resalta que las empresas también deben imponerse a los clientes gubernamentales para asumir una responsabilidad ética y evitar este tipo de conductas.

Los software de reconocimiento facial, explica, deben generar videos en donde no se identifiquen los rostros o cuerpos de forma predeterminada, es decir, se vean borrosos, y únicamente aportar esa información en caso de que se requiera para complementar una investigación forense.

México todavía debe apuntalar sus esfuerzos El año pasado, uno de los casos más criticados respecto al uso de la tecnología para tareas de vigilancia fue el Plan Angel, propuesto por el excanciller Marcelo Ebrard, donde se buscaba usar tecnología en tareas de seguridad pública por medio de reconocimiento facial, reconocimiento morfológico, drones rastreadores de vehículos y bases de datos conectadas a sistemas de Inteligencia Artificial. No obstante, defensores de derechos digitales argumentaron que a pesar de que estas herramientas de vigilancia fueron promocionadas como soluciones “mágicas” a la inseguridad y delincuencia, eran parte de una narrativa que “oculta la evidencia documentada de sus múltiples fallas, los abusos y fines autoritarios con que se han implementado”. Otro de los argumentos de los activistas al respecto es que un sistema de vigilancia masivo implica un monitoreo permanente de toda la población con la desventaja de que estas tecnologías cometen errores por los cuales se arrestan a personas inocentes. Además de este ejemplo, en México los usuarios no tienen una garantía de protección para todos por igual aun cuando existe la Ley de Protección de Datos Personales, pues tan sólo en 2022, 88 millones de usuarios de internet (22%) reportaron haber sufrido alguna vulneración de ciberseguridad.

Una de las explicaciones que aporta la firma de ciberseguridad Eset es que la mayoría de las normativas relativas a la protección de datos personales, en muchos de los países de Latinoamérica, data de hace más de 10 o 20 años y resultan insuficientes frente al actual estado de la tecnología. En el caso de la regulación mexicana, Eset menciona que su eje central es la garantía a los particulares de los derechos ARCO (aceptación, rectificación, cancelación y oposición). No obstante, la misma legislación cuenta con más de 10 años de antigüedad y no abarca cuestiones actuales de internet o la Inteligencia Artificial, entre otros aspectos. Por otra parte, Cantú destaca que a pesar de las críticas, también puede haber usos positivos de esta tecnología como establecer mecanismos para encontrar a personas desaparecidas, aunque acepta que primero es necesario cumplir con regulaciones y marcos éticos. “Necesitamos que se legisle desde la parte del gobierno, pero también por parte de la industria privada deben tener esos candados para proteger la privacidad, aunque lamentablemente no lo podemos forzar y lo único que podemos hacer es recomendar y predicar con el ejemplo”, menciona el especialista. Destaca el papel de la UE, la cual cuenta con el Reglamento General Europeo de Protección de Datos (GDPR, por sus siglas en inglés), el cual es fundamental para la protección de la privacidad en el bloque y se ha convertido en uno de los principales ejemplos para otras zonas del mundo en cuanto Asimismo, agrega que en 2024 las ciudades tendrán un compromiso creciente para generar más confianza en el público y fortalecer los esfuerzos de privacidad, por medio de diversas estrategias, como elegir soluciones desarrolladas con privacidad por diseño para tener el control completo sobre los datos que recopilan, manejan y comparten. Otro de los elementos importantes durante este año será la asociación entre proveedores de tecnología confiables para garantizar que todas las líneas de defensa estén optimizadas, ser más transparentes sobre las medidas adoptadas para proteger la información y compartir métricas de cómo las inversiones en tecnología mejoran la seguridad de la comunidad, así como crear programas de asociación que permitan a los ciudadanos informar incidentes, ofrecer comentarios y participar en esfuerzos de vigilancia comunitaria.

]]>