Calidad, seguridad y gobernanza de los datos en entornos de IA

Byte TI organizó un encuentro para hablar sobre la importancia y la gobernanza de los datos en la empresa. El almuerzo contó con la participación de Manuel Rodríguez, Director Área Tecnología y Procesos en Agroseguros; Fernando Sanz de Galdeano, CISO de Arcano Partners; Juan Pedro Gozalo, Information Technologies Head of Hyperautomation en Allfunds; Ángel Báscones, Profesional TIC Independiente; Vanessa Perales, directora de data de Devoteam; Fernando Gutiérrez, Account Executive en Strategy; Jesús Salvador Cano, CDO en Guardia Civil; Rafael C. Socorro, Head of Data & Advanced Analytics en Acciona; Carlos Pino, Key Account Manager de Devoteam y Juan de la Torre, Director de Marketing de Devoteam.

Al comienzo del encuentro sobre la calidad y la gobernanza de los datos, los representantes de Devoteam explicaron el enfoque transversal de la compañía. “Somos partners de Microsoft, Google y AWS y nos focalizamos en que las empresas implementen una cultura de los datos en sus procesos y entre sus empleados”, subrayó Vanessa Perales, directora de data de Devoteam, al explicar cómo su ecosistema de socios les permite ofrecer “todo tipo de soluciones” y acompañar la evolución de los clientes. En la misma línea, Juan de la Torre, Director de Marketing de Devoteam, recordó que la consultora no solo se centra en datos, sino que también abarca “procesos, ciberseguridad, cloud” y que “la IA ya empieza a jugar su papel en todas nuestras soluciones”.

Por su parte, Fernando Gutiérrez, Account Executive en Strategy, situó a su compañía como un actor veterano e independiente: “Llevamos 36 años en el mercado trabajando con analítica y somos independientes, lo que nos posibilita trabajar con todo tipo de compañías… Siempre hemos trabajado con la analítica, pero ahora nos centramos también en el gobierno del dato porque es fundamental en el contexto actual”.

​La IA entra en la gobernanza de los datos. De los pilotos a la adopción masiva

El papel de la IA en la seguridad, gestión y gobernanza de los datos en las organizaciones fue uno de los ejes centrales, con una gran disparidad de madurez según el sector. Manuel Rodríguez, Director Área Tecnología y Procesos en Agroseguros, explicó que “la IA está creciendo en importancia” y que ya la han adoptado “en procesos de alto valor”, pero avanzan hacia una adopción masiva: “A partir del año que viene vamos a incorporar un proceso para que todo el personal integre la IA en su trabajo diario para que vea en qué le puede beneficiar y también cuáles son los riesgos”. En paralelo, añadió, quieren hacer “algo más concentrado en el ciclo de vida de desarrollo”.

En el mundo de la banca de inversión, Fernando Sanz de Galdeano, CISO de Arcano Partners, ve un momento similar al del salto al cloud: “Arcano es una banca de inversión y, en este sentido, creemos que la IA va a ser esencial porque creemos que estamos ante una situación similar a la del cloud hace 20 años”. Tal y como explicó, su estrategia pasa por identificar qué herramientas específicas aportan valor al negocio y, cuando “no está maduro” o “no existe una herramienta comercial” o “es muy caro”, plantearse desarrollarlo internamente.

Desde el ámbito de la gestión de activos, Juan Pedro Gozalo, Information Technologies Head of Hyperautomation en Allfunds, relató una aproximación muy práctica: “Desde el departamento TIC ya tenemos procesos de producción… Trabajamos con Google, pero no nos cerramos a otras tecnologías”. Uno de sus casos de uso es “la parte de comparativa de fondos con IA para que los clientes puedan ver cuál es la mejor opción”, apoyado en una arquitectura “agnóstica” que evita tener que cambiar la arquitectura si adoptan nuevas tecnologías y en la centralización “de toda la parte de data en el cloud”.

Sectores rezagados y transformación forzada

En contraste, con los avances de otros sectores Ángel Báscones, Profesional TIC Independiente, puso el foco en un sector más rezagado como es el legal. “El sector legal no invierte mucho en tecnología y está por detrás de otros sectores”, afirmó, señalando que la transformación digital está empujando a los despachos a cambiar sus procesos e invertir en tecnología. “Muchas tareas que hacían los abogados ahora las hace la IA, así que toda la parte de la consultoría se está transformando”, apuntó, subrayando que el “reto principal en este sector es el gobierno del dato”, más allá de contar simplemente con gestores documentales.

En el sector público, Jesús Salvador Cano, CDO en Guardia Civil, indicó que la IA ya está más presente de lo que se percibe. Tal y como expuso, “mi impresión es que no nos estamos dando cuenta pero la estamos incorporando en todos los proyectos”, poniendo como ejemplo el reconocimiento facial, que “no se considera IA cuando lo es”. Hay proyectos para “incorporar la IA para mejorar la seguridad pública” y se está reflexionando sobre cómo incrementar el uso de IA generativa “para mejorar la parte burocrática”.

Desde el ámbito de la construcción y la energía, Rafael C. Socorro, Head of Data & Advanced Analytics en Acciona, planteó una mirada crítica al boom de la IA generativa: “¿De qué ha servido todo el boom de la IA generativa? Nosotros estamos intentando visibilizar todo lo que sea necesario para que la IA funcione”. Destacó la complejidad del “dato no estructurado” y defendió que ya no se habla solo de datos sino de “procesos de la gestión de la información, que es un concepto superior”. Aunque han hecho pilotos y tienen proyectos en producción, reconoció que “el sector de la construcción es poco digital” y que el verdadero reto es “cómo cambiar los procesos de una empresa” y lograr que los empleados asimilen esos cambios, porque “no es sólo un tema tecnológico”.

Gobernar el dato. Más que datos limpios

A medida que avanzó la conversación, el consenso fue que la calidad del dato ya no es suficiente, sino que hace falta una gobernanza de los datos integral. Vanessa Perales explicó que “en Devoteam, a nivel corporativo, contamos con una agencia de la IA que va muy unida a data, pero también gestionamos otros proyectos en torno a la IA sin que vaya relacionado al data, con el objetivo de ver cómo las empresas puedan incrementar el beneficio y mejorar sus procesos con la IA”. Las organizaciones, añadió, ya asumen que “la gobernanza de los datos es prioritaria y piden sobre todo automatización y optimización de tareas, sobre todo en la parte de administración pública, además de procesos más innovadores apoyados en “cámaras o sensores”.

Fernando Gutiérrez, desde Strategy, fue tajante: “Muchas veces parece que con que tengas el dato limpio es suficiente, pero es fundamental la gobernanza de los datos. No vale con que el dato esté limpio”. Uno de los problemas de la IA, dijo, es que “muchas veces el usuario se sale de contexto y la IA no da la respuesta correcta”, de ahí la necesidad de “sacar una capa única de todos los silos de datos” para reducir errores y “alucinaciones”. “La IA se tiene que usar para que interprete la pregunta del usuario”, añadió, señalando que si se le da una suma simple la hace bien, pero si “el cálculo es enrevesado ya empieza a fallar”.

El consenso de la mesa redonda fue que la calidad del dato ya no es suficiente, sino que hace falta una gobernanza de los datos integral

En Agroseguros, Manuel Rodríguez puntualizó que los algoritmos de negocio están sometidos a control específico. En su opinión, “los algoritmos de seguro y tarificación los lleva laauditoría interna. En el ámbito del dato, la prioridad es mantener la trazabilidad de los datos desde que sale hasta que llega a la base de explotación y avanzar en depuración a través de un data warehouse que estamos montando”.

La regulación también empuja a este enfoque más robusto. Juan Pedro Gozalo mencionó el impacto de DORA: “Nosotros con DORA tenemos que asegurar que nosotros y los proveedores cumplimos con las regulaciones. La parte de seguridad y de compliance son las que están muy metidas en esta parte”. En el sector legal, Ángel Báscones recordó que hay “dos obsesiones”: “el control de accesos y tener un registro actualizado de quién accede a la información, y la lucha contra los sesgos en la calidad del dato, donde auditoría interna y compliance están continuamente vigilando sesgos y accesos al dato”.

En la Guardia Civil, Jesús Salvador Cano señaló que para ellos es “fundamental” saber “perfectamente quién consulta un dato, a qué hora y por qué motivo”, y que en el caso de la IA la responsabilidad recae en el delegado de protección de datos (DPD).

Proteger los datos en tiempos de IA generativa

La protección de la información utilizada para entrenar o alimentar modelos de IA surgió como una preocupación transversal. En el ámbito legal, Ángel Báscones explicó que se recurre a “plataformas de anonimización de la información para que no se suban datos personales o cuentas bancarias” y a sandbox para juicios que luego “se destruyen”, complementados con “contratos muy duros con los partner sobre el uso que hacen de la información”.

En Acciona, Rafael C. Socorro indicó que buscan tener una “visión lo más completa posible de los datos”, con la ventaja de que en la división de construcción el tratamiento de datos personales es “menos problemático” al trabajar con grandes empresas e instituciones, aunque igualmente deben “implementar políticas para gestionar el acceso y el uso”. Desde el lado proveedor, Fernando Gutiérrez fue rotundo: “Nosotros no enviamos datos a la generativa”, una decisión que resume el nivel de cautela que muchas organizaciones mantienen respecto a los modelos públicos.

Estrategia, presupuesto y talento: quién impulsa la IA

Más allá de la tecnología, la mesa abordó cómo se priorizan los proyectos de IA y desde dónde nace el impulso interno. En la Guardia Civil, Jesús Salvador Cano reconoció que “ahora hay espíritu de incorporar la IA en cualquier proyecto, el problema es el presupuesto”, especialmente en una organización con 80.000 trabajadores donde “implantar la IA en el día a día es complejo” por los costes de licencias y por un marco normativo especialmente exigente en protección de datos.

En Acciona, Rafael C. Socorro defendió que “al final todo es un tema de estrategia”: a medida que se aterriza la estrategia se desarrollan los proyectos, con la IA entendida como “habilitador tecnológico”, pero siempre en función de “hacia dónde quiere llegar la compañía”. En Agroseguros, Manuel Rodríguez explicó que “la IA o las iniciativas suelen venir normalmente de la parte de tecnología” y que son ellos quienes trasladan al equipo directivo “las ventajas que van a obtener con el desarrollo de un determinado proyecto”.

En Arcano Partners, la presión viene “casi siempre de arriba”, según Fernando Sanz de Galdeano, pero el CISO asume también un papel de freno cuando es necesario. Tal y como expuso, “es cierto que muchas veces tengo que parar ciertos temas por temas de seguridad. No podemos permitir que se utilicen ciertas aplicaciones o haya determinados usos”, relató, destacando que la dirección les ha apoyado con “cursos de formación específicos para todos aquellos empleados que tienen acceso a la IA”.

La conversación derivó entonces hacia el talento y el modelo de relación con los partners. Vanessa Perales apuntó que “ahora en un mismo cliente se lleva la administración de todo un conjunto de aplicaciones y tecnologías. Se ha pasado de tener perfiles hiperespecializados en el que, por ejemplo, el experto en Oracle que solo hacía Oracle a equipos que deben abarcar múltiples tecnologías”. Juan de la Torre añadió que ellos combinan perfiles con “visión global” y “gente más especializada” para cubrir todas las necesidades de los clientes, dado que “no todos los clientes tienen la capacidad” de tener esos recursos internamente.

Ciberseguridad, Zero Trust y el papel del CIO

La irrupción de la IA también tensiona los modelos de seguridad tradicionales. Fernando Sanz de Galdeano defendió que “implementar estrategias en Zero Trust es crítico, en un entorno en el que continuamente surgen nuevas plataformas y el perímetro se desdibuja continuamente. No se pueden poner puertas al campo, pero sí que puedes monitorizar de forma continua”.

Finalmente, Manuel Rodríguez, explicó que el CIO debe ser “facilitador” de estas tecnologías y, al mismo tiempo, “responsable de que los riesgos no se incrementen y estén controlados, asumiendo además una labor de exploración de nuevas capacidades”. En este sentido, Juan Pedro Gozalo insistió en que el CIO debe entender que “esto no es una moda pasajera y retrasar la incorporación de la IA solo tendrá una consecuencia que es que una empresa va a ser menos competitiva”.