Cómo definir una estrategia de gobernanza responsable de la IA

La IA está cambiando buena parte de las estrategias empresariales. Para hablar de cómo las empresas están definiendo su estrategia de gobernanza responsable, Byte TI, junto a Devoteam e Informatica, organizó un encuentro que contó con la participación de Óscar Caballero, CIO en Grupo Gallo; Rubén Cortés, CIO en AOC (Administraciò Oberta de Catalunya); Isidro Sánchez, IT Manager en Jotum; Rafael Caballero, Regional Manager en Devoteam; Francesc Lumbierres, CIO en Costa Food Meat; Albert Sierra, director de tecnología y sistemas de información en la Cámara de Comercio de Barcelona; Iván Prieto, director Devoteam Cloud Spain para AWS; Manuel Duro, IT Director en Circontrol; Marc Paus, Deputy Director Information Technology en IESE; Ricard Guasch, CIO Spain en Zurich y Rodrigo Velasco, Account Manager Iberia de Informatica

Gestionar y y establecer una estrategia de gobernanza responsable de la IA empieza a ser una de las principales prioridades de las empresas y, sobre todo, hacerlo de forma responsable. Las organizaciones tecnológicas son conscientes de este reto y están adaptando su oferta a esta nueva realidad. En este sentido, Devoteam tiene un amplio porfolio que se adapta a las necesidades empresariales. Tal y como explicó Rafael Caballero, Regional Manager en Devoteam, “en Devoteam, nos dedicamos básicamente a gestionar el cloud con los tres hiperescalares, aunque también trabajamos con otro tipo de soluciones más transversales.En nuestra propuesta se incluyen soluciones para el ámbito de la ciberseguridad, la inteligencia artificial, el data y somos muy fuertes en el vertical de AWS”. A esta última parte se refirió Iván Prieto, director Devoteam Cloud Spain para AWS, asegurando que “tenemos un pilar en cloud que es AWS. En este donde somos muy fuertes en gobierno del dato y ahora también en toda la parte relacionada con la IA. El objetivo es ayudar a los clientes a dar el salto a la nube y a gobernar la IA de forma responsable”.

Por su parte, Informatica también se ha convertido en un referente en la gobernanza responsable de la IA. Tal y como explicó Rodrigo Velasco, Account Manager Iberia de Informatica, “somos una multinacional norteamericana dedicada a todo lo que tiene que ver con la gestión del dato. Ahora cada vez más nos centramos en las plataformas cloud y con AWS tenemos mucha relación. Creemos que todo lo relacionado con la tecnología tiene que evolucionar sobre todo desde la irrupción y adopción de la Inteligencia Artificial por parte de las empresas. Por este motivo, nuestra plataforma está evolucionando hacia la parte de IA y de los agentes. En este sentido creemos que es muy importante la correcta gestión de los datos para que la IA no tenga alucinaciones”.

Cómo se afronta la implementación de la IA

De alguna forma u otra, las empresas ya tienen implementados o desarrollados proyectos de Inteligencia Artificial. Pero, ¿cómo se implementa de forma correcta? Óscar Caballero, CIO de Grupo Gallo, señaló que, en nuestro caso, la Inteligencia Artificial se gestiona como cualquier otro proyecto tecnológico. La abordamos con los mismos criterios de rigor y análisis, priorizando siempre el valor que aporta al negocio. La IA forma parte de nuestro roadmap estratégico y la evaluamos desde la perspectiva de su contribución diferencial, tanto para los usuarios como para la propia organización.”.

Por su parte, Rubén Cortés, CIO en AOC (Administraciò Oberta de Catalunya), aseguró que “en la AOC, hacemos proyectos que aportan valor, no abordamos experimentos. Ya hemos desarrollado alguna experiencia, por ejemplo para que todos los ayuntamientos tengan alguna aplicación de IA que aporte valor para promover servicios al ciudadano. En unas primeras fases estamos trabajando en nube y aparte tenemos un chatbot de atención ciudadana que nos ha dado muy buenos resultados. Estamos trabajando en el uso de los datos para aportar valor al ciudadano”.

En el caso de Jotum, su IT Manager, Isidro Sánchez, explicó que, “nosotros estamos implantando Copilot. Es verdad que hemos hecho unas pruebas base separando la versión de pago de Copilot en la parte corporativa y la versión web para consultas de los empleados. Intentamos que los empleados no usen otras herramientas de IA, por eso si alguien quiere meter datos sólo puede hacerlo a través de Copilot”.

Albert Sierra, director de tecnología y sistemas de información en la Cámara de Comercio de Barcelona afirmó que “hemos iniciado el despliegue de copilot hace unos 8 meses. Al final, no queremos poner vallas al campo pero estamos monitorizando el uso que hacen los usuarios de la IA, sobre todo para valorar la parte de seguridad. Esramos

Algunas empresas ya llevan tiempo trabajando con la Inteligencia Artificial para apartados concretos. En el caso de Francesc Lumbierres, CIO en Costa Food Meat que aseguró que “nosotros llevamos años usando la IA, pero la empleamos para la parte de la analítica de datos. No utilizamos la IA generativa porque nuestro principal objetivo es el de sacar el máximo valor a los datos”.

Ricard Guasch, CIO Spain en Zurich también se posicionó en esta afirmación. Tal y como expuso, “en nuestro caso llevamos con la IA muchos años, pero más enfocada a la parte de analítica de datos. Es decir, tenemos integrada la cultura del dato en el core de la empresa. En cuanto a la generativa hacemos proyectos y analizamos el impacto que pueda tener en el negocio. Todos nuestros empleados usan Copilot con todos los equipos formados en Copilot. Tenemos también Copilots departamentales con los conocimientos específicos de ese departamento, además del Copilot general. Hemos ido un poco más allá con la automatización de procesos utilizando LLMs. Aquí hemos automatizado muchas tareas tediosas en las que antes necesitábamos tener a personas para hacer estas tareas mecánicas. Donde no estamos todavía es en la parte de agentes, aunque estamos empezando a hacer algunas pruebas para ver si en algunos subprocesos del área de IT podemos conseguir alguna ejecución end-to-end. Lo que no tenemos en previsión es incorporar de momento la IA para los clientes”.

Por su parte, Manuel Duro, IT Director en Circontrol explicó que “en nuestro caso, en lo que se refiere al desarrollo usamos la IA para que los desarrolladores puedan generar y optimizar código. Concretamente usamos GitHub Copilot para eso. Esto está aumentando la productividad de los desarrolladores. Hacemos informes cada mes para valorar la evolución. En cuanto a la generativa, para los usuarios, estamos viendo si realmente sirve para el negocio. Tenemos agentes de nicho, de negocio, etc. También trabajamos en ver cómo podemos incorporar la IA en los productos que vendemos. Todo lo ponemos en paralelo a los proyectos digitales en los que trabajamos”.

Para Marc Paus, Deputy Director Information Technology en IESE, “la IA es estratégica. Tenemos dos sabores, la parte educativa y la parte de mejora de procesos internos. En la parte educativa la incorporación de la IA es más compleja. Por eso hemos creado un nuevo departamento de Data & IA para ver qué proyectos se pueden llevar a cabo. MyAI de IESE, cuenta con casos de uso ya probados y que están en producción”.

Papel del CIO en la adopción de la IA

Ante el tsunami de la IA, ¿qué es lo que debe hacer un CIO y los departamentos que dirige? Guasch lo tiene claro: “Creo que el CIO tiene que liderar la transformación de la IA, aunque no tiene que hacerlo sí o sí. El CIO es el líder de la transformación digital, pero no es el único líder. El CIO tiene que saber de negocio y entender los procesos de la compañía, porque si no, no puede liderar los procesos de negocio de la compañía. Tiene un rol central”.

En este sentido, Óscar Caballero afirmó que el CIO debe poseer conocimiento del negocio y actuar como un socio estratégico de la organización. Su función ha evolucionado desde un rol ejecutor hacia uno orientado a aportar valor. Para ello, es esencial comprender las necesidades de la compañía más allá del comité de dirección. El CIO debe formar parte de dicho órgano o, en su defecto, integrarse en un foro que le permita acceder directamente a los objetivos y prioridades”.

Por su parte, Rafael Caballero de Devoteam, afirmó que “el CIO es el impulsor y tiene que inspirar al resto de la organización. Es importante que sea el juez y el decisor de si una aplicación o una tecnología puede ser exitosa para el negocio”.

Iván Prieto añadió a la afirmación de su compañero que “hay que pensar desde el punto de vista de negocio. El CIO debe ser el que interconecte entre la decisión y cómo llevarla a cabo. Lo primero es pensar en el ROI y el impacto que pueda tener en la empresa. Un problema que yo encuentro es la resistencia al cambio. Hay determinados tipos de trabajo muy repetitivos que la gente huye de ellos porque piensan que si se incorpora van a acabar con su puesto de trabajo”.

En este sentido, Isidro Sánchez aseguró que “la IA no deja de ser un ayudante al trabajador. A la persona se la puede reubicar en otra tarea. Si alguien se puede ahorrar una parte de trabajo y el empleado puede dedicarse a otra labor más importante para el negocio, debe ser una de las obligaciones del CIO detectarlo”.

Para Manuel Duro de Circontrol, “es necesario reforzar el apartado de las personas y tenemos que usar la IA para detectar talento para nuevas posiciones porque de repente, te encuentras con que hay personas que están destinadas en un departamento y con la IA descubres que está muy capacitado para otra tarea de mayor valor”.

Asegurar calidad de los datos para una gobernanza responsable

Los datos juegan un papel fundamental en una gobernanza responsable. A la IA no se le puede sacar todo su valor si los datos no son de calidad. Son muchas las compañías que quieren implementar determinados proyectos de Inteligencia Artificial que luego resultan fallidos precisamente porque la información con la que trabaja no es buena. Para Ricard Guasch, “al final, el control y la calidad de los datos tienes que tenerla obligatoriamente, porque la IA tiene que nutrirse de datos de calidad. Lo mismo sucede con el acceso a los datos, eso ya lo teníamos antes: al final a un agente de IA le vas a dar los permisos necesarios de acceso de la misma forma que se lo dabas al usuario”.

Francesc Lumbierres, afirmó “que la calidad de datos es fundamental, pero hay que darle sentido a ese dato. Digitalizar un dato para nosotros es que el dato primerizo se coja en el campo y en tiempo real. El perfil de digitalización es brutal, pero si no das un dato de calidad desde el origen, entonces falla todo. Para nosotros esto ha sido clave para nuestro negocio”.

Por su parte, Albert Sierra cree que “muchos fracasos de los pilotos de IA vienen por cómo tenemos los datos estructurados. Hay veces que, en general, la estructuración no es buena y la IA ha servido para que sepamos ver que una estructuración está mal hecha. Esto ha hecho que aceleremos en este aspecto. Con la IA se abre un paradigma diferente de hacer las cosas”.

Procesos de auditoría interna

En la gobernanza responsable de la IA, los procesos de auditoría interna cobran especial relevancia. ¿Cuáles son los procesos que se llevan a cabo en este sentido? Para Marc Paus de IESE, “los mecanismos son los de siempre: nosotros cualquier proyecto que lanzamos que toca algo de tecnología es analizado tanto en la parte de seguridad como en la parte datos. Se trata de que los datos estén donde tienen que estar de tal forma que si hay que arreglar algo, se pueda corregir”.

En la gobernanza responsable de la IA, los procesos de auditoría interna cobran especial relevancia

Para Ricard Guasch de Zurich, “en nuestro caso pertenecemos a un sector muy regulado y nos llegan normativas nuevas cada mes. Para nosotros tener controles internos y auditorias internas es habitual en nuestra operativa diaria. Ahora ha venido la IA y es una regulación más que hay que añadir. Tenemos miles de procesos de control. Cada mes hacemos además controles internos. Todo ello nos ha aportado un esfuerzo extra con gestiones que no teníamos, hemos tenido que incorporar componentes que no teníamos, etc.”.

Finalmente, Óscar Caballero, CIO en Grupo Gallo, señaló que, pese al elevado número de normativas existentes, es esencial incorporar los requisitos regulatorios desde el inicio de cualquier proyecto. Por ello, destacó la necesidad de que el departamento legal participe desde las fases iniciales del desarrollo”.