La promesa de la IA choca con una brecha de confianza entre los datos y la propia IA 

Veeam ha presentado un nuevo estudio global en el VeeamON de Londres centrado en la confianza en los datos y la inteligencia artificial. El nuevo informe Data and AI Trust Gap de Veeam revela una brecha significativa y, cada vez mayor, en el núcleo de la IA empresarial, especialmente en lo que respecta a la confianza.  

El 88% de las organizaciones ya utiliza o prueba agentes de IA, pero solo el 7% cumple con los requisitos para estar realmente preparado para la IA con un nivel adecuado de confianza. Además, el 95% afirma que los desafíos relacionados con los datos ya han ralentizado su progreso en IA. A medida que la IA agéntica pasa de pruebas piloto a entornos de producción, las organizaciones se enfrentan a un desafío urgente: garantizar que los datos que impulsan esos sistemas sean visibles, estén gobernados, sean seguros, resilientes y generen confianza. 

El estudio, basado en una encuesta global realizada a 600 altos directivos de los sectores financiero, sanitario, manufacturero, retail y tecnológico, revela que la adopción de la IA está creciendo a un ritmo mucho más rápido que las estructuras de gobernanza diseñadas para gestionarla, debilitando la confianza organizativa. A pesar de la fuerte inversión y la intención de los ejecutivos, la capacidad para controlar, monitorizar y recuperarse de los fallos de la IA está insuficientemente desarrollada, lo que impacta directamente en la confianza operativa. 

Hallazgos clave muestran que la IA está escalando más rápido que el control y la confianza: 

• Solo el 7% de las organizaciones están realmente preparadas para la IA. 

• El 88% ya utiliza o está probando agentes de IA. 

• Solo el 28% confía en poder detectar sistemas de IA que operen fuera de los parámetros aprobados, reflejando una falta de confianza crítica. 

• El 95% afirma que los desafíos relacionados con los datos ya han ralentizado sus avances en IA. 

Las cifras revelan una clara brecha de confianza entre la adopción de la IA y la gobernanza, la visibilidad y el control necesarios para respaldarla. 

“La mayoría de las organizaciones no tienen un problema de adopción de IA, sino de confianza en ella”, afirmó Anand Eswaran, CEO de Veeam. “La primera fase de la IA se caracterizó por la inversión en infraestructura, la experimentación y la aceleración. La siguiente fase se definirá por la confianza. Con la adopción generalizada de agentes de IA autónomos que operan a velocidad de máquina, la pregunta ya no es si se puede usar la IA, sino si se puede garantizar que todos los datos sean seguros, estén gobernados, cumplan con las normativas y generen confianza de forma consistente. Y si algo sale mal, ¿se puede recuperar con precisión? Esa es la clave para acelerar una IA segura a gran escala sin incrementar al mismo tiempo los riesgos operativos y reputacionales”. 

La confianza de los directivos oculta una brecha operativa 

El estudio revela una importante brecha de percepción entre la alta dirección y los equipos operativos responsables de la implementación de la IA, lo que afecta directamente a la confianza interna. El progreso suele estancarse entre la intención y la ejecución: la gobernanza es inconsistente, los datos se gestionan de forma reactiva y la responsabilidad está asignada, pero fragmentada, lo que debilita la confianza en los sistemas. 

• El 65% de los CEOs cree tener un inventario completo de IA, en comparación con sólo el 48% de los responsables técnicos. 

• El 52% de los CEOs cree liderar activamente la gestión de datos, pero solo el 41% de los CISO y el 38% de los CIO coinciden. 

• El 48% de los CEOs cree que disponer de datos fiables, seguros y conformes con la normativa —es decir, con mayor confianza— podría generar un crecimiento de los ingresos superior al 25%. 

• El 83% de los CEOs siente presión para acelerar sus capacidades de IA y gestión de datos. 

Esta combinación de adopción rápida de la IA, junto con una visibilidad incompleta y responsabilidades poco claras, crea las condiciones perfectas para fallos difíciles de detectar, explicar y contener, erosionando la confianza organizativa. 

Cuando la IA falla, no se manifiesta como una interrupción del servicio 

A medida que los sistemas de IA se vuelven más autónomos, la naturaleza de los fallos está cambiando, poniendo en riesgo la confianza en los resultados. El riesgo se está desplazando de las interrupciones tradicionales del sistema hacia fallos a nivel de datos más difíciles de detectar, explicar y contener. El estudio advierte que los errores producidos a velocidad de máquina pueden superar la capacidad de detección, lo que obliga a la resiliencia a evolucionar hacia una recuperación precisa que preserve la confianza: restaurar solo lo afectado, en lugar de revertir entornos completos. 

De dentro hacia fuera y de fuera hacia dentro: la gobernanza converge sobre los datos 

El desafío de la gobernanza converge en los datos desde dos perspectivas: la demanda interna y la presión regulatoria externa, ambas claves para construir confianza. 

Dentro de las organizaciones, el uso no autorizado de IA es ahora algo común y afecta a la confianza: 

• El 95% informa del uso no autorizado de IA y el 93% lo considera un riesgo significativo para la confianza. 

• Sin embargo, solo el 25% ofrece alternativas aprobadas, lo que significa que la mayoría intenta suprimir la demanda en lugar de gestionarla con confianza. 

• El 44% señala el aumento del ciberriesgo como la principal amenaza asociada a la “Shadow AI”. 

Al mismo tiempo, la presión regulatoria externa a la organización se está intensificando. El 61% de las organizaciones afirma que la Ley de IA de la UE ya ha influido en las estrategias de inversión en IA, reforzando la necesidad de confianza, mientras que el 47% indica que el mantenimiento de registros de auditoría es su mayor preocupación. 

La confianza requiere responsabilidad, no ambigüedad compartida 

El estudio demuestra que las principales barreras para avanzar son la fragmentación de responsabilidades y la falta de alineación operativa, lo que limita la confianza en la ejecución. Cuando “todos son responsables”, nadie puede establecer políticas de manera decisiva, aplicar controles ni demostrar resultados, debilitando la confianza organizativa. 

Cuando la responsabilidad está claramente definida, la confianza y los resultados mejoran significativamente: 

Las organizaciones en las que los CISO son responsables del riesgo asociado a los agentes de IA tienen un 24% más de probabilidades de detectar comportamientos irregulares. 

Las organizaciones que dependen de modelos de responsabilidad compartida tienen un 47% menos de probabilidades de detectar estos comportamientos. 

Los datos no necesitan otro defensor, necesitan un liderazgo responsable que genere confianza y alinee gobernanza, seguridad, privacidad, cumplimiento y resiliencia. 

La confianza se está convirtiendo en la base operativa de la IA empresarial 

Se observa una clara diferencia entre las organizaciones que pueden operar con confianza y las que no. Las organizaciones que logran alinear con éxito la ambición, la visibilidad, la gobernanza y la confianza superan significativamente a las demás. 

Dentro de las organizaciones, el uso no autorizado de IA es ahora algo común y afecta a la confianza

Entre las organizaciones clasificadas como totalmente preparadas para la IA, el 97% declara haber obtenido beneficios empresariales medibles, lo que demuestra el valor de convertir la confianza en una capacidad operativa a escala empresarial. 

Veeam: creando la capa de confianza para datos e IA 

Veeam aborda este desafío combinando resiliencia, seguridad y gobernanza de datos para ayudar a las organizaciones a visualizar qué datos utiliza la IA, controlar cómo acceden a ellos personas y agentes, y recuperar datos limpios y confiables con precisión cuando ocurren incidentes, reforzando así la confianza. 

“Los resultados son inequívocos. Cuando el 95% de los ejecutivos afirma que los desafíos relacionados con los datos ya están ralentizando su progreso en IA, el cuello de botella no es el modelo, sino los datos confiables, gobernados y recuperables”, añadió Eswaran. “Veeam está creando la capa de confianza para datos e IA para brindar a las empresas la visibilidad, el control y la recuperación precisa necesarios para escalar la IA de forma segura y generar valor real para el negocio”.