IA en ciberseguridad: preocupaciones y oportunidades

Sophos ha publicado «Más allá del Hype: La realidad empresarial de la IA para la ciberseguridad», donde revela que, a pesar de que el 65% ha adoptado funciones de inteligencia artificial generativa (GenAI), al 89% de los directores de TI les preocupa que los fallos en las herramientas de ciberseguridad GenAI puedan poner en riesgo a su organización.

Por su parte, la investigación de Sophos X-Ops, titulada «Los ciberdelincuentes aún no se han subido al tren de la IA (todavía)», también publicada hoy, muestra un cambio en la forma en que los ciberdelincuentes utilizan la IA. Aunque todavía hay escepticismo sobre la IA Generativa, algunos delincuentes la están utilizando para automatizar tareas rutinarias, como la elaboración de correos electrónicos masivos y el análisis de datos. Otros la están incorporando a toolkits de spam e ingeniería social.

«Como con muchas otras cosas en la vida, el mantra debería ser ‘confía, pero verifica’ en lo que respecta a las herramientas de IA generativa. En realidad, no hemos enseñado a las máquinas a pensar; simplemente les hemos proporcionado el contexto para acelerar el procesamiento de grandes cantidades de datos«, destaca Chester Wisniewski, director y CTO field global de Sophos.

Dependencia de la IA y responsabilidad en ciberseguridad

Con alguna forma de IA integrada en la infraestructura de ciberseguridad del 98% de las empresas encuestadas, los responsables de TI expresan su preocupación por una posible dependencia excesiva de la IA. El 87% de los encuestados afirma que les preocupa la consecuente falta de responsabilidad en materia de ciberseguridad.

El 89% de los líderes de TI temen que los fallos de la IA Generativa afecten negativamente a las estrategias de ciberseguridad de su empresa, según una encuesta de Sophos

Esta preocupación se extiende a la presión para reducir el número de profesionales de ciberseguridad debido a expectativas poco realistas sobre las capacidades de la IA para reemplazar a los operadores humanos. En todos los tamaños de empresas, el 84% de los responsables encuestados comparten esta inquietud.

• GenAI y la reducción del burnout. Las prioridades en el uso de la GenAI varían según el tamaño de la empresa. Mientras que las grandes organizaciones (aquellas con más de 1.000 empleados) dan prioridad a la mejora de la protección, los encuestados con entre 50 y 99 empleados califican la reducción del burnout como su principal beneficio deseado del uso de las herramientas de IA Generativa. Sin embargo, la presión para reducir el número de profesionales de ciberseguridad sigue siendo una preocupación constante.
• Costes y beneficios de la IA Generativa. El informe «Beyond the Hype» también revela que los costes de la IA Generativa son difíciles de cuantificar. El 75% de los directores de TI coinciden en que los costes de GenAI en productos de ciberseguridad son difíciles de determinar. A pesar de esto, el 80% de los responsables de TI cree que GenAI aumentará significativamente el coste de las herramientas de ciberseguridad. Sin embargo, la mayoría de las organizaciones creen que la IA Generativa ofrece una vía para reducir el gasto total en ciberseguridad, ya que el 87% de los encuestados creen que los ahorros de GenAI compensarán los costes.
• Impacto de la IA en la ciberseguridad. La inteligencia artificial está transformando la ciberseguridad, pero no sin desafíos. Según un informe de Gartner, se espera que para 2025, el 75% de todas las interacciones con los clientes B2B se gestionen mediante plataformas de CRM que incorporen IA y automatización avanzada. Sophos está a la vanguardia de esta tendencia, ofreciendo soluciones que integran IA generativa, gobernanza del dato y tecnologías avanzadas para optimizar operaciones y enfrentar desafíos como el aumento de costes y la disrupción en las cadenas de valor globales.