La IA, un arma de doble filo en ciberseguridad

La popularización de la inteligencia artificial, y especialmente la IA generativa (GenAI) plantea nuevos retos a los directores de seguridad de la información (CISO). Los datos son contundentes: el año pasado dos tercios de las organizaciones confirmaron que ya estaban empezando a emplearla y sólo el 3% de las empresas no tenían previsto adoptar esta tecnología.

La IA se ha convertido en un arma de doble filo para la ciberseguridad. Por un lado, ha reducido la barrera de entrada a los atacantes, permitiendo a los aspirantes a delincuentes generar malware sin apenas conocimientos de programación y proporcionando a los más expertos capacidades que pocos podrían haber imaginado hace relativamente poco tiempo. Por otra parte, los ciberdefensores pueden aprovechar la IA para la automatización inteligente y las estrategias de defensa. La IA tiene el potencial de nivelar el terreno de juego incluso contra adversarios equipados con IA y ante las amenazas dinámicas que plantean.

En este campo de batalla, los ciudadanos y sus derechos también juegan un papel relevante. En este sentido, el Parlamento Europeo es pionero en la regulación de la IA, y recientemente ha ratificado la primera ley de inteligencia artificial del mundo, que previsiblemente entrará en vigor en 2026. Se trata de un marco regulador que, entre otras funciones, evaluará el impacto que cualquier nuevo sistema de IA tenga sobre los derechos fundamentales antes de ser introducido en el mercado europeo.

Entre otros, el nuevo reglamento contempla medidas para tratar de reducir el uso de la IA por parte de los cibercriminales. Así, identifica toda una serie de sistemas de inteligencia artificial de alto riesgo que solo se podrán comercializar si sus desarrolladores garantizan que respetan los derechos fundamentales. Por ejemplo, los que puedan influir en el resultado de unas elecciones o los que empleen las entidades financieras para evaluar la solvencia y la calificación crediticia de los clientes. Asimismo, pone el acento en prácticas potencialmente peligrosas como la identificación biométrica. Hace escasos días la Agencia Española de Protección de Datos (AEPD) obligaba a la una compañía de criptomonedas a interrumpir, de forma cautelar, su actividad en España y le prohibía seguir escaneando el iris. La ley de inteligencia artificial de la UE legisla también en este sentido, prohíbe el uso de identificación biométrica remota en tiempo real en lugares de acceso público con fines policiales, a excepción de algunos delitos. Del mismo modo, tampoco se permite la identificación biométrica remota posterior sin autorización. La normativa europea alude a la necesidad de evitar el riesgo de condenar a una persona inocente por un fallo de precisión.

Una tecnología que puede facilitar la actividad de los cibercriminales…

Gracias a GenAI, un posible ciberagente malicioso ya no necesita conocimientos de programación para crear malware, ya que las herramientas de IA de modelos de lenguaje extenso (LLM) lo permiten. La IA también se usa para explotar rápidamente vulnerabilidades de software conocidas públicamente, lo que da a los ciberdelincuentes la capacidad de aprovecharlas antes de que muchas organizaciones apliquen parches o actualizaciones. GenAI puede aumentar la sofisticación de los ataques de spear-phishing al evitar contenido repetitivo, errores ortográficos y gramaticales que solían ayudar a identificar el malware. Además, puede analizar el contenido de correos electrónicos comprometidos para generar mensajes personalizados que coincidan con la sintaxis y los asuntos utilizados anteriormente. Por ejemplo, la suplantación de voz y vídeo generados por IA son un método complejo de detectar.

Por otro lado, hace una década, sólo los Estados-nación tenían la capacidad de procesar  grandes conjuntos de datos en CPDs. La revolución de la IA en la minería de datos y el aumento del poder de cálculo y el almacenamiento por uso hacen que los datos masivos sean objetivos atractivos para los criminales y los Estados-nación.

…y a la vez, contribuir a reforzar la acción de los ciberdefensores

Los profesionales de la ciberseguridad utilizan el término `superficie de ataque´ para describir la complejidad del entorno digital, que es difícil de mapear o entender por completo. La IA y las arquitecturas de malla de ciberseguridad ofrecen la oportunidad de convertir esta complejidad en una ventaja. Los sensores conectados permiten a los operadores de red y a los defensores generar datos en tiempo real, que la IA y el ML pueden analizar al instante.

Los ciberdelincuentes, incluso utilizando IA, rara vez tienen éxito en su primer intento, pero confían en que sus ataques fallidos pasen desapercibidos entre las numerosas alertas de seguridad. La IA ayuda a detectar y responder actividades anómalas en tiempo real, protegiendo los activos digitales de la organización contra nuevos ataques. La eficacia de la IA y el ML depende de la cantidad de datos disponibles para su entrenamiento. Por lo general, los defensores tienen acceso a más datos que los atacantes. Aunque en ciertos casos, como el spear phishing, el atacante puede tener ventaja, la tendencia favorece al defensor en la «carrera armamentística de los macrodatos».

Aunque la IA ofrece beneficios significativos para los CISO, su implementación en el lugar de trabajo enfrenta desafíos. Entre ellos cabe destacar las preocupaciones sobre la privacidad de datos en las consultas de GenAI infracciones de los derechos de autor, la revelación de información personal identificable, el uso de datos sesgados o censurables y resultados erróneos, conocidos como «alucinaciones» de la IA.

Las organizaciones son cautelosas con GenAI; pero los trabajadores a menudo no comprenden las razones detrás de esta precaución ni ven las medidas de seguridad implementadas. Aunque están familiarizados con GenAI en su vida personal, lo utilizan de manera independiente en el trabajo. GenAI se ha convertido en una forma de TI no oficial a la que deben enfrentarse los CISO y los CIO.

Firmado: Gorka Sáinz, Director, Systems Engineering Fortinet Iberia

La entrada La IA, un arma de doble filo en ciberseguridad es original de MuySeguridad. Seguridad informática.