iA generativa y seguridad

El ‘Informe Anual de Netskope sobre Nube y Amenazas, 2024’ subraya el rápido crecimiento en la adopción de aplicaciones de IA generativa en la empresa y también los riesgos de seguridad emergentes que se derivan de ello.

Este informe detalla las principales tendencias de seguridad en la nube de 2023, anticipa cómo seguirá evolucionando la adopción de la nube y la superficie de ataque resultante, así como predicciones sobre cuáles continuarán durante este 2024.

2023: el año de la Inteligencia Artificial Generativa

La firma destaca que más del 10% de los empleados de las empresas acceden al menos a una aplicación de inteligencia artificial (IA) generativa cada mes, en comparación con solo el 2% de los usuarios corporativos que lo hacían hace un año. Durante 2023, ChatGPT ha sido la aplicación de IA generativa más popular, con un 7% del uso por parte de los empleados.

Aunque desde Netskope se espera que el número total de usuarios corporativos que acceden a aplicaciones de IA seguirá aumentando moderadamente el año que viene, existe una población emergente de usuarios avanzados que están incrementando constantemente su uso de aplicaciones de IA generativa. De este modo, y con un crecimiento de forma exponencial, cabe esperar que el 25% de los usuarios más avanzados incremente significativamente la actividad de la IA generativa en 2024, en la medida que dicho grupo encuentre nuevas formas de integrar la tecnología en su vida diaria.

Tal como afirma Ray Canzanese, Director de Investigación de Amenazas de Netskope Threat Labs, “con el creciente uso de apps de IA, es mucho más probable que los empleados expongan datos sensibles tales como credenciales, información personal o propiedad intelectual. Para una habilitación segura de las aplicaciones de IA, las organizaciones deben implementar controles razonables y capacidades avanzadas de seguridad de datos mientras se centran en cómo los empleados pueden usar la IA de forma productiva”.

Aumenta el uso de aplicaciones en la nube

En general, la adopción de aplicaciones en la nube ha seguido aumentando a lo largo del pasado año, dado que los usuarios empresariales han estado probando constantemente nuevas aplicaciones y aumentando el uso de las más populares. En este apartado lo más destacable es:

• El número de aplicaciones en la nube a las que accedieron las empresas aumentó una media del 19% anual, y los usuarios pasaron de 14 a 20 aplicaciones diferentes en solo dos años.

• La mitad de los usuarios de empresa interactúan con entre 11 y 33 aplicaciones en la nube al mes, y el 1% de ellos utiliza más de 96 aplicaciones al mes. Las interacciones con estas aplicaciones en la nube están aumentando a un ritmo aún más rápido, de las poco más de 1.000 actividades al mes hace dos años a casi 2.000 actividades al mes en la actualidad.

• La mayoría de los usuarios empresariales generan entre 600 y 5.000 actividades al mes, mientras que entre los más activos, el 1% de usuarios, genera más de 50.000 actividades al mes.

Los ataques de ingeniería social ocupan el primer lugar

La forma más común en que los atacantes obtuvieron acceso inicial en 2023 fue a través de la ingeniería social, ya que es la forma más sencilla en que los ciberatacantes encuentran la manera de entrar en los sistemas, que parchean rápidamente contra las vulnerabilidades de seguridad conocidas y se limita el acceso remoto. Las estafas más extendidas del pasado año utilizaron este tipo de ataques, tales como el phishing, para robar credenciales y los troyanos, para engañar a las víctimas para que descargaran e instalaran programas maliciosos.

“Con el creciente uso de apps de IA, es mucho más probable que los empleados expongan datos sensibles tales como credenciales, información personal o propiedad intelectual

Ray Canzanese, Director de Investigación de Amenazas de Netskope Threat Labs

De este modo, los usuarios cayeron en estafas de phishing tres veces más que aquellos que descargaron troyanos. De hecho, según se desprende del informe, 29 de cada 10.000 usuarios corporativos accedieron a un enlace de phishing cada mes durante 2023.

Las aplicaciones en la nube y los sitios de compras online, se posicionaron como los principales objetivos a lo largo del año, mientras que los portales bancarios, las redes sociales y gobiernos también experimentaron un notable aumento.

Como segundo vector de ataque más común, los usuarios descargaron una media de 11 troyanos al mes por cada 10.000 usuarios, lo que significa que una organización típica de ese tamaño habría tenido una media de 132 troyanos descargados por los usuarios de su red al año.

Actores y naturaleza de las amenazas

La mayor parte de la actividad de los cibercriminales dirigida a los clientes de Netskope en 2023 tuvo una motivación delictiva, siendo los adversarios geopolíticos los más activos contra los usuarios de Asia y América Latina. Netskope descubrió que los principales grupos criminales durante 2023 tenían su base en Rusia, mientras que los principales grupos de amenazas geopolíticas tenían su base en China (dirigidos principalmente a víctimas de Asia, y especialmente Singapur).

Muchos grupos de amenazas se basaron en gran medida en la herramienta Cobalt Strike para mantener la permanencia y desplegar ransomware, infostealers, wipers y otros softwares maliciosos para extorsionar a sus víctimas. En el Informe Netskope Threat Labs, se comparten perfiles sobre los 5 principales atacantes vistos este año, además de campañas específicas y actividades procedentes de cada uno de los grupos.

Tal como Canzanese afirma “en 2023, hemos visto cómo los adversarios se aprovechaban de la creciente adopción de aplicaciones en la nube por parte de las empresas, especialmente mediante trucos de ingeniería social. Es probable que esta tendencia continúe en 2024”.

• RECOMENDACIONES DE NETSKOPE PARA REFORZAR LA SEGURIDAD
• Limitar el acceso solo a aquellas aplicaciones que se ajusten a los propósitos legítimos de las empresas, así como crear un proceso de revisión y aprobación de nuevas aplicaciones. Todo ello, bajo la implementación de un proceso de monitorización continua que alerte a los responsables de ciberseguridad cuando dichas aplicaciones se estén utilizando indebidamente o se hayan visto comprometidas.
• Garantizar la habilitación y adopción de manera segura de aplicaciones de IA. Es un tema hoy día prioritario y urgente para la mayoría de las organizaciones, incluyendo la identificación de aquellas aplicaciones permitidas y la implementación de controles que permitan a los usuarios a utilizarlas en todo su potencial, al tiempo que protejan a la organización de posibles riesgos.
• Seguir invirtiendo para reducir el riesgo de ingeniería social, incluida la formación para la concienciación de seguridad y la tecnología antiphishing.