Un informe demuestra cómo ChatGPT puede ser una herramienta al servicio de la ciberseguridad

Desde que OpenAI alertó sobre el lanzamiento de ChatGPT, han sido muchas las empresas y plataformas que se han adentrada en su conocimiento y utilización para perfeccionar sus estructuras internas y ofrecer mejores servicios. Ahora Sophos, empresa especializada en servicios de ciberseguridad, ha ido más allá y ha concluido que esta eficiente herramienta de inteligencia artificial puede ser empleada contra los hackers.

Así lo recoge en su reciente informe titulado ‘La aplicación del procesamiento lingüístico a las ciberdefensas’, en el que explica que ha utilizado los modelos lingüísticos de GPT-3 para simplificar la búsqueda de actividad maliciosa en la telemetría XDR, filtrar el spam y ser más rigurosos en el análisis de ataques de archivos binarios ‘Living Off the Land’.

El equipo de investigación de Sophos X-Ops ha concluido que la inteligencia artificial y el lenguaje de GPT-3 pueden ponerse al servicio de la ciberseguridad y han estado trabajando en el desarrollo de tres proyectos experimentales. Para ello se emplea la técnica few-shot learning (FSL), el ‘aprendizaje en pocos pasos’, que consiste en crear un Machine Learning capaz de entrenar el modelo de IA con pocas muestras de datos, aunque nunca antes las hubiese visto.

Interfaz de consulta en lenguaje natural para buscar actividad maliciosa

El equipo de investigadores de Sophos ha aplicado el método de aprendizaje few-shot learning para construir una interfaz de consulta en lenguaje natural que fuese capaz de filtrar toda la actividad maliciosa en telemetría XDR. A través de su producto EDR se ha puesto a prueba y se ha detectado como la interfaz basada en GPT toma los comandos escritos en inglés, generando consultas XDR-SQL sin que el usuario tuviese que entender la estructura subyacente de la base de datos o el lenguaje SQL.

Gracias a la aplicación de GPT-3 en el software de ciberseguridad de las empresas se pueden ir acumulando datos, sin necesidad de empezar el proceso de ejecución desde cero conforme se incluyen nuevos datos. Ese modelo sofisticado creado por Sophos ofrece respuestas precisas en más del 80% de los casos porque parte de preguntas escritas en lenguaje natural. En el 70,5% de los procesos analizados se incluían datos que no había visto previamente, pero aún así respondía muy positivamente.

Detección de spam

El hecho de aplicar GPT puede contribuir a buscar soluciones muy eficientes en futuros servicios que ponga en el mercado Sophos. En este sentido, el Machine Learning emplea diferentes modelos para detectar spam. Así pues, puede utilizar un nuevo filtro de spam basado en ChatGPT que es mucho más preciso y eficaz que otros métodos convencionales, siempre y cuando los datos de entretenimiento fuesen menos.

La aplicación de GPT-3 en la ciberseguridad también pasa por crear un programa que simplifique el proceso de ingeniería inversa de las líneas de comandos de ‘Living Of The Land’ (LOLBin). Este tipo de ingeniería inversa se basa en códigos largos y difícilmente analizables, pero nos permite frenar de lleno este tipo de ataques tan peligrosos para la integridad del software de la institución en cuestión.

Sus principales ventajas

ChatGPT permite escribir líneas de código en diferentes lenguajes de programación y scripting cuando se le brinda una entrada en lenguaje natural. No obstante, también se le puede entrenar para generar descripciones analíticas partiendo de líneas de comandos o fragmentos de código.

Todo ello es posible a partir del enfoque de retroaducción, un proceso mediante el cual los resultados de una traducción de una cadena de comandos a lenguaje natural se devuelven a GPT-3 para traducirlos nuevamente a comandos de código. De este modo, se podrá generar una información complementaria y facilitar la tarea de análisis más compleja.

Las empresas saben que se enfrentan a una enorme cantidad de ‘ruido’ traducido en notificaciones y detecciones de amenazas que hay que analizar. Con herramientas de la talla de GPT-3 al servicio de la ciberseguridad las empresas obtendrán todos los recursos necesarios para combatirlo y simplificar los procesos, proporcionando un tiempo valioso a los expertos en ciberseguridad. GPT-3 para la ciberseguridad no es una herramienta del futuro, sino del presente, y así es visto por los expertos de Sophos.

La entrada Un informe demuestra cómo ChatGPT puede ser una herramienta al servicio de la ciberseguridad es original de MuySeguridad. Seguridad informática.