Cómo actuar cuando el defraudador es una máquina 

Durante décadas, la detección del fraude en servicios financieros se ha sustentado sobre una premisa relativamente estable: una persona inicia una transacción y el comportamiento de esa persona puede observarse, modelarse y, si es necesario, verificarse. Los seres humanos somos predecibles y las señales de comportamiento suelen ser un claro indicador de riesgo de fraude por parte de las máquinas. La Inteligencia Artificial predictiva construida sobre esta premisa se ha convertido en la columna vertebral del sector: ha permitido analizar transacciones en tiempo real y reconocer patrones a gran escala, con modelos de aprendizaje automático capaces de procesar miles de transacciones por segundo para detectar anomalías antes de que se conviertan en pérdidas. 

Sin embargo, ahora nos encontramos ante una situación sin precedentes: las entidades no humanas tienen ya capacidad para realizar pagos. La visión del mundo y la base tecnológica sobre las que nos hemos apoyado durante los últimos 30 años deben enfrentarse a un escenario para el que nunca fueron diseñadas: interpretar un entorno en el que quien está detrás de una transacción no es una persona. 

Puede parecer complejo sobre el papel, pero la realidad es muy sencilla: hablamos de frigoríficos que hacen automáticamente la compra, coches que pagan el aparcamiento o los peajes o agentes que buscan las mejores ofertas para los regalos de Navidad. 

Se trata de un cambio profundo, no sólo en la tecnología que sustenta el ecosistema de pagos, sino también en toda la experiencia de compra del consumidor. Aunque inicialmente estas operaciones se centren en transacciones de pequeño importe, las previsiones de mercado son muy significativas: se estima que el comercio autónomo basado en agentes de IA alcanzará un volumen de transacciones de 1,7 billones de dólares en 2030, momento en el que podría haber más agentes realizando pagos que personas. 

Para los responsables de prevención del fraude, esto plantea una cuestión que va mucho más allá de la gestión del riesgo. Tradicionalmente, la pregunta clave siempre ha sido: «¿Quién es este cliente?». Cada vez más, la cuestión pasará a ser: «¿Qué agente está actuando, bajo la autoridad de quién y con qué intención?». 

Responder a esa pregunta exigirá que la prevención del fraude evolucione, incorporando capacidades autónomas capaces de hacer frente a un ecosistema de pagos y tecnologías igualmente autónomo. No bastará con hacer más rápido lo que los bancos ya hacen hoy; será necesaria una disciplina estructuralmente distinta. 

Un flujo de transacciones radicalmente diferente 

El paso de pagos iniciados por personas a pagos iniciados por agentes modifica por completo la anatomía de una transacción. En el modelo tradicional, una persona identifica una necesidad, autoriza la compra, el banco procesa la operación y confirma el pago directamente con ella. 

En un entorno autónomo, en cambio, la persona define previamente su intención, concede una autorización basada en esa intención y establece unos límites de actuación. A partir de ese momento, es el agente quien identifica la necesidad, inicia el pago y únicamente informa al usuario después de que el banco haya autenticado al agente y procesado la transacción. 

La secuencia se vuelve simultáneamente más compleja y más rápida desde el punto de vista del banco: existen menos señales de comportamiento, desaparecen las variaciones biométricas y el usuario queda prácticamente fuera del proceso en tiempo real. Ahí reside el verdadero problema para los equipos antifraude. 

Actualmente, gran parte de la detección de ataques automatizados se basa en una heurística muy sencilla: un ser humano no puede iniciar cientos de pagos en cuestión de segundos, por lo que una ráfaga de transacciones de alta velocidad se considera sospechosa por defecto. Pero los agentes eliminan por completo esa referencia. Si un agente autorizado puede realizar legítimamente operaciones a velocidad de máquina en nombre de un consumidor, la velocidad deja de ser un indicador fiable de fraude. 

Buscando nuevas señales sospechosas 

El conjunto de herramientas de autenticación que los bancos han perfeccionado durante años está construido casi exclusivamente sobre señales humanas, pero gran parte de estas herramientas dejan de ser útiles en el momento en el que un agente interactúa con un banco exclusivamente a través de una API. A esto se suma un reto adicional: aunque los agentes actúan de forma autónoma, siguen necesitando la intención, la autoridad y los permisos otorgados por una persona. Sin embargo, la «intención» como indicador de fraude todavía no cuenta con una representación de datos estandarizada. 

Los equipos antifraude se enfrentan así a una pregunta inédita: ¿cómo medir una desviación respecto a la intención autorizada cuando esa intención debe inferirse a partir de la configuración del agente y de las instrucciones originales de su propietario, en lugar de observarse directamente en su comportamiento? 

Cuánto nos hace perder la IA 

Los responsables de fraude que se preguntan hasta qué punto deben tomarse en serio este cambio no necesitan hacer hipótesis sobre el potencial destructivo de la IA generativa en manos de los ciberdelincuentes. La IA generativa ya acumula un historial significativo de participación en fraudes de gran impacto económico, y la evolución de estos casos resulta especialmente reveladora. 

Un ejemplo paradigmático fue la aparición de WormGPT en 2023: una herramienta de IA diseñada específicamente para usos maliciosos y comercializada en foros de la dark web. Se comprobó que WormGPT permitía multiplicar aproximadamente por diez la velocidad con la que podían desarrollarse campañas de phishing adaptativo y otras operaciones fraudulentas. 

Este constituye probablemente el ejemplo más claro de que la IA generativa no solo cambia la forma de ejecutar un ataque concreto, sino que transforma la capacidad operativa de las organizaciones criminales, permitiéndoles lanzar campañas mucho más rápidas, numerosas y eficaces. 

Pero ahora también surgen preguntas: cuando un agente comete un fraude, todavía no está claro quién debe asumir la responsabilidad. ¿Es el propietario del agente? ¿El desarrollador que lo creó? ¿O el banco que autenticó al agente y procesó la transacción? 

Los marcos legales y regulatorios aún no han resuelto esta cuestión y, mientras siga siendo así, las entidades financieras estarán expuestas a un grado de incertidumbre para el que los modelos tradicionales de responsabilidad por fraude nunca fueron concebidos. 

La Ley de IA de la Unión Europea, que entró en vigor en 2024, clasifica los sistemas según su nivel de riesgo e impone obligaciones de transparencia para las aplicaciones consideradas de alto riesgo. Es muy probable que esta normativa termine aplicándose a numerosos sistemas de pago autónomos cuando los reguladores los clasifiquen formalmente dentro de estas categorías. 

PSD3, por su parte, establece requisitos relativos a la Autenticación Reforzada de Cliente y contempla un amplio abanico de tipos de pagos y transacciones. Sin embargo, su planteamiento sigue partiendo de un supuesto básico: que quien inicia la compra es una persona. Aun así, existe margen para que PSD3 evolucione e incorpore requisitos específicos para el comercio autónomo, especialmente teniendo en cuenta que su implantación completa no se prevé, como pronto, hasta 2027. 

Sin embargo, más allá de estas normas, existe una serie de retos de gobernanza que afectarán especialmente a los responsables de prevención del fraude, tales como las reglas de monitorización de transacciones o los requisitos de trazabilidad. Además, comienzan a surgir exigencias regulatorias relacionadas con la explicabilidad de las decisiones tomadas por sistemas de IA en materia de fraude. Esto significa que los proveedores de soluciones de pago autónomas deberán ser capaces de justificar no solo la decisión adoptada, sino también explicar de forma verificable cómo un agente, o el sistema antifraude que lo evaluó, llegó a esa conclusión. 

La prevención del fraude también debe convertirse en un sistema basado en agentes 

La implicación estratégica más importante de todo lo anterior es que la propia prevención del fraude necesita adoptar la misma arquitectura y aprovechar las mismas capacidades que utiliza la amenaza a la que pretende enfrentarse. 

Un modelo eficaz debe conservar el núcleo de Inteligencia Artificial predictiva que ha sustentado la detección del fraude durante décadas. La identificación de patrones, la detección de anomalías y la evaluación del riesgo en tiempo real seguirán siendo elementos fundamentales y no desaparecerán. 

Los agentes impulsados por IA generativa también pueden utilizarse en el lado defensivo para ampliar la capacidad operativa

Sobre esa base, pueden incorporarse capacidades de IA generativa destinadas específicamente a aumentar la velocidad con la que los equipos antifraude responden a nuevos vectores de ataque, analizando tendencias emergentes y facilitando el despliegue de contramedidas mucho más rápido de lo que permitiría un análisis exclusivamente manual. 

Los agentes impulsados por IA generativa también pueden utilizarse en el lado defensivo para ampliar la capacidad operativa de los equipos de fraude, incrementando el número de casos que realmente pueden investigarse y gestionarse. 

En definitiva, es fundamental adaptarse a lo que viene. Los análisis del sector indican que los bancos que comiencen a desarrollar estas capacidades hoy disfrutarán de una ventaja competitiva real de entre tres y cinco años, ya que se espera que la adopción masiva de los pagos autónomos tenga lugar aproximadamente entre 2027 y 2030. Será entonces cuando los nuevos patrones de fraude aparezcan a gran escala y los marcos regulatorios hayan alcanzado un grado mucho mayor de madurez. Y las entidades que se adelanten tendrán la oportunidad de definir los estándares, los modelos de autenticación y, en buena medida, la jurisprudencia que acabará regulando este nuevo ecosistema. 

Alejandro Villar Pineda, managing director FICO Iberia