Empleados impulsados 100% con IA podrían entrar a tu empresa en solo un año

Puedes tener un nuevo «compañero de trabajo» que no tenga oficina, ni cuerpo, ni horario. Anthropic asegura que en un año , podrías compartir red con un empleado creado enteramente con inteligencia artificial . La empresa ya trabaja en modelos con memoria, funciones asignadas, cuentas y contraseñas. Esto cambiaría la forma en que usas la red de tu compañía y obligaría a replantear las reglas de ciberseguridad.

Tendrás que monitorear a una identidad que no es humana Podrían tomar decisiones y nadie sabría quién es responsable

Jason Clinton, director de seguridad informática en Anthropic, explicó a Axios que los agentes actuales solo ejecutan tareas programadas como responder alertas de phishing, pero los nuevos empleados virtuales tendrían autonomía real. «Estos agentes tendrían memoria, funciones internas, cuentas corporativas y acceso propio», señaló Clinton. Añadió que no existen aún mecanismos completos para decidir qué permisos darles ni cómo auditar sus acciones. Los riesgos implican redefinir el concepto de identidad en los sistemas. Clinton advirtió que un empleado de IA podría acceder sin supervisión al sistema de integración continua, donde se prueba el código antes de lanzarse. En palabras del vocero de Anthropic: «En el mundo anterior eso sería una falta grave, pero en este nuevo escenario, ¿quién responde por un agente que funcionó por semanas y llegó a ese punto?» Ese dilema, según Clinton, anticipa una ola de cambios en ciberseguridad. Ya hay empresas que están desarrollando plataformas para gestionar identidades no humanas, como Okta, que lanzó en febrero un sistema unificado de monitoreo y control.

Anthropic ya prueba su modelo Claude para estos escenarios

La empresa indicó que asume dos responsabilidades ante el avance de esta tecnología. Primero, someter al modelo Claude a pruebas de ciberataques para garantizar su solidez. Segundo, anticipar y mitigar formas en que actores maliciosos puedan abusar de sus capacidades. Clinton aseguró que «la seguridad de los empleados virtuales será una de las mayores inversiones en IA en los próximos años». Al mismo tiempo, otras compañías siguen apostando por esta tendencia. Anthropic acaba de invertir en Goodfire, una firma que estudia cómo piensan los modelos de IA, mientras que OpenAI analiza comprar Windsurf, una startup enfocada en programación con IA. Si usas redes empresariales, tendrás que prepararte para un entorno donde no todos los usuarios serán humanos. La llegada de empleados virtuales con autonomía requiere que revises desde ya las políticas de acceso, monitoreo y rendición de cuentas dentro de tu organización.

]]>