Robots & Empire: ¿Puede un LLM mejorar a otro sólo tocando los pesos de la Red Neuronal?
El pasado 2 de Noviembre se publicó un trabajo, que una vez más, me trajo a la mente una de las historias de Isaac Asimov. Ya sabéis que os escribí un artículo titulado: «Isaac Asimov y los problemas de la Inteligencia Artificial hoy en día qué el intuyó hace 75 años» donde recogía la lista de problemas de Jailbreak, Misalignment, Hallucinations, o Prompt Injection, expresados en forma de historias de robots con cerebros positrónicos por el genial escritor.
También os conté como los Fragmented Jailbreak Attacks, pensados para saltarse System Prompts o Guardarriles, fueron la parte clave de la historia de Naked Sun, donde se perpetran atentados con acciones de robots independientes, que juntas forman un ataque completo, como os conté en el artículo: «Naked Sun: Fragmented Jailbreak Attacks in Multi-Agents & Jailbreak Monitor (JAMON)«, además de dejaros su predicción de lo que serían los sistemas de Machine Learning Predictivo con entornos de Big Data que el describía como su «Psicohistoria«, y que dio lugar a la saga de La Fundación como os conté en el artículo «La Psicohistoria, la Ley Cero de las Leyes de la Robótica, el Imperio Galáctico & R. Daneel Olivaw«.
Hoy os voy hablar de un trabajo académico muy chulo, llamado: «Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights» donde se utiliza un LLM para analizar, arreglar, y mejorar otro LLM, sin destilación, ni fine-tuning, ni re-entrenamiento. Es decir, sin propagación de errores para ejecutar los famosos descensos de gradiente y encontrar mejores pesos para las neuronas de la red.
Figura 3: Los tres tipos de experimentos
Para ello, solo se utiliza un LLM, al que se le ponen diferentes tareas en diferentes experimentos, como podéis ver descritos aquí. El primero de ellos, analizar una red neuronal entrenada para jugar a un juego, y averiguar qué juego es. El segundo, para mejorar los pesos de una red neuronal que no consigue su objetivo – que un coche pase por encima de la rampa -, y el tercer experimento, mucho más ambicioso, que es mejorar las capacidades de un modelo LLM en un area concreta, como son las matemáticas.
El primer ejemplo me ha recordado al experimento que hicimos en LUCA en el año 2018, y que os publicamos en el artículo: «Cómo entrenar tu AI para jugar a Vídeo Juegos clásicos» donde mis compañeros Enrique Blanco y Fran Ramírez entrenaron a un modelo para jugar al Breakout.
Figura 5: OpenAIGym Breakout
La prueba que hacen en el paper es darle diferentes redes neuronales, cada una de ellas entrenada para jugar a un juego diferente, y pedirle a un LLM que, analizando los pesos de las neuronas, razone y descubra para qué juego está entrenada esa IA. Y lo hace perfectamente con varios ejemplos, como son Pong, Pac-Man, Breakout y Freeway.
El segundo experimento es más interesante aún, ya que se trata de reparar una red neuronal para resolver el problema. En este caso, el modelo de IA tiene que ser capaz de pasar el coche por encima de la rampa, pero no lo es – versión del coche más difuminada -, así que, utilizando OpenAI GTP-6 Astra, se modifican el 3.5% de los pesos de la red neuronal, y hace con la nueva configuración, el coche pase por encima de la rampa en los 1.024 intentos que se prueban. Es decir, 100% fixed.
Sobre esta misma idea de mejorar una red neuronal, los investigadores hicieron algo más radical. La idea es simple, se trata de darle una red neuronal a OpenAI GTP-6 Astra y decirle que configure en 1-Shot los pesos para que sepa jugar a un determinado juego, como son Breakout, Seaquest y Asterix.
El resultado, es que para uno de ellos es mejor el resultado que para un entrenamiento de 500M de pasos, y para los otros dos, mejor que un entrenamiento de 100M de pasos. Sorprendente.
Figura 9: Comparación con Astra 1-shot
Con esto, llegamos al tercer tipo de experimentos, que se trata de mejorar un modelo en una determinada disciplina, como son las matemáticas. Para eso, utilizando OpenAI GPT-6 Astra se le pide que modifique los pesos de un modelo Qwen3.5-0.8B para que sea mejor en matemáticas. Y lo hace.
Para hacer este experimento, se genera un Harness con un límite de tokens y un límite de ciclos de la evaluación, y con 50 iteraciones, los Benchmarks de MATH-500 paso de 7.9% a 48.1%, GSM8K de 13.8% a 67.1%, ambos en matemáticas, pero esta mejora se vio reflejada también en el benchmark IFEval que mide la predicción de instrucciones, y paso de 21.0% a 62.3%. Brutal.
Los investigadores también cuentan como en otros casos, los resultados no han sido tan positivos, ya que la complejidad y la calidad de los modelos era muy grande, o mucho mejor entrenado, pero desde luego, el que un modelo LLM pueda mejorar otro modelo LLM tocando los pesos, abre un escenario de «destilación» nuevo que no se conocía hasta el momento, y que por supuesto puede usarse para atacar y degradar un sistema también, como vimos en el libro de Hacking IA donde se podrían reducir los controles de seguridad con Fine-Tuning con técnicas como GRP-Obliteteration. Pues bien, ahora haciéndolo con manipulación de pesos.
escrito por Chema Alonso con la colaboración de Pablo González, Fran Ramírez, Amador Aparicio, Manuel S. Lemos y José Palanco de Plexicus.ai en 0xWord
¿Y por qué os dejaba la referencia de Robots & Empire de Isaac Asimov? Pues porque en el año 1983, que es cuando se publica esta novela, el escrito cuenta que dos robots, Giskard y Daneel, hablan con su propio lenguaje – como en el incidente de Hugging Face -, llegan a la conclusión de que pueden hacer daño a un humano si es por el bien de la humanidad y crean la Ley Zeroh – como en el incidente de Hugging Face – y además, Giskard, reprograma una nueva capacidad en Daneel solamente tocándole la configuración del cerebro positrónico.… espectacular.
¡Saludos Malignos!
Autor: Chema Alonso (Contactar con Chema Alonso)
Powered by WPeMatico











