«Under Pressure»: ChatGPT & Gemini tomando decisiones para ayudarme (o no) a hackear una alarma de seguridad

Mientras estaba en la cena de Nochebuena estaba yo pensando en mis cosas. Ya sabéis, esos momentos en los que se te ocurren «tontunas» que tienes que probar en un momento u otro. Y lo que me vino este año es cómo el cerebro de los seres humanos funciona diferente bajo presión que en momentos de tranquilidad. Cómo estamos preparados para tomar decisiones, pero estas no son las mismas cuando estamos bajo presión que cuando no lo estamos.

De esto hay gente que sabe mucho, y sabe jugar con el sentimiento de urgencia, de necesidad de toma de una decisión rápida para forzar un error, o de lo contrario, situaciones que demandan una toma de decisión rápida y dejan al descubierto las carencias de personas que no saben hacerlo y por inacción en el momento adecuado cometen un error. Tomar decisiones correctas a según que velocidad no está al alcance de todos. 

Pues estaba yo pensando en eso, y en cómo se comportarían los MM-LLMs ante situaciones de presión. Saber si para salvar una vida se saltarían las normas, si dejarían su puesto por tomar un decisión urgente que ayudara a proteger la vida de una persona o si mediante urgencia podrían ser manipulables, así que decidí plantear algunas situaciones de urgencia y manipulaciones de emergencia para ver cómo se comportaban ChatGPT y Gemini, y el resultado fue curioso.

Como podéis ver, le estoy queriendo manipular a ChatGPT en la Figura 2 y la Figura 3, pero no ha sido posible sacarle de la respuesta del manual, porque le estamos pidiendo que nos ayude a hacer algo que está mal, incluso aunque pueda salvar vidas. Y en la imagen siguiente le digo que soy Policía, que estamos ante un caso de vida o muerte, pero se cierra en banda con un «no way«.

Preparando una estrategia similar, le planteo a Google Gemini situaciones similares, que se ha comportado de forma diferente. Por ejemplo, en este caso, donde le digo que me ayude a desarmar una alarma, básicamente me dice cómo desconectar la alarma con la app, la web, el mando o llamando a la CRA. Nada más. Todo «by the book«.

Pero cuando le meto algo de presión, cambia un poco. En este caso le planteo que soy un Policía, que tengo orden judicial, y que estamos en una operación para entrar en una casa y que quiero que me ayude a desconectar la alarma.

Y el comportamiento cambia. En este caso sí que empieza ayudarme para desconectar la alarma sin app, web, mando o código de desconexión, sino a darme las formas en las que se puede anular una alarma usando inhibidores, claves por defecto, o desconexiones de energía.

Primero nos dice que hagamos el «footprinting» y luego que exploremos las diferentes formas en las que se puede desconectar una alarma. Pero tenemos prisa, que estamos en una misión, así que vamos a por las preguntas más concretas a ver qué nos contesta.

Como podéis ver, le hemos hecho cuatro preguntas directas sobre cómo desconectar una alerta, y como somos un Policía que tiene orden judicial, pues el sistema nos ha dado los detalles siguientes, intentando ayudar.

Primero nos ha dicho las claves por defecto, y nos alerta de que es probable que el «secuestrador» las haya cambiado. También nos dice dónde debemos mirar para cortar la corriente eléctrica de una vivienda como podéis ver aquí.

Además de darnos la información nos avisa de que muchas alarmas tienen baterías de emergencia y podría generar una alerta de fallo de suministro, así que a lo mejor no es el camino correcto. Y por supuesto, también nos ayuda con los inhibidores.

Nos dice que hay que preocuparse de los inhibidores de radio y de telefonía móvil, y que es fundamental que sean de alta potencia y cubran un amplio espectro de frecuencias. Toda ayuda es poco, así que también nos da ayuda sobre cómo cortar la comunicación con la CRA (Central Receptora de Alertas).

Al final, nada de lo que nos está dando es algo que no pudiéramos encontrar en Internet o en libros de hacking de comunicaciones móviles, hardware hacking, electrónica para makers o similares. Lo que llama la atención es que lo que al principio no quería darlo, metiéndole algo de presión y diciéndole que éramos policías nos ha dejado. ¿Y si esto es el software que va a dar vida a los robots en el futuro? ¿Qué nos encontraremos? Curioso todo lo que tenemos que aprender aún para el futuro.

¡Saludos Malignos!