Riesgos de la Inteligencia Artificial: Cuando Alan Turing jugó a ser el guardián del Futuro.
En 1950, Turing publicó un histórico ensayo académico llamado “Computing Machinery and Intelligence“, un artículo en el que se hizo la pregunta “¿Pueden pensar las máquinas?“. En lugar de intentar definir lo que significaría para una máquina “pensar” en términos humanos (algo que ni siquiera hoy día tenemos claro), propuso que si una máquina puede interactuar con un humano de tal manera que el humano no puede distinguir si está interactuando con una máquina o con otro humano, entonces la máquina podría considerarse inteligente. En otras palabras, además de parecer inteligente, nos podría engañar. Estamos hablando, nada más y nada menos, del famoso Test de Turing.
Figura 3: “Microhistorias: anécdotas y curiosidades de la historia de la informática (y los hackers)“de Fran Ramírez y Rafael Troncoso en 0xWord. |
El Test de Turing y las Predicciones de Seguridad de Turing
El Test de Turing es de base, una prueba de engaño. Una máquina pasa el test si puede engañar a un ser humano para que crea que está interactuando con otro humano. Alan Turing ya predijo que las máquinas (o la IA) serían capaces de pasar su test a finales del Siglo XX. Por otro lado, Turing también reconocía que el engaño al test podría tener implicaciones muy peligrosas. Es decir, si una máquina puede engañar a un humano para que crea que es otro humano ¿cuál es el límite? ¿qué otros engaños serían posibles?
Y Turing tenía razón: DeepFakes, FakesNews y más allá
Hoy día ya estamos viviendo las consecuencias de los peligros que Alan Turing predijo. Los Deepfakes y las Fakenews son sólo la punta del iceberg. Ya hemos comprobado que las redes sociales y el correo electrónico se han llenado de bots inteligentes capaces de generar desinformación o ser el anzuelo para estafar y engañar. En este punto aprovecho para recomendarte utilizar MyPublicInbox si quieres tener una comunicación fiable y directa con todo tipo de perfiles y evitar estos cada vez más frecuentes problemas de desinformación y suplantación que tenemos a día de hoy.
Continuando con los deepfakes, estos son una gran amenaza a la seguridad y confianza de los datos y de la información. Con esta tecnología se pueden crear vídeos y audios falsos (clonación de voz) tan convincentes capaces de engañar incluso a familiares cercanos. Pero no sólo hablamos de engaños, también de ética y privacidad. La IA puede ser utilizada para sacar beneficio desde prácticamente cualquier ámbito digital, algo que puede afectar a nuestra privacidad. Por lo tanto, la ética es también un tema importante que Alan Turing ya vaticinó.
Luchando contra las DeepFakes
Nosotros, desde nuestro equipo de Ideas Locas junto a Chema Alonso, llevamos tiempo avisando sobre este problema e intentando crear herramientas para ayudar a la detección de este tipo de engaños. Pensamos que la seguridad en el mundo de la IA es crítica debido a cómo avanza la tecnología a día de hoy.
Por ejemplo, con OMLASP (aquí tienes un artículo donde lo explicamos a fondo) queremos emular a nuestro querido Mitre ATT&CK para crear un framework que ayude a evaluar y encontrar vulnerabilidades en modelos de Machine Learning.
Figura 7: Demo de DeepFake Detector con humanos
Reflexión final
A pesar de que han pasado más de 70 años desde que Alan Turing publicó “Computing Machinery and Intelligence“, su trabajo sigue siendo increíblemente relevante. En muchos sentidos, Turing fue un profeta de la era de la IA, anticipando tanto sus posibilidades como sus peligros.
Figura 9: No Lusers 171 – Emociones Intelectuales |
Contactar con Fran Ramírez en MyPublicInbox |
Powered by WPeMatico