Seguridad

Ángel o Demonio: El debate sobre la I.A. en Horizonte T3x116 @navedelmisterio

El pasado jueves – ya casi en la madrugada del viernes – Iker Jiménez y Carmen Porter quisieron llevar el debate sobre la I.A. al programa de Horizonte, para hablar un poco de todo lo que está pasando alrededor de este mundo. Para ello, Ángel Niño, Cristina Aranda y yo fuimos invitados para tener una charla abierta a colación de la portada de The Economist sobre A.I. reflejando la dualidad. Sobre este tema yo he hablado mucho, y hablo mucho en este blog. Y tengo una opinión muy tibia al respecto.

No soy de los que voy a demonizar la I.A. por los futuros distópicos con los que nos hemos creado y los capítulos de BlackMirror que uno a uno se puedan ir haciendo realidad, pero sí que creo que igual que hemos visto que nos han hecho – y por eso hemos puesto algunas regulaciones al respecto – con Internet, con los datos, con la privacidad, o con lo que se considera delito o no, con el tema de la I.A. nos hace falta alguna reflexión más para saber qué es lo que queremos tener o no en nuestra vida.

Figura 2: Portada de The Economist sobre A.I.

El programa ya lo tienes disponible a la carta, por si quieres verlo, y esta sección en concreto comenzó en el minuto 34 del programa, ya que antes se trataron otros temas. Lo puedes ver en el siguiente enlace.    

Ya vimos que en la industria militar hay preocupación como vimos con REAIM, al igual que lo hay con los modelos de Generative-AI usando Stable Diffusion que son entrenados con datos con derechos de autor y generan tantos problemas a la hora de valorar si las obras derivadas generadas con modelos de difusión son ( o no ) como cuando una canción copia unos acordes de otros o no – recordad el famoso caso del rapero y el uso de parte de la melodía de “Every breath you take” que tiene que pagar 5.000 USD al día por copiar esos acordes.

Y por supuesto, temas como que las empresas pongan en producción modelos de I.A. que puedan tener sesgos de género, de raza, de edad o de lo que sea a la hora de usarlos en tomas de decisiones que pueden afectar a la vida de las personas. Como en el caso de los sesgos de género en los traductores de Google y Bing para los que yo abrí la petición de cambio.

Tomaos este pequeño debate como un anticipo para OpenExpo Europe 2023, que tendrá lugar el 18 de Mayo de este año, y donde estaremos hablando Iker Jiménez, Ángel NiñoCristina Aranda y yo mismo de estos temas. Por si te interesa tanto, para la edición de este programa sacamos un código descuento que es “HORIZONTE1” y que deja el coste de la entrada a OpenExpo Europe 2023 a solo 1 €.

¡Saludos Malignos!
Autor: Chema Alonso (Contactar con Chema Alonso)  

Powered by WPeMatico

Gustavo Genez

Informático de corazón y apasionado por la tecnología. La misión de este blog es llegar a los usuarios y profesionales con información y trucos acerca de la Seguridad Informática.