Sin marcas, ni gente famosa. La ética detrás de las imágenes hechas con IA

La generación de imágenes realistas nunca había sido tan sencilla como en la actualidad, lo cual representa un riesgo en términos de desinformación y requiere un enfoque responsable por parte de las empresas desarrolladoras hacia los usuarios para que estos no caigan en confusiones. De acuerdo con Informe sobre Riesgos Globales 2024 del Foro Económico Mundial, la difusión de información errónea será una de las principales amenazas de los próximos años, especialmente en contexto electorales, debido a que a los votantes les será más difícil discernir la información factual de la falsa. El reporte también resalta que ciertos grupos demográficos, históricamente vulnerables, pueden ser objetos de campañas de desinformación por medio de contenidos que perpetúen los estereotipos o formas violentas de marginalización para seguir provocando daños en la opinión pública.

Las empresas desarrolladoras deben hacerse responsables de sus plataformas de creación de imágenes y en caso de encontrar modelos que permitan la desinformación, como Grok, cuyo dueño es Elon Musk, los usuarios deberían optar por alternativas con un enfoque de responsabilidad desde el diseño. El director de producto de Getty Images, Grant Farhall, menciona que los usuarios deberían exigir soluciones de alta calidad, que respeten la propiedad intelectual, respeten los derechos de los artistas y además compensen a esos artistas. Desde el año pasado, la compañía lanzó una plataforma para crear imágenes, impulsada por su acervo de más de 300 millones de fotografías hechas por fotoperiodistas y diseñadores, entre otros expertos de la imagen. “Deberíamos no solo preguntarnos si podemos usar estas imágenes comercialmente, sino si se pueden utilizar de manera que no creará riesgo para mí, e incluso qué nivel de protección legal me va a ofrecer”, comenta el especialista. De acuerdo con la empresa, la IA generativa de Getty Images es una herramienta que combina el contenido creativo de la empresa con la última tecnología de IA para crear un generador de imágenes con Inteligencia Artificial, haciendo énfasis en que es comercialmente seguro, pues no refleja ninguna marca o persona en su creaciones. Desde el punto de vista de Farhall, al utilizar IA generativa las empresas que están detrás de su desarrollo también tendrían que compartir la forma en que los modelos están entrenados para evitar caer en infracciones a los derechos de autor. “Nosotros, incluyendo Getty Images, cualquiera que traiga estas capacidades al mercado debería estar a un nivel más alto. Y deberíamos cumplir y superar ese nivel cada vez más. Y no creo que eso esté sucediendo ahora en todo el sector”, critica Farhall.

Las empresas de IA luchan con los derechos de autor y la desinformación Hace una semana, xAI, la empresa de Inteligencia Artificial de Elon Musk lanzó dos nuevos modelos para el chatbot Grok, los cuales permiten generar imágenes y publicarlas directamente en la red social X aun cuando se trate de personajes reales con los riesgos que eso conlleva. En enero del año pasado, Getty Images inició una demanda en contra de la empresa Stability AI, desarrolladora de plataforma de IA generativa, Stable Diffusion, por considerar que “copió y procesó ilegalmente millones de imágenes protegidas por derechos de autor”. Pero esa no es la única polémica alrededor de la IA. Autores como la comediante Sarah Silverman, el autor de «Juego de Tronos», George R.R. Martin, o incluso el New York Times han impuesto demandas contra empresas tecnológicas, como OpenAI y Microsoft por el presunto uso de sus obras para entrenar sus programas de IA. En una demostración que Grant hizo a Expansión, el programa recibió la instrucción de realizar un par de tenis y el resultado fue completamente genérico incluso cuando se le pidió que los hiciera de una marca. En otro caso también se le solicitó una imagen de Times Square y la imagen no mostró ningún tipo de publicidad, a pesar de que este sitio se caracteriza por los anuncios gigantes de productos o personas famosas.

]]>