Desnudos con Inteligencia Artificial

Sorprendentes fueron los videos que pudimos ver en los que personajes populares como Belén Esteban, El Fary o Chiquito de la Calzada aparecían hablando en perfecto inglés gracias a la inteligencia artificial (IA), con la particularidad de son tan realistas, manteniendo su tono y formas, que obtienen un resultado increíble. Esto no es del agrado de todos, como es el caso de Tom Hanks o Scarlett Johansson, que anunciaron el inicio de acciones legales por el uso con fines comerciales de imágenes suyas generadas con IA.

Y lo cierto es que cada vez va a ser más difícil distinguir entre la realidad y lo que ha sido creado por IA. Y si no que se lo digan a Iker Jiménez, que fue víctima de ello en los audios que se viralizaron, en los que una voz idéntica a la suya (él mismo reconoció que parecía su propia voz, giros, forma de expresarse, etc.) hacía un discurso soez, machista y xenófobo que él nunca hubiera hecho. En esta ocasión, el famoso presentador se lo tomó con humor, pero esta técnica podría usarse con fines menos jocosos en otros entornos, con lo que podrían ser la base para fake news, estafas y todo tipo de fraudes.

Pero lo que ha generado mucha polémica últimamente es la difusión de “deepnudes” (fotos de supuestos desnudos con Inteligencia Artificial), como fueron los montajes sufridos por Rosalía en mayo de 2023 o Laura Escanes y Cristina Pedroche en agosto de 2023; así como los incidentes producidos en septiembre de 2023 por los desnudos de las menores de Almendralejo (Badajoz), Ayamonte (Huelva) y Alcalá de Henares (Madrid) creados con una App (presumiblemente, ClothOff) que permite generar imágenes de personas como si estuvieran desnudas, con un realismo que hace difícil de detectar su falsedad.

A pesar de lo que se ha comentado sobre la supuesta impunidad de este tipo de actuaciones, lo cierto es que suponen una vulneración del derecho a la propia imagen recogido en el artículo 18 de la Constitución, que protege la representación gráfica de la figura humana o de algunos de sus rasgos, incluido el rostro; lo que se desdobla en dos aspectos: uno positivo, que es el derecho a reproducir y publicar la propia imagen; y otro negativo, que faculta para impedir a terceros no autorizados a obtener, reproducir y publicar la misma (artículo 7-6 de la Ley Orgánica 1/1982, de 5 de mayo, de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen).

La difusión de “deepnudes” (fotos de supuestos desnudos con Inteligencia Artificial), suponen una vulneración del derecho a la propia imagen recogido en el artículo 18 de la Constitución

Pero estos actos no se limitan a usar la imagen de estas personas, sino que, además, las desnudan (aunque no sean auténticos desnudos, el efecto de difusión es idéntico debido al hiperrealismo de las imágenes) y se comparten con terceros sin su consentimiento, con lo que se estaría cometiendo un delito de revelación de secretos y vulneración de la intimidad tipificado en el artículo 197-7 del Código Penal y castigado con la pena de prisión de 3 meses a 1 año o multa de 6 a 12 meses, previendo el apartado 5 de dicho precepto la imposición de las penas en su mitad superior cuando se trate de imágenes de menores.

Y, dando un paso más, si las víctimas son extorsionadas con la amenaza de difundir estas imágenes de desnudos con Inteligencia Artificial a cambio de entregar verdaderas imágenes suyas desnudas o en cualquier situación comprometida, pagar dinero, o realizar cualquier otra prestación que no deseen hacer, además se estaría cometiendo un delito de coacciones sancionado con prisión de 6 meses a 3 años o multa de 12 a 24 meses por los artículos 172 y siguientes del Código Penal.

En el supuesto de que las víctimas sean menores, en primer lugar, hay que tener en cuenta lo dispuesto por la Circular 2/2015 de la Fiscalía General del Estado, de 19 de junio, sobre los delitos de pornografía infantil tras la reforma operada por Ley Orgánica 1/2015, cuyo Apartado 2.3. define la “Pornografía virtual” como aquella en la que la imagen del menor es una creación artificial pero realista (“imágenes que no son reales, pero lo parecen”), elaborada por ordenador u otro medio, en la línea del artículo 5 de la Directiva 2011/93/UE.

Y, en este sentido, el artículo 189-1-d) del Código Penal considera incluido en el delito de pornografía infantil, castigado con la pena de prisión de 1 a 5 años, la elaboración, producción, venta, distribución, exhibición u ofrecimiento de imágenes realistas de un menor participando en una conducta sexualmente explícita o imágenes realistas de los órganos sexuales de un menor, con fines principalmente sexuales. Asimismo, la pena sería incrementada a prisión de 5 a 9 años en el caso de que la víctima sea menor de 16 años (artículo 189-2-a) del Código Penal).

Y cuando los autores de los hechos sean realizados por personas mayores de 14 años y menores de 18 años, resultaría de aplicación la Ley Orgánica 5/2000, de 12 de enero, reguladora de la responsabilidad penal de los menores (LORPM), que establece actividades formativas, educativas, laborales y de ocio para la reeducación, integración y reinserción de los menores, sin perjuicio de que gocen de los derechos reconocidos en la Convención sobre los Derechos del Niño de 20 de noviembre de 1989, la Constitución y la Ley Orgánica 1/1996, de 15 de enero, de Protección Jurídica del Menor.

Los menores de 14 años serían inimputables desde el punto de vista penal, debiendo aplicarles las normas sobre protección de menores previstas en el Código Civil y demás disposiciones vigentes (artículo 3 de la LORPM), disponiendo el artículo 1903 del Código Civil que los padres y tutores son los responsables de los actos de los menores que se encuentren bajo su guarda, en virtud de la culpa in vigilando, in custodiando o in educando, salvo que prueben que actuaron diligentemente para prevenir el daño.

Además de lo anterior, estos hechos pueden tener relevancia desde la perspectiva de la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales (LOPDGDD) y el Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos (GDPR); razón por la que la Agencia Española de Protección de Datos (AEPD) abrió una investigación de oficio sobre los casos de los desnudos de menores a que se ha hecho referencia y recordó que se puede solicitar la retirada de las imágenes a través del Canal Prioritario indicando las direcciones URL desde las que se puede acceder a ellas.

Sin perjuicio de la responsabilidad penal y administrativa analizada, así como la responsabilidad civil ex delicto que pudiera corresponder según lo previsto en los artículos 109 y siguientes del Código Penal y 100 y siguientes de la Ley de Enjuiciamiento Criminal, existe una creciente preocupación a nivel global sobre la necesidad de desarrollar una adecuada regulación sobre la IA que ponga límites a su uso inadecuado y sancione las conductas ilícitas que se puedan producir. Y, en este sentido, el pasado 8 de diciembre de 2023 se anunció que se ha logrado alcanzar un principio de acuerdo sobre la redacción del Reglamento de IA (“AI Act”) que, entre otras cuestiones, regulará los sistemas de IA generativa, así como sus límites y prohibiciones para evitar que se vulneren los derechos y la privacidad de las personas.