OpenAI apoya que el contenido sintético lleve “marca de agua”

OpenAI mostró su apoyo a un proyecto de ley en California que obligaría a las empresas tecnológicas a etiquetar los contenidos generados por IA, que pueden ir desde memes inofensivos hasta profundas falsificaciones destinadas a difundir información errónea sobre candidatos políticos. El proyecto de ley, denominado AB 3211, se ha visto eclipsado hasta ahora por la atención prestada a otro proyecto de ley sobre inteligencia artificial (IA) del estado de California, el SB 1047, que obliga a los desarrolladores de IA a realizar pruebas de seguridad en algunos de sus propios modelos.

Este proyecto de ley se ha enfrentado a la reacción de la industria tecnológica, incluida OpenAI, que cuenta con el apoyo de Microsoft. Según la base de datos legislativa del estado, los legisladores californianos intentaron presentar 65 proyectos de ley relacionados con la IA esta temporada legislativa, incluidas medidas para garantizar que todas las decisiones algorítmicas sean imparciales y proteger la propiedad intelectual de las personas fallecidas de la explotación por parte de las empresas de IA. Muchos de los proyectos de ley ya han sido desechados. OpenAI, con sede en San Francisco, cree que para los contenidos generados por IA, la transparencia y los requisitos en torno a la procedencia, como las marcas de agua, son importantes, especialmente en un año electoral, según una carta enviada a Buffy Wicks, miembro de la Asamblea del Estado de California y autora del proyecto de ley. Con países que representan un tercio de la población mundial celebrando comicios este año, los expertos están preocupados por el papel que desempeñarán los contenidos generados por IA, que ya han tenido un papel destacado en algunas elecciones, como en Indonesia. “Las nuevas tecnologías y normas pueden ayudar a la gente a entender el origen de los contenidos que encuentran en línea, y evitar la confusión entre los contenidos generados por humanos y los generados por IA fotorrealista”, escribió Jason Kwon, director de estrategia de OpenAI, en la carta, reseñada por Reuters. La ley AB 3211 ya ha sido aprobada por la Asamblea estatal por 62 votos a favor y 0 en contra. Este mes fue aprobada por el comité de apropiaciones del Senado, que la someterá a votación en el pleno del Senado. Si se aprueba antes de que finalice la sesión legislativa el 31 de agosto, se remitirá al gobernador Gavin Newsom para que la firme o la vete antes del 30 de septiembre.

]]>