La IA puede revivir tu rostro y tu voz, pero ¿quién decide qué hace con ellos?

Fotografías, videos, audios, mensajes y publicaciones en redes sociales forman parte del archivo que dejamos detrás. Hoy, buena parte de ese material puede utilizarse para generar nuevas imágenes, imitar voces o construir representaciones digitales de una persona. El problema es que esos mismos datos pueden terminar en manos equivocadas y utilizarse para suplantaciones, fraudes o manipulación. Para Jorge Zamarrón Gómez, director de Innovación y Desarrollo de la funeraria J. García López , el límite no está necesariamente en lo que la tecnología permite hacer, sino en aquello que debería hacerse. En México, señala, todavía no existe una regulación específica que establezca qué puede ocurrir con la identidad digital de una persona después de su muerte, por lo que buena parte de la discusión termina trasladándose al terreno ético.

Del recuerdo al mal uso de datos

La facilidad con la que una herramienta puede transformar una fotografía puede hacer que compartirla parezca una acción trivial. Pero cada archivo que se entrega suma información que puede ser utilizada para construir una representación más precisa de una persona. La propia experiencia de J. García López sirve como ejemplo de ese límite. La empresa desarrolló hace algunos años la campaña “Sigues aquí”, en la que las familias podían subir una fotografía de un ser querido fallecido para convertirla en una pequeña animación de unos cinco segundos, con movimientos como un gesto de despedida o un abrazo. La campaña superó los 15,000 registros, pero también llevó a la empresa a cuestionarse hasta dónde debía llegar con este tipo de tecnología. “¿Quién nos está dando autorización de que nosotros hagamos eso?”, plantea Zamarrón. A partir de esa experiencia, la empresa decidió no repetir este tipo de dinámicas porque consideró que, más allá de conservar un recuerdo, la recreación podía comenzar a cruzar un límite y abrir la puerta al mal uso de fotografías o información personal. El reto no parece estar en impedir que la tecnología conserve la memoria de quienes ya no están, sino en decidir dónde termina el recuerdo y dónde comienza la fabricación de una identidad que nunca existió. “Ya no es lo que puedes hacer, sino lo que no deberías hacer”, explica Zamarrón al hablar de la evolución de estas herramientas. Para una empresa, segura, la decisión de no utilizar determinadas tecnologías puede formar parte de una estrategia de innovación cuando hacerlo. La alternativa, en su caso, está en utilizar la tecnología para conservar información sin intentar recrear a la persona. J. García López cuenta con una “bóveda digital” en la que los usuarios pueden almacenar fotografías, videos, documentos y otros recuerdos familiares para conservarlos y localizarlos posteriormente. El interés de las familias, de hecho, parece estar más relacionado con evitar que esa información sea utilizada para recrear a sus seres queridos sin autorización que con pedir que la empresa los vuelva a la vida digitalmente. Zamarrón explica que algunos clientes ya preguntan cómo evitar que las fotografías que entregan terminen utilizándose para crear videos o representaciones que muestren a una persona haciendo cosas que nunca hizo. “Ya sabemos que incluso con herramientas de inteligencia artificial gratuitas puedes hacer que una persona hable, puedes recrear la voz, puedes hacer un video”, señala. Y ese es precisamente uno de los puntos que preocupa a los especialistas en ciberseguridad. David González, secretario de Researcher para ESET Latinoamérica, advierte que entregar grandes cantidades de información sobre una persona puede facilitar la creación de contenidos capaces de hacerse pasar por ella y utilizarse posteriormente para engañar a otras personas.

Las tendencias no son tan “inocentes” como lo parece

La información de alguien que murió tampoco necesariamente representa un riesgo únicamente para esa persona. Fotografías, conversaciones, ubicaciones, relaciones familiares o cualquier otro dato pueden revelar información sobre quienes siguen vivos. Si una plataforma que almacena ese material fuera vulnerada, los ciberdelincuentes podrían obtener no solo una imagen o una voz, sino también el contexto necesario para realizar ataques de ingeniería social mucho más dirigidos. El problema empieza incluso antes de que una persona muera. En los últimos años se ha vuelto cotidiano entregar fotografías personales a herramientas de inteligencia artificial para seguir tendencias: convertir una imagen en un personaje, crear un avatar, modificar una fotografía o generar una versión distinta de nosotros mismos. Sensor Tower reportó que, durante la semana del 31 de marzo de 2025, después del despliegue general de la generación de imágenes, las descargas globales de la app de ChatGPT crecieron 216% semana contra semana, mientras que sus usuarios activos semanales aumentaron 27%. Datos de Similarweb apuntaron además que los usuarios activos semanales de ChatGPT superaron los 150 millones por primera vez ese año. Sam Altman dijo en esos días que habían sumado un millón de usuarios en una sola hora, frente a los cinco días que había tomado alcanzar ese mismo millón tras el lanzamiento original de ChatGPT. González advierte que esa aparente inocencia puede hacer que los usuarios pierdan de vista qué están entregando y qué derechos están cediendo. Una fotografía puede contener mucho más que un rostro, dependiendo del archivo y del contexto, puede estar acompañada de información sobre la persona, su entorno, sus actividades o incluso metadatos. Por eso, la pregunta sobre la identidad digital después de la muerte comienza mucho antes del funeral. Cada fotografía, audio, video o conversación que se almacena en una plataforma contribuye a construir una especie de archivo digital de una persona. Con suficiente información, una herramienta puede tener elementos para reproducir algunos de sus rasgos. González recomienda que los usuarios compartan únicamente la información indispensable y, antes de utilizar una herramienta de IA, revisen qué ocurre con los archivos que suben: cómo se almacenan, para qué pueden utilizarse, si pueden eliminarse posteriormente y si serán empleados para entrenar modelos. El consentimiento se vuelve todavía más complejo cuando la fotografía no es nuestra. Una persona puede subir a una herramienta una imagen de su padre, madre, pareja o amigo sin preguntarse si tiene derecho a entregar ese material a una empresa de inteligencia artificial. Y si esa persona ya falleció, aparece una pregunta adicional: ¿quién tiene autoridad para decidir qué se puede hacer con su voz, su rostro o sus datos?

Para Zamarrón, una posible solución sería que las personas pudieran establecer en vida qué quieren que ocurra con su identidad digital cuando mueran. Lo compara con la posibilidad de dejar constancia de decisiones personales y plantea la necesidad de mecanismos similares a un testamento digital que permitan determinar qué información conservar, qué eliminar y qué usos autorizar. Mientras esa discusión avanza, las plataformas ya tienen algunas herramientas para administrar cuentas de personas fallecidas. El problema, apunta González, es que estas opciones todavía dejan preguntas sobre quién puede solicitar el cierre, conservar una cuenta o decidir qué ocurre con la información que permanece en ella. También plantea mecanismos que permitan identificar claramente los perfiles de personas fallecidas para reducir el riesgo de clonación o suplantación. En México, el escenario todavía tiene vacíos. González señala que no existe una legislación específica sobre inteligencia artificial que establezca de manera integral estas responsabilidades, aunque sí existe regulación relacionada con la protección de datos personales. Desde su perspectiva, se necesita avanzar hacia reglas que definan responsabilidades cuando estas herramientas sean utilizadas para cometer fraudes, estafas o suplantaciones. Desde la perspectiva de los especialistas, mientras no exista una regulación oficial por parte del gobierno y las plataformas, la responsabilidad recae en gran medida en los usuarios, quienes tienen la tarea de ponderar si es más importante proteger sus datos y los de sus seres queridos o formar parte de una tendencia.

]]>