Deepfakes y bots: ESET alerta sobre el auge de la desinformación en la era digital

Internet se ha convertido en un vasto depósito de conocimientos, accesible con tan solo unos clics. Sin embargo, este acceso ilimitado al conocimiento se ha convertido en un caldo de cultivo para la desinformación, un peligro latente ante la exorbitante cantidad de información que nos rodea. La facilidad con la que se puede acceder y difundir contenido en la web ha llevado a una proliferación sin precedentes de noticias falsas, teorías conspirativas y datos manipulados, que pueden influir en la opinión pública, distorsionar el debate democrático y poner en riesgo la cohesión social.

Y es que, Internet, con su vasta extensión y acceso ilimitado, se ha transformado en un campo de batalla donde la información no solo se comparte, sino que a menudo se filtra y distorsiona con intenciones maliciosas. Estos actores maliciosos, ya sean individuos o grupos, utilizan la red para insertar información falsa y sesgada con el objetivo de controlar narrativas, favorecer intereses particulares o incluso causar daño real a personas específicas. Por otro lado, la desinformación en redes sociales, se ha intensificado con el uso de bots, representando un serio desafío para la veracidad del discurso público. De hecho, investigaciones destacan que casi la mitad del tráfico en Internet proviene de estos bots que, sin esfuerzo alguno, propagan información falsa, afectando debates de importancia global como el conflicto entre Rusia y Ucrania, por ejemplo.

A este respecto, la proliferación de contenidos fabricados, manipulados o engañosos requiere de los usuarios una mayor diligencia para filtrar la información confiable de la que no lo es. “Además, la aparición de tecnologías de deepfake, que generan audio, imágenes y vídeos falsos mediante inteligencia artificial (IA), ha intensificado las campañas de desinformación, complicando aún más la capacidad de los usuarios para identificar la veracidad de lo que consumen en línea”, advierte Josep Albors, director de Investigación y Concienciación de ESET España.

En este panorama, y con el auge la IA, desde ESET, compañía líder en ciberseguridad, alertamos que herramientas como ChatGPT, que utilizan grandes modelos lingüísticos entrenados con vastos conjuntos de datos de Internet, se presentan, actualmente, como una amenaza. Aunque pueden proporcionar información útil, también han demostrado ser susceptibles a perpetuar falsedades y validar ideas erróneas, especialmente cuando se les presentan preguntas cargadas de desinformación. Este fenómeno, junto con la tendencia de estos chatbots a «alucinar» o generar respuestas y referencias completamente inventadas, subraya la necesidad de un análisis crítico de las respuestas proporcionadas por estas tecnologías.

La desinformación en sus diferentes formas y formatos

Distinguir entre lo fidedigno y lo falso se ha convertido en una tarea cada vez más complicada. “La desinformación en la era digital se manifiesta a través de múltiples canales, cada uno con sus propias tácticas para difundir información falsa”, comenta Albors.  Desde ESET recordamos que los artículos e informes, dependiendo de la fuente, pueden variar desde aquellos que presentan una verdad subjetiva, favoreciendo a medios sesgados, hasta webs completamente ficticias creadas con el propósito de engañar al público. En contrapartida, advertimos que las redes sociales actúan como un amplificador masivo de esta desinformación, permitiendo que artículos de fuentes dudosas, comentarios de figuras públicas falsificadas y grupos dedicados a la difusión de falsedades se propaguen rápidamente. Similarmente, foros y secciones de comentarios se convierten en espacios de promoción para enlaces a noticias falsas, fomentando el extremismo a partir de discusiones polarizadoras.

Por otro lado, el contenido audiovisual, incluyendo vídeos e imágenes, se usa para crear narrativas engañosas a través de reportajes falsificados, documentales sesgados y memes con propaganda, según ESET. “Una de las amenazas más sofisticadas es el uso de deepfakes, vídeos o audios manipulados con inteligencia artificial para imitar a personas reales, lo que añade un nivel de dificultad adicional para identificar las falsificaciones. Estas tecnologías no solo se utilizan para desinformar, sino que también pueden ser empleadas en actividades delictivas, subrayando el desafío creciente de discernir entre lo real y lo falso en el vasto paisaje digital”, añade Josep Albors.

Entre la verdad y el engaño: Cómo hacer frente a la desinformación

Para hacer frente a la desinformación y evitar caer víctima de noticias falsas, es crucial adoptar una postura crítica y reflexiva frente a la información que consumimos en Internet. Por ello, queremos dar algunos consejos clave para navegar de manera más segura, diferenciando entre lo que es real y lo que no lo es:

• Reflexiona críticamente: no aceptes información a primera vista, especialmente si proviene de fuentes no verificadas. Cuestiona el contenido que encuentres, como declaraciones de «expertos» sin credibilidad comprobada o historias que parecen demasiado extraordinarias para ser ciertas.
• Verifica la información: ante la proliferación de bulos en redes sociales y otros medios, busca siempre contrastar la información con fuentes de noticias objetivas y webs dedicadas a la verificación de hechos, que investiguen la validez de ciertas afirmaciones.
• Consulta diversas fuentes: Forma tu propia opinión a partir de la información obtenida de múltiples fuentes legítimas. Esto te permitirá tener una visión más amplia y fundamentada sobre diferentes temas.
• Mantén la calma en debates: evita caer en provocaciones de usuarios que buscan desviar la conversación o polarizarla. Los trolls de Internet se alimentan de la reacción emocional de sus interlocutores.
• Educación para combatir la desinformación: la Unión Europea ofrece una presentación sobre tácticas de desinformación. Este recurso puede ser muy útil para aprender sobre métodos de desinformación y cómo detectar falsificaciones.

Márk Szabó. Accede al post en inglés aquí.