Cómo la inteligencia artificial amenaza la confianza en la información

Cómo la inteligencia artificial amenaza la confianza en la información

En un momento en que la inteligencia artificial (IA) se abre paso cada vez más en el flujo de información, la cuestión de la verdad y la confianza en la información se vuelve de gran actualidad. En una conversación en la que participaron el Ministro de Finanzas, Dr. Danyal Bayaz, y el experto Prof. Christian Stöcker, quedó claro cuánto está cambiando el público digital y qué desafíos trae consigo para la sociedad. FM Baden-Wurtemberg informa que la erosión de los hechos públicos y las nuevas dimensiones de la desinformación fueron temas centrales en la discusión.

Stöcker y Bayaz discutieron, entre otras cosas, el papel de los efectos psicológicos y las medidas que tanto el Estado como los ciudadanos pueden tomar para contrarrestar este problema. El objetivo es promover la resiliencia social en la era digital y fortalecer la confianza en la verdad. El podcast sobre este tema está disponible de forma gratuita en plataformas populares y en el canal de YouTube del Ministerio de Hacienda.

Manipulación de las redes sociales

El acceso a información confiable es esencial para la democracia. Pero el comportamiento de consumo de información ha cambiado en los últimos años, lo que ha generado vulnerabilidades sociales. Según un informe del Agencia Federal para la Educación Cívica La confianza de la población alemana en los medios de comunicación fue el año pasado del 47% y, por tanto, ha disminuido ligeramente, mientras que la confianza en el gobierno cayó incluso al 42%. Este desarrollo va acompañado de una creciente polarización social y un cambio en el comportamiento de consumo de medios.

La inteligencia artificial se considera un riesgo global, particularmente en términos de difusión de información errónea y desinformación. Las tecnologías de inteligencia artificial permiten la producción automatizada de contenidos y la personalización específica de la información, lo que aumenta las oportunidades de manipulación. Los actores políticos utilizan cada vez más habilidades algorítmicas para controlar el comportamiento en línea de los usuarios y promover su movilización. Esto se hizo particularmente notable en el año súper electoral de 2024, cuando tanto los actores políticos como las empresas estratégicas utilizaron la manipulación sistemática de las redes sociales.

Activación y movilización emocional.

El contenido seleccionado a través de algoritmos de redes sociales tiene como objetivo maximizar la participación del usuario. El contenido particularmente polarizador genera reacciones emocionales y, por lo tanto, puede aumentar significativamente las tasas de participación. Los influencers se han consolidado como actores importantes en este contexto y tienen un alto potencial de movilización. Alternativa para Alemania (AfD) ha utilizado específicamente estas estrategias para difundir sus mensajes y aumentar su alcance.

Las estrategias de manipulación incluyen, entre otras, manipulación de contenidos impulsada por IA y campañas coordinadas de desinformación basadas en la activación emocional. Se destaca que la coordinación de actividades se traslada cada vez más a grupos cerrados en los servicios de mensajería. Esto no sólo afecta la visibilidad de los mensajes políticos, sino que también tiene profundas implicaciones para la formación de opiniones democráticas.

Recomendaciones de acción y perspectivas

En vista de estos preocupantes acontecimientos, son necesarias recomendaciones para la acción. La Agencia Federal para la Educación Cívica recomienda la introducción de un código de conducta para los partidos, campañas de educación pública y la promoción de un enfoque multilateral para combatir la manipulación. Además, se debe mejorar el acceso a la información sobre el uso de datos y los algoritmos para generar transparencia y recuperar la confianza del público.

En general, ambos informes destacan los desafíos clave que plantea la manipulación sistemática de la información en la era de la IA. Es crucial que los políticos, los operadores de plataformas y las organizaciones de la sociedad civil trabajen juntos para abordar eficazmente estos desafíos y mantener un discurso sano y equilibrado.