Comment l’intelligence artificielle menace la confiance dans l’information

Comment l’intelligence artificielle menace la confiance dans l’information

À l’heure où l’intelligence artificielle (IA) s’invite de plus en plus dans les flux d’informations, la question de la vérité et de la confiance dans l’information devient très actuelle. Lors d'une conversation à laquelle ont participé le ministre des Finances Dr. Danyal Bayaz et l'expert Christian Stöcker, il est devenu clair à quel point le public numérique est en train de changer et quels défis cela entraîne pour la société. FM Bade-Wurtemberg rapporte que l'érosion des faits publics et les nouvelles dimensions de la désinformation étaient des sujets centraux du débat.

Stöcker et Bayaz ont discuté, entre autres, du rôle des effets psychologiques et des mesures que l'État et les citoyens peuvent prendre pour contrer ce problème. L’objectif est de promouvoir la résilience sociale à l’ère numérique et de renforcer la confiance dans la vérité. Le podcast sur ce sujet est disponible gratuitement sur les plateformes populaires et sur la chaîne YouTube du ministère des Finances.

Manipulation des réseaux sociaux

L’accès à des informations fiables est essentiel à la démocratie. Mais les comportements en matière de consommation d’informations ont changé ces dernières années, entraînant des vulnérabilités sociales. Selon un rapport du Agence fédérale pour l'éducation civique La confiance de la population allemande dans les médias était de 47 % l'année dernière et a donc légèrement diminué, tandis que la confiance dans le gouvernement est même tombée à 42 %. Cette évolution s’accompagne d’une polarisation sociale croissante et d’un changement des comportements de consommation des médias.

L’intelligence artificielle est considérée comme un risque mondial, notamment en termes de propagation de la désinformation et de la désinformation. Les technologies d’IA permettent la production automatisée de contenu et la personnalisation ciblée des informations, augmentant ainsi les possibilités de manipulation. Les acteurs politiques utilisent de plus en plus les compétences algorithmiques pour contrôler le comportement en ligne des utilisateurs et favoriser leur mobilisation. Cela est devenu particulièrement visible lors de la super année électorale de 2024, lorsque la manipulation systématique des médias sociaux a été utilisée à la fois par des acteurs politiques et des entreprises stratégiques.

Activation émotionnelle et mobilisation

Le contenu organisé via des algorithmes de médias sociaux vise à maximiser l'engagement des utilisateurs. Les contenus particulièrement polarisants génèrent des réactions émotionnelles et peuvent donc augmenter considérablement les taux d’engagement. Les influenceurs se sont imposés comme des acteurs importants dans ce contexte et disposent d’un fort potentiel de mobilisation. L’Alternative pour l’Allemagne (AfD) a spécifiquement utilisé ces stratégies pour diffuser ses messages et accroître sa portée.

Les stratégies de manipulation comprennent, entre autres, la manipulation de contenu basée sur l'IA et des campagnes de désinformation coordonnées basées sur l'activation émotionnelle. Il est souligné que la coordination des activités est de plus en plus transférée à des groupes fermés sur les services de messagerie. Cela affecte non seulement la visibilité des messages politiques, mais a également de profondes implications sur la formation des opinions démocratiques.

Recommandations d’actions et perspectives

Face à ces évolutions inquiétantes, des recommandations d’action sont nécessaires. L'Agence fédérale pour l'éducation civique recommande l'introduction d'un code de conduite pour les partis, des campagnes d'éducation du public et la promotion d'une approche multipartite pour lutter contre la manipulation. En outre, l’accès aux informations sur l’utilisation des données et les algorithmes devrait être amélioré afin de créer de la transparence et de regagner la confiance du public.

Dans l’ensemble, les deux rapports mettent en évidence les principaux défis posés par la manipulation systématique de l’information à l’ère de l’IA. Il est crucial que les politiciens, les opérateurs de plateformes et les organisations de la société civile travaillent ensemble pour relever efficacement ces défis et maintenir un discours sain et équilibré.