Hur artificiell intelligens hotar förtroendet för information

Hur artificiell intelligens hotar förtroendet för information

I en tid då artificiell intelligens (AI) alltmer letar sig in i informationsflödet, blir frågan om sanning och tillit till information högaktuell. Vid ett samtal där finansministern Dr Danyal Bayaz och experten Prof. Christian Stöcker deltog blev det tydligt hur mycket den digitala allmänheten förändras och vilka utmaningar detta för med sig för samhället. FM Baden-Württemberg rapporterar att urholkning av offentliga fakta och nya dimensioner av desinformation var centrala ämnen i diskussionen.

Stöcker och Bayaz diskuterade bland annat psykologiska effekters roll och de åtgärder som både staten och enskilda medborgare kan vidta för att motverka detta problem. Syftet är att främja social motståndskraft i den digitala tidsåldern och stärka tilliten till sanningen. Podden om detta ämne finns tillgänglig gratis på populära plattformar och på Finansdepartementets YouTube-kanal.

Manipulering av sociala medier

Tillgång till tillförlitlig information är avgörande för demokratin. Men beteendet för informationskonsumtion har förändrats de senaste åren, vilket har lett till sociala sårbarheter. Enligt en rapport från Federal Agency for Civic Education Den tyska befolkningens förtroende för media var 47 % förra året och har därför minskat något, medan förtroendet för regeringen till och med har sjunkit till 42 %. Denna utveckling åtföljs av ökad social polarisering och förändrat mediekonsumtionsbeteende.

Artificiell intelligens ses som en global risk, särskilt när det gäller spridning av desinformation och desinformation. AI-teknik möjliggör automatiserad produktion av innehåll och riktad personalisering av information, vilket ökar möjligheterna till manipulation. Politiska aktörer använder allt mer algoritmiska färdigheter för att kontrollera användarnas beteende online och främja deras mobilisering. Detta blev särskilt märkbart under supervalåret 2024, då systematisk manipulation av sociala medier användes av både politiska aktörer och strategiska företag.

Emotionell aktivering och mobilisering

Innehållet som kureras via sociala mediers algoritmer syftar till att maximera användarens engagemang. Särskilt polariserande innehåll genererar känslomässiga reaktioner och kan därför avsevärt öka engagemanget. Influencers har etablerat sig som viktiga aktörer i detta sammanhang och har hög mobiliseringspotential. Alternativet för Tyskland (AfD) har specifikt använt dessa strategier för att sprida sina budskap och öka sin räckvidd.

Manipulationsstrategierna inkluderar bland annat AI-driven innehållsmanipulation och samordnade desinformationskampanjer baserade på emotionell aktivering. Det framhålls att samordningen av aktiviteter i allt högre grad flyttas över till slutna grupper på budtjänster. Detta påverkar inte bara synligheten av politiska budskap, utan har också djupgående konsekvenser för bildandet av demokratiska åsikter.

Rekommendationer för handling och utsikter

Med tanke på denna oroande utveckling är det nödvändigt med rekommendationer till åtgärder. Federal Agency for Civic Education rekommenderar införandet av en uppförandekod för partier, folkbildningskampanjer och främjande av en strategi med flera intressenter för att bekämpa manipulation. Dessutom bör tillgången till information om dataanvändning och algoritmer förbättras för att skapa transparens och återvinna allmänhetens förtroende.

Sammantaget belyser båda rapporterna de viktigaste utmaningarna som den systematiska manipuleringen av information i en ålder av AI utgör. Det är avgörande att politiker, plattformsoperatörer och civilsamhällets organisationer arbetar tillsammans för att effektivt ta itu med dessa utmaningar och upprätthålla en sund, balanserad diskurs.