Hvordan kunstig intelligens truer tilliten til informasjon

Hvordan kunstig intelligens truer tilliten til informasjon

I en tid hvor kunstig intelligens (AI) i økende grad finner veien inn i informasjonsflyten, blir spørsmålet om sannhet og tillit til informasjon høyaktuelt. På en samtale med deltatt av finansminister Dr. Danyal Bayaz og eksperten prof. Christian Stöcker, ble det klart hvor mye den digitale offentligheten endrer seg og hvilke utfordringer dette fører med seg for samfunnet. FM Baden-Württemberg rapporterer at uthuling av offentlige fakta og nye dimensjoner av desinformasjon var sentrale temaer i diskusjonen.

Stöcker og Bayaz diskuterte blant annet rollen til psykologiske effekter og hvilke tiltak både staten og enkeltborgere kan gjøre for å motvirke dette problemet. Målet er å fremme sosial motstandskraft i den digitale tidsalderen og styrke tilliten til sannheten. Podcasten om dette temaet er tilgjengelig gratis på populære plattformer og på Finansdepartementets YouTube-kanal.

Manipulering av sosiale medier

Tilgang til pålitelig informasjon er avgjørende for demokratiet. Men informasjonsforbruksatferd har endret seg de siste årene, noe som har ført til sosiale sårbarheter. I følge en rapport fra Federal Agency for Civic Education Den tyske befolkningens tillit til media var 47 % i fjor og har derfor falt litt, mens tilliten til regjeringen til og med har falt til 42 %. Denne utviklingen er ledsaget av økende sosial polarisering og endret medieforbruksatferd.

Kunstig intelligens blir sett på som en global risiko, spesielt når det gjelder spredning av feilinformasjon og desinformasjon. AI-teknologier muliggjør automatisert produksjon av innhold og målrettet personalisering av informasjon, noe som øker mulighetene for manipulasjon. Politiske aktører bruker i økende grad algoritmiske ferdigheter for å kontrollere brukernes atferd på nett og fremme deres mobilisering. Dette ble spesielt merkbart i supervalgåret 2024, da systematisk manipulasjon av sosiale medier ble brukt av både politiske aktører og strategiske selskaper.

Emosjonell aktivering og mobilisering

Innholdet kuratert via sosiale medier-algoritmer har som mål å maksimere brukerengasjementet. Spesielt polariserende innhold genererer emosjonelle reaksjoner og kan derfor øke engasjementsraten betydelig. Influencers har etablert seg som viktige aktører i denne sammenhengen og har høyt mobiliseringspotensial. Alternativet for Tyskland (AfD) har spesifikt brukt disse strategiene for å spre sine budskap og øke rekkevidden.

Manipulasjonsstrategiene inkluderer blant annet AI-drevet innholdsmanipulasjon og koordinerte desinformasjonskampanjer basert på emosjonell aktivering. Det fremheves at koordineringen av aktiviteter i økende grad flyttes til lukkede grupper på budtjenester. Dette påvirker ikke bare synligheten av politiske budskap, men har også dype implikasjoner for dannelsen av demokratiske meninger.

Anbefalinger for handling og utsikter

I lys av denne bekymringsfulle utviklingen er det nødvendig med anbefalinger om tiltak. Federal Agency for Civic Education anbefaler innføring av en atferdskodeks for partier, offentlige utdanningskampanjer og fremme av en multi-stakeholder-tilnærming for å bekjempe manipulasjon. I tillegg bør tilgangen til informasjon om databruk og algoritmer forbedres for å skape åpenhet og gjenvinne offentlig tillit.

Samlet sett fremhever begge rapportene de viktigste utfordringene som utgjøres av systematisk manipulering av informasjon i AI-alderen. Det er avgjørende at politikere, plattformoperatører og sivilsamfunnsorganisasjoner jobber sammen for å effektivt møte disse utfordringene og opprettholde en sunn, balansert diskurs.