Kako umjetna inteligencija ugrožava povjerenje u informacije

Kako umjetna inteligencija ugrožava povjerenje u informacije

U vrijeme kada umjetna inteligencija (AI) sve više pronalazi svoj put u protok informacija, pitanje istinitosti i povjerenja u informacije postaje vrlo aktualno. U razgovoru na kojem su sudjelovali ministar financija dr. Danyal Bayaz i stručnjak prof. Christian Stöcker postalo je jasno koliko se digitalna javnost mijenja i kakve izazove to sa sobom nosi za društvo. FM Baden-Württemberg javlja da su erozija javnih činjenica i nove dimenzije dezinformacija bile središnje teme rasprave.

Stöcker i Bayaz raspravljali su, između ostalog, o ulozi psiholoških učinaka i mjerama koje i država i građani mogu poduzeti kako bi se suprotstavili ovom problemu. Cilj je promicati društvenu otpornost u digitalnom dobu i ojačati povjerenje u istinu. Podcast na ovu temu dostupan je besplatno na popularnim platformama i na YouTube kanalu Ministarstva financija.

Manipulacija društvenim mrežama

Pristup pouzdanim informacijama ključan je za demokraciju. Ali ponašanje u vezi s potrošnjom informacija promijenilo se posljednjih godina, što je dovelo do socijalne ranjivosti. Prema izvješću od strane Federalna agencija za građansko obrazovanje Povjerenje njemačkog stanovništva u medije prošle je godine iznosilo 47 posto i stoga je lagano palo, dok je povjerenje u vladu palo čak na 42 posto. Taj je razvoj popraćen sve većom društvenom polarizacijom i promjenom ponašanja u konzumaciji medija.

Umjetna inteligencija se smatra globalnim rizikom, posebice u smislu širenja dezinformacija i dezinformacija. AI tehnologije omogućuju automatiziranu proizvodnju sadržaja i ciljanu personalizaciju informacija, čime se povećavaju mogućnosti manipulacije. Politički akteri sve više koriste algoritamske vještine kako bi kontrolirali online ponašanje korisnika i promicali njihovu mobilizaciju. Posebno je to postalo vidljivo u superizbornoj 2024. godini, kada su se sustavnom manipulacijom društvenih medija koristili i politički akteri i strateške tvrtke.

Emocionalna aktivacija i mobilizacija

Sadržaj odabran putem algoritama društvenih medija ima za cilj maksimizirati angažman korisnika. Osobito polarizirajući sadržaj stvara emocionalne reakcije i stoga može značajno povećati stope angažmana. Utjecajni su se etablirali kao važni igrači u ovom kontekstu i imaju visok mobilizacijski potencijal. Alternativa za Njemačku (AfD) je posebno koristila ove strategije za širenje svojih poruka i povećanje dosega.

Strategije manipulacije uključuju, između ostalog, manipulaciju sadržajem pomoću umjetne inteligencije i koordinirane kampanje dezinformiranja temeljene na emocionalnoj aktivaciji. Ističe se da se koordinacija aktivnosti sve više prebacuje na zatvorene grupe na messenger servisima. To ne samo da utječe na vidljivost političkih poruka, već ima i duboke implikacije na formiranje demokratskih mišljenja.

Preporuke za djelovanje i izglede

S obzirom na ova zabrinjavajuća kretanja, potrebne su preporuke za djelovanje. Savezna agencija za građansko obrazovanje preporučuje uvođenje kodeksa ponašanja za stranke, javne obrazovne kampanje i promicanje pristupa višestrukih dionika u borbi protiv manipulacije. Osim toga, pristup informacijama o korištenju podataka i algoritmima treba poboljšati kako bi se stvorila transparentnost i ponovno zadobilo povjerenje javnosti.

Općenito, oba izvješća ističu ključne izazove koje donosi sustavna manipulacija informacijama u doba umjetne inteligencije. Ključno je da političari, operateri platformi i organizacije civilnog društva rade zajedno kako bi učinkovito odgovorili na te izazove i održali zdrav, uravnotežen diskurs.