Ako umelá inteligencia ohrozuje dôveru v informácie

Ako umelá inteligencia ohrozuje dôveru v informácie

V čase, keď si umelá inteligencia (AI) čoraz viac nachádza cestu do toku informácií, sa otázka pravdy a dôvery v informácie stáva vysoko aktuálnou. Na rozhovore za účasti ministra financií Dr. Danyala Bayaza a odborníka prof. Christiana Stöckera sa ukázalo, ako veľmi sa digitálna verejnosť mení a aké výzvy to prináša pre spoločnosť. FM Bádensko-Württembersko uvádza, že erózia verejných faktov a nové dimenzie dezinformácií boli ústrednými témami diskusie.

Stöcker a Bayaz okrem iného diskutovali o úlohe psychologických efektov a opatreniach, ktoré môže štát aj jednotliví občania prijať na riešenie tohto problému. Cieľom je podporiť sociálnu odolnosť v digitálnom veku a posilniť dôveru v pravdu. Podcast na túto tému je bezplatne dostupný na populárnych platformách a na YouTube kanáli ministerstva financií.

Manipulácia na sociálnych sieťach

Prístup k spoľahlivým informáciám je pre demokraciu nevyhnutný. Správanie pri spotrebe informácií sa však v posledných rokoch zmenilo, čo viedlo k sociálnej zraniteľnosti. Podľa správy od Federálna agentúra pre občianske vzdelávanie Dôvera nemeckého obyvateľstva v médiá bola vlani na úrovni 47 %, a teda mierne klesla, kým dôvera vo vládu klesla dokonca na 42 %. Tento vývoj je sprevádzaný rastúcou sociálnou polarizáciou a meniacim sa spotrebiteľským správaním médií.

Umelá inteligencia je vnímaná ako globálne riziko, najmä z hľadiska šírenia dezinformácií a dezinformácií. Technológie AI umožňujú automatizovanú produkciu obsahu a cielenú personalizáciu informácií, čím sa zvyšujú možnosti manipulácie. Politickí aktéri čoraz viac využívajú algoritmické zručnosti na kontrolu správania používateľov online a na podporu ich mobilizácie. To sa prejavilo najmä v supervolebnom roku 2024, keď politickí aktéri aj strategické spoločnosti využívali systematickú manipuláciu so sociálnymi médiami.

Emocionálna aktivácia a mobilizácia

Obsah spravovaný pomocou algoritmov sociálnych médií má za cieľ maximalizovať zapojenie používateľov. Obzvlášť polarizujúci obsah vyvoláva emocionálne reakcie, a preto môže výrazne zvýšiť mieru zapojenia. Influenceri sa v tomto kontexte etablovali ako dôležití hráči a majú vysoký mobilizačný potenciál. Alternatíva pre Nemecko (AfD) konkrétne použila tieto stratégie na šírenie svojich posolstiev a zvýšenie dosahu.

Manipulačné stratégie zahŕňajú okrem iného manipuláciu s obsahom poháňanú AI a koordinované dezinformačné kampane založené na emocionálnej aktivácii. Zdôrazňuje sa, že koordinácia činností sa čoraz viac presúva na uzavreté skupiny v oblasti kuriérskych služieb. To ovplyvňuje nielen viditeľnosť politických posolstiev, ale má to aj hlboké dôsledky pre formovanie demokratických názorov.

Odporúčania pre činnosť a výhľad

Vzhľadom na tento znepokojujúci vývoj sú potrebné odporúčania na konanie. Federálna agentúra pre občianske vzdelávanie odporúča zavedenie kódexu správania pre strany, verejné vzdelávacie kampane a podporu prístupu viacerých zainteresovaných strán v boji proti manipulácii. Okrem toho by sa mal zlepšiť prístup k informáciám o používaní údajov a algoritmoch s cieľom vytvoriť transparentnosť a znovu získať dôveru verejnosti.

Celkovo obe správy zdôrazňujú kľúčové výzvy, ktoré predstavuje systematická manipulácia s informáciami vo veku AI. Je nevyhnutné, aby politici, prevádzkovatelia platforiem a organizácie občianskej spoločnosti spolupracovali na efektívnom riešení týchto výziev a udržiavali zdravý a vyvážený diskurz.