Jak umělá inteligence ohrožuje důvěru v informace

Jak umělá inteligence ohrožuje důvěru v informace

V době, kdy si umělá inteligence (AI) stále více nachází cestu do toku informací, se otázka pravdy a důvěry v informace stává vysoce aktuální. V rozhovoru za účasti ministra financí Dr. Danyala Bayaze a odborníka prof. Christiana Stöckera se ukázalo, jak moc se digitální veřejnost mění a jaké výzvy to přináší společnosti. FM Bádensko-Württembersko uvádí, že ústředními tématy diskuse byly eroze veřejných faktů a nové dimenze dezinformací.

Stöcker a Bayaz diskutovali mimo jiné o úloze psychologických efektů a opatřeních, která mohou stát i jednotliví občané přijmout, aby tomuto problému čelili. Cílem je podpořit sociální odolnost v digitálním věku a posílit důvěru v pravdu. Podcast na toto téma je zdarma dostupný na populárních platformách a na YouTube kanálu Ministerstva financí.

Manipulace na sociálních sítích

Přístup ke spolehlivým informacím je pro demokracii nezbytný. Ale chování při spotřebě informací se v posledních letech změnilo, což vedlo k sociální zranitelnosti. Podle zprávy společnosti Federální agentura pro občanské vzdělávání Důvěra německého obyvatelstva v média byla loni 47 %, a tedy mírně klesla, zatímco důvěra ve vládu klesla dokonce na 42 %. Tento vývoj je doprovázen zvyšující se sociální polarizací a měnícím se spotřebním chováním médií.

Umělá inteligence je vnímána jako globální riziko, zejména z hlediska šíření dezinformací a dezinformací. Technologie AI umožňují automatizovanou produkci obsahu a cílenou personalizaci informací, čímž zvyšují možnosti manipulace. Političtí aktéři stále více využívají algoritmické dovednosti ke kontrole chování uživatelů online a k podpoře jejich mobilizace. Zvláště patrné to bylo v supervolebním roce 2024, kdy systematickou manipulaci se sociálními médii využívali jak političtí aktéři, tak strategické společnosti.

Emocionální aktivace a mobilizace

Obsah spravovaný pomocí algoritmů sociálních médií má za cíl maximalizovat zapojení uživatelů. Zvláště polarizující obsah vyvolává emocionální reakce, a proto může výrazně zvýšit míru zapojení. Influenceři se v tomto kontextu etablovali jako důležití hráči a mají vysoký mobilizační potenciál. Alternativa pro Německo (AfD) konkrétně použila tyto strategie k šíření svých poselství a zvýšení svého dosahu.

Mezi strategie manipulace patří mimo jiné manipulace s obsahem pomocí umělé inteligence a koordinované dezinformační kampaně založené na emocionální aktivaci. Je zdůrazněno, že koordinace činností se stále více přesouvá na uzavřené skupiny na messengerových službách. To ovlivňuje nejen viditelnost politických sdělení, ale má také hluboké důsledky pro formování demokratických názorů.

Doporučení pro akci a výhled

S ohledem na tento znepokojivý vývoj jsou nezbytná doporučení pro další kroky. Spolková agentura pro občanskou výchovu doporučuje zavedení kodexu chování pro strany, veřejné vzdělávací kampaně a prosazování přístupu mnoha zainteresovaných stran v boji proti manipulaci. Kromě toho by se měl zlepšit přístup k informacím o používání údajů a algoritmech, aby se vytvořila transparentnost a znovu získala důvěra veřejnosti.

Celkově obě zprávy zdůrazňují klíčové výzvy, které představuje systematická manipulace s informacemi ve věku AI. Je zásadní, aby politici, provozovatelé platforem a organizace občanské společnosti spolupracovali na účinném řešení těchto problémů a udržovali zdravý a vyvážený diskurz.