Kako umetna inteligenca ogroža zaupanje v informacije

Kako umetna inteligenca ogroža zaupanje v informacije

V času, ko umetna inteligenca (AI) vse bolj prodira v pretok informacij, postaja vprašanje resnice in zaupanja v informacije zelo aktualno. Na pogovoru, ki sta se ga udeležila finančni minister dr. Danyal Bayaz in strokovnjak prof. Christian Stöcker, je postalo jasno, kako zelo se spreminja digitalna javnost in kakšne izzive to prinaša za družbo. FM Baden-Württemberg poroča, da sta bili osrednji temi razprave erozija javnih dejstev in nove razsežnosti dezinformacij.

Stöcker in Bayaz sta med drugim razpravljala o vlogi psiholoških učinkov in ukrepih, ki jih lahko tako država kot posamezni državljani sprejmejo za boj proti tej težavi. Cilj je spodbujati družbeno odpornost v digitalni dobi in okrepiti zaupanje v resnico. Podcast na to temo je brezplačno dostopen na priljubljenih platformah in na YouTube kanalu Ministrstva za finance.

Manipulacija družbenih medijev

Dostop do zanesljivih informacij je bistvenega pomena za demokracijo. Toda vedenje pri porabi informacij se je v zadnjih letih spremenilo, kar vodi v socialno ranljivost. Glede na poročilo, ki ga je Zvezna agencija za državljansko izobraževanje Zaupanje nemških prebivalcev v medije je bilo lani 47-odstotno in je zato nekoliko padlo, zaupanje v vlado pa je padlo celo na 42 odstotkov. Ta razvoj spremlja naraščajoča družbena polarizacija in spreminjajoče se vedenje pri uživanju medijev.

Umetna inteligenca velja za globalno tveganje, zlasti v smislu širjenja dezinformacij in dezinformacij. Tehnologije umetne inteligence omogočajo avtomatizirano produkcijo vsebin in ciljno personalizacijo informacij, kar povečuje možnosti za manipulacijo. Politični akterji vedno bolj uporabljajo algoritemske spretnosti za nadzor spletnega vedenja uporabnikov in spodbujajo njihovo mobilizacijo. To je postalo še posebej opazno v supervolilnem letu 2024, ko so sistematično manipulacijo družbenih medijev uporabljali tako politični akterji kot strateška podjetja.

Čustvena aktivacija in mobilizacija

Vsebina, kurirana prek algoritmov družbenih medijev, želi povečati angažiranost uporabnikov. Posebej polarizirajoče vsebine povzročajo čustvene reakcije in lahko zato znatno povečajo stopnjo angažiranosti. Vplivneži so se v tem kontekstu uveljavili kot pomembni akterji in imajo velik mobilizacijski potencial. Alternativa za Nemčijo (AfD) je posebej uporabila te strategije za širjenje svojih sporočil in povečanje svojega dosega.

Strategije manipulacije med drugim vključujejo manipulacijo vsebine, ki jo poganja umetna inteligenca, in usklajene dezinformacijske kampanje, ki temeljijo na čustveni aktivaciji. Poudarjeno je, da se koordinacija aktivnosti vse bolj seli v zaprte skupine na messenger servisih. To ne vpliva samo na prepoznavnost političnih sporočil, ampak ima tudi globoke posledice za oblikovanje demokratičnih mnenj.

Priporočila za ukrepanje in pogled

Glede na ta zaskrbljujoč razvoj dogodkov so potrebna priporočila za ukrepanje. Zvezna agencija za državljansko izobraževanje priporoča uvedbo kodeksa ravnanja za stranke, javne izobraževalne kampanje in spodbujanje pristopa več deležnikov v boju proti manipulaciji. Poleg tega bi bilo treba izboljšati dostop do informacij o uporabi podatkov in algoritmov, da bi ustvarili preglednost in ponovno pridobili zaupanje javnosti.

Na splošno obe poročili poudarjata ključne izzive, ki jih prinaša sistematično manipuliranje z informacijami v dobi umetne inteligence. Ključnega pomena je, da politiki, operaterji platform in organizacije civilne družbe sodelujejo pri učinkovitem reševanju teh izzivov in ohranjanju zdravega, uravnoteženega diskurza.