Kaip dirbtinis intelektas kelia grėsmę pasitikėjimui informacija

Kaip dirbtinis intelektas kelia grėsmę pasitikėjimui informacija

Tuo metu, kai dirbtinis intelektas (AI) vis dažniau patenka į informacijos srautą, tiesos ir pasitikėjimo informacija klausimas tampa itin aktualus. Pokalbyje, kuriame dalyvavo finansų ministras dr. Danyal Bayaz ir ekspertas prof. Christianas Stöckeris, paaiškėjo, kaip stipriai keičiasi skaitmeninė visuomenė ir kokius iššūkius tai atneša visuomenei. FM Badenas-Viurtembergas praneša, kad viešųjų faktų erozija ir nauji dezinformacijos aspektai buvo pagrindinės diskusijos temos.

Stöckeris ir Bayazas, be kita ko, aptarė psichologinio poveikio vaidmenį ir priemones, kurių gali imtis valstybė ir atskiri piliečiai, siekdami įveikti šią problemą. Tikslas – skatinti socialinį atsparumą skaitmeniniame amžiuje ir stiprinti pasitikėjimą tiesa. Podcast'ą šia tema galima rasti nemokamai populiariose platformose ir Finansų ministerijos „YouTube“ kanale.

Manipuliacija socialiniuose tinkluose

Prieiga prie patikimos informacijos yra būtina demokratijai. Tačiau pastaraisiais metais pasikeitė informacijos vartojimo elgsena, todėl atsirado socialinis pažeidžiamumas. Remiantis ataskaita, kurią pateikė Federalinė pilietinio ugdymo agentūra Vokietijos gyventojų pasitikėjimas žiniasklaida pernai siekė 47% ir todėl šiek tiek sumažėjo, o pasitikėjimas vyriausybe net iki 42%. Šią raidą lydi didėjanti socialinė poliarizacija ir besikeičiantis žiniasklaidos vartojimo elgesys.

Dirbtinis intelektas laikomas pasauline rizika, ypač kalbant apie dezinformacijos ir dezinformacijos plitimą. Dirbtinio intelekto technologijos įgalina automatizuotą turinio gamybą ir kryptingą informacijos personalizavimą, padidindamos manipuliavimo galimybes. Politiniai veikėjai vis dažniau naudoja algoritminius įgūdžius, kad kontroliuotų vartotojų elgesį internete ir skatintų jų mobilizaciją. Tai ypač išryškėjo superrinkimų 2024 metais, kai sistemingai manipuliavo socialiniais tinklais ir politikos veikėjai, ir strateginės įmonės.

Emocinis aktyvinimas ir mobilizacija

Turiniu, kuriamu naudojant socialinės žiniasklaidos algoritmus, siekiama maksimaliai padidinti vartotojų įsitraukimą. Ypač poliarizuojantis turinys sukelia emocines reakcijas ir todėl gali žymiai padidinti įsitraukimo rodiklius. Influencerai šiame kontekste įsitvirtino kaip svarbūs veikėjai ir turi didelį mobilizacijos potencialą. „Alternatyva Vokietijai“ (AfD) specialiai naudojo šias strategijas, kad skleistų savo žinią ir padidintų savo pasiekiamumą.

Manipuliavimo strategijos apima, be kita ko, AI valdomą turinio manipuliavimą ir suderintas dezinformacijos kampanijas, pagrįstas emociniu aktyvavimu. Pabrėžiama, kad veiklos koordinavimas vis labiau perkeliamas į uždaras pasiuntinių paslaugų grupes. Tai ne tik turi įtakos politinių pranešimų matomumui, bet ir turi didelių pasekmių formuojant demokratines nuomones.

Veiksmų ir perspektyvų rekomendacijos

Atsižvelgiant į šiuos nerimą keliančius pokyčius, būtinos rekomendacijos dėl veiksmų. Federalinė pilietinio ugdymo agentūra rekomenduoja įvesti partijų elgesio kodeksą, visuomenės švietimo kampanijas ir propaguoti daugelio suinteresuotųjų šalių požiūrį į kovą su manipuliacijomis. Be to, siekiant užtikrinti skaidrumą ir atgauti visuomenės pasitikėjimą, reikėtų pagerinti prieigą prie informacijos apie duomenų naudojimą ir algoritmus.

Apskritai abiejose ataskaitose pabrėžiami pagrindiniai iššūkiai, kuriuos kelia sistemingas manipuliavimas informacija AI amžiuje. Labai svarbu, kad politikai, platformų operatoriai ir pilietinės visuomenės organizacijos dirbtų kartu, kad veiksmingai spręstų šiuos iššūkius ir išlaikytų sveiką, subalansuotą diskursą.