Cum inteligența artificială amenință încrederea în informații

Cum inteligența artificială amenință încrederea în informații

Într-o perioadă în care inteligența artificială (IA) își găsește tot mai mult drum în fluxul de informații, problema adevărului și a încrederii în informație devine extrem de actuală. La o conversație la care au participat ministrul de finanțe, Dr. Danyal Bayaz și expertul Prof. Christian Stöcker, a devenit clar cât de mult se schimbă publicul digital și ce provocări aduce aceasta pentru societate. FM Baden-Württemberg relatează că erodarea faptelor publice și noile dimensiuni ale dezinformarii au fost subiecte centrale în discuție.

Stöcker și Bayaz au discutat, printre altele, despre rolul efectelor psihologice și măsurile pe care atât statul, cât și cetățenii individuali le pot lua pentru a contracara această problemă. Scopul este de a promova reziliența socială în era digitală și de a consolida încrederea în adevăr. Podcastul pe această temă este disponibil gratuit pe platformele populare și pe canalul de YouTube al Ministerului Finanțelor.

Manipularea rețelelor sociale

Accesul la informații fiabile este esențial pentru democrație. Dar comportamentul de consum de informații s-a schimbat în ultimii ani, ducând la vulnerabilități sociale. Potrivit unui raport al Agenția Federală pentru Educație Civică Încrederea populației germane în mass-media a fost de 47% anul trecut și, prin urmare, a scăzut ușor, în timp ce încrederea în guvern a scăzut chiar la 42%. Această dezvoltare este însoțită de polarizarea socială în creștere și schimbarea comportamentului de consum al media.

Inteligența artificială este văzută ca un risc global, în special în ceea ce privește răspândirea dezinformării și a dezinformării. Tehnologiile AI permit producerea automată a conținutului și personalizarea țintită a informațiilor, crescând oportunitățile de manipulare. Actorii politici folosesc din ce în ce mai mult abilitățile algoritmice pentru a controla comportamentul online al utilizatorilor și pentru a promova mobilizarea acestora. Acest lucru a devenit deosebit de vizibil în super-anul electoral din 2024, când manipularea sistematică a rețelelor sociale a fost folosită atât de actorii politici, cât și de companiile strategice.

Activarea și mobilizarea emoțională

Conținutul organizat prin algoritmi de social media își propune să maximizeze implicarea utilizatorilor. Conținutul deosebit de polarizat generează reacții emoționale și, prin urmare, poate crește semnificativ ratele de implicare. Influencerii s-au impus ca jucători importanți în acest context și au un potențial ridicat de mobilizare. Alternativa pentru Germania (AfD) a folosit în mod special aceste strategii pentru a-și răspândi mesajele și pentru a-și crește acoperirea.

Strategiile de manipulare includ, printre altele, manipularea conținutului bazată pe inteligență artificială și campanii coordonate de dezinformare bazate pe activarea emoțională. Se subliniază că coordonarea activităților este transferată din ce în ce mai mult către grupuri închise pe serviciile de mesagerie. Acest lucru nu afectează doar vizibilitatea mesajelor politice, ci are și implicații profunde pentru formarea opiniilor democratice.

Recomandări pentru acțiune și perspectivă

Având în vedere aceste evoluții îngrijorătoare, sunt necesare recomandări de acțiune. Agenția Federală pentru Educație Civică recomandă introducerea unui cod de conduită pentru partide, campanii de educație publică și promovarea unei abordări cu mai multe părți interesate pentru combaterea manipulării. În plus, accesul la informații despre utilizarea datelor și algoritmi ar trebui îmbunătățit pentru a crea transparență și a recâștiga încrederea publicului.

În general, ambele rapoarte evidențiază provocările cheie generate de manipularea sistematică a informațiilor în era IA. Este esențial ca politicienii, operatorii de platforme și organizațiile societății civile să lucreze împreună pentru a aborda în mod eficient aceste provocări și pentru a menține un discurs sănătos și echilibrat.