Как изкуственият интелект заплашва доверието в информацията

Как изкуственият интелект заплашва доверието в информацията

Във време, когато изкуственият интелект (ИИ) все повече си проправя път в потока от информация, въпросът за истинността и доверието в информацията става изключително актуален. На разговор, на който присъстваха министърът на финансите д-р Данял Баяз и експертът проф. Кристиан Щьокер, стана ясно колко много се променя дигиталната публика и какви предизвикателства носи това пред обществото. FM Баден-Вюртемберг съобщава, че ерозията на публичните факти и новите измерения на дезинформацията са централни теми в дискусията.

Щьокер и Баяз обсъдиха, наред с други неща, ролята на психологическите ефекти и мерките, които държавата и отделните граждани могат да предприемат, за да противодействат на този проблем. Целта е да се насърчи социалната устойчивост в дигиталната ера и да се засили доверието в истината. Подкастът на тази тема е достъпен безплатно в популярни платформи и в YouTube канала на Министерството на финансите.

Манипулация в социалните медии

Достъпът до надеждна информация е от съществено значение за демокрацията. Но поведението при потребление на информация се промени през последните години, което води до социална уязвимост. Според доклад на Федерална агенция за гражданско образование Доверието на германското население в медиите е било 47% миналата година и следователно леко е намаляло, докато доверието в правителството дори е спаднало до 42%. Това развитие е придружено от нарастваща социална поляризация и промяна в поведението на медийното потребление.

Изкуственият интелект се разглежда като глобален риск, особено по отношение на разпространението на дезинформация и дезинформация. AI технологиите позволяват автоматизирано производство на съдържание и целенасочена персонализация на информацията, увеличавайки възможностите за манипулация. Политическите актьори все повече използват алгоритмични умения, за да контролират онлайн поведението на потребителите и да насърчават тяхната мобилизация. Това стана особено забележимо през суперизборната 2024 г., когато системното манипулиране на социалните медии беше използвано както от политически актьори, така и от стратегически компании.

Емоционална активация и мобилизация

Съдържанието, подбрано чрез алгоритми на социални медии, има за цел да увеличи максимално ангажираността на потребителите. Особено поляризиращо съдържание генерира емоционални реакции и следователно може значително да увеличи процента на ангажираност. Инфлуенсърите са се утвърдили като важни играчи в този контекст и имат висок потенциал за мобилизиране. Алтернативата за Германия (AfD) специално използва тези стратегии, за да разпространи посланията си и да увеличи своя обхват.

Стратегиите за манипулиране включват, наред с другото, манипулиране на съдържание, задвижвано от AI, и координирани кампании за дезинформация, базирани на емоционално активиране. Подчертава се, че координацията на дейностите все повече се измества към затворени групи в куриерските услуги. Това не само засяга видимостта на политическите послания, но също така има дълбоки последици за формирането на демократични мнения.

Препоръки за действие и перспектива

С оглед на тези тревожни развития са необходими препоръки за действие. Федералната агенция за гражданско образование препоръчва въвеждането на кодекс за поведение на партиите, обществени образователни кампании и насърчаването на подход на множество заинтересовани страни за борба с манипулацията. Освен това трябва да се подобри достъпът до информация относно използването на данни и алгоритми, за да се създаде прозрачност и да се възвърне общественото доверие.

Като цяло и двата доклада подчертават ключовите предизвикателства, породени от систематичното манипулиране на информация в ерата на ИИ. От решаващо значение е политиците, операторите на платформи и организациите на гражданското общество да работят заедно, за да се справят ефективно с тези предизвикателства и да поддържат здравословен, балансиран дискурс.