人工智能如何威胁信息信任

人工智能如何威胁信息信任

在人工智能 (AI) 越来越多地融入信息流的时代，信息的真实性和信任度问题日益成为热门话题。在财政部长丹亚尔·巴亚兹 (Danyal Bayaz) 博士和专家克里斯蒂安·斯托克 (Christian Stöcker) 教授参加的对话中，我们清楚地了解到数字公众正在发生多大的变化以及这给社会带来了哪些挑战。 FM 巴登-符腾堡州 报道称，公共事实的侵蚀和虚假信息的新维度是讨论的核心话题。

斯托克和巴亚兹讨论了心理影响的作用以及国家和公民个人可以采取的应对这一问题的措施。目的是提高数字时代的社会复原力并加强对真相的信任。有关该主题的播客可在热门平台和财政部的 YouTube 频道上免费观看。

社交媒体操纵

获得可靠信息对于民主至关重要。但近年来信息消费行为发生了变化，导致了社会脆弱性。根据一份报告 联邦公民教育局 德国民众对媒体的信任度去年为47%，因此略有下降，对政府的信任度甚至下降至42%。这种发展伴随着社会两极分化的加剧和媒体消费行为的变化。

人工智能被视为一种全球风险，特别是在错误信息和虚假信息的传播方面。人工智能技术可以实现内容的自动化生产和信息的有针对性的个性化，从而增加了操纵的机会。政治参与者越来越多地使用算法技能来控制用户的在线行为并促进他们的动员。这在 2024 年超级选举年变得尤为明显，政治参与者和战略公司都对社交媒体进行了系统性操纵。

情绪的激活和动员

通过社交媒体算法策划的内容旨在最大限度地提高用户参与度。特别两极分化的内容会产生情绪反应，因此可以显着提高参与率。影响者已成为这种背景下的重要参与者，并具有很高的动员潜力。德国另类选择党 (AfD) 专门使用这些策略来传播其信息并扩大影响范围。

操纵策略包括人工智能驱动的内容操纵和基于情绪激活的协调虚假信息活动。值得注意的是，活动的协调越来越多地转移到信使服务的封闭团体。这不仅影响政治信息的可见性，而且对民主舆论的形成也具有深远的影响。

行动建议和展望

鉴于这些令人担忧的事态发展，有必要提出行动建议。联邦公民教育局建议引入政党行为准则、公共教育活动并推广多方利益相关者的方法来打击操纵行为。此外，应改善对数据使用和算法信息的获取，以创造透明度并重新获得公众信任。

总体而言，这两份报告都强调了人工智能时代系统性信息操纵所带来的关键挑战。政界人士、平台运营商和民间社会组织共同努力，有效应对这些挑战并保持健康、平衡的话语至关重要。