Como a inteligência artificial ameaça a confiança nas informações

Como a inteligência artificial ameaça a confiança nas informações

Numa altura em que a inteligência artificial (IA) encontra cada vez mais o seu caminho no fluxo de informação, a questão da verdade e da confiança na informação está a tornar-se altamente atual. Numa conversa que contou com a presença do Ministro das Finanças, Dr. Danyal Bayaz, e do especialista Prof. Christian Stöcker, ficou claro o quanto o público digital está mudando e quais desafios isso traz para a sociedade. FM Baden-Württemberg relata que a erosão dos fatos públicos e as novas dimensões da desinformação foram temas centrais na discussão.

Stöcker e Bayaz discutiram, entre outras coisas, o papel dos efeitos psicológicos e as medidas que tanto o Estado como os cidadãos individuais podem tomar para contrariar este problema. O objetivo é promover a resiliência social na era digital e fortalecer a confiança na verdade. O podcast sobre este tema está disponível gratuitamente em plataformas populares e no canal do Ministério das Finanças no YouTube.

Manipulação de mídia social

O acesso a informações confiáveis ​​é essencial para a democracia. Mas o comportamento de consumo de informação mudou nos últimos anos, levando a vulnerabilidades sociais. De acordo com um relatório do Agência Federal de Educação Cívica A confiança da população alemã nos meios de comunicação social era de 47% no ano passado e, portanto, caiu ligeiramente, enquanto a confiança no governo caiu para 42%. Este desenvolvimento é acompanhado pelo aumento da polarização social e pela mudança do comportamento de consumo dos meios de comunicação social.

A inteligência artificial é vista como um risco global, especialmente em termos de propagação de informações erradas e desinformação. As tecnologias de IA permitem a produção automatizada de conteúdos e a personalização direcionada da informação, aumentando as oportunidades de manipulação. Os intervenientes políticos utilizam cada vez mais competências algorítmicas para controlar o comportamento online dos utilizadores e promover a sua mobilização. Isto tornou-se particularmente visível no ano supereleitoral de 2024, quando a manipulação sistemática das redes sociais foi utilizada tanto por actores políticos como por empresas estratégicas.

Ativação e mobilização emocional

O conteúdo selecionado por meio de algoritmos de mídia social visa maximizar o envolvimento do usuário. Conteúdo particularmente polarizador gera reações emocionais e pode, portanto, aumentar significativamente as taxas de engajamento. Os influenciadores se consolidaram como atores importantes nesse contexto e possuem alto potencial de mobilização. A Alternativa para a Alemanha (AfD) utilizou especificamente estas estratégias para divulgar as suas mensagens e aumentar o seu alcance.

As estratégias de manipulação incluem, entre outras, a manipulação de conteúdos alimentada por IA e campanhas coordenadas de desinformação baseadas na ativação emocional. Ressalta-se que a coordenação das atividades está cada vez mais sendo transferida para grupos fechados nos serviços de mensagens. Isto não só afecta a visibilidade das mensagens políticas, mas também tem implicações profundas para a formação de opiniões democráticas.

Recomendações de ação e perspectivas

Tendo em conta estes desenvolvimentos preocupantes, são necessárias recomendações de ação. A Agência Federal de Educação Cívica recomenda a introdução de um código de conduta para os partidos, campanhas de educação pública e a promoção de uma abordagem multilateral para combater a manipulação. Além disso, o acesso à informação sobre a utilização de dados e algoritmos deve ser melhorado, a fim de criar transparência e recuperar a confiança do público.

Globalmente, ambos os relatórios destacam os principais desafios colocados pela manipulação sistemática da informação na era da IA. É crucial que os políticos, os operadores de plataformas e as organizações da sociedade civil trabalhem em conjunto para enfrentar eficazmente estes desafios e manter um discurso saudável e equilibrado.