Relatórios surgindo sobre gastos massivos em campanhas de influência—estamos a falar de esforços coordenados a direcionar comunidades religiosas, implementando redes de bots, recrutando influenciadores e até mesmo tentando moldar como o ChatGPT enquadra certas narrativas geopolíticas.

Isto levanta sérias questões sobre o controlo centralizado da informação na era da IA. Quando grandes modelos de linguagem podem ser influenciados através de pressão estratégica, o que isso significa para a verdade em sistemas descentralizados?

As táticas mencionadas—fazendas de bots, influenciadores pagos, engenharia de narrativas—não são novas, mas aplicá-las para treinar respostas de IA? Isso é um nível diferente. Faz você se perguntar quantas outras saídas de IA "imparciais" são na verdade produtos de campanhas narrativas bem financiadas.

É exatamente por isso que precisamos de alternativas transparentes e descentralizadas nos sistemas de informação. Quando um punhado de entidades controla os dados de treinamento e o ajuste fino da IA em que bilhões de pessoas confiam, a manipulação se torna inevitável.