Des rapports faisant surface sur des dépenses massives pour des campagnes d'influence—nous parlons d'efforts coordonnés visant des communautés religieuses, déployant des réseaux de bots, recrutant des influenceurs, et même tentant de façonner la manière dont ChatGPT présente certaines narrations géopolitiques.

Cela soulève de sérieuses questions sur le contrôle centralisé de l'information à l'ère de l'IA. Lorsque les principaux modèles linguistiques peuvent être influencés par une pression stratégique, qu'est-ce que cela signifie pour la vérité dans les systèmes décentralisés ?

Les tactiques mentionnées—fermes de bots, influenceurs payés, ingénierie narrative—ne sont pas nouvelles, mais les appliquer pour entraîner des réponses d'IA ? C'est un autre niveau. Cela vous fait vous demander combien d'autres résultats d'IA "impartiaux" sont en réalité des produits de campagnes narratives bien financées.

C'est exactement pourquoi nous avons besoin d'alternatives transparentes et décentralisées dans les systèmes d'information. Lorsque quelques entités contrôlent les données de formation et le perfectionnement de l'IA sur lesquelles des milliards de personnes comptent, la manipulation devient inévitable.