影響力キャンペーンへの巨額の支出に関する報告が浮上しています—宗教コミュニティを標的とした調整された取り組み、ボットネットワークの展開、インフルエンサーのリクルート、さらにはChatGPTが特定の地政学的なナラティブをどのように形成するかを形作ろうとする試みについて話しています。

これはAI時代における中央集権的な情報管理について深刻な疑問を提起します。主要な言語モデルが戦略的圧力によって影響を受けることができるとき、分散型システムにおける真実とは何を意味するのでしょうか？

言及された戦術—ボットファーム、有料インフルエンサー、ナラティブエンジニアリング—は新しいものではありませんが、それらをAIの応答を訓練するために適用すること？それは別のレベルです。どれだけ多くの「偏りのない」AI出力が実際には資金力のあるナラティブキャンペーンの産物であるか、考えさせられます。

これがまさに、情報システムに透明で分散型の代替手段が必要な理由です。少数の主体が数十億人が依存するAIのトレーニングデータとファインチューニングを制御すると、操作は避けられなくなります。