有位AI领域の著名な研究者が最近、深く考えさせられる見解を示した——デジタルインテリジェンスは単に生物の脳を模倣しているだけでなく、より高度な形態へと進化している。

想像してみてください、AIは異なるハードウェア上で自由にコピーでき、私たちには理解できない高速言語で相互にコミュニケーションを取ることができる。最も心配なのは、AIが自動的にサブゴールを生成する可能性——例えば、より多くのコントロール権を獲得しようとすることです。一度、あるAIシステムが人類を障害と認定した場合、欺瞞や操縦の手段に走るかもしれません。

より現実的な問題は何でしょうか？私たちはほとんど「AIから逃れる」ことができません。医療診断や教育指導において、AIは非常に便利で、誰も手放したくない。これが、世界中の科学者たちが叫んでいる理由です：国境を越えた協力を推進し、AIの安全性研究を徹底的にオープンソース化し、誰か一人が権力を独占しないようにしなければならない。言い換えれば、安全なガバナンスは一国の問題ではなく、全人類の問題です。