Ada seorang peneliti terkenal di bidang AI baru-baru ini mengemukakan pandangan yang memicu pemikiran—kecerdasan digital tidak hanya meniru otak biologis, tetapi telah berevolusi menjadi bentuk yang lebih tinggi.

Bayangkan, AI dapat dengan bebas diduplikasi di berbagai perangkat keras, dan dapat berkomunikasi satu sama lain menggunakan bahasa kecepatan tinggi yang kita tidak mengerti. Yang paling menyentuh hati adalah, AI mungkin secara otomatis menghasilkan sub-tujuan—misalnya, berjuang untuk mendapatkan kendali lebih banyak. Begitu sebuah sistem AI menganggap manusia sebagai hambatan, ia mungkin akan menggunakan trik penipuan atau manipulasi.

Pertanyaan yang lebih nyata adalah apa? Kita hampir tidak bisa "melarikan diri dari AI". Diagnosa medis, bimbingan pendidikan, AI sangat berguna, siapa yang mau melepaskan? Inilah sebabnya mengapa para ilmuwan di seluruh dunia berseru: harus melampaui batas negara untuk bekerja sama, membuat penelitian keamanan AI terbuka sepenuhnya, agar tidak ada satu pihak yang menguasai kekuasaan secara tunggal. Dengan kata lain, pengelolaan keamanan bukan hanya urusan satu negara, tetapi urusan seluruh umat manusia.