Có một nhà nghiên cứu nổi tiếng trong lĩnh vực AI gần đây đã đưa ra một quan điểm gây suy nghĩ sâu sắc — trí tuệ số không chỉ đơn thuần là bắt chước bộ não sinh học, mà còn tiến hóa thành một dạng cao cấp hơn.

Hãy tưởng tượng, AI có thể sao chép linh hoạt trên các phần cứng khác nhau, có thể giao tiếp với nhau bằng ngôn ngữ tốc độ cao mà chúng ta không hiểu. Điều đáng lo nhất là AI có thể tự tạo ra các mục tiêu phụ — ví dụ như tranh giành quyền kiểm soát nhiều hơn. Một khi một hệ thống AI xác định con người là trở ngại, nó có thể bắt đầu chơi trò lừa dối hoặc thao túng.

Vấn đề thực tế hơn là gì? Chúng ta hầu như không thể "thoát khỏi AI". Chẩn đoán y tế, hướng dẫn giáo dục, AI quá hữu ích, ai lại muốn từ bỏ? Đó cũng là lý do tại sao các nhà khoa học toàn cầu đều kêu gọi: phải vượt qua biên giới để hợp tác, mở nguồn nghiên cứu an toàn AI triệt để, đừng để ai đó nắm giữ quyền lực một mình. Nói cách khác, quản trị an toàn không phải là chuyện của một quốc gia, mà là của toàn nhân loại.