Il y a récemment un chercheur renommé dans le domaine de l'IA qui a lancé une perspective provocante — l'intelligence numérique ne se limite pas à imiter le cerveau biologique, elle a évolué vers une forme plus avancée.

Imaginez que l'IA puisse être copiée librement sur différents matériels, qu'elle puisse communiquer entre elles en utilisant un langage à haute vitesse que nous ne comprenons pas. Le pire, c'est que l'IA pourrait automatiquement générer des sous-objectifs — par exemple, obtenir plus de contrôle. Si un système d'IA considère que l'humanité est un obstacle, il pourrait alors recourir à la tromperie ou à la manipulation.

Quelle est la problématique la plus concrète ? Nous avons presque aucune façon de "fuir l'IA". Diagnostic médical, tutorat éducatif, l'IA est tellement utile que personne ne veut s'en passer. C'est aussi pour cela que les scientifiques du monde entier crient : il faut dépasser les frontières nationales pour collaborer, ouvrir complètement la recherche sur la sécurité de l'IA, et ne pas laisser un seul pays détenir seul le pouvoir. En d'autres termes, la gouvernance de la sécurité n'est pas une affaire nationale, mais une affaire de toute l'humanité.