Pourquoi même les ingénieurs en IA de haut niveau ont-ils du mal à prévoir la croissance explosive des systèmes qu'ils ont eux-mêmes créés ? La réponse réside dans une particularité fondamentale de la cognition humaine : nos cerveaux sont câblés pour traiter la progression linéaire, et non l'expansion exponentielle. Nous nous attendons naturellement à ce que les choses croissent en lignes droites, mais les technologies transformatrices explosent selon des courbes que notre intuition ne peut tout simplement pas saisir. Ce point aveugle cognitif pousse les chercheurs et les architectes à sous-estimer à plusieurs reprises les capacités révolutionnaires. Comme le dit le proverbe — et cela le capture parfaitement — la plupart des gens surestiment ou sous-estiment radicalement où les systèmes exponentiels finiront par atterrir, parce que nous sommes bloqués dans une pensée en étapes incrémentielles plutôt qu'en sauts multiplicatifs. L'écart entre nos instincts linéaires et la réalité exponentielle continue de prendre même les esprits les plus brillants au dépourvu.