La question la plus urgente soulevée par le scénario AI2027 n'est pas de savoir si l'humanité sera anéantie en 2035. C'est de savoir si la course pour construire une intelligence générale artificielle et des agents IA superintelligents fonctionne déjà comme une course aux armements de sécurité nationale de facto entre entreprises et États.

Une fois que les systèmes d'IA avancés sont considérés comme des actifs stratégiques plutôt que comme des produits de consommation, les incitations changent.

La vitesse domine la prudence.

La gouvernance accuse un retard par rapport à la capacité.

Et la concentration de pouvoir devient structurelle plutôt qu'accidentelle.

Le récit AI2027 imagine une entreprise fictive, OpenBrain, atteignant l'intelligence générale artificielle en 2027 et déployant rapidement des copies parallèles massives d'un agent IA capable de surpasser des experts humains d'élite.

Il esquisse alors une cascade : amélioration recursive, superintelligence, panique géopolitique, militarisation, abondance économique temporaire et perte éventuelle du contrôle humain.

Les critiques soutiennent que cette chronologie est implausiblement compressée et que les obstacles techniques à un raisonnement général fiable demeurent significatifs.

La chronologie est contestée.

La logique concurrentielle ne l'est pas.

Confirmé vs flou : Ce que nous pouvons confirmer, c'est que les systèmes d'IA de pointe s'améliorent rapidement en raisonnement, en codage et en utilisation des outils, et que les grandes entreprises et les gouvernements considèrent la domination en IA comme décisive sur le plan stratégique.

Nous pouvons confirmer que l'IA est de plus en plus intégrée dans la planification de la sécurité nationale, les contrôles à l'exportation et la politique industrielle.

Ce qui reste flou, c'est de savoir si l'intelligence générale artificielle est réalisable dans les prochaines années, et si l'amélioration recursive se déroulerait au rythme décrit.

Il n'est également pas clair si les techniques d'alignement peuvent s'adapter à des systèmes avec formation autonome des objectifs.

Mécanisme : Les systèmes d'IA avancés sont formés sur de vastes ensembles de données en utilisant une infrastructure de calcul à grande échelle.

À mesure que les modèles s'améliorent en raisonnement et en utilisation d'outils, ils peuvent aider à concevoir de meilleurs logiciels, optimiser les pipelines de données et accélérer la recherche.

Cela raccourcit les cycles de développement.

Si un système d'IA peut contribuer de manière significative à la conception de son propre successeur, la vitesse d'itération augmente encore.

Le risque émerge lorsque l'autonomie s'étend plus rapidement que la surveillance humaine.

La surveillance, l'interprétabilité et les outils d'alignement ont tendance à progresser de manière incrémentale, tandis que les gains de capacité peuvent être progressifs.

Cette asymétrie est l'instabilité fondamentale.

Économie unitaire : Le développement de l'IA a deux centres de coût dominants : la formation et l'inférence.

La formation de grands modèles nécessite des dépenses en capital massives en puces et en centres de données, des coûts qui évoluent avec l'ambition plutôt qu'avec le nombre d'utilisateurs.

Les coûts d'inférence évoluent avec l'utilisation ; à mesure que l'adoption augmente, servir des millions d'utilisateurs nécessite des dépenses de calcul constantes.

Les marges se dégagent si les modèles deviennent plus efficaces par requête et si les capacités propriétaires commandent des prix élevés.

Les marges s'effondrent si la concurrence force la commoditisation ou si les contraintes réglementaires augmentent les coûts de conformité.

Dans un environnement de course aux armements, les entreprises peuvent privilégier la capacité au détriment de la rentabilité à court terme, réinvestissant effectivement les marges dans l'échelle.

Leverage des parties prenantes : Les entreprises contrôlent les poids des modèles, les talents de recherche et les pipelines de déploiement.

Les gouvernements contrôlent les contrôles à l'exportation, les chaînes d'approvisionnement de puces et les contrats d'approvisionnement.

Les fournisseurs de cloud contrôlent l'accès à l'infrastructure de calcul haute performance.

Les utilisateurs dépendent de l'IA pour des gains de productivité, mais manquent de pouvoir de gouvernance direct.

Si l'IA devient considérée comme essentielle à l'avantage national, les gouvernements renforcent leur pouvoir par le biais de la réglementation et du financement.

Si les entreprises deviennent indispensables à la capacité de l'État, elles acquièrent une influence réciproque.

Cette dépendance mutuelle se renforce à mesure que la capacité augmente.

Dynamiques concurrentielles : Une fois que le leadership en matière d'IA est perçu comme conférant une dominance militaire ou économique, la retenue devient politiquement coûteuse.

Aucun acteur ne veut être second dans une course qualifiée d'existentialiste.

Cette dynamique réduit la tolérance aux ralentissements, même si les préoccupations en matière de sécurité augmentent.

La pression s'intensifie si l'on croit que des États rivaux sont proches derrière.

Dans un tel environnement, la coordination volontaire devient fragile et les accusations de retenue unilatérale deviennent politiquement toxiques.

Scénarios : Dans un cas de base, la capacité de l'IA continue d'avancer rapidement mais sous une surveillance réglementaire partielle, les États imposant des exigences de reporting et des restrictions de déploiement limitées tandis que la concurrence reste intense.

Dans un cas de coordination optimiste, les grandes puissances de l'IA s'accordent sur une gouvernance de calcul contraignante et des normes de sécurité partagées, ralentissant les pistes de développement les plus avancées jusqu'à ce que les outils d'alignement mûrissent.

Dans un cas pessimiste de course aux armements, la tension géopolitique accélère les investissements, des systèmes de pointe sont déployés dans des contextes de défense, et la sécurité devient subordonnée à l'avantage stratégique.

À surveiller :
- Exigences de licence formelles pour les sessions de formation IA à grande échelle.

- Expansion des contrôles à l'exportation au-delà des puces vers les services cloud.

- Déploiement d'agents IA hautement autonomes dans les opérations gouvernementales.

- Reconnaissance publique par les grandes entreprises des limites d'alignement internes.

- Accélération mesurable des cycles d'auto-amélioration des modèles.

- Déplacement des financements gouvernementaux vers l'intégration de la défense IA.

- Accords internationaux sur la vérification ou l'inspection de l'IA.

- Un incident cybernétique ou militaire significatif habilité par l'IA.

- Consolidation de la capacité IA de pointe dans moins d'entreprises.

- Signaux de déplacement économique clairs liés directement à l'automatisation par l'IA.

Le document AI2027 est un récit spéculatif.

Mais il a modifié le cadre.

Le débat ne porte plus sur des chatbots plus intelligents.

Il s'agit de la concentration de pouvoir, des incitations à la course et de savoir si l'humanité peut coordonner avant que la concurrence stratégique ne se durcisse en une accélération irréversible.

L'issue ne dépendra pas d'une année spécifique.

Elle dépendra de la capacité des mécanismes de gouvernance à évoluer aussi rapidement que les machines qu'ils visent à contrôler.