Situational Awareness

Leopold Aschenbrenner a travaillé sur l'équipe « Superalignment » d'OpenAI avant d'en partir en 2024. Son essai, publié gratuitement en ligne, fait environ 165 pages et a été largement relayé par les chercheurs en IA, y compris ceux qui ne partagent pas ses conclusions.

Son point de départ : depuis GPT-2 (2019), les modèles progressent à un rythme régulier. En comptant les gains liés au calcul, aux données et aux algorithmes, l'auteur estime qu'on passe l'équivalent d'un ordre de grandeur de puissance effective chaque année. Extrapolé, cela suggère un modèle « au niveau d'un chercheur humain » entre 2027 et 2029.

Il consacre une grande partie du texte à l'infrastructure : la construction de « clusters » de calcul à plusieurs gigawatts, comparable en énergie à des villes moyennes. Il détaille aussi la question des données - pourquoi elles ne seront probablement pas le goulot ultime, grâce aux données synthétiques et à l'apprentissage par renforcement.

Le troisième axe est géopolitique. Aschenbrenner considère qu'une IA très capable est un actif stratégique équivalent au nucléaire, et que la sécurité des laboratoires américains face à l'espionnage chinois est aujourd'hui insuffisante. Il plaide pour un rôle plus fort de l'État.

Il termine sur la question de l'alignement : comment garder le contrôle de systèmes qui deviendraient plus intelligents que leurs concepteurs. Il n'est pas rassurant, mais reste opérationnel : audits, red-teaming, mesures d'interprétabilité.

Le texte est controversé. Beaucoup jugent les extrapolations trop confiantes. Mais c'est un excellent objet pour comprendre le raisonnement des gens qui pensent que l'IA générale arrive vite - ce qui influence directement les décisions des labos et des États.