AGI : ce que recouvre l’intelligence artificielle générale

L’AGI, pour Artificial General Intelligence (intelligence artificielle générale), désigne un système capable d’égaler l’humain sur l’essentiel des tâches intellectuelles, et non sur une seule. Le terme a ceci de remarquable que tout le monde l’emploie et que personne ne l’emploie dans le même sens : selon qu’on interroge un chercheur, un contrat commercial ou un communiqué de presse, l’AGI est une question scientifique, une clause juridique ou une date de lancement. Cette page démêle les définitions, les mesures et ce qui, dans le sujet, concerne déjà la sécurité informatique.

→ Lire l’explication complète de la marmotte

Étroite, générale, superintelligente : trois mots pour trois ambitions

L’informatique a longtemps produit de l’intelligence artificielle étroite : un programme qui joue aux échecs, un autre qui reconnaît des visages, un troisième qui filtre le spam, chacun excellent dans son couloir et inutile hors de lui. L’intelligence générale désigne au contraire la capacité à traiter une grande variété de tâches, y compris nouvelles, sans être reconstruit pour chacune. Au-delà, la superintelligence désigne un système qui dépasserait largement les meilleurs humains dans presque tous les domaines.

Les grands modèles de langage ont brouillé cette frontière. Un même modèle rédige, traduit, programme, résume un contrat et explique une faille, ce qui ressemble à de la généralité. Mais il peut échouer sur un problème de logique élémentaire posé sous une forme inhabituelle, ce qui ressemble beaucoup à de l’étroitesse. D’où le débat permanent : la généralité observée est-elle une compréhension qui se généralise, ou une très large mémoire qui couvre presque tout ce qu’on lui demande ?

Des définitions qui n’ont pas le même objet

La définition économique. La charte d’OpenAI, publiée en 2018, définit l’AGI comme des systèmes hautement autonomes qui surpassent les humains dans la plupart des travaux à valeur économique. Le critère n’est pas cognitif mais productif : l’AGI serait atteinte quand elle sait faire le travail, quelle que soit la manière dont elle le fait. Cette définition a l’avantage d’être observable et l’inconvénient de dépendre de ce qu’on compte comme « la plupart » du travail.

La définition par niveaux. Une équipe de Google DeepMind a proposé fin 2023, dans l’article « Levels of AGI », de classer les systèmes selon deux axes : la performance (du niveau « émergent », comparable à un humain non qualifié, jusqu’au niveau « surhumain », qui dépasse tous les humains, en passant par des niveaux correspondant aux percentiles d’adultes qualifiés) et la généralité (étroite ou générale). L’intérêt est de remplacer la question binaire « est-ce l’AGI ? » par une position sur une grille, ce qui permet de comparer des systèmes et d’associer des risques à chaque niveau.

La définition par l’apprentissage. Le chercheur François Chollet soutient, dans « On the Measure of Intelligence » (2019), que l’intelligence ne se mesure pas aux compétences acquises mais à l’efficacité avec laquelle on en acquiert de nouvelles. Un système qui réussit tout parce qu’il a tout vu pendant son entraînement n’est pas intelligent au sens fort ; celui qui résout un problème inédit à partir de quelques exemples l’est davantage. Cette définition a donné naissance à un banc d’essai, présenté plus bas.

La définition contractuelle. L’AGI est aussi un objet juridique : le partenariat entre OpenAI et Microsoft prévoit des conséquences commerciales au jour où l’AGI serait déclarée, au point que la manière de constater cette déclaration a fait l’objet de négociations entre les deux entreprises. Que l’avènement d’une intelligence générale soit une clause de contrat dit assez bien la distance entre le concept scientifique et son usage.

Mesurer la généralité : une affaire de bancs d’essai

Faute de définition unique, on mesure. Les bancs d’essai classiques (questions à choix multiples sur des disciplines universitaires, problèmes de mathématiques, exercices de programmation) ont un défaut connu : ils finissent par se retrouver, sous une forme ou une autre, dans les données d’entraînement, et les scores montent sans qu’on sache si la compétence monte avec. Un banc d’essai saturé ne mesure plus que la mémoire de celui qui le passe.

ARC-AGI (Abstraction and Reasoning Corpus for Artificial General Intelligence), issu des travaux de Chollet, tente d’échapper à ce piège : chaque tâche est une petite énigme visuelle sur des grilles colorées, dont il faut deviner la règle à partir de quelques exemples. Les humains les résolvent en majorité ; les modèles de langage y ont longtemps échoué. Fin 2024, un modèle d’OpenAI a obtenu un score élevé sur la première version, au prix d’un calcul considérable par tâche, et une deuxième version plus difficile a été publiée en 2025. Le jeu du chat et de la souris entre bancs d’essai et modèles est devenu une composante structurelle du domaine.

Une autre approche mesure la durée des tâches qu’un agent mène à bien seul : combien de minutes ou d’heures de travail d’un professionnel humain un système peut-il accomplir de bout en bout avec un taux de réussite donné. Cette mesure parle directement aux questions de sécurité, puisqu’un système qui tient plusieurs heures sans supervision est un système qui peut agir longtemps avant qu’on regarde. L’agentique est d’ailleurs le terrain où la généralité se teste aujourd’hui en conditions réelles.

Les garde-fous existants : cadres des laboratoires et AI Act

Les principaux laboratoires ont publié des cadres qui lient le niveau de capacité d’un modèle aux précautions exigées avant son déploiement : la Responsible Scaling Policy d’Anthropic (2023), le Preparedness Framework d’OpenAI (2023) et le Frontier Safety Framework de Google DeepMind (2024). Leur logique commune est de définir des seuils de capacités dangereuses, dans les domaines biologique, chimique, nucléaire, cyber ou d’autonomie, et d’imposer des mesures de sécurité renforcées, voire un arrêt, quand un modèle les franchit lors des évaluations. Ce sont des engagements volontaires, révisés régulièrement, que chaque laboratoire interprète et contrôle lui-même.

Côté réglementaire, l’AI Act européen ne parle pas d’AGI mais de modèles d’IA à usage général. Ceux dont l’entraînement dépasse un seuil de calcul (10²⁵ opérations en virgule flottante) sont présumés présenter un risque systémique, et leurs fournisseurs doivent évaluer et atténuer ces risques, signaler les incidents graves et assurer un niveau adéquat de cybersécurité. Ces obligations s’appliquent depuis le 2 août 2025. Le régime vise les capacités et les risques, sans avoir à trancher la question de savoir si un modèle « est » une intelligence générale, ce qui est sans doute la seule façon raisonnable de légiférer sur un objet que personne ne sait définir.

Ce que la course à la généralité change déjà pour la cybersécurité

Inutile d’attendre l’AGI pour en constater les effets : la montée en généralité des modèles modifie dès maintenant l’équilibre entre attaque et défense.

L’abaissement du coût d’attaque. Un modèle généraliste aide à écrire un hameçonnage sans faute dans n’importe quelle langue, à comprendre un code inconnu, à adapter un exploit publié à une cible précise. Les évaluations publiées par les laboratoires montrent une progression régulière des capacités sur des exercices de type CTF (Capture The Flag, épreuves de sécurité offensive), sans que cela fasse encore d’un modèle un attaquant autonome de premier plan.
L’accélération de la défense. Les mêmes capacités servent à relire du code, trier des alertes, expliquer une trace réseau ou écrire une règle de détection. L’asymétrie habituelle, où l’attaquant n’a besoin que d’une faille, ne disparaît pas, mais l’outillage profite aux deux camps.
Le modèle comme cible. Plus un système est capable et autonome, plus ses poids, ses accès et ses outils deviennent des actifs à protéger : vol de modèle, injection de prompt, détournement d’agents. Les cadres cités plus haut prévoient d’ailleurs des niveaux de sécurité croissants pour protéger les poids des modèles les plus capables contre des attaquants étatiques.
La question du contrôle. Un système très général et autonome pose un problème que la sécurité classique connaît bien : comment garder la main sur un acteur plus rapide que ses superviseurs. Les réponses sont familières, moindre privilège, journalisation, séparation des actions réversibles et irréversibles, et décrites pour les agents actuels dans la sécurisation des actions irréversibles.

Les prédictions de date, enfin, relèvent de la spéculation et varient d’un dirigeant à l’autre de plusieurs décennies. Pour un responsable de la sécurité, la bonne question n’est pas « quand l’AGI arrive-t-elle ? » mais « qu’est-ce que les modèles d’aujourd’hui permettent déjà à un attaquant, et à moi ? ». Elle a l’avantage d’avoir une réponse.

🐝 Ce qui arrive si on s’en passe

Une organisation qui traite l’AGI comme un horizon lointain sans rapport avec son quotidien manque les effets déjà présents de la montée en capacité des modèles : hameçonnage indiscernable des courriels légitimes, exploitation plus rapide des vulnérabilités publiées, agents internes dotés de droits que personne n’a revus. Ses modèles de menace datent d’avant ces outils, ses délais de correction supposent un attaquant qui lit lentement les bulletins, et ses assistants internes accèdent à des données sans journalisation exploitable. À l’inverse, celle qui s’arrête aux annonces spectaculaires investit dans la peur d’une machine hypothétique plutôt que dans l’inventaire de ses propres déploiements. Dans les deux cas, l’écart entre les capacités réelles et la défense se creuse sans que personne ne le mesure.

🦫 Explication de la marmotte 🍫

La plupart des programmes d’intelligence artificielle sont spécialisés : l’un joue aux échecs, l’autre reconnaît des photos, un autre traduit des textes. L’AGI, ou intelligence artificielle générale, désigne un programme qui saurait faire presque tout ce qu’un humain fait avec sa tête, et qui pourrait apprendre de nouvelles choses aussi facilement que nous. Les assistants de discussion actuels savent déjà faire beaucoup de choses différentes, mais ils se trompent encore sur des problèmes simples quand ils sont posés d’une manière qu’ils n’ont jamais vue.

Les spécialistes ne sont pas d’accord sur la définition. Certains disent qu’on y sera quand l’IA fera mieux que les humains la plupart des métiers, d’autres proposent une échelle avec plusieurs niveaux, d’autres encore regardent surtout la capacité à apprendre vite à partir de très peu d’exemples. Pour vérifier les progrès, on fait passer aux programmes des tests, un peu comme des examens, en essayant d’éviter qu’ils aient déjà vu les réponses.

Pour la sécurité informatique, ces progrès comptent déjà aujourd’hui : les mêmes outils aident les pirates à préparer des attaques et aident les défenseurs à les repérer. Les entreprises qui fabriquent ces IA et l’Union européenne ont donc fixé des règles pour tester les modèles les plus puissants avant de les diffuser.

Pages voisines

La citent

AGI : ce que recouvre l'intelligence artificielle générale

Elle cite

: les deux pages se citent l’une l’autre.