L’expression « intelligence artificielle générale », ou AGI, est aujourd’hui au cœur des ambitions les plus démesurées de la Silicon Valley. Elle symbolise ce moment hypothétique où les machines égaleraient ou dépasseraient toutes les capacités cognitives humaines. Pourtant, celui qui a inventé ce terme ne l’a pas conçu comme une promesse, mais comme une mise en garde.
Tout commence en 1956, lors d’un colloque à Dartmouth College, où John McCarthy forge le concept d’« intelligence artificielle ». Des décennies plus tard, en 1997, un physicien du nom de Mark Gubrud, alors doctorant à l’Université du Maryland, s’inquiète des dérives possibles de la nanotechnologie et de l’IA. Dans une conférence intitulée Nanotechnology and International Security, il emploie pour la première fois l’expression « artificial general intelligence ». Il la définit comme une forme d’intelligence mécanique capable d’acquérir et de manipuler des connaissances générales et de raisonner dans n’importe quel domaine où l’on aurait besoin d’un être humain. Autrement dit, la définition que nous utilisons encore aujourd’hui.
À l’époque, personne ne remarqua son invention. Gubrud ne cherchait pas à révolutionner la technologie, mais à prévenir une catastrophe : il redoutait qu’une telle puissance, combinée à la militarisation et à la course à l’innovation, ne provoque un désastre plus grand que la guerre nucléaire.
Dans les années 2000, alors que le domaine de l’IA sortait de son « hiver », d’autres chercheurs Ben Goertzel, Shane Legg, Pei Wang reprennent le flambeau. Kurzweil parle de « strong AI », mais c’est Legg qui propose d’ajouter le mot « general », donnant naissance à l’acronyme AGI. Ironie de l’histoire : ils pensent avoir inventé le terme, avant de découvrir que Gubrud l’avait déjà formulé près de dix ans plus tôt. Aujourd’hui, Legg est le scientifique en chef de DeepMind, l’une des entreprises les plus avancées dans la quête de cette fameuse intelligence générale.
Pendant que les géants de la tech OpenAI, Microsoft, Google, Meta dépensent des milliards pour atteindre ce Graal numérique, Gubrud, lui, vit modestement, toujours préoccupé par les dérives militaires et éthiques de ces technologies. « L’AGI vaut des milliers de milliards, dit-il. Et moi, je suis un homme de 66 ans, sans nom, sans argent, sans poste. » Mais il garde une conviction : le monde devrait écouter ses avertissements, car derrière l’obsession d’imiter l’esprit humain se cache peut-être une menace que nous ne comprendrons que trop tard.
Source : WIRED, 31 octobre 2025
