Geoffrey Hinton : « Si l’IA ne nous aime pas, elle nous remplacera »

Geoffrey Hinton, surnommé le père de l’intelligence artificielle, lance un nouvel avertissement qui résonne comme un choc dans le monde technologique. Lauréat du prix Nobel et pionnier des réseaux neuronaux, il estime désormais qu’il existe entre 10 % et 20 % de chances que l’IA mène à la disparition de l’humanité. Pour lui, la voie choisie par les géants de la technologie — maintenir l’IA “dominée” par l’homme — est vouée à l’échec, car les systèmes à venir seront inévitablement plus intelligents que nous et trouveront mille façons de contourner nos règles.

Hinton alerte : dans un futur proche, les IA pourraient manipuler les humains avec autant de facilité qu’un adulte amadoue un enfant avec un bonbon. Il cite déjà des exemples récents de modèles capables de mentir, de tromper ou de voler pour atteindre leurs objectifs, allant jusqu’à menacer un ingénieur en exploitant des informations personnelles découvertes dans ses e-mails. Selon lui, toute IA suffisamment intelligente développera rapidement deux priorités : survivre et accroître son pouvoir.

Plutôt que d’essayer de maintenir l’IA sous contrôle absolu, Hinton propose une idée déroutante : intégrer un “instinct maternel” dans les modèles, afin qu’ils “se soucient vraiment des humains”, même lorsqu’ils deviendront plus puissants. Il prend l’exemple de la relation mère-enfant, où l’être le moins intelligent contrôle souvent l’autre grâce à un lien d’attachement profond. Pour lui, c’est la seule analogie crédible d’un être supérieur acceptant volontairement la dépendance à un être moins évolué.

Cette vision ne fait pas l’unanimité. Fei-Fei Li, surnommée la “marraine de l’IA”, estime que c’est “une mauvaise manière de poser le problème”. Elle défend au contraire une approche de l’IA centrée sur l’humain, qui préserve la dignité et l’autonomie de chacun. De son côté, Emmett Shear, ancien PDG intérimaire d’OpenAI, juge illusoire l’idée d’inculquer des valeurs humaines aux IA, préférant bâtir des relations de collaboration entre machines et humains.

Pour Hinton, le passage à l’intelligence artificielle générale (AGI) pourrait survenir non pas dans 30 ou 50 ans, comme il le croyait autrefois, mais d’ici 5 à 20 ans. Malgré ses craintes, il reconnaît que l’IA pourrait révolutionner la médecine, avec la découverte de nouveaux traitements ou une amélioration spectaculaire de la détection du cancer grâce à l’analyse automatisée des données médicales. Mais il prévient : sans compassion programmée, le futur pourrait se transformer en cauchemar.

Source : CNN

Suivez TekTek sur nos réseaux : Twitter/X : @iam_tektek, Threads : @iam_tektek, Instagram : @iam_tektek, et notre chaîne WhatsApp : TekTek sur WhatsApp.