Biographie de Jürgen Schmidhuber
Sans le LSTM qu’il a conçu en 1997, ni la traduction automatique ni les assistants vocaux n’auraient fonctionné pendant vingt ans. Écarté des grands prix qui ont couronné ses concurrents, Jürgen Schmidhuber tient depuis, page web après page web, la comptabilité méticuleuse de ce qu’il estime lui avoir été volé.
Jürgen Schmidhuber, né le 17 janvier 1963 à Munich, est un chercheur allemand en intelligence artificielle, directeur scientifique de l’institut suisse IDSIA depuis 1995 et responsable de l’initiative en intelligence artificielle de l’université KAUST, en Arabie saoudite. Coinventeur de la mémoire à court terme longue, il est autant connu pour ses travaux que pour les batailles de paternité qu’il mène contre les figures les plus décorées de sa discipline.
Docteur de l’université technique de Munich en 1991, il s’installe au Tessin, où il dirige un petit laboratoire qui va produire, en 1997, avec Sepp Hochreiter, dont il avait dirigé le mémoire de fin d’études, l’architecture LSTM. Le problème posé était réel : un réseau de neurones qui traite une séquence oublie à mesure qu’il avance, et se révèle incapable de relier la fin d’une phrase à son début. Le LSTM y ajoute des portes qui décident de ce qu’il faut retenir, effacer ou transmettre. Pendant vingt ans, cette mémoire artificielle a fait tourner la traduction automatique, la reconnaissance vocale et la saisie prédictive de milliards d’appareils, jusqu’à l’arrivée des Transformers en 2017.
Le reste de son œuvre tient dans une obsession : des machines qui apprennent à apprendre, et qui s’ennuient. Il a formalisé dès 1990 une théorie de la curiosité artificielle où un système se récompense lui-même quand il découvre ce qu’il ne savait pas prédire, imaginé la machine de Gödel capable de réécrire son propre code, et cofondé en 2014 l’entreprise NNAISENSE.
C’est de cette période 1990-1991, qu’il appelle son année miraculeuse, que viennent les querelles. Il soutient que les réseaux antagonistes générateurs de 2014 reprennent son principe de minimisation de la prédictibilité, que les Transformers de 2017 sont mathématiquement équivalents à ses programmeurs de poids rapides de 1991, et que l’architecture JEPA défendue aujourd’hui par Yann LeCun reprend un dispositif qu’il avait publié en 1992. Il a critiqué publiquement l’article de synthèse paru dans Nature en 2015, puis le prix Turing 2018, reprochant à Geoffrey Hinton, Yoshua Bengio et Yann LeCun d’avoir republié sans les citer des méthodes plus anciennes. Ses pages web recensent dix-sept différends, tenues à jour comme un livre de comptes ; ses contradicteurs répondent, quand ils répondent, que l’idée ne vaut rien sans la démonstration qu’elle fonctionne à grande échelle.
Distingué en 2016 par le prix des pionniers des réseaux de neurones de l’IEEE, installé depuis 2021 en Arabie saoudite sans quitter Lugano, il balaie les scénarios catastrophes et résume son objectif d’une phrase répétée depuis l’adolescence : construire une machine plus intelligente que lui, pour pouvoir enfin prendre sa retraite.
Photo : ITU / R. Farrell, 2017 (CC BY 2.0).
