John Hopfield, récent lauréat du prix Nobel de physique, « très inquiet » du développement de l’IA
Un robot utilisant l'intelligence artificielle sur un stand lors du sommet mondial AI for Good de l'Union internationale des télécommunications (UIT) à Genève, le 30 mai 2024.
Photo: FABRICE COFFRINI/AFP via Getty Images
John Hopfield, scientifique américain tout juste lauréat du Nobel de physique pour ses travaux pionniers sur l’intelligence artificielle (IA), a déclaré mardi qu’il trouvait les récentes avancées technologiques « très inquiétantes » et a mis en garde contre une possible catastrophe si elles ne sont pas maîtrisées.
Professeur émérite à l’Université de Princeton, il a appelé à une meilleure compréhension du fonctionnement de ces systèmes, afin d’éviter qu’ils ne deviennent incontrôlables.
« Des technologies qui ne sont pas uniquement bonnes ou mauvaises »
S’adressant à une assemblée de l’Université du New Jersey par vidéo depuis la Grande-Bretagne, le chercheur de 91 ans a déclaré qu’au cours de sa vie il avait assisté à l’essor de deux technologies puissantes mais potentiellement dangereuses : le génie biologique et la physique nucléaire.
« Nous sommes habitués à des technologies qui ne sont pas uniquement bonnes ou mauvaises, mais qui peuvent aller dans les deux sens », a-t-il déclaré.
« En tant que physicien, je suis très troublé par quelque chose qui n’est pas contrôlé, quelque chose que je ne comprends pas assez bien pour savoir quelles sont les limites que l’on peut imposer à cette technologie », a-t-il ajouté. « C’est la question que pose l’IA », a-t-il poursuivi. Même si les systèmes d’IA modernes semblent être des « merveilles absolues », leur fonctionnement est encore mal compris, ce qui est « très, très inquiétant » selon lui.
« C’est pourquoi moi-même, tout comme je pense Geoffrey Hinton (co-lauréat du Nobel, ndlr), préconisons fortement une meilleure compréhension » a-t-il poursuivi, ajoutant que le domaine allait « développer des capacités qui dépassent celles que vous pouvez imaginer à l’heure actuelle ».
Course féroce déclenchée entre les entreprises
Avec l’essor fulgurant de l’intelligence artificielle et la course féroce déclenchée entre les entreprises, les critiques pointent que cette technologie évolue plus vite que les scientifiques ne peuvent le comprendre.
« Vous ne savez pas si quelque chose de spontané mais non désiré se cache dans les travaux », a relevé John Hopfield.
Il a évoqué l’exemple de la « glace-neuf », un matériau imaginaire inventé par l’auteur de science-fiction Kurt Vonnegut dans son livre de 1963 Le Berceau du chat. Développée pour aider les soldats forcés d’évoluer dans la boue, elle provoque accidentellement la solidification des océans, causant la perte de la civilisation humaine.
« Je m’inquiète de tout ce qui dit… “Je suis plus rapide que toi, je suis plus grand que toi” », a déclaré John Hopfield.
Au cours de questions réponses avec l’Université de Toronto ce 8 octobre, Geoffrey Hinton a pointé du doigt Sam Altman, un des fondateurs d’OpenAI, rapporte BFMTV. « OpenAI a été mis en place avec un fort accent sur la sécurité. Le premier objectif était de développement une intelligence artificielle générale et de garantir qu’elle serait sûre », a affirmé John Hopfield. « Avec le temps, il s’est avéré que Sam Altman était beaucoup moins préoccupé par la sécurité que par les profits. Et je pense que c’est dommage », a-t-il ajouté relatant le licenciement de M. Altman d’OpenAI, par la suite réintégré sous la pression des employés et des actionnaires.
Articles actuels de l’auteur
