Les grands modèles de langage ne seront jamais intelligents, affirme un expert

Les LLM ne sont que des outils qui imitent la fonction communicative du langage.

Les entreprises technologiques sont-elles sur le point de créer des machines pensantes avec leurs modèles d'IA tremendes, comme le prétendent les dirigeants ? Non, selon un expert.

Nous, les humains, avons tendance à associer le langage à l'intelligence. Nous sommes attirés par ceux qui possèdent de meilleures compétences linguistiques en tant qu'orateurs ou écrivains.

Mais les dernières recherches suggèrent que le langage n'est pas la même chose que l'intelligence, affirme Benjamin Riley, fondateur de l'entreprise Cognitive Resonance, dans un essai pour The Verge. Et c'est une mauvaise nouvelle pour l'industrie de l'IA, qui fonde ses espoirs et ses rêves de créer une intelligence artificielle générale omnisciente, ou AGI, sur l'architecture des grands modèles de langage qu'elle utilise déjà.

"Le problème est que, selon la neuroscience actuelle, la pensée humaine est en grande partie indépendante du langage humain - et nous n'avons aucune raison de croire que la modélisation de plus en plus sophistiquée du langage créera une forme d'intelligence qui égale ou dépasse la nôtre", écrit Riley. "Nous utilisons le langage pour penser, mais cela ne signifie pas que le langage est la même chose que la pensée. Comprendre cette distinction est la clé pour séparer les faits scientifiques de la science-fiction spéculative des PDG exubérants de l'IA."

L'AGI, pour éclaircir, serait un système d'IA omniscient qui égale ou dépasse la cognition humaine dans une large gamme de tâches. Mais dans la pratique, il est souvent imaginé comme aidant à résoudre tous les plus grands problèmes que l'humanité ne peut pas résoudre, de la maladie du cancer au changement climatique. Et en disant qu'ils en créent un, les dirigeants de l'IA peuvent justifier les dépenses exorbitantes de l'industrie et son impact environnemental catastrophique.

Une partie de la raison pour laquelle les dépenses en capital de l'IA ont été si hors de contrôle est l'obsession de l'échelle : en fournissant aux modèles d'IA plus de données et en les alimentant avec un nombre croissant de GPU, les entreprises d'IA ont amélioré leurs modèles pour résoudre des problèmes et les ont rendus plus humains dans leur capacité à tenir une conversation.

Mais "les LLM ne sont que des outils qui imitent la fonction communicative du langage, et non le processus cognitif distinct de la pensée et du raisonnement, peu importe le nombre de centres de données que nous construisons", écrit Riley.

Si le langage était essentiel à la pensée, alors le supprimer devrait supprimer notre capacité à penser. Mais cela ne se produit pas, souligne Riley, en citant des décennies de recherches résumées dans un commentaire publié dans Nature l'an dernier.

Tout d'abord, l'imagerie par résonance magnétique fonctionnelle (IRMf) du cerveau humain a montré que des parties distinctes du cerveau sont activées lors de différentes activités cognitives, note Riley. Nous n'utilisons pas la même région de neurones pour réfléchir à un problème mathématique ou à un problème de langage. Pendant ce temps, des études sur des personnes qui ont perdu leurs capacités linguistiques ont montré que leur capacité à penser était en grande partie intacte, puisqu'elles pouvaient toujours résoudre des problèmes mathématiques, suivre des instructions non verbales et comprendre les émotions des autres.

Même certains dirigeants de l'IA sont sceptiques à l'égard des LLM. Le plus célèbre d'entre eux est le lauréat du prix Turing et "père" de l'IA moderne Yann LeCun, qui était jusqu'à récemment le scientifique en chef de l'IA de Meta. LeCun a longtemps argumenté que les LLM ne parviendront jamais à l'intelligence générale et croit plutôt en la poursuite de modèles dits "monde" conçus pour comprendre le monde tridimensionnel en les formant sur une variété de données physiques, plutôt que juste sur le langage. Il est probable que cette opinion ait conduit à son départ récent ; malgré la position de LeCun, le PDG de Meta Mark Zuckerberg a recentré ses efforts pour verser des milliards de dollars dans une nouvelle division d'IA pour créer une "superintelligence" artificielle en utilisant la technologie LLM.

D'autres recherches ajoutent à l'idée que les LLM ont un plafond difficile à atteindre. Dans une nouvelle analyse publiée dans le Journal of Creative Behavior, un chercheur a utilisé une formule mathématique pour déterminer les limites de la "créativité" de l'IA, avec des résultats accablants. Puisque les LLM sont un système probabiliste, ils atteignent un point où ils ne sont plus capables de générer des sorties nouvelles et uniques qui ne soient pas sans sens. Par conséquent, l'étude a conclu que même les meilleurs systèmes d'IA ne seront jamais plus que des artistes serviceables qui vous écrivent un joli courriel verbeux.

"Alors que l'IA peut imiter un comportement créatif - de manière très convaincante à certains moments - sa capacité créative réelle est limitée au niveau d'un humain moyen et ne peut jamais atteindre des normes professionnelles ou d'expert sous les principes de conception actuels", a déclaré l'auteur de l'étude, David H Cropley, professeur d'innovation en ingénierie à l'Université de South Australia, dans un communiqué sur le travail.

"Un écrivain, un artiste ou un designer expérimenté peut occasionnellement produire quelque chose de vraiment original et efficace", a ajouté Cropley. "Un LLM ne le fera jamais. Il produira toujours quelque chose de moyen, et si les industries s'appuient trop lourdement sur lui, elles finiront par avoir un travail formulaire et répétitif."

Ce n'est pas un présage prometteur si l'IA alimentée par les LLM est censée inventer de nouvelles innovations et repousser les limites de notre compréhension du monde. Comment pourra-t-elle inventer de "nouvelle physique", comme le dit Elon Musk, ou résoudre la crise climatique, comme le suggère le PDG d'OpenAI Sam Altman, si la technologie peine à créer de nouvelles phrases qui ne soient pas basées sur des écrits préexistants ?

Oui, un système d'IA peut remixer et recycler nos connaissances de manière intéressante, écrit Riley. "Mais c'est tout ce qu'il pourra faire. Il sera à jamais piégé dans le vocabulaire que nous avons codé dans nos données et sur lequel nous l'avons formé - une machine à métaphores mortes."

Veuillez noter que la version française est assistée par Ai, des erreurs mineures peuvent donc exister.

Auteur

Ai Base Network (ABN), ABN ASIA a été fondée par des personnes ayant des racines profondes dans le milieu académique, avec une expérience professionnelle aux États-Unis, aux Pays-Bas, en Hongrie, au Japon, en Corée du Sud, à Singapour et au Vietnam. ABN ASIA est l'endroit où l'académie et la technologie rencontrent l'opportunité. Avec nos solutions de pointe et nos services de développement logiciel compétents, nous aidons les entreprises à se développer et à s'imposer sur la scène mondiale. Notre engagement : Plus vite. Mieux. Plus fiable. Dans la plupart des cas : moins cher également.

N'hésitez pas à nous contacter chaque fois que vous avez besoin de services informatiques, de conseils en matière de numérique, de solutions logicielles prêtes à l'emploi, ou si vous souhaitez nous envoyer des demandes de propositions (RFP). Vous pouvez nous contacter à l'adresse [email protected]. Nous sommes prêts à vous aider avec tous vos besoins technologiques.