L'état de l'IA générative, 2024

"Si vous regardez les informations, il est facile de passer à côté de la forêt pour les arbres. Les preuves sont toutes dispersées, alors rassemblons-les en un seul endroit :

La croissance, les revenus et les marges sont décevants. Les visites sur les sites d'IA sont au point mort. Sequoia, une société de capital-risque, estime qu'en 2023 les entreprises ont dépensé 50 milliards de dollars en matériel Nvidia, mais n'ont généré que 3 milliards de dollars de revenus. Les valorisations des startups d'IA ont été bien plus élevées qu'elles ne devraient l'être. Les faibles marges brutes soulèvent des questions sur les bénéfices et les fournisseurs de cloud réduisent les attentes.

Les startups de premier plan commencent à échouer. InflectionAI, une entreprise privée de création de modèles bien financée, est en cours de démantèlement ; Microsoft ramasse les morceaux, y compris l'ancien PDG Mustafa Suleyman. L'avenir de StabilityAI est instable, pour le moins, après la chute du fondateur Emad Mostaque.

Les entreprises ont des doutes en matière de sécurité et de déploiement. Le magasin GPT d'OpenAI est un échec total. Après une première étincelle d'intérêt, les gens commencent à s'ennuyer. Le journaliste du New York Times, Ezra Klein, dit qu'il ne sait pas comment utiliser la technologie dans son travail quotidien. L'économiste Tyler Cowen affirme que l'utilisation de ces outils par ses collègues universitaires « a stagné ». Les experts considèrent les outils d'IA comme une « distraction amusante », mais sans utilité ni amélioration de la productivité (et lorsqu'ils le sont, cela ne se passe pas toujours bien).

Finalement, la plupart des gens ne s'en soucient pas vraiment. Le grand public connaît ChatGPT mais rien d'autre. Parmi ceux qui le font, la grande majorité utilise le GPT-3.5 obsolète, peu disposé à l'échanger contre de meilleurs successeurs, comme GPT-4, Gemini et Claude 3 pour quelques dollars. Parmi ceux qui le font, ce sont les sans scrupules qui en tirent malheureusement le plus de valeur, au détriment des gens, d'Internet et de notre culture.

Cela signifie-t-il que l'IA générative est en échec ? Peut-être, mais pas nécessairement.

Présentons un cas juste :

L'intérêt du grand public pour l'IA a diminué, mais les bulles d'IA partagent toujours des mises à jour quotidiennes lues par des centaines de milliers de personnes (y compris cette newsletter, qui ne cesse de croître à un rythme rapide). Le battage médiatique s'est également ralenti, avec de grands noms comme le PDG de Google DeepMind, Demis Hassabis, qui l'ont dénoncé. Les valorisations sont désormais plus raisonnables en fonction des revenus ou des attentes, ce qui serait une bonne nouvelle.

Les améliorations de productivité spécifiques aux tâches sont réelles. La plupart des travailleurs du savoir n'utilisent peut-être plus ChatGPT, mais dans l'ensemble, davantage de personnes l'ont essayé par rapport à il y a un an et ceux qui ont trouvé un moyen d'augmenter leur productivité (principalement des codeurs) en récoltent de grandes récompenses.

Nous recevons un nouveau modèle à la pointe de la technologie tous les quelques mois. Anthropic a annoncé Claude 3 début mars, dépassant récemment pour la première fois GPT-4 dans l'arène des chatbots LMSys. De nombreuses autres versions sont prévues pour l'été, notamment GPT-5 d'OpenAI, le nouveau Siri d'Apple, Llama 3 de Meta, Gemini 1.5 Ultra de Google et Grok 2 de xAI.

Rien que la semaine dernière, nous avons assisté à trois annonces marquantes : DBRX de Databricks, le meilleur modèle open source à ce jour, Jamba d'AI21 Labs, le meilleur transformateur SSM de qualité production (avec une nouvelle architecture), et Voice Engine d'OpenAI, un moteur de texte. modèle de parole qui génère des voix réalistes personnalisées avec 15 secondes d'audio.

Et n'oublions pas l'afflux constant de recherches qui rendent les modèles d'IA possibles ou les projets d'infrastructure (matériel et centres de données) qui permettent leur formation et leur déploiement, comme la plateforme Blackwell de Nvidia ou Stargate, un supercalculateur de 100 milliards de dollars que Microsoft et OpenAI prévoient de construire dans le futur. années à venir.

Comment ces deux images contrastées peuvent-elles se produire en même temps ?

Tyler Cowen concilie cette disparité avec une prédiction ancrée dans l'histoire : « Le battage médiatique sur l'IA s'est calmé, mais la révolution continue. » La première image est celle d'un battage médiatique en voie de disparition, un développement naturel de toute nouvelle technologie qui attire plus d'attention qu'elle ne peut en nourrir et plus d'investissements qu'elle ne peut en rapporter. La seconde est l'« accalmie » silencieuse et cachée, comme le dit Cowen, qui avance sans relâche, indifférente au nombre d'yeux qu'elle peut ou non attirer du monde extérieur, concentrée sur les résultats et non sur les résultats.

Cowen ne prétend cependant pas que la révolution de l'IA se poursuivra par espoir sans fondement. Il a des raisons de supposer que cela suivra les mêmes étapes - battage médiatique, calme (nous entrons dans cette phase) et révolution - que les autres technologies passées. Que son optimisme résonne est une autre question, mais il n'hésite pas à faire une analogie précisément avec les trois innovations les plus communément comparées à l'IA générative : l'imprimerie, l'électricité et Internet. Voici ce qu'il dit :

Chaque technologie révolutionnaire connaît une période où elle ne semble finalement pas si excitante. Le crash du secteur Internet a eu lieu en 2000, mais même avant cela, le commerce en ligne était décidément mauvais. Deux ans plus tôt seulement, Paul Krugman avait observé qu'Internet était peut-être surfait - et le fait est qu'en 1998, il n'avait pas complètement tort.

En remontant encore plus loin, considérons l'introduction de l'électricité dans les usines au XIXe siècle, qui a connu de nombreux à-coups sur une période de plusieurs décennies. L'imprimerie a eu un impact beaucoup plus important sur l'Europe au XVIIe siècle, en raison d'une technologie et d'un papier moins chers, qu'immédiatement après l'invention de Gutenberg au milieu du XVe siècle.

L'IA générative pourrait se dérouler de la même manière : des premières turbulences mêlées d'enthousiasme, suivies d'indifférence et enfin, éventuellement, d'une résurgence. A-t-il besoin de l'approbation populaire qu'il perd à juste titre depuis un certain temps ? Je ne pense pas; ce n'est pas le battage publicitaire ou le consensus qui construit le nouveau monde mais le travail de ceux qui veillent tranquillement sur le progrès alors que tous les autres sont passés à autre chose (même s'ils ne parviennent à récolter les fruits en suspens que deux cents ans plus tard grâce à une innovation « sans rapport » qu'ils n'auraient pas pu réaliser). Je ne le prévois pas, comme du papier moins cher).

Cowen fournit des preuves en faveur de cette perspective et affirme même que « l'IA générative et les LLM continuent de progresser à pas de géant ». Il mentionne les services d'entreprise d'OpenAI, le concurrent GPT-4 de Google, et, plus important encore, dit-il, que « les modèles d'IA open source progressent à un rythme rapide, même si la plupart des utilisateurs occasionnels ne s'en rendent pas compte ».

Eh bien, même si nous pouvons garder espoir en regardant notre histoire lointaine, les exemples sélectionnés par Cowen ne constituent peut-être pas la preuve la plus favorable : les entreprises ne sont pas sûres de l'IA et parmi celles qui le sont, beaucoup ont du mal à adopter la technologie, comme je l'ai soutenu dans le introduction. Google Gemini Advanced a été un fiasco et pas aussi bon qu'il aurait dû l'être. Et Cowen a déjà expliqué pourquoi les efforts open source n'ont pas vraiment d'importance pour le monde en général : en raison des barrières techniques à l'entrée, les utilisateurs se soucient beaucoup moins de l'open source que des meilleurs produits prêts à l'emploi comme GPT-4 et Claude. 3, qui est déjà ~ zéro par rapport au ChatGPT obsolète basé sur GPT-3.5.

La déflation répétée des espoirs n'est-elle pas un signe indéniable que ce n'est pas seulement le battage médiatique qui s'est calmé, mais aussi la révolution elle-même ?

Encore une fois, pas nécessairement.

Cowen n'a pas réussi à fournir des preuves pour maintenir nos espoirs, mais c'est parce que son article date de huit mois et que le domaine - qu'il s'agisse de succès ou d'échecs - va tout simplement trop vite. J'ai fourni mes propres preuves « pleines d'espoir » dans le deuxième grand paragraphe ci-dessus ; Allons-nous falsifier cela également dans huit mois ? Oui, très probablement. Mais nous serons alors en mesure de fournir quelques coups de pinceau supplémentaires d'espoir renouvelé, répétant ainsi le cycle. Si cela continue, alors la thèse de Cowen est en partie vraie : nous sommes dans une phase de faible battage médiatique et de « non-enthousiasme ». Les développements passeront sous le radar de la plupart des gens, mais le domaine progressera quand même - plus lentement que lors de la phase de surmédiatisation, mais progressera néanmoins.

Nous pourrions tout simplement être incapables de prouver ou de falsifier la nature révolutionnaire de l'IA générative du point de vue limité du moment présent. Seule l'image neutre et rationnelle fournie par un recul lointain révélera la vérité. Nous pouvons affirmer avec certitude que deux cents ans ont séparé l'utilité matérialisée de l'impression de livres à grande échelle de l'invention de la technologie ; Gutenberg ne le pouvait pas.

La conclusion optimiste que nous pouvons en tirer est qu'une étape plus calme et sans battage publicitaire permettra de réaliser le travail adjacent indispensable (travail technique, social et éthique) - tout comme cela s'est produit avec l'imprimerie, l'électricité et Internet. .

Quelques questions pertinentes peuvent nous aider à recadrer et à comprendre les discussions actuelles et à venir sur l'état de l'IA générative dans cette nouvelle phase.

Dans quelle mesure la phase de battage médiatique - qui n'est pas encore laissée pour compte ou complètement surmontée - a-t-elle causé du tort à l'industrie et aux efforts d'ingénierie et scientifiques sous-jacents ? Le monde pourra-t-il un jour accueillir l'IA générative à bras ouverts alors que ceux qui la permettent ont été si indifférents aux externalités ? Le monde va-t-il laisser les promesses de croissance exponentielle avec une ambiance positive du type « Vous devez d'abord attirer et tenir vos promesses plus tard, je comprends » ou avec un mauvais goût de « vous m'avez menti et m'avez blessé et je ne vous ferai pas confiance ». toi encore""?

Des attentes élevées peuvent être très utiles à court terme, mais elles impliquent un compromis dangereux avec la confiance ; il existe un point de saturation au-delà duquel le battage médiatique entrave - et peut même entacher à jamais - les efforts futurs.

Il y a une autre question qui devrait servir d'avertissement (même si je crains que ce ne soit pas le cas). C'est quelque chose que je me pose depuis GPT-3 (en particulier en raison des affirmations exagérées que les dirigeants d'entreprises ont partagées avec la presse, comportement qui a culminé après ChatGPT) :

L'IA générative n'était-elle pas assez incroyable en elle-même - c'est vrai - qu'ils ont dû exagérer ses capacités avec des promesses folles et des récits à la mode pour s'assurer que le domaine ne pourrait jamais les tenir ?

Si l'IA générative est si étonnante et géniale, était-il vraiment nécessaire pour Sam Altman de dire que l'objectif final d'OpenAI est « l'intelligence magique dans le ciel » et le début d'un monde post-rareté ? Ou que Sundar Pichai dise que l'IA est « plus importante que le feu ou l'électricité » ? Ou que Satya Nadella dise que l'IA générative semble aussi importante qu'Internet en 1995 ? Ou qu'Elon Musk dise que l'IA pourrait devenir « la force la plus perturbatrice de l'histoire » ? Ou que Jensen Huang dise qu'il ne serait pas judicieux d'apprendre la programmation ?

S'ils ont besoin de ce discours, cela ne signifie-t-il pas que la réalité sous-jacente n'est pas aussi convaincante qu'ils le prétendent et qu'ils sont donc obligés de convaincre eux-mêmes ?

Aujourd'hui, je n'ai toujours pas de réponse satisfaisante.

Enfin, mis à part le battage médiatique et autres réactions émotionnelles, la question plus large à laquelle nous serons éventuellement confrontés est la suivante : ceux qui construisent l'IA dans le silence de leur propre conviction peuvent-ils prouver qu'elle vaut la peine d'être qualifiée de révolution comme l'imprimerie, l'électricité ou l' l'Internet? Ou est-ce que cela finira par absorber la pile de technologies oubliées qui, une fois le battage médiatique calmé, n'ont plus jamais réapparu ?

Seul le temps nous le dira.

Espérons simplement que nous n'aurons pas à attendre deux cents ans, comme ces pauvres paysans médiévaux, pour le découvrir. À l'époque, ils ne disposaient d'aucune information pour réagir à cette lenteur, mais nous ne sommes pas si indulgents au 21e siècle, et encore moins ceux qui paient pour ces prétendues révolutions. Heureusement, si le monde avance aussi vite que le prétendent les évangélistes de l'IA, cela ne devrait pas prendre longtemps.

Alberto Romero"

Veuillez noter que la version française est assistée par Ai, des erreurs mineures peuvent donc exister.

Auteur

Ai Base Network (ABN), ABN ASIA a été fondée par des personnes ayant des racines profondes dans le milieu académique, avec une expérience professionnelle aux États-Unis, aux Pays-Bas, en Hongrie, au Japon, en Corée du Sud, à Singapour et au Vietnam. ABN ASIA est l'endroit où l'académie et la technologie rencontrent l'opportunité. Avec nos solutions de pointe et nos services de développement logiciel compétents, nous aidons les entreprises à se développer et à s'imposer sur la scène mondiale. Notre engagement : Plus vite. Mieux. Plus fiable. Dans la plupart des cas : moins cher également.

N'hésitez pas à nous contacter chaque fois que vous avez besoin de services informatiques, de conseils en matière de numérique, de solutions logicielles prêtes à l'emploi, ou si vous souhaitez nous envoyer des demandes de propositions (RFP). Vous pouvez nous contacter à l'adresse [email protected]. Nous sommes prêts à vous aider avec tous vos besoins technologiques.

© ABN ASIA