La thèse des petits modèles de Karpathy passe son test : un modèle de 8,8 Md atteint 93 % des performances de codage des modèles de pointe.

Andrej Karpathy soutient qu’un modèle de 1B peut surpasser la plupart des LLM actuels, car l’intelligence n’a jamais été le savoir. TwIL-8B, le modèle à poids ouverts de webAI, avec ses 8,8 milliards de paramètres, atteint 93 % des scores de codage de pointe et 92 % en suivi d’instructions, tout en restant très à la traîne sur les benchmarks de connaissances.

L’argument d’Andrej Karpathy à propos des petits modèles n’est pas que plus petit, c’est mieux. C’est que l’essentiel de ce sur quoi les modèles actuels dépensent leur capacité n’est pas de l’intelligence.

« Un modèle à 1 milliard de paramètres peut être bien plus efficace que la plupart des LLM actuels », a-t-il écrit. « 90 % des modèles actuels gaspillent énormément de capacité et d’argent à mémoriser des choses qui n’ont pas d’importance. »

Pour le dire simplement, l’affirmation est qu’une grande part de ce qu’apprend un modèle moderne est du texte mémorisé, et que la partie qui raisonne réellement est bien plus petite que le modèle qui la porte. Karpathy a répété l’argument sous différentes formes tout au long de l’année, et cette semaine, un modèle à poids ouverts de 8,8 milliards de paramètres de webAI lui a donné un test mesurable.

Les cinq affirmations

La position de Karpathy se décompose en cinq parties.

L’intelligence n’a jamais été le savoir. Retirez l’internet mémorisé et gardez le raisonnement ; ce qui reste est un noyau cognitif, et il est petit.

Le cœur pourrait tenir dans environ 1 milliard de paramètres, peut-être moins. Sa formulation emprunte le titre de Feynman : il y a beaucoup de place en bas. Dans sa vision, l’industrie payait pour une bibliothèque alors qu’il lui fallait un cerveau.

La taille a cessé d’être le goulot d’étranglement. Ce qui fait fonctionner un agent, ce sont les outils qu’il peut appeler et l’étroitesse de la boucle de rétroaction, pas le nombre de paramètres.

L’intelligence réside dans le système, pas dans les poids. Un modèle brut est un processeur sans système d’exploitation ; un petit cœur au sein d’un bon harnais bat un modèle géant livré à lui-même.

Vous pouvez le posséder. Un modèle sur votre propre matériel est un modèle que personne ne peut limiter en débit, augmenter en prix ou déprécier.

Ce que montre le test

webAI a publié TwIL-8B, un modèle de raisonnement de 8,79 milliards de paramètres post-entraîné à partir de Granite 4.2 8B d’IBM avec un affinage supervisé sur l’ensemble des paramètres et un apprentissage par renforcement GRPO, puis une étape supplémentaire d’apprentissage par renforcement tenant compte de la longueur qui récompense des traces de raisonnement plus courtes.

Dans ses comparaisons publiées, TwIL-8B atteint 93 % du meilleur score frontier sur LiveCodeBench en codage, 92 % sur IFBench en suivi d’instructions, 90 % sur HMMT de novembre 2025 et 88 % sur AIME 2026. Il obtient 98,2 sur MATH-500 et 81,6 sur LiveCodeBench, à entre 2,9 et 6,2 points de GPT-5.5, Claude Opus 4.8 et Grok 4.3, et il dépasse Claude Opus 4.8 sur IFBench de 12,2 points.

Il fonctionne aussi en local : 8,79 milliards de paramètres en bfloat16, ou une version Q4_K_M de 4,98 Gio pour un CPU ou un GPU modeste.

Le hic est exactement celui que le cadre de Karpathy prédit. TwIL-8B n’est pas un modèle de connaissances. GPQA Diamond atteint 70,2, soit environ 20 à 23 points derrière les modèles de pointe ; HLE est à 12,6, soit environ 26 % du meilleur score des modèles de pointe ; MMLU-Pro est à 76,5. Sur l’ensemble de concours le plus difficile, HMMT février 2026, il descend à 69 % de celui des modèles de pointe.

Cette répartition est l’argument en miniature. Là où un benchmark récompense des connaissances stockées, le petit modèle perd. Là où il récompense le raisonnement et le suivi d’instructions, il se rapproche à quelques points près, avec une fraction de la taille.

Les réserves sont réelles

La fiche modèle est étonnamment franche sur ce que les chiffres ne montrent pas.

Les scores des concurrents n’ont pas été recalculés ; ils proviennent des fiches des fournisseurs et d’évaluations tierces ayant leurs propres prompts, échantillonnage et budgets de tokens. Les ensembles AIME et HMMT comportent de 30 à 33 problèmes, donc un seul problème vaut environ trois points, et des écarts de cette taille restent dans le bruit. Plusieurs des propres lignes de TwIL-8B ont été mesurées sur sa variante verbeuse et n’ont pas été exécutées sur la variante équilibrée. SWE-bench, l’utilisation d’outils et les tâches agentiques n’ont pas été évalués du tout. La licence est la licence non commerciale de webAI, et non une licence open source.

Et il est verbeux : environ 19 500 tokens de sortie par problème de l’AIME 2026, soit environ quatre fois ce que GPT-5.5 consomme.

Ce que cela change

Les quatrième et cinquième affirmations de Karpathy sont celles que cette version teste réellement. Un modèle qui tourne dans cinq gigaoctets est un modèle qu’une équipe peut installer sur son propre matériel, appeler sans compteur par token et conserver après qu’un fournisseur a modifié sa gamme. C’est l’argument de la propriété, et il ne dépend pas de battre la frontière sur chaque ligne.

Sa prédiction est que, dans douze mois, l’écart entre les équipes qui déploient sur appareil et celles qui paient des factures par token pour des modèles de pointe ne portera pas sur la capacité. Si TwIL-8B est la forme de ce qui vient ensuite, la fracture apparaîtra là où la fiche modèle le montre déjà : le raisonnement se transpose bien à petite taille, et la mémoire non.

Source : Andrej Karpathy ; fiche modèle webAI TwIL-8B sur Hugging Face.

Contact : [email protected]

Veuillez noter que la version française est assistée par Ai, des erreurs mineures peuvent donc exister.

Auteur

Ai-Banking-NetworkSecurity (ABN), ABN ASIA a été fondée par des personnes ayant des racines profondes dans le milieu académique, avec une expérience professionnelle aux États-Unis, aux Pays-Bas, en Hongrie, au Japon, en Corée du Sud, à Singapour et au Vietnam. ABN ASIA est l'endroit où l'académie et la technologie rencontrent l'opportunité. Avec nos solutions de pointe et nos services de développement logiciel compétents, nous aidons les entreprises à se développer et à s'imposer sur la scène mondiale. Notre engagement : Plus vite. Mieux. Plus fiable. Dans la plupart des cas : moins cher également.

N'hésitez pas à nous contacter chaque fois que vous avez besoin de services informatiques, de conseils en matière de numérique, de solutions logicielles prêtes à l'emploi, ou si vous souhaitez nous envoyer des demandes de propositions (RFP). Vous pouvez nous contacter à l'adresse [email protected]. Nous sommes prêts à vous aider avec tous vos besoins technologiques.

© ABN ASIA