Google est toujours une bête !

"Un gemini quantifié de 3,25 milliards de paramètres s'exécute localement dans le prochain Google Chrome avec une latence inférieure à 100 ms tout en utilisant moins de 2 Go de RAM.

C'est moins d'utilisation de RAM que la plupart de mes pages Chrome actuelles en utilisent déjà (mon Slack utilise 4,8 Go au moment où je tape ceci).

Il ne fait aucun doute que les LLM seront intégrés partout dans notre monde, des navigateurs à la télévision, en passant par les appareils électroménagers, jusqu'au Raspberry-Pi, jusqu'aux appareils de plus en plus simples à mesure que la technologie se perfectionne.

Et ce qui me passionne le plus, c'est qu'ils vont tous fonctionner localement, sur l'appareil, rapidement et de manière décentralisée.

h/t @mortenjust sur X.com et Thomas @HuggingFace pour avoir partagé cette vidéo impressionnante

Vidéo : https://x.com/i/status/1805190952358650251"

Veuillez noter que la version française est assistée par Ai, des erreurs mineures peuvent donc exister.

Auteur

AiUTOMATING PEOPLE, ABN ASIA a été fondée par des personnes ayant des racines profondes dans le milieu académique, avec une expérience professionnelle aux États-Unis, aux Pays-Bas, en Hongrie, au Japon, en Corée du Sud, à Singapour et au Vietnam. ABN ASIA est l'endroit où l'académie et la technologie rencontrent l'opportunité. Avec nos solutions de pointe et nos services de développement logiciel compétents, nous aidons les entreprises à se développer et à s'imposer sur la scène mondiale. Notre engagement : Plus vite. Mieux. Plus fiable. Dans la plupart des cas : moins cher également.

N'hésitez pas à nous contacter chaque fois que vous avez besoin de services informatiques, de conseils en matière de numérique, de solutions logicielles prêtes à l'emploi, ou si vous souhaitez nous envoyer des demandes de propositions (RFP). Vous pouvez nous contacter à l'adresse [email protected]. Nous sommes prêts à vous aider avec tous vos besoins technologiques.

© ABN ASIA