Google ist immer noch ein Biest!

"Ein mit 3,25 Milliarden Parametern quantisiertes Gemini läuft lokal im kommenden Google Chrome mit einer Latenz von weniger als 100 ms und verbraucht weniger als 2 GB RAM.

Das ist weniger RAM-Verbrauch, als viele meiner aktuellen Chrome-Seiten bereits verbrauchen (mein Slack verbraucht 4,8 GB, während ich das schreibe).

Zweifellos werden LLMs überall in unserer Welt integriert sein, von Browsern über Fernseher und Geräte bis hin zu Raspberry-Pi und immer einfacheren Geräten, je weiter die Technologie perfektioniert wird.

Und was mich am meisten begeistert, ist, dass sie alle lokal, auf dem Gerät, schnell und dezentral laufen werden.

h/t @mortenjust auf X.com und Thomas @HuggingFace für das Teilen des beeindruckenden Videos

Video: https://x.com/i/status/1805190952358650251"

Bitte beachten Sie, dass die französische Version von Ai unterstützt wird und daher geringfügige Fehler auftreten können. Google ist immer noch ein Biest!

AUTOR

Über ABN Asia: Ai Base Network (ABN), ABN Asia wurde im Jahr 2012 gegründet und ist ein Unternehmen mit akademischem Hintergrund, das von Lehrkräften und ehemaligen Studierenden aus Ungarn, den Niederlanden, Russland, Deutschland und Japan gegründet wurde. Wir teilen eine gemeinsame Leidenschaft und eine klare Vision für Technologie, die Innovation und erstklassige Qualität für unsere Kunden bringt. Unser Motto lautet: Besser. Schneller. Sicherer. In vielen Fällen: Günstiger.

Zögern Sie nicht, uns zu kontaktieren, wenn Sie IT-Dienstleistungen, digitale Beratung, Standardsoftwarelösungen benötigen oder uns Angebotsanfragen (RFPs) senden möchten. Sie können uns unter [email protected] kontaktieren. Wir sind bereit, Ihnen bei all Ihren Technologiebedürfnissen zu helfen.