Googleは相変わらず野獣だ！

"3.25B のパラメータで量子化された Gemini は、次期 Google Chrome でローカルに実行され、2GB 未満の RAM を使用しながら 100 ミリ秒未満のレイテンシーで実行されます。

これは、現在の Chrome ページの多くがすでに使用している RAM 使用量よりも少ないです (これを入力している時点で、私のスラックは 4.8 GB を使用しています)。

LLM は、ブラウザからテレビ、家電、Raspberry-Pi に至るまで、テクノロジーが完成するにつれてますますシンプルになっていくデバイスに至るまで、世界中のあらゆる場所に統合されることは間違いありません。

そして、私が最も興奮しているのは、それらがすべてローカルで、デバイス上で、高速かつ分散的に実行されることです。

X.com の @mortenjust と、印象的なビデオを共有してくれた Thomas @HuggingFace に感謝します

ビデオ: https://x.com/i/status/1805190952358650251"

日本語版は Ai 支援を使用しているため、小さな間違いが存在する可能性があることをご了承ください。

著者

Ai Base Network (ABN), ABN ASIAは、アカデミアに深く関わり、アメリカ、オランダ、ハンガリー、日本、韓国、シンガポール、ベトナムでの仕事経験を持つ人々によって設立されました。ABN ASIAは、学問とテクノロジーが機会と出会う場所です。最先端のソリューションと優れたソフトウェア開発サービスにより、ビジネスがレベルアップし、グローバルシーンに挑戦できるよう支援しています。 私たちの取り組み: より速く。 より良い。 より信頼性が高くなります。 ほとんどの場合、価格も安くなります。

いつでも、ITサービス、デジタルコンサルティング、既製のソフトウェアソリューション、または提案依頼書（RFP）をお探しの際は、お気軽にお問い合わせください。お問い合わせ先は[email protected]です。お客様のテクノロジーに関するニーズにお応えします。

© ABN ASIA