Die Geschwindigkeit der Veränderung in Ai. Erstaunlich faszinierend.

"„Im Jahr 2019 kündigte OpenAI GPT-2 an. Heute (ca. 5 Jahre später) können Sie Ihr eigenes für ca. 672 US-Dollar trainieren und es 24 Stunden lang auf einem 8XH100-GPU-Knoten ausführen.

Die Kosten sind in den letzten fünf Jahren aufgrund von Verbesserungen bei der Rechenhardware (H100-GPUs), der Software (CUDA, cuBLAS, cuDNN, FlashAttention) und der Datenqualität (z. B. dem FineWeb-Edu-Datensatz) drastisch gesunken.

Da llm.c eine direkte Implementierung des GPT-Trainings in C/CUDA ist, sind die Anforderungen minimal - es sind keine Conda-Umgebungen, Python-Interpreter, Pip-Installationen usw. erforderlich.

Sie richten einen Cloud-GPU-Knoten ein (z. B. auf Lambda), installieren optional NVIDIA cuDNN, NCCL/MPI, laden die .bin-Daten-Shards herunter, kompilieren und führen sie aus, und schon sind Sie in wenigen Minuten startklar.

Anschließend warten Sie 24 Stunden und genießen Kostproben über englischsprachige Einhörner in den Anden."

Bitte beachten Sie, dass die deutsche Version von Ai unterstützt wird und daher geringfügige Fehler auftreten können.

AUTOR

Über ABN Asia: Ai Base Network (ABN), ABN Asia wurde im Jahr 2012 gegründet und ist ein Unternehmen mit akademischem Hintergrund, das von Lehrkräften und ehemaligen Studierenden aus Ungarn, den Niederlanden, Russland, Deutschland und Japan gegründet wurde. Wir teilen eine gemeinsame Leidenschaft und eine klare Vision für Technologie, die Innovation und erstklassige Qualität für unsere Kunden bringt. Unser Motto lautet: Besser. Schneller. Sicherer. In vielen Fällen: Günstiger.

Zögern Sie nicht, uns zu kontaktieren, wenn Sie IT-Dienstleistungen, digitale Beratung, Standardsoftwarelösungen benötigen oder uns Angebotsanfragen (RFPs) senden möchten. Sie können uns unter [email protected] kontaktieren. Wir sind bereit, Ihnen bei all Ihren Technologiebedürfnissen zu helfen.