Veröffentlicht am

CUDA ist nicht NVIDIAs Burggraben – seine Mitarbeiter sind es: das Argument aus dem Inneren des Stacks.

Autoren

Listen in English · CUDA ist nicht NVIDIAs Burggraben – seine Mitarbeiter sind es: das Argument aus dem Inneren des Stacks.

0:00 / 0:00

Watch in English · CUDA ist nicht NVIDIAs Burggraben – seine Mitarbeiter sind es: das Argument aus dem Inneren des Stacks.

Ein Ingenieur, der acht Jahre an CUDA-Compilern, -Bibliotheken und -DSLs gearbeitet hat, argumentiert, dass die übliche Darstellung von NVIDIAs Vorteil – ein großer Bestand an CUDA-Software, der Entwickler bindet – falsch ist. In dieser Darstellung ist CUDA ein Produkt, das dadurch definiert wird, was Kunden erleben, wenn sie an eine Grenze stoßen, und ermöglicht wurde es durch etwa ein Jahrzehnt unrentabler Investitionen ab etwa 2006.

Die gängige Erklärung für NVIDIAs Vorteil lautet, dass CUDA eine Programmiersprache und ein Compiler sei, dass eine enorme Menge Software darin geschrieben wurde und dass genau dieser Umfang Entwickler daran hindere, NVIDIA-GPUs zu verlassen. In einem Essay, der diese Woche kursiert, argumentiert ein Ingenieur mit acht Jahren Erfahrung mit CUDA-Compilern, Bibliotheken und domänenspezifischen Sprachen — über die Generationen Volta bis Rubin hinweg —, dass diese Darstellung ein Missverständnis dessen sei, was das Produkt ist.

CUDA als Kundenerfahrung, nicht als Codebasis

In dieser Darstellung ist CUDA keine Sprache, keine Software und keine Hardwarearchitektur. Es ist ein Produkt, das dadurch definiert wird, was ein Kunde an jedem Reibungspunkt erlebt, und die Liste der Versprechen ist die Substanz des Arguments.

  1. Wenn GPU-Programmierung zu schwer ist

    CUDA bietet einen Weg mit geringerem Aufwand in die Hardware, statt einer Spezifikation, die der Kunde allein erfüllen muss.

  2. Wenn der Code nicht schnell genug ist

    NVIDIA-Ingenieure arbeiten direkt am Problem des Kunden — Support als Teil des Produkts, nicht eine Ticket-Warteschlange dahinter.

  3. Wenn ein paar GPUs nicht ausreichen

    Die Plattform skaliert vom Desktop bis zum Rechenzentrums-Einsatz, statt irgendwo dazwischen ein Rewrite zu erzwingen.

  4. Wenn niemand sonst die Hardware liefern kann

    Wafer- und HBM-Kapazität Jahre im Voraus gesichert, sodass die Expansion des Kunden nicht durch die Zuteilung eines anderen begrenzt wird.

Vier Versprechen, ein Produkt. Jedes wird von Mitarbeitern erbracht, nicht von einer API — weshalb der Essay den Vorteil in der Organisation verortet und nicht in der Toolchain.

Das sichtbare Artefakt ist das Software-Ökosystem. Das Argument lautet, dass das Ökosystem der Rückstand dieser Erfahrung ist, nicht ihre Ursache.

Die Wette von 2006 und das Jahrzehnt, das sie kostete

Die Geschichte ist für die Behauptung wichtig, weil sie erklärt, warum die Position schwer zu besetzen und nicht nur schwer zu kopieren ist.

Um 2006 herum begann NVIDIA, GPUs von Grafikprozessoren in eine Plattform für universelles Rechnen umzuwandeln – eine Wette darauf, dass die künftige Nachfrage nach Rechenleistung weit über das hinausgehen würde, was Grafik-Workloads erforderten. Dem Essay zufolge waren die frühen Jahre ein kommerzieller Fehlschlag: Die zusätzlichen Kosten belasteten die Margen, der Markt war nicht bereit, und die Strategie stieß auf anhaltende Skepsis, auch seitens des Vorstands.

Etwa ein Jahrzehnt folgte, in dem NVIDIA weiterhin die Hardware, die Software und das Entwickler-Ökosystem finanzierte, bevor eine kommerzielle Rendite sichtbar war. Dann kam Deep Learning, und die Plattform war bereits vorhanden.

2,006
das Jahr, in dem die Wette auf General-Purpose-GPUs begann
8
Jahre, in denen der Autor des Essays am CUDA-Stack gearbeitet hat
10+
Jahre Investition vor dem kommerziellen Erfolg, nach Darstellung des Autors

Diese Abfolge ist der Teil, den ein Wettbewerber nicht erst am Ende kaufen kann. Ein Rivale kann heute ein Compiler-Team finanzieren; er kann nicht rückwirkend ein Jahrzehnt voller Verluste auf einer Plattform absorbieren, die niemand wollte – genau in dieser Lage war NVIDIA, bis der Markt kam.

Was die Geschichte vom Softwarevolumen übersieht

Die Volumen-Erzählung behandelt Wechselkosten als technisch. Der Essay behandelt sie als organisatorisch: Entwickler bleiben, weil jemand Kompetentes antwortet, wenn etwas kaputtgeht, und weil Kapazität eintrifft, wenn sie benötigt wird. Das sind Funktionen von Personalausstattung und Liefervereinbarungen, nicht einer Sprachspezifikation.

Es formuliert auch neu, was ein Wettbewerber reproduzieren müsste. Nicht eine Toolchain – die Toolchain ist der billigste Teil –, sondern ein Unternehmen, das bereit wäre, eine unrentable Plattform lange genug zu tragen, bis ihr Markt entsteht.

Was ein Wettbewerber reproduzieren müsste

  1. Eine Toolchain

    Der günstigste Teil. Ein Wettbewerber kann Compiler-Ingenieure einstellen und heute eine Sprache ausliefern.

  2. Ein Jahrzehnt unrentabler Arbeit

    Nicht nachträglich kaufbar: Die Verluste müssen absorbiert werden, während der Markt noch nicht existiert.

  3. Eine Support-Organisation

    Mitarbeiter, die antworten, wenn der Kernel eines Kunden langsam ist — ein Personal- und Kulturkostenaufwand, der mit der Kundenbasis skaliert, nicht mit der Codebasis.

  4. Versorgung Jahre im Voraus gesichert

    Wafer- und HBM-Zuteilung zugesagt, bevor die Nachfrage sichtbar ist, was Bilanz und Glaubwürdigkeit erfordert, nicht eine Roadmap.

Drei der vier können nicht in dem Moment gekauft werden, in dem sie benötigt werden.

Das Timing

Das Argument hat jetzt einen Test anhängen bekommen. Am 12. November, wie berichtet, trat Jensen Huang als Chief Executive Officer von NVIDIA zurück; CFO Colette Kress wurde zur Interims-CEO ernannt und Harvey C. Jones zum ersten Vorsitzenden des Verwaltungsrats des Unternehmens bestellt.

Der Essay nennt Huang als die Person, die das Vorhaben zusammengehalten und ihm einen einzigen Zweck gegeben hat. Wenn das zutrifft, ist der Burggraben nicht die Software und nicht das Silizium – es ist die Organisation, und von der Organisation wird nun verlangt, dies ohne die Person zu demonstrieren, die sie zusammengestellt hat.

Ein Essay eines Ingenieurs mit acht Jahren Erfahrung mit CUDA-Compilern, -Bibliotheken und -DSLs bei NVIDIA, das die Generationen von Volta bis Rubin abdeckt; die Wette von 2006 auf Allzweck-GPUs und das Jahrzehnt der Investitionen entsprechen der Darstellung in diesem Essay. Der Rücktritt und die Ernennungen vom 12. November werden von CNBC gemeldet und separat auf dieser Website behandelt. Die Daten im historischen Abschnitt sind wie allgemein dokumentiert; der Essay nennt keine genauen Zahlen für den Investitionszeitraum.

Kontakt: [email protected]

Bitte beachten Sie, dass die deutsche Version von Ai unterstützt wird und daher geringfügige Fehler auftreten können.

AUTOR

Über ABN Asia: Ai-Banking-NetworkSecurity (ABN), ABN Asia wurde im Jahr 2012 gegründet und ist ein Unternehmen mit akademischem Hintergrund, das von Lehrkräften und ehemaligen Studierenden aus Ungarn, den Niederlanden, Russland, Deutschland und Japan gegründet wurde. Wir teilen eine gemeinsame Leidenschaft und eine klare Vision für Technologie, die Innovation und erstklassige Qualität für unsere Kunden bringt. Unser Motto lautet: Besser. Schneller. Sicherer. In vielen Fällen: Günstiger.

Zögern Sie nicht, uns zu kontaktieren, wenn Sie IT-Dienstleistungen, digitale Beratung, Standardsoftwarelösungen benötigen oder uns Angebotsanfragen (RFPs) senden möchten. Sie können uns unter [email protected] kontaktieren. Wir sind bereit, Ihnen bei all Ihren Technologiebedürfnissen zu helfen.

ABNAsia.org

© ABN ASIA