Die Grenzen der KI-Schulung

Die Grenzen der KI-Ausbildung – und der Wettlauf um den Bau von „KI, die heranwächst“

Es gibt zwei große Debatten über die KI-Ausbildung heute, und sie weisen auf zwei sehr unterschiedliche Zukunftsszenarien hin:

Der aktuelle Ansatz

Sobald ein LLM ausgebildet ist, ist sein "Gehirn" mehr oder weniger festgelegt. Das Hinzufügen neuer Kenntnisse ist extrem begrenzt; Techniken wie RL können nur winzige Teile patchen. Wenn Sie möchten, dass das Modell intelligenter wird, müssen Sie es von vorne ausbilden.

Stellen Sie sich vor, ein 5-jähriges Kind "zu erschaffen". Nach einigen Jahren wollen Sie ein 10-jähriges? Sie müssen ein neues Kind erschaffen – oder eines ausleihen. Wollen Sie ein 15-jähriges? Wiederholen Sie den Vorgang.

Offensichtlich ist das ineffizient. Was wir wirklich wollen, ist, ein 5-jähriges Kind zu erschaffen und es lernen, wachsen und natürlich zu einem 10- und dann 15-Jährigen heranwachsen zu lassen. Niemand will jedes fünf Jahre ein neues Kind herstellen, nur weil das alte veraltet ist.

Der gewünschte Ansatz

Viele Spitzenlabore erforschen diese Richtung.

Das Ziel ist es, ein leistungsfähiges Basismodell einmal auszubilden und es dann in die Welt zu entsenden. Während es operiert, lernt das Modell kontinuierlich, verbessert und upgradet seine eigenen kognitiven Fähigkeiten.

Gelegentlich wenden Sie inkrementelles Training direkt auf das laufende Modell an, anstatt es durch ein komplett neues zu ersetzen. Mit anderen Worten: Erstellen Sie ein "KI-Baby" und lassen Sie es heranwachsen – anstatt jedes Jahr ein neues zu produzieren und das alte zu entsorgen.

Wo wir heute stehen

Alle kommerziellen KI-Unternehmen verwenden noch den Ansatz (1): Ein neues Modell jedes Jahr produzieren und das vorherige in den Ruhestand versetzen. Es gibt noch Raum für Optimierungen, aber das Wachstumspotenzial wird in einigen Jahren an eine Decke stoßen.

Einige renommierte Labore verfolgen den Ansatz (2), aber es gibt noch keine Durchbrüche – obwohl enorme Mengen an Geld in diese Suche fließen.

Wenn dieser neue Ansatz erfolgreich ist, könnten die Trainingskosten dramatisch sinken. Inkrementelles Training ist viel billiger als vollständiges Retraining, und es würde endlich ermöglichen, dass Modelle kontinuierlich Intelligenz ansammeln, anstatt jedes Mal von vorne zu beginnen.

Die nächste Grenze der KI ist nicht nur "größere Modelle". Es sind Modelle, die wie Menschen lernen können – kontinuierlich, ohne Zurücksetzen, ohne jedes Jahr von vorne zu beginnen.

Geschrieben von Steven Nguyen

Bitte beachten Sie, dass die deutsche Version von Ai unterstützt wird und daher geringfügige Fehler auftreten können.

AUTOR

Über ABN Asia: Ai Base Network (ABN), ABN Asia wurde im Jahr 2012 gegründet und ist ein Unternehmen mit akademischem Hintergrund, das von Lehrkräften und ehemaligen Studierenden aus Ungarn, den Niederlanden, Russland, Deutschland und Japan gegründet wurde. Wir teilen eine gemeinsame Leidenschaft und eine klare Vision für Technologie, die Innovation und erstklassige Qualität für unsere Kunden bringt. Unser Motto lautet: Besser. Schneller. Sicherer. In vielen Fällen: Günstiger.

Zögern Sie nicht, uns zu kontaktieren, wenn Sie IT-Dienstleistungen, digitale Beratung, Standardsoftwarelösungen benötigen oder uns Angebotsanfragen (RFPs) senden möchten. Sie können uns unter [email protected] kontaktieren. Wir sind bereit, Ihnen bei all Ihren Technologiebedürfnissen zu helfen.