Veröffentlicht am

Die Prompt-Engineering ist tot. Es lebe die Kontext-Engineering

Autoren

Image

(Nun, nicht ganz tot - aber es entwickelt sich definitiv zu etwas viel Mächtigerem)

Lernen Sie Context Engineering kennen - die Kunst, dynamische Systeme zu bauen, die LLMs genau das geben, was sie benötigen, um erfolgreich zu sein.

Wenn wir von einfachen Chatbots zu komplexen KI-Agenten übergehen, werden wir uns bewusst, dass clevere Prompts nicht ausreichen. Was zählt, ist die Orchestrierung eines gesamten Ökosystems an Informationen, das in Ihren LLM fließt.

Was bedeutet das genau?

Es geht darum, dynamische Systeme zu bauen, um die richtigen Informationen und Werkzeuge im richtigen Format bereitzustellen, damit der LLM die Aufgabe plausibel erfüllen kann.

Die Anatomie eines kontext-engineerten Systems umfasst:

  • Benutzerinformationen: Vorlieben, Historie und Personalisierungsdaten
  • Werkzeugnutzung: APIs, Rechner, Suchmaschinen - alles, was der LLM benötigt, um die Aufgabe zu erfüllen
  • RAG-Kontext: Abgerufene Informationen aus Vektor-Datenbanken wie Weaviate
  • Benutzereingabe: Die tatsächliche Anfrage oder Aufgabe
  • Agenten-Argumentation: Der Denkprozess und die Entscheidungskette des LLM
  • Chat-Verlauf: Vorherige Interaktionen, die Kontinuität bieten

Aber was ist mit der Speicherarchitektur?

  • Kurzzeitgedächtnis: Lebt im Kontextfenster, behandelt aktuelle Gespräche
  • Langzeitgedächtnis: Gespeichert in Vektor-Datenbanken (wie Weaviate), persistiert Benutzervorlieben und vergangene Interaktionen über Sitzungen hinweg

Warum ist das wichtig? Weil agente Systeme, wenn sie fehlschlagen, selten deshalb fehlschlagen, weil das Modell nicht intelligent genug ist. Es ist, weil wir es nicht mit dem richtigen Kontext versehen haben.

Das Format ist auch wichtig. Eine gut strukturierte Fehlermeldung schlägt jeden JSON-Blob. Genau wie Menschen benötigen LLMs klare, verdauliche Kommunikation.

Bitte beachten Sie, dass die deutsche Version von Ai unterstützt wird und daher geringfügige Fehler auftreten können.

AUTOR

Über ABN Asia: Ai Base Network (ABN), ABN Asia wurde im Jahr 2012 gegründet und ist ein Unternehmen mit akademischem Hintergrund, das von Lehrkräften und ehemaligen Studierenden aus Ungarn, den Niederlanden, Russland, Deutschland und Japan gegründet wurde. Wir teilen eine gemeinsame Leidenschaft und eine klare Vision für Technologie, die Innovation und erstklassige Qualität für unsere Kunden bringt. Unser Motto lautet: Besser. Schneller. Sicherer. In vielen Fällen: Günstiger.

Zögern Sie nicht, uns zu kontaktieren, wenn Sie IT-Dienstleistungen, digitale Beratung, Standardsoftwarelösungen benötigen oder uns Angebotsanfragen (RFPs) senden möchten. Sie können uns unter [email protected] kontaktieren. Wir sind bereit, Ihnen bei all Ihren Technologiebedürfnissen zu helfen.

ABNAsia.org

© ABN ASIA