OpenAI hat gerade eine Studie über künstliche Intelligenz-Halluzinationen veröffentlicht

OpenAI hat gerade ein Paper über AI-Halluzinationen veröffentlicht

Es stellt sich heraus, dass LLMs Dinge nicht erfinden, weil sie "kaputt" sind.

LLMs erfinden Dinge, weil wir sie dazu trainiert haben.

Einige faszinierende Erkenntnisse aus OpenAIs Forschung:

→ Das Pretraining zwingt zu Fehlern (wie das Raten von zufälligen Geburtstagen), weil einige Fakten einfach nicht aus den Daten gelernt werden können.

→ Das Posttraining verschlimmert es - Benchmarks belohnen selbstsichere Antworten und bestrafen "Ich weiß nicht".

→ Das Ergebnis? Modelle, die optimiert sind, um gute Testkandidaten und nicht Wahrheitsfinder zu sein.

Mit anderen Worten sind Halluzinationen nicht mysteriös.

Sie sind die logische Folge von Bewertungssystemen, die Vermutungen über Ehrlichkeit stellen.

Die Lösung ist einfach, aber radikal:

↳ Ändern Sie die Bewertungen, damit Modelle Punkte für Unsicherheit bekommen. ↳ Bestrafen Sie selbstsichere Fehler stärker als Enthaltungen. ↳ Belohnen Sie Ehrlichkeit, nicht Bluffen.

Zusammenfassung:

Ein Modell, das "Ich weiß nicht" sagt, mag auf den heutigen Leaderboards weniger genau erscheinen, aber es ist in der realen Welt weit vertrauenswürdiger.

Und das könnte potenziell die nächste große Entfesselung von KI sein.

Wir brauchen keine größeren Modelle. Wir brauchen nur bessere Anreize.

Bitte beachten Sie, dass die deutsche Version von Ai unterstützt wird und daher geringfügige Fehler auftreten können.

AUTOR

Über ABN Asia: Ai Base Network (ABN), ABN Asia wurde im Jahr 2012 gegründet und ist ein Unternehmen mit akademischem Hintergrund, das von Lehrkräften und ehemaligen Studierenden aus Ungarn, den Niederlanden, Russland, Deutschland und Japan gegründet wurde. Wir teilen eine gemeinsame Leidenschaft und eine klare Vision für Technologie, die Innovation und erstklassige Qualität für unsere Kunden bringt. Unser Motto lautet: Besser. Schneller. Sicherer. In vielen Fällen: Günstiger.

Zögern Sie nicht, uns zu kontaktieren, wenn Sie IT-Dienstleistungen, digitale Beratung, Standardsoftwarelösungen benötigen oder uns Angebotsanfragen (RFPs) senden möchten. Sie können uns unter [email protected] kontaktieren. Wir sind bereit, Ihnen bei all Ihren Technologiebedürfnissen zu helfen.