OpenAI vient de publier un article sur les hallucinations de l'IA

OpenAI vient de publier un article sur les hallucinations en IA

Il s'avère que les LLM (modèles de langage grandeur nature) inventent des choses non pas parce qu'ils sont « défectueux ».

Les LLM inventent des choses parce que nous les avons formés pour le faire.

Voici quelques révélations fascinantes de la recherche d'OpenAI :

→ L'entraînement préalable force les erreurs (comme deviner des anniversaires aléatoires) car certains faits ne peuvent simplement pas être appris à partir des données.

→ L'entraînement postérieur aggrave les choses - les benchmarks récompensent les réponses confiantes et pénalisent les « Je ne sais pas ».

→ Le résultat ? Les modèles sont optimisés pour être de bons candidats, et non pour dire la vérité.

En d'autres termes, les hallucinations ne sont pas mystérieuses.

Elles sont la conséquence logique de systèmes d'évaluation qui valorisent les suppositions plutôt que l'honnêteté.

La solution est simple mais radicale :

↳ Changer les évaluations pour que les modèles obtiennent des crédits pour leur incertitude. ↳ Pénaliser les erreurs confiantes plus que les abstentions. ↳ Récompenser l'honnêteté, et non le bluff.

Résumé :

Un modèle qui dit « Je ne sais pas » peut sembler moins précis sur les classements actuels, mais il est beaucoup plus digne de confiance dans le monde réel.

Et cela pourrait potentiellement être le prochain grand déblocage de l'IA.

Nous n'avons pas besoin de modèles plus grands. Nous n'avons besoin que de meilleurs incitateurs.

Veuillez noter que la version française est assistée par Ai, des erreurs mineures peuvent donc exister.

Auteur

Ai Base Network (ABN), ABN ASIA a été fondée par des personnes ayant des racines profondes dans le milieu académique, avec une expérience professionnelle aux États-Unis, aux Pays-Bas, en Hongrie, au Japon, en Corée du Sud, à Singapour et au Vietnam. ABN ASIA est l'endroit où l'académie et la technologie rencontrent l'opportunité. Avec nos solutions de pointe et nos services de développement logiciel compétents, nous aidons les entreprises à se développer et à s'imposer sur la scène mondiale. Notre engagement : Plus vite. Mieux. Plus fiable. Dans la plupart des cas : moins cher également.

N'hésitez pas à nous contacter chaque fois que vous avez besoin de services informatiques, de conseils en matière de numérique, de solutions logicielles prêtes à l'emploi, ou si vous souhaitez nous envoyer des demandes de propositions (RFP). Vous pouvez nous contacter à l'adresse [email protected]. Nous sommes prêts à vous aider avec tous vos besoins technologiques.