Avec Ai, comment économiser lorsque le texte est trop long ?

"L'une des astuces consiste à utiliser LangChain intelligemment. LangChain peut être conçu pour résumer un texte de n'importe quelle longueur. Pour résumer un texte avec un LLM, il existe quelques stratégies.

Si tout le texte tient dans la fenêtre contextuelle, vous pouvez simplement alimenter les données brutes et obtenir le résultat. LangChain fait référence à cette stratégie comme au type de chaîne « trucs ». Souvent, le nombre de jetons contenus dans le texte est supérieur à la capacité maximale du LLM. Une stratégie typique consiste à diviser les données en plusieurs morceaux, à résumer chaque morceau et à résumer les résumés concaténés dans une étape finale de « combinaison ». LangChain appelle cette stratégie ""map-reduce"".

Une autre stratégie consiste à commencer le résumé par le premier morceau et à l'affiner petit à petit avec chacun des morceaux suivants. LangChain appelle cela ""affiner"". Par exemple, voici le modèle d'invite utilisé par LangChain pour l'étape d'affinement :

Votre travail consiste à produire un résumé final.

Nous avons fourni un résumé existant jusqu'à un certain point : existing_answer

Nous avons la possibilité d'affiner le résumé existant (uniquement si nécessaire) avec un peu plus de contexte ci-dessous.

texte

Compte tenu du nouveau contexte, affiner le résumé original

Si le contexte n'est pas utile, renvoyez le résumé original. "

Veuillez noter que la version française est assistée par Ai, des erreurs mineures peuvent donc exister.

Auteur

AiUTOMATING PEOPLE, ABN ASIA a été fondée par des personnes ayant des racines profondes dans le milieu académique, avec une expérience professionnelle aux États-Unis, aux Pays-Bas, en Hongrie, au Japon, en Corée du Sud, à Singapour et au Vietnam. ABN ASIA est l'endroit où l'académie et la technologie rencontrent l'opportunité. Avec nos solutions de pointe et nos services de développement logiciel compétents, nous aidons les entreprises à se développer et à s'imposer sur la scène mondiale. Notre engagement : Plus vite. Mieux. Plus fiable. Dans la plupart des cas : moins cher également.

N'hésitez pas à nous contacter chaque fois que vous avez besoin de services informatiques, de conseils en matière de numérique, de solutions logicielles prêtes à l'emploi, ou si vous souhaitez nous envoyer des demandes de propositions (RFP). Vous pouvez nous contacter à l'adresse [email protected]. Nous sommes prêts à vous aider avec tous vos besoins technologiques.

© ABN ASIA