Comment augmenter les LLM avec des outils

"Nous construisons une invite avec les éléments suivants :

• une liste des possibles et une description de ce qu'ils sont et comment les utiliser

• le modèle de la technique d'invite Reasoning-Act (ReAct)

• le carnet à gratter reprenant les résultats des étapes précédentes

• l'indicateur de sortie pour guider le LLM dans le formatage correct de sa sortie

La technique ReAct oblige le LLM à réfléchir à l'étape suivante pour résoudre la question et à choisir un outil et une entrée d'outil pour obtenir plus d'informations basées sur cette réflexion. Nous extrayons ensuite le nom de l'outil et l'entrée avec Regex et appelons par programme l'outil avec l'entrée et obtenons la réponse. Par exemple, un outil pourrait être le package Python du moteur de recherche Wikipédia.

Nous utilisons l'outil de réponse pour aider à approfondir l'enquête LLM afin de trouver la bonne réponse. Un agent est un wrapper autour d'un LLM qui est complété par un ensemble d'outils. L'agent itère jusqu'à ce que la réponse soit trouvée :

agent -> invite avec les étapes passées -> LLM -> étapes suivantes -> outil -> réponse -> agent -> ..."

Veuillez noter que la version française est assistée par Ai, des erreurs mineures peuvent donc exister.

Auteur

AiUTOMATING PEOPLE, ABN ASIA a été fondée par des personnes ayant des racines profondes dans le milieu académique, avec une expérience professionnelle aux États-Unis, aux Pays-Bas, en Hongrie, au Japon, en Corée du Sud, à Singapour et au Vietnam. ABN ASIA est l'endroit où l'académie et la technologie rencontrent l'opportunité. Avec nos solutions de pointe et nos services de développement logiciel compétents, nous aidons les entreprises à se développer et à s'imposer sur la scène mondiale. Notre engagement : Plus vite. Mieux. Plus fiable. Dans la plupart des cas : moins cher également.

N'hésitez pas à nous contacter chaque fois que vous avez besoin de services informatiques, de conseils en matière de numérique, de solutions logicielles prêtes à l'emploi, ou si vous souhaitez nous envoyer des demandes de propositions (RFP). Vous pouvez nous contacter à l'adresse [email protected]. Nous sommes prêts à vous aider avec tous vos besoins technologiques.

© ABN ASIA