Comment fonctionnent les systèmes similaires à ChatGPT ?

C'est un sujet en évolution. Les ingénieurs trouvent constamment de nouvelles façons de le rendre plus efficace.

Formation. Pour former un modèle ChatGPT, il y a deux étapes :

• Pré-formation : À cette étape, nous formons un modèle GPT (transformateur décodeur uniquement) sur un grand ensemble de données internet. L'objectif est de former un modèle capable de prédire des mots futurs étant donné une phrase de manière grammaticalement correcte et sémantiquement significative, similaire aux données internet. Après l'étape de pré-formation, le modèle peut compléter des phrases données, mais il n'est pas capable de répondre à des questions.

• Affinage : Cette étape est un processus en trois étapes qui transforme le modèle pré-formé en un modèle ChatGPT de réponse à des questions :

1- Collecter des données de formation (questions et réponses) et affiner le modèle pré-formé sur ces données. Le modèle prend une question en entrée et apprend à générer une réponse similaire aux données de formation. 2- Collecter plus de données (question, plusieurs réponses) et former un modèle de récompense pour classer ces réponses du plus pertinent au moins pertinent. 3- Utiliser l'apprentissage par renforcement (optimisation PPO) pour affiner le modèle afin que les réponses du modèle soient plus précises.

2. Répondre à une invite

🔹Étape 1 : L'utilisateur saisit la question complète, « Expliquez comment fonctionne un algorithme de classification ».

🔹Étape 2 : La question est envoyée à un composant de modération de contenu. Ce composant garantit que la question ne viole pas les lignes directrices de sécurité et filtre les questions inappropriées.

🔹Étapes 3-4 : Si l'entrée passe la modération de contenu, elle est envoyée au modèle ChatGPT. Si l'entrée ne passe pas la modération de contenu, elle va directement à la génération de réponses par modèle.

🔹Étapes 5-6 : Une fois que le modèle génère la réponse, elle est envoyée à un composant de modération de contenu à nouveau. Cela garantit que la réponse générée est sûre, inoffensive, impartiale, etc.

🔹Étape 7 : Si l'entrée passe la modération de contenu, elle est affichée à l'utilisateur. Si l'entrée ne passe pas la modération de contenu, elle va à la génération de réponses par modèle et affiche une réponse modèle à l'utilisateur.

Veuillez noter que la version française est assistée par Ai, des erreurs mineures peuvent donc exister.

Auteur

AiUTOMATING PEOPLE, ABN ASIA a été fondée par des personnes ayant des racines profondes dans le milieu académique, avec une expérience professionnelle aux États-Unis, aux Pays-Bas, en Hongrie, au Japon, en Corée du Sud, à Singapour et au Vietnam. ABN ASIA est l'endroit où l'académie et la technologie rencontrent l'opportunité. Avec nos solutions de pointe et nos services de développement logiciel compétents, nous aidons les entreprises à se développer et à s'imposer sur la scène mondiale. Notre engagement : Plus vite. Mieux. Plus fiable. Dans la plupart des cas : moins cher également.

N'hésitez pas à nous contacter chaque fois que vous avez besoin de services informatiques, de conseils en matière de numérique, de solutions logicielles prêtes à l'emploi, ou si vous souhaitez nous envoyer des demandes de propositions (RFP). Vous pouvez nous contacter à l'adresse [email protected]. Nous sommes prêts à vous aider avec tous vos besoins technologiques.

© ABN ASIA