Outils et extensions personnalisés pour les LLM

Bienvenue dans la dernière leçon de notre cours « Conception avancée d'instructions avec utilisation d'outils et d'agents » ! Aujourd'hui, nous allons nous intéresser aux outils personnalisés et aux modules d'extension pour les grands modèles de langage (LLM).

Les outils personnalisés permettent aux LLM d'aller au-delà de leurs données d'entraînement et d'interagir avec le monde réel ou des systèmes spécifiques. Considérez-les comme des compétences particulières que vous enseignez à un LLM.

• Étendre les capacités : Ajouter de nouvelles fonctions.
• Accéder aux données en temps réel : Obtenir des informations à jour.
• Effectuer des actions : Apporter des modifications dans des systèmes externes.

Vous avez découvert les appels de fonctions de base et l'intégration d'API. Les outils personnalisés vont plus loin.

Un LLM peut savoir intrinsèquement comment « résumer un texte », mais il ne sait pas « vérifier la météo à Londres » si vous ne lui fournissez pas un outil approprié. Les outils personnalisés comblent cette lacune en donnant au LLM des capacités spécifiques et externes qui ne font pas partie de sa base de connaissances fondamentale.

Chaque outil personnalisé doit avoir une définition claire afin que le LLM sache quand et comment l'utiliser. Ses principaux composants sont les suivants :

• Nom : Un identifiant unique (par exemple, get_current_time).
• Description : Explique ce que fait l'outil et quand l'utiliser. Elle est essentielle pour la prise de décision du LLM.
• Paramètres : Données d'entrée dont l'outil a besoin pour fonctionner (par exemple, timezone pour un outil horaire).
• Sortie attendue : Le type d'informations que l'outil renvoie.

Pour « enseigner » à un LLM comment utiliser un outil personnalisé, nous fournissons sa définition dans un format structuré, souvent un schéma JSON. Ce schéma indique au LLM tout ce qu'il doit savoir pour appeler correctement l'outil.

Voici un exemple simplifié de la façon dont notre outil get_current_time pourrait être décrit :

Créons un exemple pratique : un outil nommé get_current_time. Cet outil renverra simplement l'heure actuelle, éventuellement pour un fuseau horaire donné.

Le LLM comprend la description issue du schéma, mais nous sommes responsables d'écrire le code qui réalise réellement l'action décrite. Ce code s'exécute à l'extérieur lorsque le LLM décide d'appeler l'outil.

Ce fragment de code Python montre à quoi pourrait ressembler l'outil get_current_time en coulisses. Lorsque le LLM appelle l'outil, il exécute cette fonction, ou une logique similaire dans le langage de votre choix, puis en obtient le résultat.

Essayez de l'exécuter pour voir sa sortie !

Voici comment un LLM utilise généralement un outil personnalisé :

1. Instruction de l'utilisateur : Vous posez une question au LLM (par exemple, « Quelle heure est-il à New York ? »).
2. Décision du LLM : Le LLM analyse votre instruction et les descriptions des outils dont il dispose.
3. Appel d'outil : Si un outil est pertinent, le LLM génère un appel d'outil (par exemple, get_current_time(timezone="America/New_York")).
4. Exécution : Votre système exécute le code réel de l'outil.
5. Résultat : La sortie de l'outil est renvoyée au LLM.
6. Réponse du LLM : Le LLM utilise la sortie de l'outil pour formuler sa réponse finale.

Lorsque vous donnez des instructions à un LLM qui a accès à des outils personnalisés, vous ne lui dites pas explicitement d'utiliser l'outil. Vous posez simplement une question qui implique la nécessité de l'utiliser.

La capacité du LLM à comprendre la description de l'outil est essentielle. Une bonne description aide le LLM à choisir le bon outil au bon moment.

• Instruction : "What is the current time right now?"
• Action du LLM : Appelle get_current_time()
• Sortie de l'outil : "Current time in UTC: 2023-10-27 10:30:00 (UTC basis)"
• Réponse du LLM : "The current time is 10:30 AM UTC."

Les outils personnalisés permettent aux LLM d'accéder à de puissantes capacités :

• Spécificité du domaine : Fournir aux LLM des connaissances qui dépassent leur entraînement général.
• Interaction en temps réel : Accéder à des informations à jour (par exemple, les cours des actions et la météo).
• IA opérationnelle : Permettre aux LLM d'effectuer des actions (par exemple, envoyer des e-mails et prendre des rendez-vous).
• Précision accrue : Réduire les hallucinations en s'appuyant sur les sorties factuelles des outils.
• Modularité : Séparer la logique des LLM des interactions avec les systèmes externes.

Lesquels des éléments suivants sont des composants essentiels de la définition d'un outil personnalisé pour un LLM ?

Dans cette leçon, nous avons étudié les outils personnalisés et les modules d'extension, qui constituent un moyen puissant d'étendre les capacités des LLM.

• Les outils personnalisés permettent aux LLM d'interagir avec des systèmes et des données externes.
• Ils nécessitent une définition claire (nom, description et paramètres), souvent à l'aide d'un schéma JSON.
• Vous implémentez la logique réelle qui s'exécute lorsque le LLM appelle l'outil.
• Les outils personnalisés permettent aux LLM d'acquérir des connaissances propres à un domaine, d'accéder à des données en temps réel et d'effectuer des actions, dépassant ainsi la simple génération de texte.

En maîtrisant les outils personnalisés, vous pouvez créer des applications d'IA véritablement intelligentes et interactives !