Herramientas y plugins personalizados para LLM

¡Le damos la bienvenida a la lección final de nuestro curso «Advanced Prompting with Tool Use and Agents»! Hoy profundizaremos en las herramientas personalizadas y los plugins para los modelos de lenguaje grandes (LLM).

Las herramientas personalizadas permiten que los LLM vayan más allá de sus datos de entrenamiento e interactúen con el mundo real o con sistemas específicos. Piense en ellas como habilidades especiales que enseña a un LLM.

• Ampliar capacidades: Añadir funciones nuevas.
• Acceder a datos en tiempo real: Obtener información actualizada.
• Realizar acciones: Hacer cambios en sistemas externos.

Ha aprendido sobre las llamadas a funciones básicas y la integración de API. Las herramientas personalizadas llevan este concepto un paso más allá.

Aunque un LLM puede saber cómo «resumir texto» de forma inherente, no sabe cómo «consultar el tiempo en Londres» a menos que le proporcione una herramienta para ello. Las herramientas personalizadas cubren esta brecha y proporcionan al LLM capacidades externas específicas que no forman parte de su base de conocimientos principal.

Toda herramienta personalizada necesita una definición clara para que el LLM sepa cuándo y cómo utilizarla. Entre sus componentes clave se incluyen:

• Nombre: Un identificador único (por ejemplo, get_current_time).
• Descripción: Explica qué hace la herramienta y cuándo utilizarla. Esto es fundamental para la toma de decisiones del LLM.
• Parámetros: Datos de entrada que la herramienta necesita para funcionar (por ejemplo, timezone para una herramienta de hora).
• Salida esperada: El tipo de información que devuelve la herramienta.

Para «enseñar» a un LLM sobre una herramienta personalizada, proporcionamos su definición en un formato estructurado, normalmente un esquema JSON. Este esquema le indica al LLM todo lo que necesita saber para llamar correctamente a la herramienta.

A continuación se muestra un ejemplo simplificado de cómo se podría describir nuestra herramienta get_current_time:

Creemos un ejemplo práctico: una herramienta llamada get_current_time. Esta herramienta devolverá simplemente la hora actual, opcionalmente para una zona horaria determinada.

Aunque el LLM entiende la descripción (del esquema), nosotros somos responsables de escribir el código real que ejecuta la acción descrita. Este código se ejecuta externamente cuando el LLM decide invocar la herramienta.

Este fragmento de código Python muestra cómo podría funcionar internamente la herramienta get_current_time. Cuando el LLM llama a la herramienta, ejecuta esta función (o una lógica similar en el lenguaje que haya elegido) y obtiene el resultado.

¡Pruébelo para ver su salida!

Así es como un LLM suele utilizar una herramienta personalizada:

1. Prompt del usuario: Usted hace una pregunta al LLM (por ejemplo, "¿Qué hora es en Nueva York?").
2. Decisión del LLM: El LLM analiza su prompt y las descripciones de herramientas disponibles.
3. Llamada a la herramienta: Si una herramienta es pertinente, el LLM genera una llamada a la herramienta (por ejemplo, get_current_time(timezone="America/New_York")).
4. Ejecución: Su sistema ejecuta el código real de la herramienta.
5. Resultado: La salida de la herramienta se devuelve al LLM.
6. Respuesta del LLM: El LLM utiliza la salida de la herramienta para formular su respuesta final.

Cuando escribe un prompt para un LLM que tiene acceso a herramientas personalizadas, no necesita indicarle explícitamente que utilice la herramienta. Simplemente haga una pregunta que implique la necesidad de utilizarla.

La capacidad del LLM para comprender la descripción de la herramienta es fundamental. Una buena descripción ayuda al LLM a elegir la herramienta adecuada en el momento adecuado.

• Prompt: "What is the current time right now?"
• Acción del LLM: Invoca get_current_time()
• Salida de la herramienta: "Current time in UTC: 2023-10-27 10:30:00 (UTC basis)"
• Respuesta del LLM: "The current time is 10:30 AM UTC."

Las herramientas personalizadas desbloquean capacidades potentes para los LLM:

• Especificidad del dominio: Proporcionan a los LLM conocimientos que van más allá de su entrenamiento general.
• Interacción en tiempo real: Permiten acceder a información actualizada al minuto (por ejemplo, cotizaciones bursátiles o el tiempo).
• IA accionable: Permiten que los LLM realicen acciones (por ejemplo, enviar correos electrónicos o reservar citas).
• Mayor precisión: Reducen las alucinaciones al basarse en resultados objetivos de las herramientas.
• Modularidad: Mantienen separada la lógica del LLM de las interacciones con sistemas externos.

¿Cuáles de los siguientes son componentes esenciales de la definición de una herramienta personalizada para un LLM?

En esta lección, hemos explorado las herramientas personalizadas y los plugins, una forma eficaz de ampliar las capacidades de los LLM.

• Las herramientas personalizadas permiten que los LLM interactúen con sistemas y datos externos.
• Requieren una definición clara (nombre, descripción y parámetros), a menudo mediante un esquema JSON.
• Usted implementa la lógica real que se ejecuta cuando el LLM llama a la herramienta.
• Las herramientas personalizadas permiten que los LLM adquieran conocimientos específicos del dominio, accedan a datos en tiempo real y realicen acciones, yendo más allá de la simple generación de texto.

¡Al dominar las herramientas personalizadas, podrá crear aplicaciones de IA verdaderamente inteligentes e interactivas!