Llamada a herramientas

La llamada a herramientas es la capacidad que permite a un modelo de lenguaje grande (LLM) usar herramientas externas como API, funciones, bases de datos o servicios. Al producir una solicitud estructurada para invocar una herramienta, una aplicación o el proveedor del modelo puede entonces ejecutar una tarea y devolver un resultado al modelo. Así es como un modelo va más allá de generar texto para obtener datos en tiempo real y realizar acciones.

La llamada a herramientas, la llamada a funciones y el “uso de herramientas” se refieren al mismo mecanismo central, pero “llamada a herramientas” es el término más amplio y actual, que abarca no solo las funciones definidas por el desarrollador, sino también las herramientas integradas y conectadas externamente.

En resumen: la llamada a herramientas permite a un modelo invocar herramientas externas emitiendo llamadas estructuradas, el término general para la llamada a funciones, las herramientas integradas y las herramientas conectadas por igual.

Cómo funciona la llamada a herramientas

La aplicación y el modelo se pasan el control mutuamente, y la ejecución siempre ocurre fuera del modelo:

1. Exponer herramientas: La aplicación proporciona al modelo un conjunto de herramientas, cada una con un nombre, una descripción y un esquema de entrada (normalmente un esquema JSON que describe los parámetros que la herramienta acepta).
2. Decidir: Según la solicitud, el modelo elige si llamar a una herramienta y a cuál, emitiendo una llamada estructurada con argumentos.
3. Ejecutar: La llamada se ejecuta, ya sea por la aplicación (una herramienta de cliente) o por el proveedor (una herramienta de servidor integrada), y se produce un resultado.
4. Devolver y continuar: El resultado se envía de vuelta al modelo, que usa el resultado para responder o para hacer otra llamada a herramienta. Este ciclo se repite hasta que el modelo produce una respuesta final.

El punto clave es que el modelo nunca ejecuta nada por sí mismo. Propone una llamada estructurada, y la ejecución siempre ocurre fuera del modelo, manteniendo los efectos secundarios y el control con la aplicación o el proveedor.

Llamada a herramientas vs. llamada a funciones y MCP

• La llamada a funciones es el término original y más restringido que enfatiza las funciones definidas por el desarrollador; la llamada a herramientas es el término general más amplio que también incluye herramientas alojadas por el proveedor y servicios conectados. En la práctica, las palabras a menudo se usan indistintamente.
• Las herramientas de cliente son herramientas que ejecuta tu aplicación, como tus propias funciones y API; las herramientas integradas (de servidor) son las que el proveedor ejecuta por ti, como el Buscador web o la ejecución de código.
• El Protocolo de Contexto de Modelo (MCP) es un estándar para conectar herramientas a modelos de modo que una herramienta pueda ser llamada por muchos modelos sin conexiones codificadas de forma personalizada; la llamada a herramientas es la acción, y el MCP es una forma de exponer las herramientas.

Dónde se usa la llamada a herramientas

• Datos en tiempo real y acciones: Dar a un modelo la capacidad de buscar cosas o realizar acciones que no puede hacer desde la memoria, como consultar una base de datos, enviar un mensaje o ejecutar código.
• Agentes: Los sistemas agénticos se construyen sobre la llamada a herramientas, encadenando muchas llamadas para completar tareas de varios pasos.
• Fundamentación y RAG: Una herramienta de búsqueda recupera fuentes nuevas que se convierten en el contexto del modelo, alimentando la RAG y ayudando a reducir las afirmaciones sin respaldo. La fundamentación por sí sola no elimina por completo las alucinaciones.
• Una API de búsqueda como herramienta: Una de las herramientas más comunes es el Buscador web. Un desarrollador puede definir una herramienta “web_search” cuya implementación llama a una API de búsqueda, o conectar una a través de un servidor MCP como el servidor MCP del Buscador de Brave, y el modelo puede incorporar resultados en tiempo real y citables en sus respuestas.

La llamada a herramientas es el puente entre el razonamiento de un modelo y el mundo exterior, y una API de búsqueda es a menudo la primera herramienta que vale la pena dar a un modelo.

Términos relacionados

Llamada a funciones, uso de herramientas, Protocolo de Contexto de Modelo (MCP), búsqueda agéntica, generación aumentada por recuperación (RAG), salida estructurada, modelo de lenguaje grande (LLM), API, API de búsqueda.