Salida estructurada

La salida estructurada es la salida de un modelo de lenguaje que sigue un formato específico y predefinido (con mayor frecuencia JSON que coincide con un esquema definido) en lugar de texto libre. Al restringir la forma de la respuesta, la salida estructurada hace que la salida del modelo sea más fácil de analizar y procesar por el software sin una lógica de limpieza frágil.

En resumen: la salida estructurada moldea la respuesta de un LLM a un formato fijo (generalmente JSON), de modo que las aplicaciones puedan consumirla de forma más confiable que el texto sin procesar.

Cómo funciona la salida estructurada

El objetivo es hacer que la respuesta del modelo coincida con una estructura que el programa receptor ya espera:

1. Definir un esquema: El desarrollador especifica la forma de la respuesta (a menudo un esquema JSON, incluyendo los nombres de los campos, los tipos y los campos requeridos.
2. Pasarlo con la solicitud: El esquema se incluye junto con el prompt.
3. Restringir la generación: En sistemas que admiten la decodificación consciente del esquema, las rutas de tokens no válidas se reducen durante la generación para que las salidas se guíen hacia el esquema.
4. Devolver datos estructurados: La respuesta se devuelve en una forma legible por máquina que la aplicación puede analizar directamente, reduciendo la dependencia del análisis de texto frágil (por ejemplo, la extracción con regex).

En comparación con un “modo JSON” básico que solo garantiza un JSON sintácticamente válido, la salida estructurada aplicada por esquema está diseñada para aumentar la conformidad con una estructura solicitada. En producción, las aplicaciones aún deben validar las respuestas y manejar casos límite como rechazos, truncamiento o fallos de transporte/tiempo de ejecución.

Salida estructurada frente a llamada a funciones y modo JSON

• El modo JSON garantiza que la salida sea un JSON válido, pero no necesariamente alineado con un esquema específico; la salida estructurada se dirige a una estructura de campo/tipo específica.
• La llamada a funciones hace que el modelo emita una llamada estructurada a una herramienta/función; la salida estructurada moldea la respuesta directa del modelo. Ambas están estrechamente relacionadas porque tanto la llamada a funciones como la salida estructurada suelen usar JSON restringido por esquema.
• La generación de texto libre devuelve texto destinado a las personas; la salida estructurada devuelve datos destinados a los programas.

Dónde se usa la salida estructurada

• Extracción de datos: Convertir texto no estructurado en campos tipados, como nombres, fechas y montos. Esto está estrechamente relacionado con la extracción de entidades.
• Integraciones confiables: Pasar la respuesta de un LLM a una escritura en la base de datos, una llamada a la API o un paso posterior con menos ambigüedad de análisis.
• Flujos de trabajo agénticos: Producir decisiones y parámetros estructurados que un agente necesita en cada paso.
• Pipelines del Buscador y de recuperación: Generar entradas de recuperación estructuradas o remodelar los datos recuperados en un contrato de API posterior.

Muchos proveedores líderes de modelos ahora ofrecen funciones de salida estructurada, aunque las capacidades y garantías varían según el proveedor y el punto de conexión.

La salida estructurada es más útil cuando la salida del modelo es consumida por el software en lugar de ser leída directamente por una persona.

Términos relacionados

Llamada a funciones, esquema JSON, modo JSON, modelo de lenguaje grande (LLM), extracción de entidades, uso de herramientas, generación aumentada por recuperación (RAG), API, búsqueda agéntica.