Sortie structurée

La sortie structurée est une sortie produite par un modèle de langage qui suit un format spécifique et prédéfini (le plus souvent du JSON correspondant à un schéma défini) plutôt qu’un texte libre. En contraignant la forme de la réponse, la sortie structurée facilite l’analyse et l’exploitation de la sortie du modèle par les logiciels, sans logique de nettoyage fragile.

En résumé : la sortie structurée met en forme la réponse d’un LLM selon un format fixe (généralement du JSON), afin que les applications puissent la consommer de manière plus fiable que du texte brut.

Comment fonctionne la sortie structurée

L’objectif est de faire correspondre la réponse du modèle à une structure que le programme récepteur attend déjà :

1. Définir un schéma : le développeur spécifie la forme de la réponse (souvent un schéma JSON, incluant les noms de champs, les types et les champs obligatoires.
2. Le transmettre avec la requête : le schéma est inclus avec l’invite.
3. Contraindre la génération : dans les systèmes qui prennent en charge le décodage tenant compte du schéma, les chemins de tokens invalides sont réduits pendant la génération, de sorte que les sorties sont orientées vers le schéma.
4. Retourner des données structurées : la réponse est renvoyée sous une forme lisible par machine que l’application peut analyser directement, ce qui réduit la dépendance à une analyse de texte fragile (par exemple, l’extraction par expression régulière).

Comparée à un simple « mode JSON » qui garantit uniquement un JSON syntaxiquement valide, la sortie structurée imposée par un schéma est conçue pour améliorer la conformité à une structure demandée. En production, les applications doivent toujours valider les réponses et gérer les cas limites tels que les refus, les troncatures ou les défaillances de transport ou d’exécution.

Sortie structurée, appel de fonctions et mode JSON

• Le mode JSON garantit que la sortie est un JSON valide, mais pas nécessairement aligné sur un schéma spécifique ; la sortie structurée vise une structure de champs et de types spécifique.
• L’appel de fonctions amène le modèle à émettre un appel structuré d’outil ou de fonction ; la sortie structurée met en forme la réponse directe du modèle. Les deux sont étroitement liés, car l’appel de fonctions et la sortie structurée utilisent couramment un JSON contraint par un schéma.
• La génération en texte libre renvoie une prose destinée aux humains ; la sortie structurée renvoie des données destinées aux programmes.

Où la sortie structurée est-elle utilisée

• Extraction de données : transformer du texte non structuré en champs typés, tels que des noms, des dates et des montants. Cela est étroitement lié à l’extraction d’entités.
• Intégrations fiables : transmettre la réponse d’un LLM à une écriture en base de données, un appel d’API ou une étape en aval avec moins d’ambiguïté d’analyse.
• Flux de travail agentiques : produire les décisions et paramètres structurés dont un agent a besoin à chaque étape.
• Pipelines de recherche et de récupération : générer des entrées de récupération structurées ou remettre en forme les données récupérées selon un contrat d’API en aval.

De nombreux fournisseurs de modèles de premier plan proposent désormais des fonctionnalités de sortie structurée, même si les capacités et les garanties varient selon le fournisseur et le point de terminaison.

La sortie structurée est particulièrement utile lorsque la sortie du modèle est consommée par un logiciel plutôt que lue directement par une personne.

Termes associés

Appel de fonctions, schéma JSON, mode JSON, grand modèle de langage (LLM), extraction d’entités, utilisation d’outils, génération augmentée par récupération (RAG), API, recherche agentique.