Garde-fous

Les garde-fous sont les limites imposées à un agent : outils autorisés, périmètre de données, nombre d'étapes, budget, filtrage des entrées et sorties, validation des actions. Ils sont appliqués par le code de l'application, pas seulement demandés dans le prompt.

Exemple

Refuser côté serveur toute action d'écriture hors du projet de l'utilisateur, quoi que demande le modèle.

Notions voisines

Tout le glossaire