Guardrails

Guardrail Un guardrail est un mécanisme qui protège une limite sans dépendre uniquement de la bonne interprétation de l’agent. Une instruction peut demander à un agent de ne jamais déployer en production. Un guardrail réduit ou supprime techniquement sa capacité à le faire. Il peut prendre la forme : d’une permission limitée ; d’une sandbox ; d’un hook ; d’une policy ; d’un test bloquant ; d’un contrôle dans la CI ; d’une validation humaine obligatoire ; de l’absence d’accès à certains secrets ou environnements. Exemple Instruction : « Ne modifie pas les fichiers de migration. » ...

Harness Le harness est le harnais d’exécution qui encadre l’agent : ce qui exécute les outils, collecte les mesures et vérifie que le travail respecte le mandat. Une instruction peut demander à un agent de ne pas pousser en production. Un guardrail peut lui retirer la permission. Le harness, lui, est l’ensemble du cadre dans lequel l’agent tourne : scripts, hooks, policies, tests, validations de sortie, permissions et mécanismes qui ne dépendent pas seulement de la bonne volonté du modèle. ...