Les frameworks ouverts pour appliquer la politique en entrée, en sortie et sur les appels d'outils.
Guardrails AI et NeMo Guardrails sont les principaux frameworks ouverts pour appliquer la politique sur les entrées, sorties et actions d'agents LLM. Ils fournissent validators programmables, sortie structurée, gardes thématiques et filtres d'appels d'outils, exécutés de manière déterministe aux côtés du modèle.
Je conçois les jeux de politiques de garde-fous pour votre parc d'agents, j'intègre les frameworks à votre runtime, j'écris des validators personnalisés pour votre domaine et j'instrumente l'observabilité qui prouve que les garde-fous se déclenchent comme prévu.