garde-fou dynamique
Un garde-fou dynamique est un mécanisme de contrôle adaptatif en temps réel mis en œuvre au sein d'un système d'IA ou d'un pipeline logiciel. Contrairement aux règles statiques, qui imposent des limites fixes, les garde-fous dynamiques surveillent les entrées, les états intermédiaires et les sorties, ajustant les contraintes ou intervenant en fonction du contexte évolutif de l'opération.
Dans les environnements d'IA générative complexes, les règles statiques échouent souvent face à des entrées nouvelles ou adverses. Les garde-fous dynamiques sont cruciaux pour maintenir la sécurité, la conformité et le comportement souhaité à grande échelle. Ils garantissent que le système reste dans les paramètres opérationnels même lorsque le modèle sous-jacent ou l'intention de l'utilisateur change.
Le mécanisme implique généralement une boucle de rétroaction. Les données d'entrée sont d'abord évaluées par rapport à des politiques prédéfinies. Si le contexte suggère une violation ou un écart potentiel, le système de garde-fou déclenche une vérification secondaire — impliquant souvent un modèle plus petit et spécialisé ou un ensemble de règles heuristiques. Cette vérification peut ensuite inciter le système principal à régénérer la sortie, à refuser la requête ou à modifier les paramètres avant que le résultat final ne soit transmis à l'utilisateur.
Ce concept chevauche la validation des entrées (Input Validation), le filtrage des sorties (Output Filtering) et l'apprentissage par renforcement à partir de rétroactions humaines (RLHF), mais se distingue par sa capacité d'ajustement en temps réel et sensible au contexte.
