Daniel & Friends / Glossaire / Garde-fous (guardrails)
IA et automatisationGarde-fous (guardrails)
Les garde-fous sont des règles techniques et organisationnelles qui surveillent les entrées et les sorties d’un système d’IA. Ils filtrent les données sensibles, bloquent les sujets interdits, vérifient le format de la réponse et limitent les actions d’un agent.
Daniel Votruba ·
En pratique
Mettez-les en place par couches : contrôle des entrées, droits d’outils restreints et vérification des sorties avant tout envoi à un client. Une seule couche suffit rarement.
Termes liés
- Injection de prompt (prompt injection): L’injection de prompt est une attaque où une instruction malveillante cachée dans un texte, un e-mail ou une page web prend le pas sur la consigne initiale du modèle.
- Jailbreak (IA): Un jailbreak est une tentative de pousser un modèle d’IA à contourner ses propres restrictions de sécurité, souvent par une formulation habile, un jeu de rôle ou un glissement progressif hors des limites.
- Hallucination: Une hallucination est un cas où un modèle énonce une information plausible mais fausse.
- Human in the loop (humain dans la boucle): Le human in the loop est une conception de processus d’IA où une personne contrôle, modifie ou valide le travail du modèle à certains points avant l’utilisation du résultat.
- Gouvernance de l’IA: La gouvernance de l’IA est l’ensemble des règles, des rôles et des processus par lesquels une entreprise encadre son usage de l’intelligence artificielle.
Autres termes du groupe IA et automatisation
Fine-tuning · GPT personnalisés et projets · Few-shot et zero-shot prompting · Grand modèle de langage (LLM) · Fenêtre de contexte · Grounding (ancrage) · Évaluation de modèles (evals) · Embedding (plongement vectoriel) · Deepfake et médias synthétiques · IA agentique · Coûts et limites de l’IA · IA explicable (XAI) · Copilot (assistant IA) · IA générative · Clonage de voix (voice cloning) · Inférence et latence · ChatGPT Ads · Chain of thought (chaîne de pensée) · C2PA et provenance du contenu (filigranes IA) · MCP (Model Context Protocol) · Biais des modèles (AI bias) · Modèle de fondation (foundation model) · Base de données vectorielle · Modèle de raisonnement (reasoning model)
Tout le glossaire (590 termes)
Les termes en pratique
Besoin d’aide pour les mettre en œuvre ?
Les termes sont une chose, la mise en œuvre en est une autre. Nous regardons lesquels sont rentables pour vous et nous le disons franchement. Le premier avis est gratuit et nous répondons sous 24 heures.
Prendre rendez-vous