Daniel & Friends / Glossaire / Injection de prompt (prompt injection)
IA et automatisationInjection de prompt (prompt injection)
L’injection de prompt est une attaque où une instruction malveillante cachée dans un texte, un e-mail ou une page web prend le pas sur la consigne initiale du modèle. L’IA peut alors divulguer des données ou exécuter une action indésirable, car elle traite un contenu extérieur comme un ordre.
Daniel Votruba ·
En pratique
Plus un agent accède à d’outils et de données, plus l’impact est grand. Limitez les droits, séparez le contenu non fiable des instructions et faites valider les actions sensibles par un humain.
Termes liés
- Jailbreak (IA): Un jailbreak est une tentative de pousser un modèle d’IA à contourner ses propres restrictions de sécurité, souvent par une formulation habile, un jeu de rôle ou un glissement progressif hors des limites.
- Garde-fous (guardrails): Les garde-fous sont des règles techniques et organisationnelles qui surveillent les entrées et les sorties d’un système d’IA.
- Agent IA: Un agent IA est un système qui utilise un modèle pour atteindre un objectif pas à pas : il planifie, appelle des outils et adapte sa démarche selon les résultats.
- Prompt: Un prompt est la consigne que reçoit un modèle.
- Sécurité de l’IA et alignement: La sécurité de l’IA (AI safety) regroupe les travaux visant à ce que les systèmes d’intelligence artificielle fonctionnent de façon sûre et prévisible.
Autres termes du groupe IA et automatisation
Inférence et latence · MCP (Model Context Protocol) · IA générative · Modèle de fondation (foundation model) · IA explicable (XAI) · Modèle de raisonnement (reasoning model) · IA agentique · Modèle multimodal · Human in the loop (humain dans la boucle) · Modèle open-weight · Hallucination · Modèles de diffusion · Grounding (ancrage) · NLP (traitement automatique du langage) · Grand modèle de langage (LLM) · No-code et low-code · GPT personnalisés et projets · Personnalisation par l’IA · Gouvernance de l’IA · Petit modèle de langage (SLM) · Plateformes d’automatisation (Zapier, Make, n8n) · Fine-tuning · Few-shot et zero-shot prompting · Prompt engineering
Tout le glossaire (590 termes)
Les termes en pratique
Besoin d’aide pour les mettre en œuvre ?
Les termes sont une chose, la mise en œuvre en est une autre. Nous regardons lesquels sont rentables pour vous et nous le disons franchement. Le premier avis est gratuit et nous répondons sous 24 heures.
Prendre rendez-vous