Réserver un échange

Daniel & Friends / Glossaire / Jailbreak (IA)

IA et automatisation

Jailbreak (IA)

Un jailbreak est une tentative de pousser un modèle d’IA à contourner ses propres restrictions de sécurité, souvent par une formulation habile, un jeu de rôle ou un glissement progressif hors des limites. Le but est d’obtenir une réponse que le modèle refuserait normalement.

Daniel Votruba ·


En pratique

Si vous déployez votre propre chatbot, testez-le avant le lancement face à ce type de tentatives. Appliquez aussi les interdits en dehors du modèle, par exemple avec un filtre en sortie.

Termes liés

  • Injection de prompt (prompt injection): L’injection de prompt est une attaque où une instruction malveillante cachée dans un texte, un e-mail ou une page web prend le pas sur la consigne initiale du modèle.
  • Garde-fous (guardrails): Les garde-fous sont des règles techniques et organisationnelles qui surveillent les entrées et les sorties d’un système d’IA.
  • Sécurité de l’IA et alignement: La sécurité de l’IA (AI safety) regroupe les travaux visant à ce que les systèmes d’intelligence artificielle fonctionnent de façon sûre et prévisible.
  • Grand modèle de langage (LLM): Un grand modèle de langage est un modèle entraîné sur une énorme quantité de texte, qui prédit les mots suivants et sait écrire, résumer et répondre.

Autres termes du groupe IA et automatisation

MCP (Model Context Protocol) · Modèle de fondation (foundation model) · Inférence et latence · Modèle de raisonnement (reasoning model) · IA générative · Modèle multimodal · IA explicable (XAI) · Modèle open-weight · IA agentique · Modèles de diffusion · Human in the loop (humain dans la boucle) · NLP (traitement automatique du langage) · Hallucination · No-code et low-code · Grounding (ancrage) · Personnalisation par l’IA · Petit modèle de langage (SLM) · GPT personnalisés et projets · Plateformes d’automatisation (Zapier, Make, n8n) · Gouvernance de l’IA · Prompt · Prompt engineering · Fine-tuning · Prompt système (system prompt)

Tout le glossaire (590 termes)

Les termes en pratique

Besoin d’aide pour les mettre en œuvre ?

Les termes sont une chose, la mise en œuvre en est une autre. Nous regardons lesquels sont rentables pour vous et nous le disons franchement. Le premier avis est gratuit et nous répondons sous 24 heures.

Prendre rendez-vous

Cet article vous a plu ? Partagez-le avec vos amis.