Daniel & Friends / Glossaire / Sécurité de l’IA et alignement
IA et automatisationSécurité de l’IA et alignement
La sécurité de l’IA (AI safety) regroupe les travaux visant à ce que les systèmes d’intelligence artificielle fonctionnent de façon sûre et prévisible. L’alignement en est une branche : accorder le comportement d’un modèle aux intentions et aux valeurs humaines, pour qu’il fasse ce que les utilisateurs veulent vraiment.
Daniel Votruba ·
En pratique
Pour une entreprise, cela veut dire choisir des fournisseurs qui documentent leurs tests de sécurité et déployer l’IA d’abord là où une erreur coûte peu et se corrige facilement.
Termes liés
- Garde-fous (guardrails): Les garde-fous sont des règles techniques et organisationnelles qui surveillent les entrées et les sorties d’un système d’IA.
- Gouvernance de l’IA: La gouvernance de l’IA est l’ensemble des règles, des rôles et des processus par lesquels une entreprise encadre son usage de l’intelligence artificielle.
- Biais des modèles (AI bias): Le biais d’un modèle est une distorsion systématique dans les résultats d’une IA, issue de données d’entraînement déséquilibrées, de la conception du modèle ou de la formulation de la tâche.
- Hallucination: Une hallucination est un cas où un modèle énonce une information plausible mais fausse.
- AI Act européen (règlement sur l’IA): L’AI Act est le règlement européen sur l’intelligence artificielle.
Autres termes du groupe IA et automatisation
Shadow AI (IA fantôme) · Scoring par l’IA · Synthèse vocale (text-to-speech) · RPA (automatisation robotisée des processus) · Système multi-agents · Robots d’IA (GPTBot et autres) · Température (temperature) · Réseau de neurones · Text-to-image (texte vers image) · Reconnaissance vocale (speech-to-text) · Text-to-video (texte vers vidéo) · Recherche sémantique · Token · Recherche par IA (moteurs de réponse) · Vibe coding · RAG (retrieval-augmented generation) · Vision par ordinateur (computer vision) · Prompt système (system prompt) · Workflow d’IA et orchestration · Prompt engineering · Agent IA · Prompt · Plateformes d’automatisation (Zapier, Make, n8n) · AI SDR (IA en prospection commerciale)
Tout le glossaire (590 termes)
Les termes en pratique
Besoin d’aide pour les mettre en œuvre ?
Les termes sont une chose, la mise en œuvre en est une autre. Nous regardons lesquels sont rentables pour vous et nous le disons franchement. Le premier avis est gratuit et nous répondons sous 24 heures.
Prendre rendez-vous