Daniel & Friends / Glossar / Guardrails (Schutzmechanismen für KI)
KI und AutomatisierungGuardrails (Schutzmechanismen für KI)
Guardrails sind technische und organisatorische Regeln, die Ein- und Ausgaben eines KI-Systems überwachen. Sie filtern sensible Daten, sperren unzulässige Themen, prüfen das Antwortformat und begrenzen, was ein Agent tun darf. Sie wirken wie eine Leitplanke um das Modell.
Daniel Votruba ·
In der Praxis
Bauen Sie sie in Schichten auf: Eingabeprüfung, eng gefasste Werkzeugrechte und eine Ausgabekontrolle, bevor etwas den Kunden erreicht. Eine einzelne Schicht genügt selten.
Verwandte Begriffe
- Prompt Injection: Prompt Injection ist ein Angriff, bei dem eine schädliche Anweisung in einem Text, einer E-Mail oder auf einer Webseite die ursprüngliche Aufgabe des Modells überschreibt.
- Jailbreak (KI): Ein Jailbreak ist der Versuch, ein KI-Modell dazu zu bringen, seine eigenen Sicherheitsbeschränkungen zu umgehen, meist durch geschickt formulierte Anfragen, Rollenspiele oder schrittweises Verschieben der Grenzen.
- Halluzination: Eine Halluzination liegt vor, wenn ein Modell eine plausibel klingende, aber falsche Information nennt.
- Human in the Loop: Human in the Loop ist ein Prozessentwurf, bei dem ein Mensch an ausgewählten Stellen die Arbeit der KI prüft, bearbeitet oder freigibt, bevor das Ergebnis verwendet wird.
- KI-Governance: KI-Governance umfasst die Regeln, Rollen und Prozesse, mit denen ein Unternehmen den Einsatz künstlicher Intelligenz steuert.
Weitere Begriffe aus der Gruppe KI und Automatisierung
Grounding · Großes Sprachmodell (LLM) · Inferenz und Latenz · Generative KI · Function Calling (Werkzeugaufruf) · KI-Agent · Foundation Model · KI-Automatisierung · Fine-Tuning · KI-Crawler (GPTBot und andere) · Few-Shot- und Zero-Shot-Prompting · EU AI Act (KI-Verordnung) · KI-Scoring · Erklärbare KI (XAI) · KI-Sicherheit und Alignment · Embedding · KI-Slop · Eigene GPTs und Projekte · KI-Suche (Antwortmaschinen) · Diffusionsmodelle · KI-Workflow und Orchestrierung · Deep Learning · Kleines Sprachmodell (SLM) · Deepfake und synthetische Medien
Zum gesamten Glossar (590 Begriffe)
Begriffe in der Praxis
Brauchen Sie Hilfe bei der Umsetzung?
Begriffe sind das eine, die Umsetzung das andere. Wir gehen durch, welche sich für Sie lohnen, und sagen es offen. Die erste Einschätzung ist kostenlos, wir antworten innerhalb von 24 Stunden.
Gespräch vereinbaren