Gespräch buchen

Daniel & Friends / Glossar / Guardrails (Schutzmechanismen für KI)

KI und Automatisierung

Guardrails (Schutzmechanismen für KI)

Guardrails sind technische und organisatorische Regeln, die Ein- und Ausgaben eines KI-Systems überwachen. Sie filtern sensible Daten, sperren unzulässige Themen, prüfen das Antwortformat und begrenzen, was ein Agent tun darf. Sie wirken wie eine Leitplanke um das Modell.

Daniel Votruba ·


In der Praxis

Bauen Sie sie in Schichten auf: Eingabeprüfung, eng gefasste Werkzeugrechte und eine Ausgabekontrolle, bevor etwas den Kunden erreicht. Eine einzelne Schicht genügt selten.

Verwandte Begriffe

  • Prompt Injection: Prompt Injection ist ein Angriff, bei dem eine schädliche Anweisung in einem Text, einer E-Mail oder auf einer Webseite die ursprüngliche Aufgabe des Modells überschreibt.
  • Jailbreak (KI): Ein Jailbreak ist der Versuch, ein KI-Modell dazu zu bringen, seine eigenen Sicherheitsbeschränkungen zu umgehen, meist durch geschickt formulierte Anfragen, Rollenspiele oder schrittweises Verschieben der Grenzen.
  • Halluzination: Eine Halluzination liegt vor, wenn ein Modell eine plausibel klingende, aber falsche Information nennt.
  • Human in the Loop: Human in the Loop ist ein Prozessentwurf, bei dem ein Mensch an ausgewählten Stellen die Arbeit der KI prüft, bearbeitet oder freigibt, bevor das Ergebnis verwendet wird.
  • KI-Governance: KI-Governance umfasst die Regeln, Rollen und Prozesse, mit denen ein Unternehmen den Einsatz künstlicher Intelligenz steuert.

Weitere Begriffe aus der Gruppe KI und Automatisierung

Grounding · Großes Sprachmodell (LLM) · Inferenz und Latenz · Generative KI · Function Calling (Werkzeugaufruf) · KI-Agent · Foundation Model · KI-Automatisierung · Fine-Tuning · KI-Crawler (GPTBot und andere) · Few-Shot- und Zero-Shot-Prompting · EU AI Act (KI-Verordnung) · KI-Scoring · Erklärbare KI (XAI) · KI-Sicherheit und Alignment · Embedding · KI-Slop · Eigene GPTs und Projekte · KI-Suche (Antwortmaschinen) · Diffusionsmodelle · KI-Workflow und Orchestrierung · Deep Learning · Kleines Sprachmodell (SLM) · Deepfake und synthetische Medien

Zum gesamten Glossar (590 Begriffe)

Begriffe in der Praxis

Brauchen Sie Hilfe bei der Umsetzung?

Begriffe sind das eine, die Umsetzung das andere. Wir gehen durch, welche sich für Sie lohnen, und sagen es offen. Die erste Einschätzung ist kostenlos, wir antworten innerhalb von 24 Stunden.

Gespräch vereinbaren

Hat Ihnen der Artikel gefallen? Teilen Sie ihn mit Freunden.