Daniel & Friends / Glossar / Jailbreak (KI)
KI und AutomatisierungJailbreak (KI)
Ein Jailbreak ist der Versuch, ein KI-Modell dazu zu bringen, seine eigenen Sicherheitsbeschränkungen zu umgehen, meist durch geschickt formulierte Anfragen, Rollenspiele oder schrittweises Verschieben der Grenzen. Ziel ist eine Antwort, die das Modell normalerweise verweigern würde.
Daniel Votruba ·
In der Praxis
Wenn Sie einen eigenen Chatbot betreiben, testen Sie ihn vor dem Start auf solche Versuche. Sperren Sie verbotene Themen auch außerhalb des Modells, etwa mit einem Filter auf der Ausgabe.
Verwandte Begriffe
- Prompt Injection: Prompt Injection ist ein Angriff, bei dem eine schädliche Anweisung in einem Text, einer E-Mail oder auf einer Webseite die ursprüngliche Aufgabe des Modells überschreibt.
- Guardrails (Schutzmechanismen für KI): Guardrails sind technische und organisatorische Regeln, die Ein- und Ausgaben eines KI-Systems überwachen.
- KI-Sicherheit und Alignment: KI-Sicherheit (AI Safety) umfasst alle Bemühungen, dass Systeme künstlicher Intelligenz sicher und berechenbar arbeiten.
- Großes Sprachmodell (LLM): Ein großes Sprachmodell ist ein auf riesigen Textmengen trainiertes Modell, das die nächsten Wörter vorhersagt und schreiben, zusammenfassen und antworten kann.
Weitere Begriffe aus der Gruppe KI und Automatisierung
KI-Agent · Inferenz und Latenz · KI-Automatisierung · Human in the Loop · KI-Crawler (GPTBot und andere) · Halluzination · KI-Governance · KI-Scoring · Grounding · KI-Slop · Generative KI · KI-Suche (Antwortmaschinen) · Function Calling (Werkzeugaufruf) · KI-Workflow und Orchestrierung · Foundation Model · Kleines Sprachmodell (SLM) · Fine-Tuning · Kontextfenster · Few-Shot- und Zero-Shot-Prompting · Kosten und Limits von KI · EU AI Act (KI-Verordnung) · Maschinelles Lernen (ML) · Erklärbare KI (XAI) · MCP (Model Context Protocol)
Zum gesamten Glossar (590 Begriffe)
Begriffe in der Praxis
Brauchen Sie Hilfe bei der Umsetzung?
Begriffe sind das eine, die Umsetzung das andere. Wir gehen durch, welche sich für Sie lohnen, und sagen es offen. Die erste Einschätzung ist kostenlos, wir antworten innerhalb von 24 Stunden.
Gespräch vereinbaren