Gespräch buchen

Daniel & Friends / Glossar / Prompt Injection

KI und Automatisierung

Prompt Injection

Prompt Injection ist ein Angriff, bei dem eine schädliche Anweisung in einem Text, einer E-Mail oder auf einer Webseite die ursprüngliche Aufgabe des Modells überschreibt. Die KI gibt dann womöglich Daten preis oder löst eine unerwünschte Aktion aus, weil sie fremde Inhalte als Befehl behandelt.

Daniel Votruba ·


In der Praxis

Je mehr Werkzeuge und Daten ein Agent erreicht, desto größer der Schaden. Beschränken Sie Rechte, trennen Sie unsichere Inhalte von Anweisungen und lassen Sie heikle Aktionen von Menschen bestätigen.

Verwandte Begriffe

  • Jailbreak (KI): Ein Jailbreak ist der Versuch, ein KI-Modell dazu zu bringen, seine eigenen Sicherheitsbeschränkungen zu umgehen, meist durch geschickt formulierte Anfragen, Rollenspiele oder schrittweises Verschieben der Grenzen.
  • Guardrails (Schutzmechanismen für KI): Guardrails sind technische und organisatorische Regeln, die Ein- und Ausgaben eines KI-Systems überwachen.
  • KI-Agent: Ein KI-Agent ist ein System, das ein Modell nutzt, um ein Ziel Schritt für Schritt zu erreichen: Es plant, ruft Werkzeuge auf und passt sein Vorgehen an die Ergebnisse an.
  • Prompt: Ein Prompt ist die Anweisung, die ein Modell erhält.
  • KI-Sicherheit und Alignment: KI-Sicherheit (AI Safety) umfasst alle Bemühungen, dass Systeme künstlicher Intelligenz sicher und berechenbar arbeiten.

Weitere Begriffe aus der Gruppe KI und Automatisierung

RAG (Retrieval-Augmented Generation) · Prompt Engineering · Reasoning-Modell · RPA (Robotic Process Automation) · Predictive Analytics · Semantische Suche · Personalisierung mit KI · Shadow AI · Open-Weight-Modell · Speech-to-Text (Spracherkennung) · No-Code und Low-Code · System-Prompt · NLP (Verarbeitung natürlicher Sprache) · Temperature · Neuronales Netz · Text-to-Image · Multimodales Modell · Text-to-Speech (TTS) · Multi-Agenten-System · Text-to-Video · Modellevaluierung (Evals) · Token · MCP (Model Context Protocol) · Vektordatenbank

Zum gesamten Glossar (590 Begriffe)

Begriffe in der Praxis

Brauchen Sie Hilfe bei der Umsetzung?

Begriffe sind das eine, die Umsetzung das andere. Wir gehen durch, welche sich für Sie lohnen, und sagen es offen. Die erste Einschätzung ist kostenlos, wir antworten innerhalb von 24 Stunden.

Gespräch vereinbaren

Hat Ihnen der Artikel gefallen? Teilen Sie ihn mit Freunden.