Gespräch buchen

Daniel & Friends / Glossar / KI-Sicherheit und Alignment

KI und Automatisierung

KI-Sicherheit und Alignment

KI-Sicherheit (AI Safety) umfasst alle Bemühungen, dass Systeme künstlicher Intelligenz sicher und berechenbar arbeiten. Alignment ist ein Teilgebiet: Das Verhalten eines Modells wird mit menschlichen Absichten und Werten abgestimmt, damit es tut, was Nutzer tatsächlich wollen.

Daniel Votruba ·


In der Praxis

Für Unternehmen heißt das, Anbieter mit dokumentierten Sicherheitstests zu wählen und KI zuerst dort einzusetzen, wo Fehler wenig kosten und sich leicht korrigieren lassen.

Verwandte Begriffe

  • Guardrails (Schutzmechanismen für KI): Guardrails sind technische und organisatorische Regeln, die Ein- und Ausgaben eines KI-Systems überwachen.
  • KI-Governance: KI-Governance umfasst die Regeln, Rollen und Prozesse, mit denen ein Unternehmen den Einsatz künstlicher Intelligenz steuert.
  • Bias von Modellen (KI-Vorurteile): Bias bezeichnet systematische Verzerrungen in den Ergebnissen einer KI, die aus unausgewogenen Trainingsdaten, dem Modelldesign oder der Aufgabenstellung entstehen.
  • Halluzination: Eine Halluzination liegt vor, wenn ein Modell eine plausibel klingende, aber falsche Information nennt.
  • EU AI Act (KI-Verordnung): Der EU AI Act ist die europäische Verordnung über künstliche Intelligenz.

Weitere Begriffe aus der Gruppe KI und Automatisierung

KI-Slop · KI-Scoring · KI-Suche (Antwortmaschinen) · KI-Workflow und Orchestrierung · KI-Crawler (GPTBot und andere) · Kleines Sprachmodell (SLM) · KI-Automatisierung · Kontextfenster · KI-Agent · Kosten und Limits von KI · Jailbreak (KI) · Maschinelles Lernen (ML) · Inferenz und Latenz · MCP (Model Context Protocol) · Human in the Loop · Modellevaluierung (Evals) · Multi-Agenten-System · Multimodales Modell · Grounding · Neuronales Netz · Großes Sprachmodell (LLM) · NLP (Verarbeitung natürlicher Sprache) · Generative KI · No-Code und Low-Code

Zum gesamten Glossar (590 Begriffe)

Begriffe in der Praxis

Brauchen Sie Hilfe bei der Umsetzung?

Begriffe sind das eine, die Umsetzung das andere. Wir gehen durch, welche sich für Sie lohnen, und sagen es offen. Die erste Einschätzung ist kostenlos, wir antworten innerhalb von 24 Stunden.

Gespräch vereinbaren

Hat Ihnen der Artikel gefallen? Teilen Sie ihn mit Freunden.