Daniel & Friends / Glossar / KI-Sicherheit und Alignment
KI und AutomatisierungKI-Sicherheit und Alignment
KI-Sicherheit (AI Safety) umfasst alle Bemühungen, dass Systeme künstlicher Intelligenz sicher und berechenbar arbeiten. Alignment ist ein Teilgebiet: Das Verhalten eines Modells wird mit menschlichen Absichten und Werten abgestimmt, damit es tut, was Nutzer tatsächlich wollen.
Daniel Votruba ·
In der Praxis
Für Unternehmen heißt das, Anbieter mit dokumentierten Sicherheitstests zu wählen und KI zuerst dort einzusetzen, wo Fehler wenig kosten und sich leicht korrigieren lassen.
Verwandte Begriffe
- Guardrails (Schutzmechanismen für KI): Guardrails sind technische und organisatorische Regeln, die Ein- und Ausgaben eines KI-Systems überwachen.
- KI-Governance: KI-Governance umfasst die Regeln, Rollen und Prozesse, mit denen ein Unternehmen den Einsatz künstlicher Intelligenz steuert.
- Bias von Modellen (KI-Vorurteile): Bias bezeichnet systematische Verzerrungen in den Ergebnissen einer KI, die aus unausgewogenen Trainingsdaten, dem Modelldesign oder der Aufgabenstellung entstehen.
- Halluzination: Eine Halluzination liegt vor, wenn ein Modell eine plausibel klingende, aber falsche Information nennt.
- EU AI Act (KI-Verordnung): Der EU AI Act ist die europäische Verordnung über künstliche Intelligenz.
Weitere Begriffe aus der Gruppe KI und Automatisierung
KI-Slop · KI-Scoring · KI-Suche (Antwortmaschinen) · KI-Workflow und Orchestrierung · KI-Crawler (GPTBot und andere) · Kleines Sprachmodell (SLM) · KI-Automatisierung · Kontextfenster · KI-Agent · Kosten und Limits von KI · Jailbreak (KI) · Maschinelles Lernen (ML) · Inferenz und Latenz · MCP (Model Context Protocol) · Human in the Loop · Modellevaluierung (Evals) · Multi-Agenten-System · Multimodales Modell · Grounding · Neuronales Netz · Großes Sprachmodell (LLM) · NLP (Verarbeitung natürlicher Sprache) · Generative KI · No-Code und Low-Code
Zum gesamten Glossar (590 Begriffe)
Begriffe in der Praxis
Brauchen Sie Hilfe bei der Umsetzung?
Begriffe sind das eine, die Umsetzung das andere. Wir gehen durch, welche sich für Sie lohnen, und sagen es offen. Die erste Einschätzung ist kostenlos, wir antworten innerhalb von 24 Stunden.
Gespräch vereinbaren