Gespräch buchen

Daniel & Friends / Glossar / Erklärbare KI (XAI)

KI und Automatisierung

Erklärbare KI (XAI)

Erklärbare KI (XAI) beschreibt die Fähigkeit, verständlich darzulegen, warum ein Modell zu einem Ergebnis gekommen ist: welche Eingaben den Ausschlag gaben, wie sicher es ist und worauf die Antwort beruht. Bei großen Sprachmodellen ist das bis heute nur teilweise möglich.

Daniel Votruba ·


In der Praxis

Verlangen Sie Erklärbarkeit dort, wo über Menschen oder Geld entschieden wird. Bei Textausgaben hilft es, wenn das Modell Quellen und Begründungen nennt, die sich prüfen lassen.

Verwandte Begriffe

  • Bias von Modellen (KI-Vorurteile): Bias bezeichnet systematische Verzerrungen in den Ergebnissen einer KI, die aus unausgewogenen Trainingsdaten, dem Modelldesign oder der Aufgabenstellung entstehen.
  • KI-Governance: KI-Governance umfasst die Regeln, Rollen und Prozesse, mit denen ein Unternehmen den Einsatz künstlicher Intelligenz steuert.
  • EU AI Act (KI-Verordnung): Der EU AI Act ist die europäische Verordnung über künstliche Intelligenz.
  • Halluzination: Eine Halluzination liegt vor, wenn ein Modell eine plausibel klingende, aber falsche Information nennt.
  • RAG (Retrieval-Augmented Generation): RAG ist ein Verfahren, bei dem ein Modell vor der Antwort relevante Dokumente abruft, zum Beispiel Unternehmenswissen, und daraus antwortet.

Weitere Begriffe aus der Gruppe KI und Automatisierung

Embedding · Few-Shot- und Zero-Shot-Prompting · Eigene GPTs und Projekte · Fine-Tuning · Diffusionsmodelle · Foundation Model · Deep Learning · Function Calling (Werkzeugaufruf) · Deepfake und synthetische Medien · Generative KI · Copilot (KI-Assistent) · Großes Sprachmodell (LLM) · Computer Vision · Grounding · ChatGPT Ads · Guardrails (Schutzmechanismen für KI) · Chain of Thought · C2PA und Herkunftsnachweis (KI-Wasserzeichen) · Human in the Loop · Inferenz und Latenz · Automatisierungsplattformen (Zapier, Make, n8n) · Jailbreak (KI) · AI SDR (KI im Vertrieb) · KI-Agent

Zum gesamten Glossar (590 Begriffe)

Begriffe in der Praxis

Brauchen Sie Hilfe bei der Umsetzung?

Begriffe sind das eine, die Umsetzung das andere. Wir gehen durch, welche sich für Sie lohnen, und sagen es offen. Die erste Einschätzung ist kostenlos, wir antworten innerhalb von 24 Stunden.

Gespräch vereinbaren

Hat Ihnen der Artikel gefallen? Teilen Sie ihn mit Freunden.