Gespräch buchen

Daniel & Friends / Glossar / Bias von Modellen (KI-Vorurteile)

KI und Automatisierung

Bias von Modellen (KI-Vorurteile)

Bias bezeichnet systematische Verzerrungen in den Ergebnissen einer KI, die aus unausgewogenen Trainingsdaten, dem Modelldesign oder der Aufgabenstellung entstehen. Das Modell bevorzugt oder übersieht dann bestimmte Gruppen, Themen oder Sprachen, etwa beim Sortieren von Bewerbungen oder beim Erzeugen von Bildern.

Daniel Votruba ·


In der Praxis

Prüfen Sie das Modell vor dem Einsatz mit Stichproben aus Ihrem eigenen Markt und Ihrer Sprache. Bei Entscheidungen über Menschen sollte ein Mensch das letzte Wort haben.

Verwandte Begriffe

  • Erklärbare KI (XAI): Erklärbare KI (XAI) beschreibt die Fähigkeit, verständlich darzulegen, warum ein Modell zu einem Ergebnis gekommen ist: welche Eingaben den Ausschlag gaben, wie sicher es ist und worauf die Antwort beruht.
  • KI-Governance: KI-Governance umfasst die Regeln, Rollen und Prozesse, mit denen ein Unternehmen den Einsatz künstlicher Intelligenz steuert.
  • EU AI Act (KI-Verordnung): Der EU AI Act ist die europäische Verordnung über künstliche Intelligenz.
  • Großes Sprachmodell (LLM): Ein großes Sprachmodell ist ein auf riesigen Textmengen trainiertes Modell, das die nächsten Wörter vorhersagt und schreiben, zusammenfassen und antworten kann.
  • Modellevaluierung (Evals): Modellevaluierungen sind systematische Tests, die die Qualität von KI-Antworten anhand typischer Aufgaben mit geprüftem richtigem Ergebnis messen.

Weitere Begriffe aus der Gruppe KI und Automatisierung

C2PA und Herkunftsnachweis (KI-Wasserzeichen) · Automatisierungsplattformen (Zapier, Make, n8n) · Chain of Thought · AI SDR (KI im Vertrieb) · ChatGPT Ads · Agentische KI · Computer Vision · Voice Cloning (Stimmklonen) · Copilot (KI-Assistent) · Vibe Coding · Deepfake und synthetische Medien · Vektordatenbank · Deep Learning · Token · Diffusionsmodelle · Text-to-Video · Eigene GPTs und Projekte · Text-to-Speech (TTS) · Embedding · Text-to-Image · Temperature · System-Prompt · Few-Shot- und Zero-Shot-Prompting · Speech-to-Text (Spracherkennung)

Zum gesamten Glossar (590 Begriffe)

Begriffe in der Praxis

Brauchen Sie Hilfe bei der Umsetzung?

Begriffe sind das eine, die Umsetzung das andere. Wir gehen durch, welche sich für Sie lohnen, und sagen es offen. Die erste Einschätzung ist kostenlos, wir antworten innerhalb von 24 Stunden.

Gespräch vereinbaren

Hat Ihnen der Artikel gefallen? Teilen Sie ihn mit Freunden.