Sjednat call

Daniel & Friends / Slovník / Vysvětlitelnost AI (XAI)

AI a automatizace

Vysvětlitelnost AI (XAI)

Vysvětlitelná AI (XAI) označuje schopnost srozumitelně ukázat, proč model dospěl k určitému výsledku: které vstupy rozhodly, jak jistý si je a na čem odpověď stojí. U velkých jazykových modelů je to dodnes dosažitelné jen částečně.

Daniel Votruba ·


V praxi

Vysvětlitelnost vyžadujte tam, kde se rozhoduje o lidech nebo penězích. U textových výstupů pomáhá, když model uvádí zdroje a postup, které lze ověřit.

Související pojmy

  • Bias modelu (předsudky AI): Bias modelu je systematické zkreslení ve výstupech AI, které vzniká z nevyvážených trénovacích dat, návrhu modelu nebo způsobu zadání.
  • AI governance: AI governance je soubor pravidel, rolí a procesů, kterými firma řídí používání umělé inteligence.
  • EU AI Act (nařízení o AI): EU AI Act je evropské nařízení o umělé inteligenci.
  • Halucinace: Halucinace je případ, kdy model uvede věrohodně znějící, ale nepravdivou informaci.
  • RAG (retrieval-augmented generation): RAG je postup, při kterém model před odpovědí vyhledá relevantní dokumenty, například firemní znalosti, a odpoví z nich.

Další pojmy ze skupiny AI a automatizace

Agentní AI · Volání nástrojů (function calling) · AI agent · Vlastní GPTs a projekty · AI automatizace · Vibe coding · AI crawlery (GPTBot a další) · Velký jazykový model (LLM) · Vektorová databáze · AI safety a alignment · Token · AI SDR · Text-to-video · AI slop · Text-to-image · AI vyhledávání (odpovědní motory) · Temperature · AI workflow a orchestrace · System prompt · Automatizační platformy (Zapier, Make, n8n) · Strojové učení (machine learning) · Shadow AI · C2PA a původ obsahu (vodoznaky AI) · Sémantické vyhledávání

Celý slovník (590 pojmů)

Pojmy do praxe

Potřebujete s nimi pomoct?

Pojmy jsou jedna věc, nasazení druhá. Projdeme, co z nich se vám vyplatí, a řekneme to na rovinu. První názor dostanete zdarma a odpovídáme do 24 hodin.

Sjednat call

Líbil se vám článek? Sdílejte ho s přáteli.