Daniel & Friends / Slovník / Vysvětlitelnost AI (XAI)
AI a automatizaceVysvětlitelnost AI (XAI)
Vysvětlitelná AI (XAI) označuje schopnost srozumitelně ukázat, proč model dospěl k určitému výsledku: které vstupy rozhodly, jak jistý si je a na čem odpověď stojí. U velkých jazykových modelů je to dodnes dosažitelné jen částečně.
Daniel Votruba ·
V praxi
Vysvětlitelnost vyžadujte tam, kde se rozhoduje o lidech nebo penězích. U textových výstupů pomáhá, když model uvádí zdroje a postup, které lze ověřit.
Související pojmy
- Bias modelu (předsudky AI): Bias modelu je systematické zkreslení ve výstupech AI, které vzniká z nevyvážených trénovacích dat, návrhu modelu nebo způsobu zadání.
- AI governance: AI governance je soubor pravidel, rolí a procesů, kterými firma řídí používání umělé inteligence.
- EU AI Act (nařízení o AI): EU AI Act je evropské nařízení o umělé inteligenci.
- Halucinace: Halucinace je případ, kdy model uvede věrohodně znějící, ale nepravdivou informaci.
- RAG (retrieval-augmented generation): RAG je postup, při kterém model před odpovědí vyhledá relevantní dokumenty, například firemní znalosti, a odpoví z nich.
Další pojmy ze skupiny AI a automatizace
Agentní AI · Volání nástrojů (function calling) · AI agent · Vlastní GPTs a projekty · AI automatizace · Vibe coding · AI crawlery (GPTBot a další) · Velký jazykový model (LLM) · Vektorová databáze · AI safety a alignment · Token · AI SDR · Text-to-video · AI slop · Text-to-image · AI vyhledávání (odpovědní motory) · Temperature · AI workflow a orchestrace · System prompt · Automatizační platformy (Zapier, Make, n8n) · Strojové učení (machine learning) · Shadow AI · C2PA a původ obsahu (vodoznaky AI) · Sémantické vyhledávání
Pojmy do praxe
Potřebujete s nimi pomoct?
Pojmy jsou jedna věc, nasazení druhá. Projdeme, co z nich se vám vyplatí, a řekneme to na rovinu. První názor dostanete zdarma a odpovídáme do 24 hodin.
Sjednat call