Daniel & Friends / Slovník / Bias modelu (předsudky AI)
AI a automatizaceBias modelu (předsudky AI)
Bias modelu je systematické zkreslení ve výstupech AI, které vzniká z nevyvážených trénovacích dat, návrhu modelu nebo způsobu zadání. Model pak určité skupiny, témata nebo jazyky zvýhodňuje či opomíjí, třeba při třídění životopisů nebo tvorbě obrázků.
Daniel Votruba ·
V praxi
Před nasazením vyzkoušejte model na vzorcích z vlastního trhu a jazyka. U rozhodnutí o lidech nechte konečné slovo člověku.
Související pojmy
- Vysvětlitelnost AI (XAI): Vysvětlitelná AI (XAI) označuje schopnost srozumitelně ukázat, proč model dospěl k určitému výsledku: které vstupy rozhodly, jak jistý si je a na čem odpověď stojí.
- AI governance: AI governance je soubor pravidel, rolí a procesů, kterými firma řídí používání umělé inteligence.
- EU AI Act (nařízení o AI): EU AI Act je evropské nařízení o umělé inteligenci.
- Velký jazykový model (LLM): Velký jazykový model je model natrénovaný na obrovském množství textu, který predikuje další slova a umí psát, shrnovat a odpovídat.
- Evaluace modelů (evals): Evaluace modelů jsou systematické testy, které měří kvalitu odpovědí AI na sadě typických zadání s ověřeným správným výsledkem.
Další pojmy ze skupiny AI a automatizace
C2PA a původ obsahu (vodoznaky AI) · Automatizační platformy (Zapier, Make, n8n) · Copilot (AI asistent) · AI workflow a orchestrace · Deepfake a syntetická média · AI vyhledávání (odpovědní motory) · Difuzní modely · AI slop · Embedding · AI SDR · AI safety a alignment · Few-shot a zero-shot prompting · AI crawlery (GPTBot a další) · Fine-tuning · AI automatizace · Foundation model · AI agent · Generativní AI · Agentní AI · Grounding · Guardrails (ochranná pravidla AI) · Volání nástrojů (function calling) · Halucinace · Vlastní GPTs a projekty
Pojmy do praxe
Potřebujete s nimi pomoct?
Pojmy jsou jedna věc, nasazení druhá. Projdeme, co z nich se vám vyplatí, a řekneme to na rovinu. První názor dostanete zdarma a odpovídáme do 24 hodin.
Sjednat call