Sjednat call

Daniel & Friends / Slovník / Bias modelu (předsudky AI)

AI a automatizace

Bias modelu (předsudky AI)

Bias modelu je systematické zkreslení ve výstupech AI, které vzniká z nevyvážených trénovacích dat, návrhu modelu nebo způsobu zadání. Model pak určité skupiny, témata nebo jazyky zvýhodňuje či opomíjí, třeba při třídění životopisů nebo tvorbě obrázků.

Daniel Votruba ·


V praxi

Před nasazením vyzkoušejte model na vzorcích z vlastního trhu a jazyka. U rozhodnutí o lidech nechte konečné slovo člověku.

Související pojmy

  • Vysvětlitelnost AI (XAI): Vysvětlitelná AI (XAI) označuje schopnost srozumitelně ukázat, proč model dospěl k určitému výsledku: které vstupy rozhodly, jak jistý si je a na čem odpověď stojí.
  • AI governance: AI governance je soubor pravidel, rolí a procesů, kterými firma řídí používání umělé inteligence.
  • EU AI Act (nařízení o AI): EU AI Act je evropské nařízení o umělé inteligenci.
  • Velký jazykový model (LLM): Velký jazykový model je model natrénovaný na obrovském množství textu, který predikuje další slova a umí psát, shrnovat a odpovídat.
  • Evaluace modelů (evals): Evaluace modelů jsou systematické testy, které měří kvalitu odpovědí AI na sadě typických zadání s ověřeným správným výsledkem.

Další pojmy ze skupiny AI a automatizace

C2PA a původ obsahu (vodoznaky AI) · Automatizační platformy (Zapier, Make, n8n) · Copilot (AI asistent) · AI workflow a orchestrace · Deepfake a syntetická média · AI vyhledávání (odpovědní motory) · Difuzní modely · AI slop · Embedding · AI SDR · AI safety a alignment · Few-shot a zero-shot prompting · AI crawlery (GPTBot a další) · Fine-tuning · AI automatizace · Foundation model · AI agent · Generativní AI · Agentní AI · Grounding · Guardrails (ochranná pravidla AI) · Volání nástrojů (function calling) · Halucinace · Vlastní GPTs a projekty

Celý slovník (590 pojmů)

Pojmy do praxe

Potřebujete s nimi pomoct?

Pojmy jsou jedna věc, nasazení druhá. Projdeme, co z nich se vám vyplatí, a řekneme to na rovinu. První názor dostanete zdarma a odpovídáme do 24 hodin.

Sjednat call

Líbil se vám článek? Sdílejte ho s přáteli.