Daniel & Friends / Slovník / AI safety a alignment
AI a automatizaceAI safety a alignment
AI safety je obor, který usiluje o to, aby systémy umělé inteligence fungovaly bezpečně a předvídatelně. Alignment je jeho součást: snaha sladit chování modelu s lidskými záměry a hodnotami, aby dělal to, co od něj uživatelé skutečně chtějí.
Daniel Votruba ·
V praxi
Firma by měla vybírat dodavatele s popsanými bezpečnostními testy a nasazovat AI nejdřív tam, kde je dopad chyby malý a snadno opravitelný.
Související pojmy
- Guardrails (ochranná pravidla AI): Guardrails jsou technická a procesní pravidla, která hlídají vstupy i výstupy AI systému.
- AI governance: AI governance je soubor pravidel, rolí a procesů, kterými firma řídí používání umělé inteligence.
- Bias modelu (předsudky AI): Bias modelu je systematické zkreslení ve výstupech AI, které vzniká z nevyvážených trénovacích dat, návrhu modelu nebo způsobu zadání.
- Halucinace: Halucinace je případ, kdy model uvede věrohodně znějící, ale nepravdivou informaci.
- EU AI Act (nařízení o AI): EU AI Act je evropské nařízení o umělé inteligenci.
Další pojmy ze skupiny AI a automatizace
AI SDR · AI slop · AI crawlery (GPTBot a další) · AI vyhledávání (odpovědní motory) · AI automatizace · AI workflow a orchestrace · AI agent · Automatizační platformy (Zapier, Make, n8n) · Agentní AI · Vysvětlitelnost AI (XAI) · C2PA a původ obsahu (vodoznaky AI) · Volání nástrojů (function calling) · Copilot (AI asistent) · Vlastní GPTs a projekty · Deepfake a syntetická média · Vibe coding · Difuzní modely · Velký jazykový model (LLM) · Embedding · Vektorová databáze · Token · Evaluace modelů (evals) · Text-to-video · Few-shot a zero-shot prompting
Pojmy do praxe
Potřebujete s nimi pomoct?
Pojmy jsou jedna věc, nasazení druhá. Projdeme, co z nich se vám vyplatí, a řekneme to na rovinu. První názor dostanete zdarma a odpovídáme do 24 hodin.
Sjednat call