Daniel & Friends / Slovník / Human in the loop
AI a automatizaceHuman in the loop
Human in the loop je návrh AI procesu, v němž člověk ve vybraných bodech kontroluje, upravuje nebo schvaluje práci modelu, než se výsledek použije. Člověk tak nese odpovědnost za rizikové kroky a opravuje chyby, které by model přehlédl.
Daniel Votruba ·
V praxi
Určete, které kroky vyžadují schválení: odeslání zákazníkovi, změny v CRM, platby. Ostatní nechte běžet automaticky a kontrolujte je vzorkově.
Související pojmy
- Guardrails (ochranná pravidla AI): Guardrails jsou technická a procesní pravidla, která hlídají vstupy i výstupy AI systému.
- Agentní AI: Agentní AI je přístup, kdy model plánuje kroky, volá nástroje, vyhodnocuje mezivýsledky a pokračuje, dokud nesplní zadaný cíl.
- AI agent: AI agent je systém, který používá model k plnění cíle po krocích: plánuje, volá nástroje a upravuje postup podle výsledků.
- AI workflow a orchestrace: AI workflow je předem navržená posloupnost kroků, v níž model plní jednotlivé úkoly: klasifikuje, shrnuje, rozhoduje o větvi.
- AI governance: AI governance je soubor pravidel, rolí a procesů, kterými firma řídí používání umělé inteligence.
Další pojmy ze skupiny AI a automatizace
Chain of thought · Hluboké učení (deep learning) · ChatGPT Ads · Halucinace · Inference a latence · Jailbreak (AI) · Grounding · Klonování hlasu · Generativní AI · Kontextové okno · Foundation model · Malý jazykový model (SLM) · Fine-tuning · MCP (Model Context Protocol) · Few-shot a zero-shot prompting · Multi-agent systém · Evaluace modelů (evals) · Multimodální model · EU AI Act (nařízení o AI) · Náklady a limity AI · Embedding · Neuronová síť · Difuzní modely · NLP (zpracování přirozeného jazyka)
Pojmy do praxe
Potřebujete s nimi pomoct?
Pojmy jsou jedna věc, nasazení druhá. Projdeme, co z nich se vám vyplatí, a řekneme to na rovinu. První názor dostanete zdarma a odpovídáme do 24 hodin.
Sjednat call