Daniel & Friends / Slovník / Náklady a limity AI
AI a automatizaceNáklady a limity AI
Náklady na AI se skládají z předplatného nebo ceny za zpracované tokeny, z práce na zavedení a z dohledu. Limity určují, kolik dotazů, tokenů nebo souběžných požadavků smíte za časové období zpracovat, a mohou provoz zpomalit či zastavit.
Daniel Votruba ·
V praxi
Před nasazením spočítejte cenu na jeden úkol a nastavte rozpočtové stropy. Agenti, kteří volají model opakovaně, vyjdou výrazně dráž než jednorázový dotaz.
Související pojmy
- Token: Token je jednotka textu, se kterou jazykový model pracuje: obvykle zlomek slova nebo krátké slovo.
- Kontextové okno: Kontextové okno je množství textu, které model zvládne zpracovat najednou, včetně zadání a odpovědi.
- AI agent: AI agent je systém, který používá model k plnění cíle po krocích: plánuje, volá nástroje a upravuje postup podle výsledků.
- AI automatizace: AI automatizace je nasazení modelů do pracovních postupů, například třídění poptávek, příprava nabídek nebo reporty, které ušetří opakovanou práci.
- Velký jazykový model (LLM): Velký jazykový model je model natrénovaný na obrovském množství textu, který predikuje další slova a umí psát, shrnovat a odpovídat.
Další pojmy ze skupiny AI a automatizace
Neuronová síť · Multimodální model · NLP (zpracování přirozeného jazyka) · Multi-agent systém · No-code a low-code · MCP (Model Context Protocol) · Open-weight model · Malý jazykový model (SLM) · Personalizace pomocí AI · Počítačové vidění · Klonování hlasu · Prediktivní analytika · Jailbreak (AI) · Prompt · Inference a latence · Prompt engineering · ChatGPT Ads · Prompt injection · Chain of thought · Převod řeči na text (speech-to-text) · Human in the loop · Převod textu na řeč (text-to-speech) · Hluboké učení (deep learning) · RAG (retrieval-augmented generation)
Pojmy do praxe
Potřebujete s nimi pomoct?
Pojmy jsou jedna věc, nasazení druhá. Projdeme, co z nich se vám vyplatí, a řekneme to na rovinu. První názor dostanete zdarma a odpovídáme do 24 hodin.
Sjednat call