Sjednat call

Daniel & Friends / Slovník / AI safety a alignment

AI a automatizace

AI safety a alignment

AI safety je obor, který usiluje o to, aby systémy umělé inteligence fungovaly bezpečně a předvídatelně. Alignment je jeho součást: snaha sladit chování modelu s lidskými záměry a hodnotami, aby dělal to, co od něj uživatelé skutečně chtějí.

Daniel Votruba ·


V praxi

Firma by měla vybírat dodavatele s popsanými bezpečnostními testy a nasazovat AI nejdřív tam, kde je dopad chyby malý a snadno opravitelný.

Související pojmy

  • Guardrails (ochranná pravidla AI): Guardrails jsou technická a procesní pravidla, která hlídají vstupy i výstupy AI systému.
  • AI governance: AI governance je soubor pravidel, rolí a procesů, kterými firma řídí používání umělé inteligence.
  • Bias modelu (předsudky AI): Bias modelu je systematické zkreslení ve výstupech AI, které vzniká z nevyvážených trénovacích dat, návrhu modelu nebo způsobu zadání.
  • Halucinace: Halucinace je případ, kdy model uvede věrohodně znějící, ale nepravdivou informaci.
  • EU AI Act (nařízení o AI): EU AI Act je evropské nařízení o umělé inteligenci.

Další pojmy ze skupiny AI a automatizace

AI SDR · AI slop · AI crawlery (GPTBot a další) · AI vyhledávání (odpovědní motory) · AI automatizace · AI workflow a orchestrace · AI agent · Automatizační platformy (Zapier, Make, n8n) · Agentní AI · Vysvětlitelnost AI (XAI) · C2PA a původ obsahu (vodoznaky AI) · Volání nástrojů (function calling) · Copilot (AI asistent) · Vlastní GPTs a projekty · Deepfake a syntetická média · Vibe coding · Difuzní modely · Velký jazykový model (LLM) · Embedding · Vektorová databáze · Token · Evaluace modelů (evals) · Text-to-video · Few-shot a zero-shot prompting

Celý slovník (590 pojmů)

Pojmy do praxe

Potřebujete s nimi pomoct?

Pojmy jsou jedna věc, nasazení druhá. Projdeme, co z nich se vám vyplatí, a řekneme to na rovinu. První názor dostanete zdarma a odpovídáme do 24 hodin.

Sjednat call

Líbil se vám článek? Sdílejte ho s přáteli.