Daniel & Friends / Slovník / Jailbreak (AI)
AI a automatizaceJailbreak (AI)
Jailbreak je pokus přimět AI model, aby obešel vlastní bezpečnostní omezení, typicky chytře formulovaným zadáním, hrou na role nebo postupným posouváním hranic. Cílem je odpověď, kterou by model za běžných okolností odmítl.
Daniel Votruba ·
V praxi
Pokud nasazujete vlastního chatbota, otestujte ho před spuštěním na takové pokusy. Zakázaná témata hlídejte i mimo model, například filtrem na výstupu.
Související pojmy
- Prompt injection: Prompt injection je útok, při kterém škodlivý pokyn ukrytý v textu, e-mailu nebo na webové stránce přebije původní zadání modelu.
- Guardrails (ochranná pravidla AI): Guardrails jsou technická a procesní pravidla, která hlídají vstupy i výstupy AI systému.
- AI safety a alignment: AI safety je obor, který usiluje o to, aby systémy umělé inteligence fungovaly bezpečně a předvídatelně.
- Velký jazykový model (LLM): Velký jazykový model je model natrénovaný na obrovském množství textu, který predikuje další slova a umí psát, shrnovat a odpovídat.
Další pojmy ze skupiny AI a automatizace
Klonování hlasu · Inference a latence · Kontextové okno · ChatGPT Ads · Malý jazykový model (SLM) · Chain of thought · MCP (Model Context Protocol) · Human in the loop · Multi-agent systém · Hluboké učení (deep learning) · Multimodální model · Halucinace · Náklady a limity AI · Neuronová síť · Grounding · NLP (zpracování přirozeného jazyka) · Generativní AI · No-code a low-code · Foundation model · Open-weight model · Fine-tuning · Personalizace pomocí AI · Few-shot a zero-shot prompting · Počítačové vidění
Pojmy do praxe
Potřebujete s nimi pomoct?
Pojmy jsou jedna věc, nasazení druhá. Projdeme, co z nich se vám vyplatí, a řekneme to na rovinu. První názor dostanete zdarma a odpovídáme do 24 hodin.
Sjednat call