Realistická očekávání od AI
Velké jazykové modely dobře pracují s jazykem a vzory, ale plynulost není totéž co správnost. Očekávání nastavujte podle úlohy, důkazů a dopadu. Dohodnutou hranici promítněte do promptů agentů a pomocí Feedbacku ověřujte, zda ji skutečné výstupy splňují.
Vhodné použití
AI je obvykle dobrý pomocník pro shrnutí, návrhy textu, klasifikaci, překlady, extrakci polí, porovnávání dokumentů, hledání variant a odpovědi nad schválenými zdroji.
Spolehlivost klesá, když práce vyžaduje:
- přesné výpočty bez výpočetního nástroje,
- aktuální fakta bez živého připojení,
- přesné měření z technických obrázků,
- úplnou paměť mimo dodaný kontext,
- zcela deterministický výstup,
- právní, zdravotní, finanční nebo bezpečnostní úsudek bez experta.
Provozní hranice
| Hranice | Příklad |
|---|---|
| Povolené | Připravit návrh odpovědi ze schválených článků podpory |
| S kontrolou | Porovnat smluvní klauzule a označit možné rozdíly |
| Vyžaduje nástroj | Spočítat součty řízenou funkcí |
| Lidské rozhodnutí | Schválit smlouvu, platbu, nábor nebo bezpečnostní krok |
| Zakázané | Vymýšlet chybějící důkazy nebo obcházet přístup |
Prompty a workflow mají oddělovat doložená fakta, interpretace, předpoklady a otevřené otázky. Když důkaz chybí, správný výstup popíše mezeru.
Neslibujte univerzální procento přesnosti nebo úspory času. Měřte přijetí výstupu, závažnost oprav, čas k ověřenému výsledku, pokrytí důkazů, odmítnuté akce a adopci v cílovém procesu. Další kontroly popisuje AI Safety & Quality. Po dohodnutí této hranice pokračujte na Hledání AI iniciativ.