Úlohy, které AI nemá vlastnit

AI může připravit důkazy a možnosti, ale nemá sama rozhodovat s významným dopadem ani obcházet schválení.

Koncept

Právní, zdravotní, finanční, personální, bezpečnostní, oprávňovací a nevratná rozhodnutí nechte kvalifikovanému člověku. AI může vytáhnout kritéria, porovnat důkazy, připravit návrh nebo označit mezery. Pro přesná a aktuální data použijte schválené Tools, významné externí změny podmiňte lidským schválením a konečný stav ověřte v Tool Executions.

Příklad

Nebezpečný požadavek:

Schval tohoto dodavatele a odešli závazné potvrzení.

Nahraďte kontrolovatelnou pomocí:

Namapuj dodané důkazy na schvalovací kritéria. Vypiš mezery a rizika a
připrav návrh pro určeného schvalovatele. Nic neschvaluj ani neodesílej.

Kontrolní seznam

• Rozhodnutí vlastní konkrétní člověk.
• Agent nemůže obejít oprávnění ani schválení.
• Chybějící či rozporné důkazy jsou označené jako neznámé.
• Externí akce se před potvrzením zobrazí v náhledu.
• Výsledek lze ověřit a pokud možno vrátit zpět.

Dále rozlište opakovaně použitelné znalosti od dočasného kontextu v Context, Memory a Data.