Architektura vrstvené bezpečnosti
Bezpečné nasazení AI používá více nezávislých kontrol. Filtr obsahu nemůže nahradit autorizaci a schvalovací dialog nemůže opravit agenta, který může získat nesprávná data.
Kontrolní vrstvy
| Vrstva | Kontroly | Hlavní otázka |
|---|---|---|
| Identita | SSO, role, týmy, životní cyklus, podmíněný přístup | Kdo je uživatel nebo služba? |
| Sdílení a autorizace | Soukromé/sdílené entity, přístup týmu, oprávnění k použití/úpravě | Co může identita vidět nebo spravovat? |
| Agent | Výzva, model, paměť, dovednosti, nástroje, rozhraní | Na co je agent navržen? |
| Data | Kolekce, oprávnění zdroje, klasifikace, uchovávání | Jaké znalosti mohou ovlivnit odpověď? |
| Nástroj | Připojení, rozsahy poskytovatelů, politika funkcí, validace | Které systémy může agent ovlivnit? |
| Schválení | Potvrzení na základě rizika a kontext schvalovatele | Které akce potřebují člověka? |
| Model | Schválení poskytovatelé, nasazení, regiony, hodnocení | Kde a jak je inference prováděna? |
| Bezpečnost | Ochrana výzvy, bezpečnost obsahu, testy kvality | Jaké škodlivé nebo nespolehlivé chování je omezeno? |
| Provoz | Záznamy, monitoring, limity, reakce, obnova | Může organizace detekovat a zvládnout selhání? |
Návrhový princip
Uplatněte důležité rozhodnutí na více než jedné vrstvě. Například produkční e-mailový agent může používat účet služby s rozsahem týmu, ve výchozím nastavení vystavit pouze funkce pro čtení a koncepty, vyžadovat potvrzení pro odeslání a zaznamenávat konečný výsledek poskytovatele. Pokud je jedna kontrola nesprávně nakonfigurována, jiná stále omezuje dopad.
Pořadí revize
Při odstraňování problémů s neočekávaným přístupem nebo akcí zkontrolujte vrstvy v tomto pořadí:
- identita a členství v týmu,
- sdílení a oprávnění entity,
- data agenta a přiřazení nástrojů,
- politika připojení a funkcí,
- historie schválení a provedení,
- oprávnění a záznamy externího poskytovatele.
Pro infrastrukturní vrstvy pokračujte s Referenční architekturou a Bezpečností sítě.