Bezpečnost a správa
Bezpečnost podnikové AI pokrývá více než jen autentizaci a filtrování obsahu. Také definuje, která data může agent získat, které nástroje může vykonávat, kdy musí osoba schválit akci, který model a region zpracovává žádost a jaké důkazy zůstávají po incidentu.
Použijte tuto sekci k navrhování těchto kontrol před spuštěním do produkce a k jejich přezkoumání, jak se nasazení mění.
Začněte zde
| Pokud potřebujete | Přečtěte si |
|---|---|
| Identifikovat specifické cesty útoků na AI | Model hrozeb AI |
| Chrání agenty před zlovolnými instrukcemi | Vkládání příkazů |
| Ovládat externí akce | Správa nástrojů a Lidské schválení |
| Omezit znalosti společnosti | Přístup k datům a RAG |
| Připravit důkazy a postupy reakce | Auditovatelnost a Reakce na incidenty |
| Vybrat schválené modely a místa zpracování | Správa modelů a Nasazení modelu a rezidence dat |
| Přezkoumat nasazení v EU | Připravenost na EU AI Act |
| Schválit spuštění do produkce | Kontrolní seznam pro spuštění AI |
Kontroly produktů a provozní kontroly
Siesta AI poskytuje kontroly produktů, jako jsou role, týmy, politiky sdílení, správa připojení, potvrzení funkcí, Prompt Shield, bezpečnost obsahu, limity tokenů, vykonávání nástrojů a protokol auditu. Tyto kontroly stále potřebují provozní model: pojmenované vlastníky, klasifikaci dat, pravidla schvalování, postupy pro incidenty, frekvenci přezkoumání a uchovávání důkazů.
Pro konfiguraci produktu také použijte: