Služby za běhu
Siesta AI používá nezávisle nasaditelné služby, aby bylo možné zabezpečit a škálovat veřejný přístup, platformní API, pracovní zátěže, externí nástroje a zpracování na pozadí odděleně.
Skupiny pracovních zátěží
| Pracovní zátěž | Účel | Operační zaměření |
|---|---|---|
| Frontend | Uživatelská a vestavěná rozhraní | TLS, politika původu, zdraví, dostupnost pro uživatele |
| Platform API | Autentizace, entity, agenti, pracovní postupy, obchodní logika | Autorizace, zdraví databáze, latence, auditní korelace |
| Retrieval API | Operace vyhledávání a získávání v čase dotazu | Soukromý přístup, latence vyhledávání, závislosti modelu a indexu |
| Retrieval worker | Příjem, extrakce, chunkování, embeddingy, indexování | Hluboké fronty, opakování, jedovaté položky, propustnost, kvóta |
| Tool service | Řízené volání do externích systémů | Rozsah pověření, schválení, selhání poskytovatele, odchozí provoz |
| Funkční a plánované pracovní zátěže | Zpracování na základě událostí a na pozadí | Identita, idempotentnost, opakování, časový limit, zpracování nedoručitelných zpráv |
Požadavky na produkci
Každá pracovní zátěž by měla mít:
- dedikovanou identitu za běhu, kde je to praktické,
- explicitní příchozí a odchozí síťové cesty,
- minimální a maximální škálování odpovídající pracovní zátěži,
- spouštěcí a zdravotní kontroly,
- omezené opakování a časové limity,
- strukturované protokoly, metriky, stopy a korelační ID,
- zdokumentované závislosti a chování při selhání,
- cestu pro návrat nebo obnovu.
Vyhněte se vkládání tajemství přímo do hodnot prostředí za běhu. Odkazujte na úložiště tajemství nebo získávejte tajemství prostřednictvím identity pracovní zátěže. Oddělte statickou konfiguraci od hodnot klasifikovaných jako tajné, jak je popsáno v Tajemství a konfigurace.