Provozujeme AI kontrolovaně, měřitelně a v rámci rozpočtu.
AI není hotová jen proto, že byla jednou nasazena. Přesnost se časem zhoršuje, náklady nekontrolovaně rostou a hranice dat se stírají. Tato tři rizika podřizujeme provozní disciplíně.
Data, přesnost a náklady
Data a soukromí
- Písemná definice, která data jdou do kterého modelu a v jakém regionu
- Maskování nebo vyloučení osobních údajů ve vstupech
- Zajištění, že asistent nemá přístup k datům nad rámec oprávnění uživatele
- Ověření, že smlouvy s poskytovateli stanoví, že data nejsou používána k trénování modelů
- Auditovatelné uchovávání otázek, zdrojů a odpovědí
Přesnost a bezpečnost
- Pravidelné měření přesnosti pomocí evaluační sady (eval) specifické pro organizaci
- Ukotvení odpovědí v dokumentech a odmítání nepodložených odpovědí
- Testování odolnosti proti prompt injection a pokusům o exfiltraci dat
- Každá změna modelu nebo promptu musí nejprve projít evaluační sadou
Řízení nákladů
- Sledování tokenů a požadavků podle týmu, aplikace a případu užití
- Pro každý úkol model, který stačí, ne ten nejdražší
- Cache pro opakované dotazy
- Rozpočtová upozornění a srovnání nákladů služby a vlastní infrastruktury
Zásady používání a povědomí
- Zásady používání určující, která data lze zadávat do kterého nástroje
- Seznam schválených nástrojů a odhalování neschváleného používání (shadow IT)
- Školení povědomí zaměstnanců
- Povinné lidské schválení u vysoce rizikových případů užití
- Architektura, do které lze později doplnit požadavky na logování využití a lidský dohled
Přesnost se měří každý měsíc u každého asistenta v produkci. Pokud míra přesnosti klesá, příčina se prošetří a zdokumentuje v reportu.
Doplňující řešení
Platforma AI
Interní RAG asistenti, AI agenti a izolované (air-gapped) nasazení; v souladu s KVKK.
Kybernetická bezpečnost
SOC, penetrační testy, soulad se zákonem č. 5651 a Kuantum Pi pro malé a střední firmy.
Analytika a business intelligence
Datový sklad, data lake a BigQuery; rychlé dashboardy s Vispeahen a SU BOP.
Nezávazný začátek ve třech krocích.
Úvodní konzultace
Během 45 minut porozumíme Vašemu prostředí a prioritám. Zdarma.
Bezplatné předběžné posouzení
Po schůzce jednostránková zpráva s prvními zjištěními a doporučeními; zjištění zůstávají Vám. Kompletní kontrola stavu a zpráva o rizicích jsou součástí našich akceleračních balíčků.
Balíček nebo služba
Začněte akceleračním balíčkem, nebo přejděte rovnou ke spravovaným službám.