AI potřebuje jasné hranice přístupu k vašim datům.

S AI přibývá další cesta, kterou může chybný nebo podvržený vstup ovlivnit firemní systém. Prověříme, k jakým datům a akcím má agent přístup, a nastavíme ochrany v aplikaci i infrastruktuře.

Prověřit bezpečnost AI řešení

Zabezpečení aplikace i agenta

Kontrolujeme účty, tajemství, aktualizace, oddělení prostředí a obnovu ze záloh. U AI navíc řešíme podvržené instrukce v dokumentech, rozsah dostupných nástrojů, validaci výstupů a ochranu před únikem dat.

Pravidla musí vynucovat systém

Samotná instrukce v promptu nestačí. Omezíme dostupné operace a přístupy, citlivé kroky navážeme na potvrzení a nastavíme limity objemu práce i nákladů. Při problému musí být možné agenta odpojit bez ztráty kontroly nad aplikací.

Co bude výsledkem

Mapa datových toků, seznam rizik s prioritami, návrh či realizace náprav, testy dohodnutých scénářů a plán průběžného dohledu. Přesný rozsah prověření uvedeme v nabídce i závěrečném protokolu.

Připravujeme se průběžně

Bezpečnost vyžaduje aktualizace a pravidelné ověřování. Neslibujeme odolnost vůči všem budoucím útokům. Nabízíme konkrétní technická opatření a schopnost reagovat, když se změní aplikace, integrace nebo hrozby.

Rozsah prověření bude konkrétní

V zadání pojmenujeme posuzované aplikace, účty, datové zdroje a dostupné akce agenta. Výstup rozliší ověřené problémy, jejich dopad, doporučenou nápravu a oblasti mimo testovaný rozsah. Po úpravách znovu prověříme dohodnuté scénáře.

Jaké situace ověřujeme

Dokument obsahuje pokyn k neoprávněné akci nebo k odeslání dat mimo firmu.
Uživatel nebo agent se pokusí získat data, ke kterým nemá přístup.
Stejná úloha přijde opakovaně a nesmí vytvořit druhý doklad či jiný zápis.
Selže napojený systém, je překročen limit nákladů nebo je potřeba agenta zastavit.

Výběr testů přizpůsobujeme skutečnému řešení a jeho rizikům.

Časté otázky

Jde o ochranu před útoky pomocí AI, nebo o zabezpečení naší AI?

Obojí má odlišný rozsah. První část navazuje na zabezpečení webů a serverů. Druhá posuzuje samotné agenty, jejich vstupy, přístupy a akce. V nabídce je rozlišíme.