Analiza ryzyk¶
Metoda¶
Ryzyko ma źródło, zdarzenie, skutek, prawdopodobieństwo, wpływ, controls, wskaźnik wczesny, właściciela i contingency. Skala: 1–5. Priorytet bazowy = P×I, lecz pojedynczy skutek katastroficzny może pozostać krytyczny mimo niskiego P.
Rejestr strategiczny¶
| Ryzyko | P | I | Główne controls | Wczesny sygnał / contingency |
|---|---|---|---|---|
| nieautoryzowany skutek agenta | 2 | 5 | typed tools, capabilities, approval, effect tests | policy deny anomaly / stop dispatch, revoke |
| self-grant lub self-activation | 1 | 5 | brak endpointu, separation of duties, governance approval | capability diff z propozycji / security incident |
| prompt injection | 4 | 4 | trust labels, context isolation, proposals only | wzrost blocked proposals / quarantine source |
| wyciek danych do providera | 2 | 5 | classification, minimization, egress approval | external bytes/data-class anomaly / revoke account |
| sekret w logu/artefakcie | 2 | 5 | handles, redaction, sentinel tests | secret scan hit / isolate + rotate |
| podwójna wysyłka/płatność | 2 | 5 | idempotency, one-time grant, reconciliation | duplicate platform IDs / freeze adapter |
| supply-chain pluginu | 3 | 5 | signed build, SBOM, mirror, effect containment | new dependency/network / revoke package |
| błędna migracja bazy | 2 | 5 | backup+restore, transaction, maintenance lock | integrity/foreign key fail / restore pre-migration |
| awaria sprzętu/storage | 3 | 4 | SMART, UPS, backup, spare, restore drill | media errors/capacity / drain+replace |
| vendor/model churn | 4 | 3 | Provider Interface, profiles, multiple models | EOL/license/quality drift / switch provider |
| brak ROI | 3 | 4 | baseline, narrow pilot, stop condition | review time > savings / revert process |
| custom-project trap | 4 | 4 | packages, SDK, partner model, scope gates | reuse ratio spada / productize or decline |
| support long tail | 4 | 4 | compatibility profiles, certification, EOL | tickets per connector / tier support |
| regulacje/odpowiedzialność | 3 | 5 | legal review, human decisions, audit | new obligation / limit domain/region |
| decyzje HR oparte na bias | 2 | 5 | no consequential auto HR, aggregation, review | disparity/complaints / suspend analytics |
| voice disclosure/consent | 3 | 4 | scripts, consent state, QA | missing disclosure / pause campaign |
| false negative vision | 3 | 5 | independent alarm, per-camera tests, health | drift/missed sample / fall back to manual |
| ryzyko fizyczne IoT | 2 | 5 | interlock, safe state, local control | stale sensor/receipt mismatch / disable action |
| KVM/management compromise | 2 | 5 | isolated VLAN, MFA, offline creds, audit | unknown login/config drift / local lockout |
| utrata zaufania społeczności | 3 | 4 | open contracts, export, transparent advisories | negative contributor/partner trend / governance change |
| niejasna licencja modeli | 3 | 4 | license registry, legal gates | missing proof/EOL / quarantine model |
| energia/hałas/koszt GPU | 4 | 3 | sizing, scheduler, power profiles | TCO above plan / smaller models/offload |
| wzrost złożoności A5 | 3 | 5 | staged autonomy, domain boundaries | cross-domain incidents / cap at A3/A4 |
| pojedynczy klucz signing | 2 | 5 | offline root, rotation, transparency | key anomaly / revoke + re-sign |
Ryzyka produktowe¶
Nadmierny zakres¶
Wizja obejmuje wiele domen. Bez sekwencjonowania może powstać zbiór półintegracji. Control: trzy pełne workflow end-to-end przed nową domeną, wspólny contract test kit i metryka reuse. Contingency: zamrożenie nowych adapterów, usunięcie niedojrzałych claims i koncentracja na dwóch wertykalach.
Iluzja autonomii¶
Demo może wyglądać dobrze, ale wymagać stałej ręcznej korekty. Control: liczenie review minutes, exception rate i rzeczywistych receipts. Contingency: obniżenie poziomu do A1, poprawa danych/procesu albo rezygnacja z automatyzacji.
UX approval fatigue¶
Zbyt wiele approvali prowadzi do bezmyślnego klikania. Control: pre-approved low-risk classes, grupowanie powiązanych decyzji bez ukrywania skutków, risk-based step-up i analiza reject/rework. Nie wolno rozwiązać problemu przez blanket approval dla agenta.
Ryzyka techniczne¶
Niedeterministyczność modelu¶
Structured output, retries i validator zmniejszają ryzyko, ale go nie usuwają. Krytyczne obliczenia i constraints są deterministyczne. Model proponuje, a test rozstrzyga. Przy niestabilności wersja traci eligibility.
Desktop automation¶
UI zmienia layout, focus i modalne okna. Preferencja API/CLI; App Session Registry; screenshot/state assertions; fail closed na nieznanym stanie. Dla konsekwencyjnej operacji UI automation wymaga dokładnego preview i human review albo nie jest dopuszczona.
Recovery nieprzetestowane¶
Schemat na papierze może zawieść. Kwartalny test elementów i roczny pełny restore, pomiar RTO, replacement of stale runbook. Niepowodzenie drill jest findingiem blokującym profile Critical.
Ryzyka rynkowe¶
Platformy aplikacji mogą wbudować własnych agentów. NORBI utrzymuje przewagę cross-application/local governance i nie konkuruje z funkcją wewnątrz jednej aplikacji. Spadek cen chmury zmniejsza przewagę kosztową, ale nie prywatność i recovery. Wzrost możliwości modeli zwiększa wartość Execution Fabric, ale może podnosić oczekiwania klienta.
Governance rejestru¶
Właściciele przeglądają top risks co miesiąc/kwartał zależnie od profilu. Incydent aktualizuje prawdopodobieństwo, controls i testy. Ryzyka nie są zamykane stwierdzeniem „zaakceptowane przez AI”. Acceptance ma człowieka, datę, uzasadnienie i termin ponownego review.