Človek v slučke nie je dohľad. Je to návrhová disciplína.

Podpis, ktorý nebol dohľadom

V poisťovacom makléri Marrowfield Specialty Risk vyústil tohtojarný audit triáže poistných udalostí do krátkej, nepríjemnej výmeny. Maklér s asi 150 zamestnancami na regulátorom dozorovanom trhu prevádzkoval systém AI na označovanie udalostí osemnásť mesiacov. Mariela Okafor, vedúca likvidácie poistných udalostí, sedela na svojej stoličke dvanásty rok. Likvidátori spracúvali viac než 200 prípadov denne; model označil zhruba 8 %. Audit vytiahol dve čísla: 96 % schválení pri prípadoch označených AI a priemerný čas revízie 23 sekúnd. Pracovník súladu sa spýtal: „Aké prahy ste si naladili?" Odpoveď znela: „Žiadne. Len schválim, čo mi AI pošle."

Marrowfield Specialty Risk je zliatina poskladaná z rozhovorov so špecializovanými maklérmi zo stredného trhu a z literatúry o súlade s pravidlami BoE/FCA a aktu EÚ o umelej inteligencii. Mená sú anonymizované; metriky ilustrujú vzorce z citovaných prieskumov.

Pred regulátormi na troch kontinentoch sa tá výmena dnes číta ako dôkaz chýbajúceho dohľadu. Dátum uplatniteľnosti aktu EÚ o umelej inteligencii z augusta 2026 dáva návrhovému zlyhaniu dátum do kalendára, no samotné zlyhanie je staršie než ten kalendár.

§1 — Pasívne schvaľovanie je divadlo, nie dohľad

Predvolený myšlienkový model — „AI označí, človek schváli" — je štrukturálne nerozoznateľný od nijakého dohľadu. Rozhranie na jedno tlačidlo, bez vstupných dát, bez uvažovania modelu a bez skóre spoľahlivosti, vyprodukuje presne tie metriky, ktoré vyplávali v Marrowfielde. Prevádzkový podpis zodpovedá plne automatizovanému pracovnému toku s človekom v pohotovosti.

Dozorné dáta to potvrdzujú na úrovni celej populácie. Prieskum BoE/FCA AI in UK Financial Services 2024 zistil, že „55 % všetkých prípadov použitia AI má istý stupeň automatizovaného rozhodovania, pričom 24 % z nich je poloautonómnych, t. j. hoci dokážu samostatne robiť celý rad rozhodnutí, sú navrhnuté tak, aby pri kritických alebo nejednoznačných rozhodnutiach zapájali ľudský dohľad" [9]. Z toho vyplýva — v súlade s tým, ako NIST AI 600-1 rámcuje riziko konfigurácie človek – AI — že väčšina populácie automatizovaného rozhodovania nemá zmysluplný bod zásahu.

Regulátori sa pohli, aby tú medzeru zatvorili. Pozícia ICO je jednoznačná: rozhodnutie nevypadáva z pôsobnosti článku 22 UK GDPR „len preto, že ho človek „opečiatkoval"" [2]. To isté usmernenie je v otázke prevádzkového dôkazu ešte ostrejšie: revízori, ktorí „rutinne súhlasia s výstupmi systému AI a nevedia preukázať, že ich skutočne posúdili", môžu byť podľa UK GDPR zatriedení ako výlučne automatizovaní [3]. Akt EÚ o umelej inteligencii kladie obdobný test v článku 14, keď žiada systémy „navrhnuté a vyvinuté tak ..., aby nad nimi mohli účinne vykonávať dohľad fyzické osoby" [1]. Slovo účinne nesie váhu v oboch právnych tradíciách. Návrhová otázka už neznie „je tam človek?", ale „je návrh taký, aby človek dokázal zachytiť, prevážiť a prerušiť — a urobil by to?".

§2 — HITL je prahový systém, nie revízny krok

Človek v slučke, braný vážne, je systém: explicitné prahy spoľahlivosti, tri rozhodovacie cesty, rizikovo vážiaca vrstva a politika frontu. Model vráti skóre spoľahlivosti na rozsahu 0,0 – 1,0 a uplatnia sa tri hranice — autozamietnutie pod dolnou hranicou, ľudská revízia v strednom pásme, autoschválenie nad hornou. Konzervatívne východiská pre regulované pracovné toky sa pohybujú okolo 0,3 / 0,95; stredná prevádzka pri 0,5 / 0,9; nízkoriziková klasifikácia pri 0,7 / 0,95. Hranice sú zámerne asymetrické: falošné pozitíva a falošné negatíva nesú odlišné náklady a prahový systém túto asymetriu zakóduje, namiesto toho, aby ju zahrabal do jediného čísla. NIST AI RMF 1.0 končí na tom istom mieste — jeho funkcia ZVLÁDAŤ „znamená pravidelne prideľovať zdroje na riadenie rizík k zmapovaným a zmeraným rizikám" [5], a prahy sú mechanizmom prideľovania, dimenzovaným podľa rizika, nie podľa pohodlia.

Navrch sadá rizikovo vážená vrstva. Spoľahlivosť sa násobí so skóre závažnosti obchodného rizika — výška škody, nezvratnosť rozhodnutia, regulačná expozícia — a vznikne smerovacia matica 3×3. Vysokorizikový prípad s nízkou spoľahlivosťou eskaluje na nadriadeného; vysokorizikový s vysokou spoľahlivosťou stále smeruje na štandardnú revíziu HITL, nie na autoschválenie. Voľba medzi dvojstupňovým a trojstupňovým usporiadaním je dôležitá: dvojstupňový systém nasmeruje každý neistý prípad do jedného frontu, front pretečie, likvidátori sa uchýlia k hromadnému schvaľovaniu — vzorec, ktorý vyprodukoval 96-percentnú mieru v Marrowfielde. Trojstupňový systém dáva autozamietnutiu produktívnu úlohu. Smerovanie závisí od centralizovanej stratégie AI^EN so schválenou sadou nástrojov, ktorá produkuje konzistentné skórovanie spoľahlivosti; živelné množenie nástrojov robí prahovú disciplínu nemožnou, lebo skóre z rôznych modelov nie sú porovnateľné.

§3 — Záložné cesty sa navrhujú, nie predpokladajú

„Záloha" nie je ošetrenie chýb. Je to explicitná vetva, ktorou sa systém vydá, keď je AI neistá — a potrebuje cestu, človeka a SLA. Pole pokrývajú tri návrhy.

Návrh A — synchrónny, s človekom v slučke: AI sa pozastaví a vráti prípad do frontu so záznamom vstupu, uvažovaním a spoľahlivosťou, oproti SLA 2 až 4 hodiny; vhodný pre rozhodnutia takmer v reálnom čase. Návrh B — asynchrónny, front na dávku: AI vráti predbežnú odpoveď a potom ju vyloží v dennej či týždennej dávke so spätným oknom na preváženie; vhodný pre prácu, ktorá nie je časovo kritická. Návrh C — hierarchický, eskalácia k odborníkovi: smeruje podľa neistoty AI a závažnosti rizika do viacstupňového fondu revízorov (štandardný → odborník → nadriadený) so SLA 4 h / 24 h / 72 h; vhodný pre regulované rozhodovanie — postúpenia v upisovaní, zdravotnícka triáž, označenia v oblasti súladu.

Každá záloha potrebuje menovaného vlastníka a zdokumentované SLA. Príručka AI od UK DSIT to kladie prevádzkovo — „jasne zdokumentované procesy revízie a eskalácie ... a revízna rada pre AI alebo rada na úrovni programu" [4] — a funkcia ZVLÁDAŤ z NIST AI RMF nesie ten istý pokyn z iného uhla, keď žiada monitorovanie po nasadení s menovanými kanálmi spätnej väzby. Auditný antivzor je vždy rovnaký: zberný front „ľudskej revízie" bez SLA a bez vlastníka, kde front rastie a odporúčanie AI sa stáva faktickým rozhodnutím. V Marrowfielde priradila prerábka každú zálohu: malé škody pod hranicou významnosti sa spracujú automaticky; prípady v strednom pásme bežia na Návrhu A so SLA 4 hodiny; prípady vo vysokom pásme a pod prahom bežia na Návrhu C s menovanými upisovateľmi. Fronty prestali byť jedným pretekajúcim kanálom a stali sa tromi výrobnými linkami s vlastnými metrikami a vlastníkmi.

§4 — Auditná stopa prevážení je dôkaz súladu

To, čo audítori v skutočnosti skúmajú, je log prevážení. Žiadny log — alebo log bez štruktúrovaného odôvodnenia — neobstojí v teste skôr, než sa akejkoľvek rozprávanej obhajobe dostane sluchu. Minimálnym artefaktom na jedno rozhodnutie HITL je pevná schéma: case_id, spoľahlivosť AI, odporúčanie AI, ID revízora, dĺžka revízie v sekundách, ľudské rozhodnutie, odôvodnenie preváženia, časová pečiatka, policy_version. Bez policy_version je stopa o rok neskôr nečitateľná, lebo prahy sa medzitým pohnú. Článok 14 ods. 4 aktu EÚ o umelej inteligencii vyžaduje, aby revízori dokázali „zasiahnuť do prevádzky ... alebo systém prerušiť" [1] — a prevádzkovým dôsledkom je, že tá schopnosť musí zanechať záznam, inak sa nestala. NIST AI 600-1 to kladie na úroveň úkonu: „Monitorovať a dokumentovať prípady, keď ľudskí operátori alebo iné systémy prevážia rozhodnutia generatívnej AI" [6]. Log je ústredným dôkazom zmysluplnej revízie.

Zodpovednosť žije proti prúdu od logu. AI Update od FCA stanovuje zásadu: „jasné línie zodpovednosti naprieč celým životným cyklom AI" [10]. Britské spoločnosti v režime SM&CR zaraďujú stack AI a prevádzky pod funkciu Chief Operations; americké spoločnosti prevádzkujú výbory pre AI na úrovni predstavenstva; spoločnosti v EÚ sa riadia usmerneniami EBA a ECB o zodpovednosti vrcholového manažmentu. Zásada je prenosná naprieč všetkými tromi tradíciami, čo robí budovanie riadenia AI od prvého dňa lacnejším než dorábanie. ISO/IEC 42001:2023 rámcuje širšiu sadu kontrol ako „integrovaný prístup k riadeniu projektov AI, od posúdenia rizík po ich účinné ošetrenie" [8].

Audítori hľadajú obrátené signály. Dĺžka revízie pod 10 sekúnd sa číta ako rituálne schvaľovanie. Miera schválení nad 98 % sa číta ako žiadna revízia. Prázdne pole odôvodnenia sa číta ako nezdokumentovaná zmysluplnosť. Viac než 200 rozhodnutí denne na revízora sa číta ako únava. Každý z nich je zistením sám osebe.

§5 — Ako udržiava štvrťročné ladenie HITL poctivý?

Prahy nie sú „nastav a zabudni". Modely driftujú, obchodné pravidlá sa menia, objavujú sa hraničné prípady. Štvrťročný cyklus je najlacnejšia disciplína, ktorá zabráni navrhnutému systému HITL skĺznuť späť do divadla, a nesie váhu naprieč jurisdikciami: test „účinného" dohľadu podľa článku 14 je bez neho nesplniteľný a funkcia ZVLÁDAŤ z NIST AI RMF očakáva zavedené „plány na uprednostňovanie rizík a pravidelné monitorovanie a zlepšovanie" [5].

Mesiac jeden — zmerajte základ: objem HITL za týždeň, miera prevážení podľa pásma spoľahlivosti, rozloženie času do rozhodnutia, miera eskalácie podľa stupňa. Mesiac dva — identifikujte signály driftu: pásma, kde preváženie presahuje 20 %, znamenajú, že model je nespoľahlivý a pásmo HITL treba rozšíriť alebo model pretrénovať; pásma pod 2 % možno bezpečne zúžiť; prípady Návrhu B bez revízie v rámci okna znamenajú, že dávkový proces je pokazený. Mesiac tri — upravte a zdokumentujte: aktualizujte definície prahov, zvýšte policy_version s dôvodom zmeny, informujte prevádzku, vynulujte základ.

Cyklus predpokladá kultúru revízorov, ktorá prevažovanie podporuje. ICO je v tom jednoznačné: zmysluplná revízia vyžaduje, aby „revízori mali právomoc prevážiť výstup vygenerovaný systémom AI a aby si boli istí, že za to nebudú postihnutí" [3]. To isté očakávanie sedí v americkom obstarávaní podľa NIST AI RMF aj v pravidlách zodpovednosti EÚ podľa EBA a ECB — odlišné jurisdikcie, totožný prevádzkový test. Tam, kde kultúra trestá odchýlku, sa miera prevážení zrúti z kultúrnych, nie technických dôvodov, a dáta, na ktorých cyklus stojí, sa stanú nečitateľnými. Príručka UK DSIT pomenúva vlastníctvo: cyklus vlastní revízna rada pre AI alebo rada na úrovni programu [4]. Typická odpoveď stredného trhu na otázku „kto to vlastní" je interné povýšenie — pozri argument, prečo najlepšie obsadenie roly vedúceho AI^EN sedí vnútri spoločnosti.

§6 — Ktorých päť antivzorov neobstojí v audite podľa článku 14?

V každom audite sa vynorí tých istých päť spôsobov zlyhania.

Rozhranie schváliť/zamietnuť na jedno tlačidlo. Revízor vidí len rozhodnutie. Príznak: miery schválení nad 95 percent, revízie pod 10 sekúnd. Náprava: ukázať spoľahlivosť, záznam vstupu a uvedené faktory neistoty. Článok 14 ods. 4 písm. b) je v otázke automatickej zaujatosti jednoznačný — revízori si musia „zachovať vedomie možného sklonu automaticky sa spoliehať alebo nadmerne sa spoliehať na výstup vyprodukovaný vysokorizikovým systémom AI" [1].

Jediný revízor, žiadna rotácia. Jeden prevádzkový riaditeľ reviduje každý prípad HITL. Príznak: víkendové úzke miesta, únavové chyby v závere dňa, jediný bod zlyhania. Náprava: vyškolený fond 3 – 5 revízorov na zdokumentovanom rozpise rotácie.

Prah nastavený raz, nikdy nenaladený. Predvolené hodnoty dodávateľa sedia nezmenené. Príznak: objem HITL ďaleko od pásma; miery prevážení podozrivo nízke alebo chronicky nad 20 %. Náprava: štvrťročný cyklus z §5.

Žiadne zachytávanie dôvodu preváženia. Revízori môžu prevážiť, no pole odôvodnenia je voliteľné alebo prázdne. Príznak: zmysluplnosť nemožno preukázať. Náprava: štruktúrované zachytávanie — rozbaľovacie pole s troma hlavnými dôvodmi plus pole na voľný text, oboje povinné.

Záložný front bez SLA. Prípady smerujú na „ľudskú revíziu" bez zodpovednosti za vyriešenie v rámci vymedzeného okna. Príznak: dĺžka frontu rastúca mesiac po mesiaci, revízori preskakujú staršie záznamy. Náprava: explicitné SLA na každú zálohu plus dashboard na monitorovanie frontu s menovaným vlastníkom. Rozptýlené vlastníctvo je štrukturálnym rizikom; prieskum BoE/FCA poznamenáva, že zodpovednosť „je často rozdelená, pričom väčšina spoločností hlási tri či viac zodpovedných osôb alebo orgánov" [9], a článok 14 aktu EÚ o umelej inteligencii kladie dohľad na menovanú „fyzickú osobu" [1].

§7 — Článok 14 a kalendár augusta 2026

Rámec súladu nie je divadlo viazané na jednu jurisdikciu. Viacero regulátorov sa zbieha na tom istom prevádzkovom teste; akt EÚ o umelej inteligencii naň pripína najverejnejší termín. Článok 113 stanovuje dátum uplatniteľnosti povinností pri vysokorizikových systémoch — vrátane článku 14 — na 2. augusta 2026 [1]. Od toho dátumu nesú túto povinnosť spoločnosti nasadzujúce AI vo vysokorizikových rozsahoch prílohy III (zamestnanosť, úverové hodnotenie, kritická infraštruktúra, údaje na presadzovanie práva).

Článok 22 UK GDPR je už záväzný a jeho testom je „zmysluplný ľudský vstup" [3] — právomoc, odborná spôsobilosť, zváženie vstupných dát a alternatív, podporná kultúra a žiadny postih za preváženie modelu. Tam, kde sa článok 22 uplatňuje — kdekoľvek má rozhodnutie právny alebo obdobne významný účinok — „opečiatkovanie" v teste neobstojí [2]. Americká pozícia nechýba: štatúty na úrovni štátov (Colorado AI Act, NYC AEDT, navrhované kalifornské pravidlá ADMT) a sektorové presadzovanie (FTC v otázke automatizovaného rozhodovania, NIST AI RMF ako referencia v obstarávaní pre federálne použitie) tlačia tú istú disciplínu. ISO/IEC 23894:2023 štandardizuje podkladový prístup k riadeniu rizík ako „usmernenie, ako môžu organizácie ... riadiť riziko špecificky súvisiace s AI" [7] — najčistejšiu neregulačnú kotvu pre trhy, ktorých AI-špecifické štatúty ešte nenadobudli účinnosť, a chrbticu každej viacjurisdikčnej prevádzkovej politiky.

Sektoroví regulátori pointu posilňujú: FCA je technologicky neutrálna [10], ekvivalenty v EÚ podľa EBA a ECB sa zhodujú na zodpovednosti vrcholového manažmentu a prieskum BoE/FCA 2024 ukazuje, že zodpovednosť je vo väčšine prieskumom podchytených spoločností zvyčajne roztrieštená medzi tri či viac zodpovedných strán [9].

Návrhové otázky z §§2 – 5 sú otázkami súladu naprieč tromi právnymi tradíciami. Postaviť HITL takto sa platí raz; dorobiť ho po zlyhaní auditu sa platí každý štvrťrok.

§8 — Ako vyzerá štvortýždňový návrhový šprint HITL?

Prerábka je ohraničená: šprint vedúceho prevádzky, nie program.

Týždeň 1 — zmerajte súčasný stav. Zinventarizujte každý krok „ľudskej revízie". Vytiahnite miery schválení, rozloženia dĺžky revízie, stav zachytávania prevážení, dĺžky frontov. Podpis pasívneho schvaľovania: vysoká miera schválení, nízka dĺžka revízie, žiadne štruktúrované odôvodnenie preváženia.

Týždeň 2 — navrhnite rozhodovacie cesty. Nastavte hranice spoľahlivosti pre každý pracovný tok podľa východísk z §2. Navrhnite záložné cesty podľa §3. Vymedzte schému auditu prevážení podľa §4. Zdokumentujte policy_version v1.0 s hodnotami prahov, vlastníkmi a SLA.

Týždeň 3 — implementujte, vyškoľte, zbierajte dáta. Zapojte zmeny rozhrania — na obrazovke revízora ukážte uvažovanie a spoľahlivosť modelu. Vyškoľte fond revízorov na vyriešených príkladoch. Spustite živú prevádzku s plným auditným logovaním od prvého dňa.

Týždeň 4 — prvá ladiaca revízia a dokumentácia pripravená na audit. Spustite cyklus z §5 voči dátam z tretieho týždňa; zjavné signály driftu vyplávajú aj na krátkom okne. Poskladajte balík artefaktov: definície prahov, dashboard miery prevážení, inventár eskalačných ciest, mapu vlastníctva. Výsledkom je pozícia, ktorú možno otestovať voči 50 otázkam, ktoré si rozhodovatelia kladú pred zavedením AI^EN a ktoré pokrývajú otázky Q3.10, Q5.4, Q5.5 a Q5.7.

Nákladové pásmo: 20 – 40 hodín času vedúceho prevádzky. Výstup: protokol dohľadu pripravený na článok 14, „zmysluplná revízia" obhájiteľná podľa článku 22 a funkcia ZVLÁDAŤ zosúladená s NIST RMF.

Od podpisu k disciplíne

Štyri týždne po prerábke sa prevádzkový obraz posunul. Objem HITL na pracovnom toku poistných udalostí klesol o 70 %, lebo autozamietnutie robí skutočnú prácu na pásme pod prahom. Priemerný čas revízie pri prípadoch, ktoré sa k HITL dostanú, stúpol na zhruba štyri minúty — čas, ktorý štruktúrovaná revízia naozaj zaberie. Miera prevážení sa ustálila na 14 %, vnútri zdravého pásma 5 – 20 %, pričom každý prevážený prípad nesie štruktúrované odôvodnenie. Otázka pracovníka súladu má teraz odpoveď s pripnutými číslami verzií.

Rozdiel medzi auditným divadlom a pred auditom obhájiteľným dohľadom nie je v tom, ako vážne spoločnosť hovorí o ľudskej revízii. Je v tom, či je revízia navrhnutým prahovým systémom, alebo schválením na jedno kliknutie. Jedno obstojí v článku 14. Druhé nie.

Ak chcete prečítať, kde návrh HITL stojí naprieč regulovanými pracovnými tokmi vašej organizácie, easy-audit.ai to zmapuje v dvoch hodinách štruktúrovaných otázok.

Zhrnutie

HITL — designed oversight, not passive sign-off
│
├─ The failure · audit theatre
│   ├─ Passive sign-off — one-click approve, no reasoning shown
│   └─ Rubber-stamp test — >98% approve, <10s review fails it
│
├─ The system · thresholds & routes
│   ├─ Three routes — auto-reject / HITL review / auto-approve
│   ├─ Risk overlay — confidence × severity sets escalation
│   └─ Fallback paths — named owner, SLA, override audit log
│
└─ The discipline · stays honest
    ├─ Healthy band — 5–20% override; outside it, tune or retrain
    └─ Quarterly cycle — measure, spot drift, re-version, document