A „human-in-the-loop” nem felügyelet. Hanem tervezési fegyelem.

A jóváhagyás, amely nem volt az

A Marrowfield Specialty Risk tavaszi kárrendezési triázs-auditja rövid, kínos szóváltást szült. A mintegy 150 fős, szabályozói felügyelet alatt álló piacon működő biztosítási alkusz tizennyolc hónapja üzemeltetett egy MI-alapú jelzőrendszert. Mariela Okafor, a kárrendezési operatív vezető, tizenkét éve töltötte be a pozíciót. A kárrendezők naponta több mint 200 ügyet dolgoztak fel; a modell nagyjából 8%-ot jelölt meg. Az audit két számot emelt ki: 96% jóváhagyás az MI által megjelölt ügyeknél, 23 másodperc átlagos felülvizsgálati idő. A megfelelőségi tisztviselő megkérdezte: „Milyen küszöbökre hangolt?” A válasz: „Semmilyenre. Csak jóváhagyom, amit az MI küld.”

A Marrowfield Specialty Risk egy összevont, fiktív szervezet, amelyet a középpiaci szakbiztosítási alkuszokkal készített interjúkból, valamint a BoE/FCA és az MI-rendelet megfelelőségi szakirodalmából állítottunk össze. A nevek anonimizáltak; a mutatók a hivatkozott felmérésekben tapasztalt mintázatokat szemléltetik.

Három kontinens szabályozóinál ez a szóváltás ma a hiányzó felügyelet bizonyítékaként olvasható. Az MI-rendelet 2026. augusztusi alkalmazási dátuma naptárhoz köti a tervezési hibát, de a hiba régebbi, mint a naptár.

§1 — A passzív jóváhagyás auditszínház, nem felügyelet

Az alapértelmezett gondolati modell – „az MI jelez, az ember jóváhagy” – szerkezetileg megkülönböztethetetlen a felügyelet hiányától. Egy egygombos felület bemeneti adatok, modellérvelés és megbízhatósági pontszám nélkül pontosan azokat a mutatókat termeli, amelyeket a Marrowfield felszínre hozott. A működési lenyomat egy teljesen automatizált munkafolyamatéval egyezik, amelyben egy ember készenlétben áll.

A felügyeleti adatok ezt népességszinten is alátámasztják. A BoE/FCA AI in UK Financial Services 2024 felmérése szerint „az összes MI-felhasználási eset 55%-ában van valamilyen fokú automatizált döntéshozatal, és ezek 24%-a részben autonóm, azaz bár önállóan többféle döntést tud hozni, úgy tervezték őket, hogy a kritikus vagy kétértelmű döntésekhez emberi felügyelet kapcsolódjon” [9]. A következtetés – összhangban azzal, ahogyan a NIST AI 600-1 az ember–MI konfiguráció kockázatát keretezi – az, hogy az automatizált döntéshozatallal érintett populáció nagy részében nincs érdemi beavatkozási pont.

A szabályozók elindultak a rés bezárására. Az ICO álláspontja egyértelmű: egy döntés nem kerül a UK GDPR Article 22 hatályán kívülre „pusztán azért, mert egy ember »lepecsételte«” [2]. Ugyanez az iránymutatás élesebb a működési bizonyítékot illetően: azok a felülvizsgálók, akik „rendszeresen egyetértenek az MI-rendszer kimeneteivel, és nem tudják igazolni, hogy érdemben értékelték volna azokat”, a UK GDPR szerint kizárólag automatizáltnak minősülhetnek [3]. Az MI-rendelet a 14. cikkben párhuzamos tesztet állít fel, megkövetelve, hogy a rendszereket „úgy tervezzék és fejlesszék ... hogy azokat természetes személyek ténylegesen felügyelhessék” [1]. A ténylegesen szó mindkét jogi hagyományban teherviselő. A tervezési kérdés többé nem az, hogy „van-e ott ember?”, hanem az, hogy „olyan-e a kialakítás, hogy egy ember észlelni, felülbírálni és megszakítani tud – és meg is tenné?”.

§2 — A HITL küszöbrendszer, nem felülvizsgálati lépés

A „human-in-the-loop” (HITL) – azaz az ember a döntési hurokban, a folyamatba épített emberi beavatkozás –, komolyan véve, egy rendszer: kifejezett megbízhatósági küszöbök, három döntési útvonal, kockázatsúlyozott réteg és egy sorkezelési szabály. A modell egy megbízhatósági pontszámot ad vissza a 0,0–1,0 tartományon, és három határérték érvényesül: automatikus elutasítás az alsó határ alatt, emberi felülvizsgálat a középső sávban, automatikus jóváhagyás a felső felett. A szabályozott munkafolyamatok óvatos kiindulópontjai 0,3 / 0,95 körül vannak; a mérsékelt műveletekéi 0,5 / 0,9 közelében; az alacsony kockázatú besorolásé 0,7 / 0,95. A határértékek szándékosan aszimmetrikusak: a téves pozitív és a téves negatív találatok eltérő költséggel járnak, és a küszöbrendszer ezt az aszimmetriát kódolja le, ahelyett hogy egyetlen számba temetné. A NIST AI RMF 1.0 ugyanide jut – a MANAGE funkciója „a feltérképezett és mért kockázatokhoz rendszeres időközönként kockázatkezelési erőforrások hozzárendelését jelenti” [5], és a küszöbök maguk az elosztási mechanizmus, kockázathoz, nem kényelemhez méretezve.

Erre épül egy kockázatsúlyozott réteg. A megbízhatóság egy üzleti kockázatsúlyossági pontszámmal szorzódik – kárösszeg, a döntés visszafordíthatatlansága, szabályozói kitettség –, így egy 3×3-as útválasztási mátrix áll elő. Egy nagy kockázatú, alacsony megbízhatóságú ügy felettesi szintre eszkalálódik; a nagy kockázatú, magas megbízhatóságú ügy továbbra is a szokásos HITL-felülvizsgálatba kerül, nem automatikus jóváhagyásba. A kéttagú kontra háromtagú döntés számít: egy kéttagú rendszer minden bizonytalan ügyet egyetlen sorba terel, a sor túlcsordul, a kárrendezők pedig a tömeges jóváhagyáshoz térnek vissza – ez a mintázat termelte a Marrowfield 96%-os arányát. Egy háromtagú rendszer az automatikus elutasításnak is produktív szerepet ad. Az útválasztás egy központosított MI-stratégiától^EN függ, amely jóváhagyott eszközkészlettel következetes megbízhatósági pontozást állít elő; az eseti eszközök elburjánzása lehetetlenné teszi a küszöbfegyelmet, mert a különböző modellek pontszámai nem összehasonlíthatók.

§3 — A tartalék útvonalakat megtervezik, nem belekódolják hallgatólagosan

A „tartalék” nem hibakezelés. Az a kifejezett ág, amelyre a rendszer akkor lép, amikor az MI bizonytalan, és szüksége van egy útvonalra, egy emberre, egy SLA-ra. Három kialakítás lefedi a terepet.

„A” kialakítás – szinkron, emberrel a hurokban: az MI megáll, és a bemeneti rekorddal, az érveléssel és a megbízhatósággal együtt visszateszi az ügyet egy sorba, 2–4 órás SLA mellett; a közel valós idejű döntésekhez illik. „B” kialakítás – aszinkron, kötegelt sorba helyezés: az MI ideiglenes választ ad, majd egy napi vagy heti kötegben jeleníti meg, utólagos felülbírálási ablakkal; az időkritikusnak nem számító munkához illik. „C” kialakítás – hierarchikus, szakértői eszkaláció: az MI bizonytalansága és a kockázat súlyossága szerint egy többszintű felülvizsgálói körbe (szokásos → szakértő → felettes) irányít, 4 órás / 24 órás / 72 órás SLA-val; a szabályozott döntéshozatalhoz illik – kockázatvállalási eszkalációk, orvosi triázs, megfelelőségi jelzések.

Minden tartalék útvonalnak kell egy nevesített gazda és egy dokumentált SLA. A UK DSIT AI Playbook ezt működési oldalról fogalmazza meg – „egyértelműen dokumentált felülvizsgálati és eszkalációs folyamatok ... és egy MI-felülvizsgálati testület vagy programszintű testület” [4] –, a NIST AI RMF MANAGE pedig ugyanezt az utasítást hordozza más szögből, megkövetelve a bevezetés utáni felügyeletet nevesített visszacsatolási csatornákkal. Az audit anti-mintázata következetes: egy gyűjtő „emberi felülvizsgálat” sor SLA és gazda nélkül, ahol a sor nő, és az MI ajánlása lesz a tényleges döntés. A Marrowfieldnél az újratervezés mindegyik tartalék útvonalhoz hozzárendelt egy gazdát: egy lényegességi sáv alatti kis károk automatikusan feldolgozódnak; a középsávos ügyek az „A” kialakítást futtatják 4 órás SLA-val; a magas sávos és a küszöb alatti ügyek a „C” kialakítást nevesített kockázatvállalókkal. A sorok megszűntek egyetlen túlcsorduló csatornának lenni, és három termelési vonallá váltak, saját mutatókkal és gazdákkal.

§4 — A felülbírálási napló a megfelelőségi tanúsíték

Amit az auditorok valójában megvizsgálnak, az a felülbírálási napló. A napló hiánya, vagy strukturált indok nélküli napló, már azelőtt megbukik a teszten, hogy bármilyen szöveges védekezés meghallgatásra kerülne. A minimális tanúsíték HITL-döntésenként egy rögzített séma: case_id, MI-megbízhatóság, MI-ajánlás, felülvizsgáló azonosítója, felülvizsgálati idő másodpercben, emberi döntés, a felülbírálás indoka, időbélyeg, policy_version. A policy_version nélkül a nyom egy év múlva értelmezhetetlen, mert a küszöbök addigra elmozdulnak. Az MI-rendelet 14. cikkének (4) bekezdése megköveteli, hogy a felülvizsgálók „beavatkozhassanak a működésbe ... vagy megszakíthassák a rendszert” [1] – a működési következmény pedig az, hogy a képességnek nyomot kell hagynia, különben meg sem történt. A NIST AI 600-1 cselekvési szinten teszi le: „Felügyeld és dokumentáld azokat az eseteket, amikor emberi kezelők vagy más rendszerek felülbírálják a generatív MI döntéseit” [6]. A napló az érdemi felülvizsgálat központi bizonyítéka.

A felelősség a napló felett, az adatfolyam korábbi szakaszában él. Az FCA AI Update-je rögzíti az elvet: „egyértelmű felelősségi vonalak az MI teljes életciklusán át” [10]. A UK SM&CR cégei az MI- és működési készletet a vezető működési (Chief Operations) funkcióhoz rendelik; az amerikai cégek igazgatótanácsi szintű MI-bizottságokat működtetnek; az uniós cégek az EBA és az EKB vezetői felelősségről szóló iránymutatását követik. Az elv hordozható a három hagyományon át, ami olcsóbbá teszi az MI-irányítás első naptól való felépítését az utólagos beépítésnél. Az ISO/IEC 42001:2023 a tágabb kontrollkészletet úgy keretezi, mint „integrált megközelítést az MI-projektek kezeléséhez, a kockázatértékeléstől e kockázatok hatékony kezeléséig” [8].

Az auditorok ellentétes jelzéseket keresnek. A 10 másodperc alatti felülvizsgálati idő formális jóváhagyásnak olvasható. A 98% feletti jóváhagyási arány a felülvizsgálat hiányának. Egy üres indokmező az érdemiség dokumentálatlanságának. A napi 200-nál több döntés felülvizsgálónként a kimerültségnek. Mindegyik önmagában is egy-egy auditmegállapítás.

§5 — Hogyan tartja a negyedéves hangolás őszintén a HITL-t?

A küszöbök nem „beállít és elfelejt” jellegűek. A modellek sodródnak, az üzleti szabályok változnak, új peremesetek bukkannak fel. A negyedéves ciklus a legolcsóbb fegyelem, amely megóvja a megtervezett HITL-rendszert attól, hogy színházzá süllyedjen vissza, és súlya van a joghatóságokon át: a 14. cikk „tényleges” felügyeleti tesztje nélküle kielégíthetetlen, a NIST AI RMF MANAGE pedig elvárja, hogy „a kockázatok rangsorolására, valamint a rendszeres felügyeletre és javításra” vonatkozó tervek készen álljanak [5].

Első hónap – mérd a kiindulási alapot: heti HITL-mennyiség, megbízhatósági sávonkénti felülbírálási arány, a döntésig eltelt idő eloszlása, szintenkénti eszkalációs arány. Második hónap – azonosítsd a sodródás jeleit: azok a sávok, ahol a felülbírálás meghaladja a 20%-ot, azt jelentik, hogy a modell megbízhatatlan, és a HITL-sávot szélesíteni kell, vagy a modellt újra kell tanítani; a 2% alatti sávok biztonságosan szűkíthetők; azok a „B” kialakítású ügyek, ahol az ablakon belül nem történt felülvizsgálat, azt jelzik, hogy a kötegelt folyamat hibás. Harmadik hónap – igazíts és dokumentálj: frissítsd a küszöbdefiníciókat, növeld a policy_version-t a változás indokával, értesítsd a működést, állítsd vissza a kiindulási alapot.

A ciklus feltételez egy felülvizsgálói kultúrát, amely támogatja a felülbírálást. Az ICO egyértelmű: az érdemi felülvizsgálat megköveteli, hogy „a felülvizsgálóknak legyen felhatalmazásuk az MI-rendszer által generált kimenet felülbírálására, és bizonyosak legyenek abban, hogy ezért nem éri őket hátrány” [3]. Ugyanez az elvárás ott van az amerikai közbeszerzésben a NIST AI RMF alatt, és az uniós felelősségi szabályokban az EBA és az EKB alatt – eltérő joghatóságok, azonos működési teszt. Ahol a kultúra bünteti az eltérést, ott a felülbírálási arányok kulturális, nem technikai okból omlanak össze, és az adat, amelyre a ciklus támaszkodik, értelmezhetetlenné válik. A UK DSIT Playbook nevesíti a gazdát: egy MI-felülvizsgálati testület vagy programszintű testület birtokolja a ciklust [4]. A tipikus középpiaci válasz a „ki birtokolja ezt” kérdésre a belső előléptetés – lásd az érvet amellett, hogy a legjobb MI-vezetői hire^EN a házon belül van.

§6 — Melyik öt anti-mintázat bukik el egy 14. cikk szerinti auditon?

Ugyanaz az öt hibamód bukkan fel minden auditon.

Egygombos jóváhagyó/elutasító felület. A felülvizsgáló csak a döntést látja. Tünet: 95% feletti jóváhagyási arányok, 10 másodperc alatti felülvizsgálatok. Megoldás: jelenítsd meg a megbízhatóságot, a bemeneti rekordot és a megnevezett bizonytalansági tényezőket. A 14. cikk (4) bekezdésének b) pontja kifejezett az automatizáltság-elfogultságról – a felülvizsgálóknak „tudatában kell maradniuk annak a lehetséges hajlamnak, hogy automatikusan vagy túlzottan ráhagyatkozzanak egy nagy kockázatú MI-rendszer által előállított kimenetre” [1].

Egyetlen felülvizsgáló, rotáció nélkül. Egyetlen operatív igazgató vizsgál felül minden HITL-ügyet. Tünet: hétvégi torlódások, fáradtsági hibák a nap végén, egyetlen meghibásodási pont. Megoldás: egy 3–5 fős, képzett felülvizsgálói kör dokumentált rotációs ütemterv szerint.

Egyszer beállított, soha nem hangolt küszöb. A szállítói alapértékek változatlanul állnak. Tünet: a HITL-mennyiség messze a sávtól; a felülbírálási arányok gyanúsan alacsonyak vagy tartósan 20% felett. Megoldás: a §5 negyedéves ciklusa.

Nincs felülbírálásiindok-rögzítés. A felülvizsgálók felülbírálhatnak, de az indokmező nem kötelező, vagy üres. Tünet: az érdemiség nem igazolható. Megoldás: strukturált rögzítés – egy legjobb-három-ok legördülő lista plusz egy szabadszöveges mező, mindkettő kötelező.

Tartaléksor SLA nélkül. Az ügyek „emberi felülvizsgálatba” kerülnek, anélkül hogy bárki felelne a meghatározott ablakon belüli lezárásukért. Tünet: hónapról hónapra növekvő sorhossz, a felülvizsgálók átugorják a régebbi tételeket. Megoldás: kifejezett SLA tartalék útvonalanként, plusz egy sorfelügyeleti műszerfal nevesített gazdával. A szétszórt felelősség a szerkezeti kockázat; a BoE/FCA felmérés megjegyzi, hogy a felelősség „gyakran megoszlik, a legtöbb cég három vagy több felelős személyt vagy testületet jelent” [9], az MI-rendelet 14. cikke pedig a felügyeletet egy nevesített „természetes személyre” helyezi [1].

§7 — A 14. cikk és a 2026. augusztusi naptár

A megfelelőségi keret nem joghatóság-specifikus színház. Több szabályozó ugyanarra a működési tesztre konvergál; az MI-rendelet csatolja a legnyilvánosabb határidőt. A 113. cikk a nagy kockázatú kötelezettségek – köztük a 14. cikk – alkalmazási dátumát 2026. augusztus 2-ban állapítja meg [1]. Ettől a dátumtól a nagy kockázatú III. melléklet szerinti hatókörökben (foglalkoztatás, hitelpontozás, kritikus infrastruktúra, bűnüldözési adatok) MI-t bevezető cégekre hárul a kötelezettség.

A UK GDPR Article 22 már kötelező, és a tesztje az „érdemi emberi közreműködés” [3] – felhatalmazás, jártasság, a bemeneti adatok és az alternatívák mérlegelése, támogató kultúra, és semmilyen hátrány a modell felülbírálásáért. Ahol az Article 22 alkalmazandó – ahol egy döntésnek jogi vagy hasonlóan jelentős hatása van –, ott a „lepecsételés” elbukik a teszten [2]. Az amerikai álláspont sem hiányzik: a tagállami szintű törvények (Colorado AI Act, NYC AEDT, Kalifornia javasolt ADMT-szabályai) és az ágazati végrehajtás (FTC az automatizált döntéshozatalról, a NIST AI RMF mint szövetségi felhasználáshoz hivatkozott közbeszerzési referencia) ugyanezt a fegyelmet sürgeti. Az ISO/IEC 23894:2023 az alapul szolgáló kockázatkezelési megközelítést úgy szabványosítja, mint „iránymutatás arról, hogyan kezelhetik a szervezetek ... a kifejezetten az MI-vel kapcsolatos kockázatot” [7] – a legtisztább nem szabályozói horgony azon piacok számára, amelyek MI-specifikus törvényei még nem léptek hatályba, és a gerince bármely több joghatóságra kiterjedő működési szabályzatnak.

Az ágazati szabályozók megerősítik a pontot: az FCA technológiasemleges [10], az EBA és az EKB alatti uniós megfelelői a vezetői felelősségben összehangolódnak, a BoE/FCA 2024-es felmérése pedig azt mutatja, hogy a felelősség a legtöbb felmért cégnél jellemzően három vagy több felelős fél között szétaprózódik [9].

A §§2–5 tervezési kérdései a megfelelőségi kérdések három jogi hagyományon át. A HITL ilyen felépítését egyszer fizetik meg; az auditbukás utáni utólagos beépítést minden negyedévben.

§8 — Hogyan néz ki a négyhetes HITL-tervezési sprint?

Az újratervezés behatárolt: egy operatívvezetői sprint, nem egy program.

1. hét – mérd fel a jelenlegi állapotot. Vedd számba minden „emberi felülvizsgálat” lépést. Húzd le a jóváhagyási arányokat, a felülvizsgálati idő eloszlásokat, a felülbírálás-rögzítés állapotát, a sorhosszakat. A passzív jóváhagyás lenyomata: magas jóváhagyási arány, alacsony felülvizsgálati idő, strukturált felülbírálási indok hiánya.

2. hét – tervezd meg a döntési útvonalakat. Állítsd be a megbízhatósági határértékeket munkafolyamatonként a §2 kiindulópontjaival. Tervezd meg a tartalék útvonalakat a §3 szerint. Határozd meg a felülbírálási naplósémát a §4 szerint. Dokumentáld a policy_version v1.0-t a küszöbértékekkel, gazdákkal és SLA-kkal.

3. hét – valósíts meg, képezz, gyűjts adatot. Kösd be a felületi változtatásokat – jelenítsd meg a modellérvelést és a megbízhatóságot a felülvizsgálói képernyőn. Képezd a felülvizsgálói kört kidolgozott példákon. Indítsd el az éles működést teljes auditnaplózással az első naptól.

4. hét – első hangolási felülvizsgálat és auditkész dokumentáció. Futtasd a §5 ciklusát a 3. heti adatokon; a nyilvánvaló sodródási jelek rövid ablakon is felszínre kerülnek. Állítsd össze a tanúsítékcsomagot: küszöbdefiníciók, felülbírálásiarány-műszerfal, eszkalációsútvonal-leltár, felelősségi térkép. Az eredmény az a pozíció, amelyet a döntéshozók által az MI-bevezetés előtt feltett 50 kérdéssel^EN lehet tesztelni, amely a Q3.10, Q5.4, Q5.5 és Q5.7 kérdéseket fedi le.

Költségsáv: 20–40 óra operatívvezetői idő. Kimenet: egy 14. cikkre kész felügyeleti protokoll, egy 22. cikk szempontjából védhető „érdemi felülvizsgálat” pozíció, és egy NIST-RMF-fel összehangolt MANAGE funkció.

A jóváhagyástól a fegyelemig

Négy héttel az újratervezés után a működési kép elmozdult. A kárrendezési munkafolyamat HITL-mennyisége 70%-kal csökkent, mert az automatikus elutasítás valódi munkát végez a küszöb alatti sávon. A HITL-be ténylegesen eljutó ügyek átlagos felülvizsgálati ideje mintegy négy percre nőtt – annyira, amennyit a strukturált felülvizsgálat valójában igénybe vesz. A felülbírálási arány 14%-on stabilizálódott, az egészséges 5–20%-os sávon belül, és minden felülbírált ügy strukturált indokot visz magával. A megfelelőségi tisztviselő kérdésére most már van válasz, verziószámokkal csatolva.

A különbség az auditszínház és az auditálható felügyelet között nem az, milyen komolyan beszél egy cég az emberi felülvizsgálatról. Hanem az, hogy a felülvizsgálat megtervezett küszöbrendszer-e vagy egykattintásos jóváhagyás. Az egyik átmegy a 14. cikken. A másik nem.

Ahhoz, hogy felmérjük, hol áll a HITL tervezése egy szervezet szabályozott munkafolyamatain át, az easy-audit.ai két óra strukturált kérdéssel térképezi fel.

Összefoglalás

HITL — designed oversight, not passive sign-off
│
├─ The failure · audit theatre
│   ├─ Passive sign-off — one-click approve, no reasoning shown
│   └─ Rubber-stamp test — >98% approve, <10s review fails it
│
├─ The system · thresholds & routes
│   ├─ Three routes — auto-reject / HITL review / auto-approve
│   ├─ Risk overlay — confidence × severity sets escalation
│   └─ Fallback paths — named owner, SLA, override audit log
│
└─ The discipline · stays honest
    ├─ Healthy band — 5–20% override; outside it, tune or retrain
    └─ Quarterly cycle — measure, spot drift, re-version, document