Cilvēks lēmumu ķēdē nav virsvadība. Tā ir dizaina disciplīna.

Apstiprinājums, kura nebija

Marrowfield Specialty Risk gadījumā šī pavasara atlīdzību triāžas audits noslēdzās ar īsu, neveiklu sarunu. Brokeris ar aptuveni 150 darbiniekiem regulatora uzraudzītā tirgū jau astoņpadsmit mēnešus bija darbinājis MI marķēšanas sistēmu. Mariela Okafora, atlīdzību operāciju vadītāja, šajā amatā bija divpadsmito gadu. Lietveži apstrādāja vairāk nekā 200 lietu dienā; modelis marķēja aptuveni 8 %. Audits izcēla divus skaitļus: 96 % apstiprinājumu MI marķētajām lietām un 23 sekunžu vidējo pārskatīšanas laiku. Atbilstības speciālists jautāja: "Kādus sliekšņus Jūs kalibrējāt?" Atbilde: "Nekādus. Es vienkārši apstiprinu to, ko MI man atsūta."

Marrowfield Specialty Risk ir salikts tēls, kas izveidots no intervijām ar vidēja tirgus specializētajiem brokeriem un no BoE/FCA un EU AI Act atbilstības literatūras. Vārdi ir anonimizēti; rādītāji ilustrē shēmas, kas atklātas citētajās aptaujās.

Regulatoriem trīs kontinentos šī saruna tagad liecina par trūkstošu virsvadību. EU AI Act 2026. gada augusta piemērošanas datums uzliek kalendāru dizaina kļūdai, taču kļūda ir vecāka par kalendāru.

§1 — Pasīvs apstiprinājums ir audita teātris, nevis virsvadība

Ierastais domāšanas modelis — "MI marķē, cilvēks apstiprina" — struktūras ziņā ir neatšķirams no virsvadības trūkuma. Vienas pogas saskarne bez ievaddatiem, bez modeļa argumentācijas un bez pārliecības rādītāja saražo tieši tos rādītājus, ko izcēla Marrowfield. Šādas darbības pazīmes sakrīt ar pilnībā automatizētu darbplūsmu, kurā cilvēks gaida gatavībā.

Uzraudzības dati to apstiprina visas nozares mērogā. BoE/FCA aptauja AI in UK Financial Services 2024 konstatēja, ka "55 % no visiem MI lietojuma gadījumiem ietver zināmu automatizētas lēmumpieņemšanas pakāpi, no kuriem 24 % ir daļēji autonomi, proti, lai gan tie var patstāvīgi pieņemt virkni lēmumu, tie ir projektēti tā, lai kritiskos vai neviennozīmīgos lēmumos iesaistītu cilvēka virsvadību" [9]. Tas saskan ar NIST AI 600-1 skatījumu uz cilvēka–MI konfigurācijas risku: lielākajai daļai automatizētās lēmumpieņemšanas nozarē nav jēgpilna iejaukšanās punkta.

Regulatori ir sākuši slēgt šo plaisu. ICO nostāja ir nepārprotama: lēmums neizkrīt ārpus Apvienotās Karalistes VDAR 22. panta "tikai tāpēc, ka cilvēks to ir 'formāli apzīmogojis'" [2]. Tās pašas vadlīnijas ir asākas attiecībā uz darbības pierādījumiem: pārskatītāji, kuri "regulāri piekrīt MI sistēmas izvadēm un nespēj parādīt, ka tās patiesi izvērtējuši", var tikt klasificēti kā vienīgi automatizēti saskaņā ar Apvienotās Karalistes VDAR [3]. EU AI Act 14. pantā nosaka paralēlu testu, prasot sistēmas, kas "projektētas un izstrādātas tā ..., ka fiziskas personas var tās efektīvi virsvadīt" [1]. Vārds efektīvi ir noteicošais abās tiesību tradīcijās. Dizaina jautājums vairs nav "vai cilvēks ir klāt?", bet "vai dizains ir tāds, ka cilvēks spēj atklāt, pārlabot un pārtraukt — un vai viņš to izdarītu?"

§2 — HITL ir sliekšņu sistēma, nevis pārskatīšanas solis

Cilvēks lēmumu ķēdē (human-in-the-loop), uztverts nopietni, ir sistēma: skaidri pārliecības sliekšņi, trīs lēmumu ceļi, riska svēruma slānis un rindas politika. Modelis atgriež pārliecības rādītāju diapazonā 0,0–1,0, un tiek piemēroti trīs robežpunkti — automātiska noraidīšana zem apakšējās robežas, cilvēka pārskatīšana vidējā joslā, automātisks apstiprinājums virs augšējās robežas. Konservatīvi sākumpunkti regulētām darbplūsmām atrodas ap 0,3 / 0,95; mērenas operācijas — ap 0,5 / 0,9; zema riska klasifikācija — pie 0,7 / 0,95. Robežpunkti ir apzināti asimetriski: kļūdaini pozitīvajiem un kļūdaini negatīvajiem rezultātiem ir atšķirīgas izmaksas, un sliekšņu sistēma šo asimetriju iekodē, nevis apslēpj vienā skaitlī. NIST AI RMF 1.0 nonāk pie tā paša — tās MANAGE funkcija "ietver riska resursu regulāru piešķiršanu kartētajiem un izmērītajiem riskiem" [5], un sliekšņi ir šis piešķiršanas mehānisms, mērogots pēc riska, nevis ērtuma.

Virs tā atrodas riska svēruma slānis. Pārliecība tiek reizināta ar biznesa riska smaguma rādītāju — atlīdzības apmēru, lēmuma neatgriezeniskumu, regulatīvo eksponētību —, lai iegūtu 3×3 maršrutēšanas matricu. Augsta riska, zemas pārliecības lieta tiek eskalēta uzraugam; augsta riska, augstas pārliecības lieta joprojām tiek maršrutēta uz standarta HITL pārskatīšanu, nevis uz automātisku apstiprinājumu. Izvēle starp 2 līmeņu un 3 līmeņu pieeju ir nozīmīga: 2 līmeņu sistēma katru nedrošu lietu sašaurina vienā rindā, rinda pārplūst, lietveži pārslēdzas uz masveida apstiprināšanu — tieši tā shēma, kas radīja Marrowfield 96 % rādītāju. 3 līmeņu sistēma piešķir automātiskajai noraidīšanai produktīvu lomu. Maršrutēšana balstās uz centralizētu MI stratēģiju^EN ar apstiprinātu tehnoloģiju kopumu, kas rada konsekventu pārliecības vērtēšanu; ad-hoc rīku savairošanās padara sliekšņu disciplīnu neiespējamu, jo dažādu modeļu rādītāji nav salīdzināmi.

§3 — Rezerves ceļi tiek projektēti, nevis netieši pieņemti

"Rezerve" nav kļūdu apstrāde. Tas ir skaidrs atzars, ko sistēma izvēlas, kad MI ir nedrošs, un tam vajadzīgs ceļš, cilvēks un SLA. Trīs dizaini aptver visu lauku.

A dizains — sinhrons cilvēks ķēdē: MI apstājas un atgriež lietu rindā ar pievienotu ievadu ierakstu, argumentāciju un pārliecību, pret 2 līdz 4 stundu SLA; piemērots gandrīz reāllaika lēmumiem. B dizains — asinhrona pakešu rinda: MI atgriež provizorisku atbildi, pēc tam apstrādā to dienas vai nedēļas paketē ar retrospektīvu labošanas logu; piemērots ne laika ziņā kritiskam darbam. C dizains — hierarhiska eskalācija ekspertam: maršrutē pēc MI nedrošības un riska smaguma daudzlīmeņu pārskatītāju kopā (standarts → eksperts → uzraugs) ar SLA 4 h / 24 h / 72 h; piemērots regulētai lēmumpieņemšanai — parakstīšanas norīkojumiem, medicīniskajai triāžai, atbilstības marķējumiem.

Katrai rezervei vajadzīgs nosaukts īpašnieks un dokumentēts SLA. Apvienotās Karalistes DSIT AI Playbook to formulē praktiski — "skaidri dokumentēti pārskatīšanas un eskalācijas procesi ... un MI pārskatīšanas padome vai programmas līmeņa padome" [4] —, un NIST AI RMF MANAGE nes to pašu norādījumu no cita skatpunkta, prasot pēcieviešanas uzraudzību ar nosauktiem atgriezeniskās saites kanāliem. Audita pretraksts ir nemainīgs: vispārēja "cilvēka pārskatīšanas" rinda bez SLA un bez īpašnieka, kurā rinda aug un MI ieteikums kļūst par de facto lēmumu. Marrowfield pārprojektēšana katrai rezervei piešķīra atsevišķu ceļu: nelielas atlīdzības zem būtiskuma sliekšņa tās apstrādā automātiski; vidējās joslas lietas darbojas pēc A dizaina ar 4 stundu SLA; augstās joslas un zem sliekšņa esošās lietas darbojas pēc C dizaina ar nosauktiem parakstītājiem. Rindas pārstāja būt viens pārplūdes kanāls un kļuva par trim ražošanas līnijām ar saviem rādītājiem un īpašniekiem.

§4 — Pārlabošanas audita pēda ir atbilstības artefakts

Tas, ko auditori patiesībā pārbauda, ir labojumu žurnāls. Nav žurnāla — vai ir žurnāls bez strukturētas argumentācijas — un tas neiztur testu, pirms vēl tiek uzklausīts kāds mutisks paskaidrojums. Minimālais artefakts katram HITL lēmumam ir fiksēta shēma: case_id, MI pārliecība, MI ieteikums, pārskatītāja ID, pārskatīšanas ilgums sekundēs, cilvēka lēmums, labojuma argumentācija, laikspiedols, policy_version. Bez policy_version pēda gadu vēlāk nav interpretējama, jo sliekšņi būs pārvietojušies. EU AI Act 14. panta 4. punkts prasa, lai pārskatītāji var "iejaukties darbībā ... vai pārtraukt sistēmu" [1] — un darbības secinājums ir tāds, ka šai spējai jāatstāj ieraksts, citādi tā nav notikusi. NIST AI 600-1 to formulē darbības līmenī: "Uzraugiet un dokumentējiet gadījumus, kad cilvēki operatori vai citas sistēmas pārlabo ģeneratīvā MI lēmumus" [6]. Žurnāls ir jēgpilnas pārskatīšanas centrālais pierādījums.

Pārskatatbildība sākas tur, kur beidzas žurnāls. FCA dokuments AI Update nosaka principu: "skaidras pārskatatbildības līnijas, kas izveidotas visā MI dzīves ciklā" [10]. Apvienotās Karalistes SM&CR uzņēmumi MI un operāciju kopumu uztic galvenajai operāciju funkcijai; ASV uzņēmumi darbina valdes līmeņa MI komitejas; ES uzņēmumi seko EBA un ECB vadlīnijām par augstākās vadības pārskatatbildību. Princips ir pārnesams pāri visām trim tradīcijām, un tas padara MI pārvaldības veidošanu jau no pirmās dienas lētāku par modernizāciju pēc fakta. ISO/IEC 42001:2023 ietver plašāko kontroles kopumu kā "integrētu pieeju MI projektu pārvaldībai, sākot no riska novērtēšanas līdz efektīvai šo risku apstrādei" [8].

Auditori meklē apgrieztos signālus. Pārskatīšanas ilgums zem 10 sekundēm liecina par formālu apzīmogošanu. Apstiprinājumu rādītājs virs 98 % norāda uz pārskatīšanas trūkumu. Tukšs argumentācijas lauks tiek uztverts kā nedokumentēta jēgpilnība. Vairāk nekā 200 lēmumu dienā vienam pārskatītājam liecina par nogurumu. Katrs no tiem ir konstatējums pats par sevi.

§5 — Kā ceturkšņa kalibrēšana uztur HITL godīgu?

Sliekšņus nevar iestatīt un aizmirst. Modeļi novirzās, biznesa noteikumi mainās, parādās robežgadījumi. Ceturkšņa cikls ir lētākā disciplīna, kas neļauj projektētai HITL sistēmai noslīdēt atpakaļ teātrī, un tam ir svars visās jurisdikcijās: 14. panta "efektīvas" virsvadības tests bez tā nav izpildāms, un NIST AI RMF MANAGE sagaida, ka būs ieviesti "plāni riska prioritizēšanai un regulārai uzraudzībai un uzlabošanai" [5].

Pirmais mēnesis — izmēriet bāzlīniju: HITL apjoms nedēļā, labojumu biežums pa pārliecības joslām, lēmuma pieņemšanas laika sadalījums, eskalācijas biežums pa līmeņiem. Otrais mēnesis — identificējiet novirzes signālus: joslas, kurās labojumu biežums pārsniedz 20 %, nozīmē, ka modelis ir neuzticams un HITL josla jāpaplašina vai modelis jāpārtrenē; joslas zem 2 % var droši sašaurināt; ja B dizaina lietas netiek izskatītas noteiktajā pārskatīšanas logā, tas nozīmē, ka pakešu process ir salūzis. Trešais mēnesis — pielāgojiet un dokumentējiet: atjauniniet sliekšņu definīcijas, palieliniet policy_version ar izmaiņu iemeslu, informējiet operācijas, atiestatiet bāzlīniju.

Cikls pieņem pārskatītāju kultūru, kas atbalsta labojumus. ICO ir nepārprotama: jēgpilnai pārskatīšanai vajadzīgs, lai "pārskatītājiem būtu pilnvaras pārlabot MI sistēmas radīto izvadi un lai viņi būtu pārliecināti, ka netiks par to sodīti" [3]. Tāda pati gaida pastāv ASV iepirkumā saskaņā ar NIST AI RMF un ES pārskatatbildības noteikumos saskaņā ar EBA un ECB — atšķirīgas jurisdikcijas, identisks darbības tests. Kur kultūra soda novirzi, labojumu biežums sabrūk kultūras, nevis tehnisku iemeslu dēļ, un dati, no kuriem cikls ir atkarīgs, kļūst neinterpretējami. Apvienotās Karalistes DSIT Playbook nosauc atbildību: MI pārskatīšanas padome vai programmas līmeņa padome pārvalda ciklu [4]. Tipiskā vidēja tirgus atbilde uz jautājumu "kas par to atbild" ir paaugstinājums no iekšienes — skatiet argumentāciju par to, ka labākais MI vadītāja pieņēmums darbā^EN ir uzņēmuma iekšienē.

§6 — Kuri pieci pretraksti neiztur 14. panta auditu?

Tie paši pieci kļūdu režīmi parādās katrā auditā.

Vienas pogas apstiprināt/noraidīt saskarne. Pārskatītājs redz tikai lēmumu. Simptoms: apstiprinājumu rādītāji virs 95 %, zem 10 sekundēm garas pārskatīšanas. Risinājums: atklājiet pārliecību, ievadu ierakstu un norādītos nedrošības cēloņus. 14. panta 4. punkta b) apakšpunkts ir nepārprotams par automatizācijas aizspriedumu — pārskatītājiem jāpaliek "informētiem par iespējamo tendenci automātiski paļauties vai pārmērīgi paļauties uz augsta riska MI sistēmas radīto izvadi" [1].

Viens pārskatītājs, bez rotācijas. Viens operāciju direktors pārskata katru HITL lietu. Simptoms: nedēļas nogales sastrēgumi, noguruma kļūdas dienas beigās, viens kļūmes punkts. Risinājums: apmācīts 3–5 pārskatītāju kopums pēc dokumentēta rotācijas grafika.

Slieksnis iestatīts vienreiz, nekad nekalibrēts. Piegādātāja noklusējumi paliek nemainīgi. Simptoms: HITL apjoms tālu no joslas; labojumu biežums aizdomīgi zems vai hroniski virs 20 %. Risinājums: §5 ceturkšņa cikls.

Nav labojuma argumentācijas fiksēšanas. Pārskatītāji var pārlabot, bet argumentācijas lauks ir neobligāts vai tukšs. Simptoms: jēgpilnību nevar parādīt. Risinājums: strukturēta fiksēšana — trīs galveno iemeslu nolaižamais saraksts plus brīvā teksta lauks, abi obligāti.

Rezerves rinda bez SLA. Lietas tiek maršrutētas uz "cilvēka pārskatīšanu" bez pārskatatbildības par to nokārtošanu noteiktā logā. Simptoms: rindas garums aug no mēneša uz mēnesi, pārskatītāji izlaiž vecākos ierakstus. Risinājums: skaidrs SLA katrai rezervei plus rindas uzraudzības informācijas panelis ar nosauktu īpašnieku. Izkliedēta atbildība ir strukturālais risks; BoE/FCA aptauja atzīmē, ka pārskatatbildība "bieži ir sadalīta, jo lielākā daļa uzņēmumu ziņo par trim vai vairāk atbildīgajām personām vai struktūrām" [9], un EU AI Act 14. pants uzliek virsvadību nosauktai "fiziskai personai" [1].

§7 — 14. pants un 2026. gada augusta kalendārs

Atbilstības ietvars nav jurisdikcijai specifisks teātris. Vairāki regulatori saplūst pie viena un tā paša darbības testa; EU AI Act pievieno tam publiski redzamāko termiņu. 113. pants nosaka augsta riska pienākumu — tostarp 14. panta — piemērošanas datumu 2026. gada 2. augustā [1]. No šī datuma uzņēmumi, kas ievieš MI augsta riska III pielikuma tvērumos (nodarbinātība, kredītvērtēšana, kritiskā infrastruktūra, tiesībaizsardzības dati), nes šo pienākumu.

Apvienotās Karalistes VDAR 22. pants jau ir saistošs, un tā tests ir "jēgpilns cilvēka ieguldījums" [3] — pilnvaras, kompetence, ievaddatu un alternatīvu izvērtēšana, atbalstoša kultūra un nekāds sods par modeļa pārlabošanu. Kur 22. pants attiecas — visur, kur lēmumam ir juridiskas vai līdzīgi būtiskas sekas —, "formāla apzīmogošana" neiztur testu [2]. Arī ASV nostāja nav tukša: štatu līmeņa likumi (Kolorado MI likums, Ņujorkas AEDT, Kalifornijas ierosinātie ADMT noteikumi) un nozaru izpilde (FTC par automatizētu lēmumpieņemšanu, NIST AI RMF kā iepirkuma atsauce federālai lietošanai) virza to pašu disciplīnu. ISO/IEC 23894:2023 standartizē pamatā esošo riska pārvaldības pieeju kā "vadlīnijas par to, kā organizācijas ... var pārvaldīt risku, kas konkrēti saistīts ar MI" [7] — tīrākais neregulatīvais enkurs tirgiem, kuru MI specifiskie likumi vēl nav stājušies spēkā, un pamatne jebkurai daudzjurisdikciju darbības politikai.

Nozares regulatori pastiprina šo punktu: FCA ir tehnoloģiski neitrāls [10], ES ekvivalenti saskaņā ar EBA un ECB saskaņojas par augstākās vadības pārskatatbildību, un BoE/FCA 2024. gada aptauja rāda, ka pārskatatbildība lielākajā daļā aptaujāto uzņēmumu parasti ir sadrumstalota starp trim vai vairāk atbildīgajām pusēm [9].

§§2–5 dizaina jautājumi ir atbilstības jautājumi pāri trim tiesību tradīcijām. HITL veidošana šādā veidā tiek apmaksāta vienreiz; modernizācija pēc audita neveiksmes tiek apmaksāta katru ceturksni.

§8 — Kā izskatās četru nedēļu HITL dizaina sprints?

Pārprojektēšana ir norobežota: operāciju vadītāja sprints, nevis programma.

1. nedēļa — izmēriet pašreizējo stāvokli. Inventarizējiet katru "cilvēka pārskatīšanas" soli. Izvelciet apstiprinājumu rādītājus, pārskatīšanas ilguma sadalījumus, labojumu fiksēšanas stāvokli, rindu garumus. Pasīvu apstiprinājumu izdod šādas pazīmes: augsts apstiprinājumu rādītājs, zems pārskatīšanas ilgums, nav strukturētas labojuma argumentācijas.

2. nedēļa — projektējiet lēmumu ceļus. Iestatiet pārliecības robežpunktus katrai darbplūsmai, izmantojot §2 sākumpunktus. Projektējiet rezerves ceļus pēc §3. Definējiet labojumu audita shēmu pēc §4. Dokumentējiet policy_version v1.0 ar sliekšņu vērtībām, īpašniekiem un SLA.

3. nedēļa — ieviesiet, apmāciet, vāciet datus. Iestrādājiet saskarnes izmaiņas — atklājiet modeļa argumentāciju un pārliecību pārskatītāja ekrānā. Apmāciet pārskatītāju kopumu ar izstrādātiem piemēriem. Sāciet reālu darbību ar pilnu audita reģistrēšanu jau no pirmās dienas.

4. nedēļa — pirmā kalibrēšanas pārskatīšana un auditam gatava dokumentācija. Palaidiet §5 ciklu pret 3. nedēļas datiem; acīmredzamie novirzes signāli parādās pat īsā logā. Salieciet artefaktu kopu: sliekšņu definīcijas, labojumu biežuma informācijas panelis, eskalācijas ceļu inventārs, atbildības karte. Rezultāts ir pozīcija, ko pārbaudīt pret 50 jautājumiem, ko lēmumu pieņēmēji uzdod pirms MI ieviešanas^EN, kas aptver Q3.10, Q5.4, Q5.5 un Q5.7.

Izmaksu josla: 20–40 stundas operāciju vadītāja laika. Rezultāts: 14. pantam gatavs virsvadības protokols, 22. pantam aizstāvāma "jēgpilnas pārskatīšanas" pozīcija un NIST RMF saskaņota MANAGE funkcija.

No apstiprinājuma uz disciplīnu

Četras nedēļas pēc pārprojektēšanas darbības aina ir mainījusies. HITL apjoms atlīdzību darbplūsmā ir samazinājies par 70 %, jo automātiskā noraidīšana veic reālu darbu zem sliekšņa esošajā joslā. Vidējais pārskatīšanas laiks lietām, kas tomēr nonāk HITL, ir pieaudzis līdz aptuveni četrām minūtēm — laikam, ko strukturētā pārskatīšana patiešām aizņem. Labojumu biežums ir stabilizējies pie 14 %, veselīgās 5–20 % joslas robežās, un katra labotā lieta nes strukturētu argumentāciju. Atbilstības speciālista jautājumam tagad ir atbilde ar pievienotiem versiju numuriem.

Atšķirība starp audita teātri un auditā aizstāvāmu virsvadību nav tā, cik nopietni uzņēmums runā par cilvēka pārskatīšanu. Tā ir tas, vai pārskatīšana ir projektēta sliekšņu sistēma vai viena klikšķa apstiprinājums. Viena iztur 14. pantu. Otra ne.

Lai novērtētu, kur HITL dizains atrodas visās organizācijas regulētajās darbplūsmās, easy-audit.ai to kartē divās stundās strukturētu jautājumu.

Kopsavilkums

HITL — designed oversight, not passive sign-off
│
├─ The failure · audit theatre
│   ├─ Passive sign-off — one-click approve, no reasoning shown
│   └─ Rubber-stamp test — >98% approve, <10s review fails it
│
├─ The system · thresholds & routes
│   ├─ Three routes — auto-reject / HITL review / auto-approve
│   ├─ Risk overlay — confidence × severity sets escalation
│   └─ Fallback paths — named owner, SLA, override audit log
│
└─ The discipline · stays honest
    ├─ Healthy band — 5–20% override; outside it, tune or retrain
    └─ Quarterly cycle — measure, spot drift, re-version, document