Intervenția umană nu e o formalitate. E o disciplină de proiectare.

O aprobare care nu era una

La Marrowfield Specialty Risk, auditul de triere a daunelor din această primăvară a produs un schimb scurt și stânjenitor. Brokerul, cu circa 150 de angajați pe o piață supravegheată de un regulator, folosea de optsprezece luni un sistem de IA care marca dosarele. Mariela Okafor, responsabil operațiuni daune, ocupa scaunul de doisprezece ani. Operatorii prelucrau peste 200 de dosare pe zi; modelul marca aproximativ 8 %. Auditul a scos două cifre: 96 % rată de aprobare a dosarelor marcate de IA și 23 de secunde durată medie de evaluare. Ofițerul de conformitate a întrebat: „La ce praguri ați calibrat?" Răspunsul: „La niciunul. Pur și simplu aprob ce îmi trimite IA."

Marrowfield Specialty Risk este o entitate compozită, construită din interviuri cu brokeri de specialitate din segmentul mediu de piață și din literatura de conformitate BoE/FCA și a Regulamentului privind IA. Numele sunt anonimizate; cifrele ilustrează tipare din studiile citate.

În fața autorităților de pe trei continente, acel schimb se citește acum ca dovadă a absenței supravegherii. Data aplicării Regulamentului privind IA, august 2026, pune un calendar pe acest eșec de proiectare, dar eșecul e mai vechi decât calendarul.

§1 — Aprobarea pasivă e teatru de audit, nu supraveghere

Modelul mental implicit — „IA marchează, omul aprobă" — nu se deosebește structural de absența supravegherii. O interfață cu un singur buton, fără datele de intrare, fără raționamentul modelului și fără scorul de încredere, produce exact indicatorii pe care i-a scos la iveală Marrowfield. Semnătura de funcționare se suprapune peste un flux complet automatizat, cu o persoană în așteptare.

Datele de supraveghere confirmă acest lucru la scara întregii populații. Studiul BoE/FCA AI in UK Financial Services 2024 a constatat că „55 % din toate cazurile de utilizare a IA presupun un anumit grad de luare automatizată a deciziilor, dintre care 24 % sunt semiautonome, adică, deși pot lua o gamă de decizii pe cont propriu, sunt concepute să implice supraveghere umană pentru deciziile critice sau ambigue" [9]. Implicația, în acord cu modul în care NIST AI 600-1 încadrează riscul de configurare om-IA: cea mai mare parte a populației deciziilor automatizate nu are un punct real de intervenție.

Autoritățile au acționat pentru a închide această breșă. Poziția ICO este limpede: o decizie nu iese din sfera Article 22 al UK GDPR „doar pentru că un om a «aprobat-o formal»" [2]. Aceeași orientare e mai tăioasă pe planul probelor de funcționare: evaluatorii care „sunt în mod obișnuit de acord cu rezultatele produse de sistemul de IA și nu pot demonstra că le-au evaluat cu adevărat" pot fi încadrați drept exclusiv automatizați în temeiul UK GDPR [3]. Regulamentul privind IA stabilește un test paralel la art. 14, cerând ca sistemele să fie „proiectate și dezvoltate în așa fel… încât să poată fi supravegheate în mod eficace de către persoane fizice" [1]. Cuvântul eficace este portant în ambele tradiții juridice. Întrebarea de proiectare nu mai este „este prezent un om?", ci „este proiectarea astfel încât un om să poată detecta, anula și întrerupe — și ar face-o?".

§2 — HITL e un sistem de praguri, nu un pas de evaluare

Intervenția umană în procesul decizional (human-in-the-loop, HITL), tratată cu seriozitate, este un sistem: praguri de încredere explicite, trei trasee decizionale, o suprapunere de ponderare în funcție de risc și o politică de gestionare a cozii. Modelul returnează un scor de încredere pe intervalul 0,0–1,0, iar trei limite se aplică — respingere automată sub pragul inferior, evaluare umană în banda de mijloc, aprobare automată peste pragul superior. Punctele de plecare prudente pentru fluxurile reglementate se situează în jurul valorilor 0,3 / 0,95; operațiunile moderate, în jur de 0,5 / 0,9; clasificarea cu risc redus, la 0,7 / 0,95. Limitele sunt deliberat asimetrice: rezultatele fals pozitive și cele fals negative au costuri diferite, iar sistemul de praguri codifică această asimetrie, în loc să o ascundă într-o singură cifră. NIST AI RMF 1.0 ajunge în același punct — funcția sa MANAGE „presupune alocarea periodică a resurselor de risc către riscurile cartografiate și măsurate" [5], iar pragurile sunt mecanismul de alocare, dimensionate după risc, nu după comoditate.

Deasupra se așază o suprapunere ponderată în funcție de risc. Încrederea se înmulțește cu un scor de gravitate a riscului de business — valoarea daunei, ireversibilitatea deciziei, expunerea de reglementare — pentru a produce o matrice de direcționare 3×3. Un dosar cu risc ridicat și încredere scăzută urcă la supervizor; unul cu risc ridicat și încredere ridicată tot către evaluarea HITL standard se îndreaptă, nu către aprobarea automată. Alegerea între 2 și 3 niveluri contează: un sistem cu 2 niveluri canalizează fiecare dosar incert într-o singură coadă, coada se revarsă, operatorii recurg la aprobarea în masă — tiparul care a produs rata de 96 % de la Marrowfield. Un sistem cu 3 niveluri dă respingerii automate un rol productiv. Direcționarea depinde de o strategie de IA centralizată^EN cu un set de instrumente avizat care produce un scoring de încredere consecvent; proliferarea ad-hoc de instrumente face imposibilă disciplina pragurilor, deoarece scorurile provenite din modele diferite nu sunt comparabile.

§3 — Căile de rezervă se proiectează, nu se subînțeleg

„Calea de rezervă" nu e tratarea erorilor. E ramura explicită pe care o ia sistemul atunci când IA e nesigură și are nevoie de un traseu, de o persoană, de un SLA. Trei concepte acoperă întregul câmp.

Conceptul A — om în proces, sincron: IA face o pauză și returnează dosarul într-o coadă, cu înregistrarea de intrare, raționamentul și încrederea atașate, cu un SLA de 2 până la 4 ore; potrivit pentru decizii cvasi-instantanee. Conceptul B — coadă pentru lot, asincron: IA returnează un răspuns provizoriu, apoi îl aduce la suprafață într-un lot zilnic sau săptămânal, cu o fereastră de anulare retroactivă; potrivit pentru munca fără presiune de timp. Conceptul C — escaladare către expert, ierarhic: direcționează în funcție de incertitudinea IA plus gravitatea riscului, către un set de evaluatori pe mai multe niveluri (standard → expert → supervizor), cu SLA-uri de 4 ore / 24 de ore / 72 de ore; potrivit pentru deciziile reglementate — trimiteri către subscriere, triaj medical, semnalări de conformitate.

Fiecare cale de rezervă are nevoie de un responsabil desemnat și de un SLA documentat. AI Playbook al UK DSIT o spune operațional — „procese de evaluare și escaladare clar documentate… și un comitet de evaluare a IA sau un comitet la nivel de program" [4] — iar funcția MANAGE din NIST AI RMF poartă aceeași instrucțiune dintr-un alt unghi, cerând monitorizare post-implementare, cu canale de feedback desemnate. Antitiparul de audit este consecvent: o coadă-găleată de „evaluare umană", fără SLA și fără responsabil, în care coada crește, iar recomandarea IA devine, de facto, decizia. La Marrowfield, reproiectarea a alocat fiecare cale de rezervă: daunele mici sub o bandă de materialitate se prelucrează automat; dosarele din banda de mijloc rulează Conceptul A cu un SLA de 4 ore; dosarele din banda superioară și cele sub prag rulează Conceptul C cu subscriitori desemnați. Cozile au încetat să fie un singur canal de revărsare și au devenit trei linii de producție, cu indicatori și responsabili proprii.

§4 — Registrul anulărilor e artefactul de conformitate

Ce inspectează auditorii cu adevărat este registrul anulărilor. Lipsa registrului — sau un registru fără motivare structurată — pică testul înainte ca vreo apărare narativă să fie ascultată. Artefactul minim pentru fiecare decizie HITL este o schemă fixă: case_id, încrederea IA, recomandarea IA, ID-ul evaluatorului, durata evaluării în secunde, decizia umană, motivul anulării, marca temporală, policy_version. Fără policy_version, pista devine neinterpretabilă peste un an, fiindcă pragurile se vor fi mutat. Art. 14 alin. (4) din Regulamentul privind IA cere ca evaluatorii să poată „interveni în funcționarea… sau întrerupe sistemul" [1] — iar corolarul operațional este că această capacitate trebuie să lase o urmă, altfel nu a existat. NIST AI 600-1 o pune la nivel de acțiune: „Monitorizați și documentați situațiile în care operatorii umani sau alte sisteme anulează deciziile IA generative" [6]. Registrul este proba centrală a unei evaluări reale.

Responsabilitatea stă în amonte de registru. AI Update al FCA stabilește principiul: „linii clare de responsabilitate stabilite pe tot parcursul ciclului de viață al IA" [10]. Firmele britanice supuse SM&CR plasează stiva IA și de operațiuni la funcția de Chief Operations; firmele din SUA rulează comitete IA la nivel de consiliu; firmele din UE urmează orientările EBA și BCE privind responsabilitatea conducerii de vârf. Principiul e portabil în toate cele trei tradiții, ceea ce face ca instituirea guvernanței IA din prima zi să fie mai ieftină decât adaptarea ulterioară. ISO/IEC 42001:2023 încadrează setul mai larg de controale drept „o abordare integrată de gestionare a proiectelor de IA, de la evaluarea riscurilor la tratarea eficace a acestor riscuri" [8].

Auditorii caută semnale inverse. O durată de evaluare sub 10 secunde se citește drept aprobare formală. O rată de aprobare peste 98 % se citește drept lipsă de evaluare. Un câmp de motivare gol se citește drept caracter real nedocumentat. Peste 200 de decizii pe zi pentru fiecare evaluator se citește drept oboseală. Fiecare este, în sine, o constatare.

§5 — Cum păstrează calibrarea trimestrială HITL onest?

Pragurile nu se stabilesc o dată și gata. Modelele derapează, regulile de business se schimbă, apar cazuri-limită. Un ciclu trimestrial este cea mai ieftină disciplină care împiedică un sistem HITL proiectat să regreseze în teatru, iar el atârnă greu în toate jurisdicțiile: testul supravegherii „eficace" din art. 14 nu poate fi satisfăcut fără el, iar funcția MANAGE din NIST AI RMF așteaptă să existe „planuri de prioritizare a riscului și de monitorizare și îmbunătățire periodică" [5].

Luna întâi — măsurați nivelul de referință: volumul HITL pe săptămână, rata de anulare pe bandă de încredere, distribuția timpului până la decizie, rata de escaladare pe nivel. Luna a doua — identificați semnalele de derapaj: benzile în care anularea depășește 20 % înseamnă că modelul e nefiabil și că banda HITL trebuie lărgită sau modelul reantrenat; benzile sub 2 % se pot îngusta în siguranță; dosarele de Concept B fără evaluare în fereastră înseamnă că procesul pe loturi e defect. Luna a treia — ajustați și documentați: actualizați definițiile pragurilor, incrementați policy_version cu motivul modificării, înștiințați operațiunile, resetați nivelul de referință.

Ciclul presupune o cultură a evaluatorilor care sprijină anularea. ICO este explicit: evaluarea reală cere ca „evaluatorii să aibă autoritatea de a anula rezultatul generat de sistemul de IA și să fie încrezători că nu vor fi penalizați pentru aceasta" [3]. Aceeași așteptare există în achizițiile din SUA, în temeiul NIST AI RMF, și în regulile de responsabilitate din UE, sub EBA și BCE — jurisdicții diferite, test de funcționare identic. Acolo unde cultura pedepsește abaterea, ratele de anulare se prăbușesc din motive culturale, nu tehnice, iar datele de care depinde ciclul devin neinterpretabile. Playbook-ul UK DSIT numește proprietarul: un comitet de evaluare a IA sau un comitet la nivel de program deține ciclul [4]. Răspunsul tipic în segmentul mediu de piață la întrebarea „cine deține asta" este o promovare internă — vedeți argumentul pentru cea mai bună angajare a unui responsabil IA^EN ca fiind în interiorul organizației.

§6 — Care cinci antitipare pică un audit pe art. 14?

Aceleași cinci moduri de eșec apar în fiecare audit.

Interfața de aprobare/respingere cu un singur buton. Evaluatorul vede doar decizia. Simptom: rate de aprobare de peste 95 %, evaluări sub 10 secunde. Remediu: evidențiați încrederea, înregistrarea de intrare și factorii de incertitudine declarați. Art. 14 alin. (4) lit. (b) e explicit în privința tendinței de automatizare — evaluatorii trebuie „să rămână conștienți de posibila tendință de a se baza sau de a se baza în mod automat și excesiv pe rezultatul produs de un sistem de IA cu grad ridicat de risc" [1].

Un singur evaluator, fără rotație. Un singur director de operațiuni evaluează fiecare dosar HITL. Simptom: blocaje la final de săptămână, erori de oboseală spre seară, un singur punct de cădere. Remediu: un set instruit de 3–5 evaluatori, pe un program de rotație documentat.

Pragul stabilit o dată, niciodată calibrat. Valorile implicite ale furnizorului rămân neschimbate. Simptom: volum HITL mult în afara benzii; rate de anulare suspect de scăzute sau cronic peste 20 %. Remediu: ciclul trimestrial din §5.

Fără consemnarea motivului anulării. Evaluatorii pot anula, dar câmpul de motivare e opțional sau gol. Simptom: caracterul real nu poate fi demonstrat. Remediu: consemnare structurată — o listă derulantă cu primele trei motive plus un câmp de text liber, ambele obligatorii.

Coadă de rezervă fără SLA. Dosarele sunt direcționate spre „evaluare umană", fără responsabilitate pentru golirea ei într-o fereastră definită. Simptom: lungimea cozii crește de la o lună la alta, evaluatorii sar peste intrările mai vechi. Remediu: SLA explicit pentru fiecare cale de rezervă plus un tablou de monitorizare a cozii, cu un responsabil desemnat. Responsabilitatea difuză e riscul structural; studiul BoE/FCA notează că responsabilitatea „este adesea împărțită, majoritatea firmelor raportând trei sau mai multe persoane ori organisme responsabile" [9], iar art. 14 din Regulamentul privind IA plasează supravegherea pe seama unei „persoane fizice" desemnate [1].

§7 — Art. 14 și calendarul lui august 2026

Cadrul de conformitate nu e un teatru specific unei singure jurisdicții. Mai multe autorități converg către același test de funcționare; Regulamentul privind IA atașează cel mai public termen. Art. 113 stabilește data aplicării obligațiilor cu grad ridicat de risc — inclusiv art. 14 — la 2 august 2026 [1]. De la acea dată, firmele care implementează IA în domeniile cu grad ridicat de risc din Anexa III (ocuparea forței de muncă, scoring de credit, infrastructură critică, date pentru aplicarea legii) poartă obligația.

Article 22 al UK GDPR este deja obligatoriu, iar testul său este „aport uman real" [3] — autoritate, competență, luarea în calcul a datelor de intrare și a alternativelor, o cultură care sprijină și absența penalizării pentru anularea modelului. Acolo unde Article 22 se aplică — oriunde o decizie are efect juridic sau în mod similar semnificativ — „aprobarea pur formală" pică testul [2]. Poziția SUA nu lipsește: statutele la nivel de stat (Colorado AI Act, NYC AEDT, regulile ADMT propuse în California) și aplicarea sectorială (FTC pe deciziile automatizate, NIST AI RMF ca referință de achiziție pentru uzul federal) împing aceeași disciplină. ISO/IEC 23894:2023 standardizează abordarea de gestionare a riscului ce stă la bază drept „orientare privind modul în care organizațiile… pot gestiona riscul legat în mod specific de IA" [7] — cel mai curat reper nereglementar pentru piețele ale căror statute specifice IA nu au intrat încă în vigoare și coloana vertebrală a oricărei politici de funcționare în mai multe jurisdicții.

Regulatorii de sector întăresc ideea: FCA este neutră din punct de vedere tehnologic [10], echivalentele din UE sub EBA și BCE se aliniază pe responsabilitatea conducerii de vârf, iar studiul BoE/FCA din 2024 arată că responsabilitatea este de regulă fragmentată între trei sau mai multe părți responsabile, în majoritatea firmelor chestionate [9].

Întrebările de proiectare din §§2–5 sunt întrebările de conformitate din cele trei tradiții juridice. Construirea HITL în acest fel se plătește o dată; adaptarea după un eșec de audit se plătește în fiecare trimestru.

§8 — Cum arată sprintul de patru săptămâni de proiectare HITL?

Reproiectarea are limite clare: un sprint de responsabil operațiuni, nu un program.

Săptămâna 1 — Măsurați starea actuală. Inventariați fiecare pas de „evaluare umană". Extrageți ratele de aprobare, distribuțiile duratei de evaluare, starea consemnării anulărilor, lungimile cozilor. Semnătura aprobării pasive: rată de aprobare ridicată, durată de evaluare scăzută, fără motivare structurată a anulării.

Săptămâna 2 — Proiectați traseele decizionale. Stabiliți limitele de încredere pentru fiecare flux folosind punctele de plecare din §2. Proiectați căile de rezervă conform §3. Definiți schema pistei de audit a anulărilor conform §4. Documentați policy_version v1.0 cu valorile pragurilor, responsabilii și SLA-urile.

Săptămâna 3 — Implementați, instruiți, colectați date. Conectați modificările de interfață — evidențiați raționamentul și încrederea modelului pe ecranul evaluatorului. Instruiți setul de evaluatori pe exemple lucrate. Începeți funcționarea live, cu jurnalizare completă de audit din prima zi.

Săptămâna 4 — Prima evaluare de calibrare și documentația pregătită pentru audit. Rulați ciclul din §5 pe datele din săptămâna 3; semnalele de derapaj evidente apar chiar și pe o fereastră scurtă. Asamblați pachetul de artefacte: definițiile pragurilor, tabloul ratei de anulare, inventarul căilor de escaladare, harta responsabilităților. Rezultatul este poziția care poate fi testată față de cele 50 de întrebări pe care decidenții le pun înainte de implementarea IA^EN, care acoperă Q3.10, Q5.4, Q5.5 și Q5.7.

Banda de cost: 20–40 de ore din timpul responsabilului de operațiuni. Rezultat: un protocol de supraveghere pregătit pentru art. 14, o poziție de „evaluare reală" apărabilă pe art. 22 și o funcție MANAGE aliniată la NIST RMF.

De la aprobare la disciplină

La patru săptămâni după reproiectare, tabloul de funcționare s-a schimbat. Volumul HITL pe fluxul de daune e cu 70 % mai mic, fiindcă respingerea automată face muncă reală pe banda de sub prag. Timpul mediu de evaluare a dosarelor care chiar ajung la HITL a urcat la circa patru minute — timpul pe care îl ia, de fapt, o evaluare structurată. Rata de anulare s-a stabilizat la 14 %, în interiorul benzii sănătoase de 5–20 %, fiecare dosar anulat purtând o motivare structurată. Întrebarea ofițerului de conformitate are acum un răspuns cu numere de versiune atașate.

Diferența dintre teatrul de audit și supravegherea apărabilă la audit nu stă în cât de serios vorbește o firmă despre evaluarea umană. Stă în faptul dacă evaluarea e un sistem de praguri proiectat sau o aprobare cu un singur clic. Unul trece testul art. 14. Celălalt, nu.

Pentru o citire a locului în care se află proiectarea HITL în fluxurile reglementate ale unei organizații, easy-audit.ai o cartografiază în două ore de întrebări structurate.

Rezumat

HITL — designed oversight, not passive sign-off
│
├─ The failure · audit theatre
│   ├─ Passive sign-off — one-click approve, no reasoning shown
│   └─ Rubber-stamp test — >98% approve, <10s review fails it
│
├─ The system · thresholds & routes
│   ├─ Three routes — auto-reject / HITL review / auto-approve
│   ├─ Risk overlay — confidence × severity sets escalation
│   └─ Fallback paths — named owner, SLA, override audit log
│
└─ The discipline · stays honest
    ├─ Healthy band — 5–20% override; outside it, tune or retrain
    └─ Quarterly cycle — measure, spot drift, re-version, document