Omul din buclă este un rol juridic

Regulamentul (UE) 2024/1689 impune ca sistemele de inteligență artificială cu grad ridicat de risc să fie proiectate astfel încât să poată fi supravegheate efectiv de persoane fizice pe durata utilizării. Textul nu se mulțumește cu prezența unui om în proces: cere ca acesta să poată înțelege capacitățile și limitele sistemului, să rămână conștient de tendința de a se baza automat pe rezultatul generat, să interpreteze corect acel rezultat și să poată decide să nu îl utilizeze ori să intervină și să oprească sistemul.

Formulate astfel, cerințele descriu un rol, nu o casetă. Un operator care nu are competența tehnică de a evalua rezultatul, nici autoritatea organizațională de a-l respinge, nu satisface articolul 14 — oricâte semnături ar aplica.

Aceasta este distincția care se pierde cel mai des în implementare. Organizațiile desemnează un om în buclă pentru a bifa cerința și îi atribuie, fără să vrea, funcția de a absorbi răspunderea pentru un sistem pe care nu îl poate în fapt controla.

Competență. Persoana desemnată trebuie să poată evalua rezultatul pe fond, nu doar formal. Aceasta presupune pregătire documentată, acces la explicații privind funcționarea sistemului și înțelegerea limitelor lui cunoscute — inclusiv a categoriilor de erori pe care sistemul le produce sistematic.

Autoritate. Persoana trebuie să poată respinge rezultatul fără consecințe negative asupra sa și fără a avea nevoie de o aprobare care golește prerogativa de conținut. O supraveghere care poate fi ignorată de linia ierarhică nu este supraveghere.

Timp și proporție. Un volum care face imposibilă analiza reală transformă supravegherea în ștampilare. Dacă persoana trebuie să valideze mii de rezultate pe zi, proiectarea procesului contrazice cerința legală, indiferent de organigramă.

Articolul 14 privește conformitatea administrativă. Consecința juridică mai gravă apare pe terenul răspunderii civile: atunci când un sistem produce un prejudiciu, întrebarea nu va fi dacă exista un om desemnat, ci dacă acel om putea în fapt să intervină.

Documentația de proiectare a supravegherii devine, în acest scenariu, probă. O organizație care poate arăta pregătirea persoanei, procedura de respingere, cazurile în care respingerea a fost efectiv exercitată și dimensionarea volumului se află într-o poziție substanțial diferită de una care poate arăta doar o fișă de post.

Recomandarea practică este, prin urmare, inversă intuiției curente: supravegherea umană nu se documentează după implementare, ca dovadă de conformitate, ci se proiectează înainte, ca mecanism de control — iar documentația apare ca subprodus firesc.