O dilemă jurnalistică recentă din Marea Britanie readuce în prim-plan un subiect intens dezbătut în era digitală: dacă tehnologia de ultimă generație poate deveni un instrument al nedreptății. Cazul unei femei care a fost acuzată de furt și interzisă din toate magazinele unei importante rețele britanice, pe baza unei decizii luate în întregime de un algoritm de supraveghere, stârnește tocmai acest semnal de alarmă.
Într-o zi obișnuită, Maria Popescu – cetățeană româncă stabilită de câțiva ani în Londra – a intrat într-un supermarket din centrul orașului ca orice alt client. După ce și-a făcut cumpărăturile, s-a îndreptat spre casă și nu a băgat de seamă că un dispozitiv de inteligență artificială instalat la ieșire a raportat-o automat ca persoană suspectă. Fără nicio intervenție umană ulterioară, magazinul a declanșat o procedură automată: contul de client i-a fost marcat, datele de pe card i-au fost blocate, iar o notificare a plecat către toate filialele lanțului. Astfel, Maria a fost practic «interzisă» din toate magazinele sub acuzația de tentativă de furt.
Contactată de echipa de securitate a lanțului, tânăra a explicat că nu există niciun motiv de neliniște: achitase integral produsele, nu avusese niciun comportament ostentativ, iar bonul fiscal era valabil. Totuși, protocolul automat a rămas în vigoare până când se va face o reevaluare – etapă care, în multe cazuri, poate dura și câteva săptămâni sau luni. Până atunci, accesul îi este refuzat.
Reacția publicului nu a întârziat. Au apărut postări pe forumuri și rețele de socializare care denunțau abuzul, dar și susținători ce consideră că oricât de bine intenționată ar fi tehnologia, erorile sunt inevitabile. Între timp, câteva organizații pentru drepturile consumatorilor au cerut companiei să ceară scuze și să elimine imediat interdicția. Maria a început să strângă dovezi și să caute asistență juridică pentru a contesta formal decizia automatizată.
Analizând acest caz, ne confruntăm cu două fațete ale aceleiași monede. Pe de o parte, companiile investesc exponential în sisteme de detectare a furturilor, iar inteligența artificială poate procesa mult mai rapid și mai eficient imaginile și datele de vânzări. Reducerea pierderilor financiare are impact și asupra prețurilor pentru consumatori. Pe de altă parte, responsabilitatea pentru deciziile automate trebuie asumată de cei care proiectează aceste soluții – mai ales atunci când consecința directă este afectarea reputației și libertății de mișcare a unei persoane.
În opinia mea, orice aplicație de inteligență artificială utilizată în spații publice sau comerciale ar trebui să respecte câteva principii de bază: transparență, corectitudine și posibilitatea unei căi rapide de apel. În primul rând, clienții trebuie să fie informați că sunt supravegheați de algoritmi și să aibă acces la regulile după care aceste sisteme funcționează. Apoi, e necesar să existe un filtru uman care să valideze cazurile delicate înainte de a impune interdicții definitive. Nu în ultimul rând, oricine consideră că i-a fost refuzat în mod abuziv accesul trebuie să dispună de un mecanism simplu, accesibil și gratuit de a-și exercita drepturile și a-și recăpăta reputația.
Mai există și o perspectivă etică. A ne bizui exclusiv pe o mașină care nu are empatie, nu poate interpreta nuanțele comportamentului uman și nu ia în calcul contextul complet al unei situații poate duce la discriminări sistematice. Dacă o zonă urbană este catalogată «cu risc ridicat» și un algoritm marchează aproape orice trecător drept vestit suspect, atunci putem ajunge într-o situație de supraveghere exagerată și de intimidare a populației. Drepturile fundamentale nu pot fi ignorate pe altarul eficienței.
În zilele următoare, ne așteptăm ca firma de tehnologie care a furnizat soluția de supraveghere să răspundă public și să revizuiască procedurile interne. Dincolo de acest scandal local, rămâne întrebarea: câtă inteligență artificială ne dorim în viețile noastre cotidiene și cum putem asigura un echilibru între siguranță și libertate?
Concluzie: Cazul Mariei Popescu ne reamintește că tehnologia nu este infailibilă și că responsabilitatea pentru deciziile sale revine întotdeauna oamenilor din spatele codului. Pentru a nu transforma supravegherea digitală într-un instrument al nedreptății, societatea civilă, autoritățile de reglementare și companiile private trebuie să colaboreze în vederea implementării unor reguli care să protejeze atît securitatea, cît și drepturile fundamentale ale oricărui individ.
