Articol realizat de Ioana Bădescu.
Inteligența artificială promite să transforme modul în care funcționează societatea, inclusiv domenii delicate precum justiția și securitatea. Însă, pe măsură ce algoritmii ajung să influențeze decizii care privesc libertatea, identitatea și viața privată a oamenilor, apar întrebări esențiale despre limitele utilizării lor. Cazurile ce privesc Clearview AI și COMPAS demonstrează că în lipsa transparenței și a unui control riguros, tehnologia poate reproduce prejudecăți și există riscul de a transforma instrumentele create pentru eficiență în surse de discriminare și supraveghere.
Unul dintre cele mai controversate exemple privind limitele etice ale inteligenței artificiale este cazul Clearview AI, companie specializată în recunoaștere facială. Clearview AI și-a dezvoltat sistemul prin extragerea a peste trei miliarde de imagini de pe site-uri publice, inclusiv de pe platforme de socializare precum Facebook, Instagram și LinkedIn, fără a obține consimțământul persoanelor ale căror chipuri au fost colectate. Aceste imagini au fost ulterior utilizate pentru a crea un instrument de recunoaștere facială comercializat către agențiile de aplicare a legii din Statele Unite ale Americii.
Persoanele ale căror imagini au fost colectate nu știau despre acest proces și nu aveau niciun control asupra modului în care urmau să fie utilizate datele lor biometrice. Spre deosebire de instrumentele tradiționale de aplicare a legii, algoritmul Clearview transformă amprentele digitale lăsate în mediul online într-un mijloc de identificare și supraveghere, ceea ce modifică echilibrul dintre prezența publică și viața privată. S-a demonstrat că tehnologia de recunoaștere facială prezintă rate mai ridicate de eroare în cazul persoanelor de culoare, al femeilor și al tinerilor, ceea ce sporește riscul identificărilor greșite. Atunci când sunt utilizate fără o supraveghere strictă, aceste instrumente pot conduce cu ușurință la arestări pe nedrept și la încălcarea libertății de exprimare.
Cazul Clearview AI ilustrează tendința ca inovațiile tehnologice să evolueze mai rapid decât reglementările juridice. Companiile pot acorda prioritate profitului, performanței sau cererii din partea autorităților în detrimentul interesului public și al responsabilității democratice. Utilizarea etică a inteligenței artificiale presupune precizie tehnică și, mai ales, un angajament profund pentru respectarea drepturilor omului. Controversa din jurul Clearview AI demonstrează că tehnologiile puternice se pot transforma rapid în instrumente de supraveghere și control, în loc să rămână instrumente ale justiției și progresului.
Dacă în cazul Clearview AI problema centrală este reprezentată de colectarea și utilizarea datelor personale fără consimțământ, un alt tip de risc apare atunci când inteligența artificială este folosită pentru a influența decizii care afectează direct viețile oamenilor. În acest context, cazul COMPAS evidențiază o altă dimensiune a dilemelor etice și anume posibilitatea ca algoritmii să preia și să amplifice prejudecățile deja existente în societate. Astfel, cele două cazuri, deși diferite prin natura tehnologiei și prin modul de utilizare, ridică aceeași întrebare fundamentală: cât de mult putem avea încredere în deciziile generate de sisteme automatizate atunci când acestea pot afecta drepturile și libertățile fundamentale?
În 2016, o investigație de referință realizată de ProPublica a demonstrat că algoritmul COMPAS era departe de a fi lipsit de prejudecăți. Prin analizarea unor date provenite de la peste 7000 de persoane arestate în Florida, jurnaliștii de investigație au descoperit că inculpații de culoare care nu au comis ulterior alte infracțiuni aveau o probabilitate de aproape două ori mai mare de a fi clasificați drept persoane cu risc ridicat. În schimb, inculpații albi care recidivau erau adesea etichetați în mod eronat drept persoane cu risc scăzut. COMPAS nu utilizează în mod explicit rasa ca variabilă de intrare, dar este probabil ca algoritmul să folosească variabile corelate cu rasa, precum statutul socio-economic, care pot reproduce inegalitățile structurale deja existente.
Investigația realizată de ProPublica asupra algoritmului COMPAS reprezintă un studiu de caz esențial, care evidențiază provocările etice generate de inteligența artificială în societatea americană, în special în cadrul sistemului de justiție penală. COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) a fost dezvoltat de o companie privată, iar algoritmul său este utilizat în Statele Unite ale Americii pentru a evalua probabilitatea ca un inculpat să recidiveze. Instanțele s-au bazat pe scorurile COMPAS pentru a fundamenta decizii privind eliberarea pe cauțiune, condamnarea și libertatea condiționată, cu intenția de a face aceste judecăți mai obiective și mai bine fundamentate pe date.
Constatările ProPublica au declanșat o dezbatere națională privind echitatea sistemelor de inteligență artificială. Cazul COMPAS evidențiază necesitatea unor standarde etice stricte în proiectarea, implementarea și evaluarea inteligenței artificiale, în special atunci când aceasta este utilizată în contexte cu miză ridicată, precum sistemul de justiție penală. În absența unei atenții riguroase acordate prejudecății și transparenței, instrumentele bazate pe inteligență artificială pot consolida, în loc să reducă, inegalitățile sociale. Aceste scoruri părtinitoare au dus la un tratament inechitabil în instanță și au afectat în mod direct valorile fundamentale ale democrației americane.
Inteligența artificială oferă capacități investigative puternice, precum identificarea suspecților, analizarea unor volume uriașe de date și detectarea unor tipare pe care analiștii umani le-ar putea trece cu vederea. Pe de altă parte, fără o supraveghere adecvată, aceste instrumente pot perpetua prejudecățile, pot genera rezultate eronate și îi pot induce în eroare pe anchetatori. Validarea umană este necesară pentru a demonstra un grad ridicat de acuratețe. În diferite moduri, inteligența artificială este utilizată în mai multe etape ale procesului de justiție, de la gestionarea apelurilor de urgență și prelucrarea documentelor judiciare până la sistemul penitenciar și supravegherea persoanelor aflate în comunitate. Pe măsură ce inteligența artificială continuă să evolueze, integrarea sa în sistemul de justiție penală va necesita atât o colaborare și o reglementare atent concepute, cât și un angajament ferm pentru menținerea unui echilibru între inovație și responsabilitatea etică.
Dar problema nu se oprește la sălile de judecată. Un alt caz important care evidențiază necesitatea urgentă a unei examinări etice riguroase în implementarea inteligenței artificiale este cel al companiei Clearview AI, specializată în recunoaștere facială și intens criticată pentru impactul său asupra vieții private. Etica inteligenței artificiale reprezintă ansamblul principiilor directoare pe care inginerii și oficialii guvernamentali le utilizează pentru a se asigura că tehnologia bazată pe inteligență artificială este dezvoltată și folosită în mod responsabil. Un cod solid de etică în domeniul inteligenței artificiale poate include evitarea prejudecăților, garantarea confidențialității utilizatorilor și a datelor acestora și diminuarea riscurilor asupra mediului. Codurile etice adoptate de companii și cadrele de reglementare instituite de guverne reprezintă două dintre principalele modalități prin care etica inteligenței artificiale poate fi pusă în practică.
Discuția despre etica inteligenței artificiale a evoluat de la un subiect abordat în principal în mediul cercetării academice și al organizațiilor nonprofit la o preocupare de interes major pentru companiile de tehnologie. În prezent, giganți tehnologici precum IBM, Google și Meta au constituit echipe dedicate abordării problemelor etice care apar în urma colectării unor cantități uriașe de date. În același timp, guvernele și organismele interguvernamentale au început să elaboreze reglementări și politici etice bazate pe cercetarea academică.
În fond, cele două cazuri scot la iveală aceeași problemă: inteligența artificială nu este în mod automat obiectivă doar pentru că funcționează pe baza unor algoritmi și a unor volume uriașe de date. Una dintre cele mai importante preocupări etice legate de inteligența artificială este prejudecata. Sistemele de inteligență artificială sunt obiective doar în măsura în care sunt obiective datele pe baza cărora sunt instruite. Prin urmare, pentru a combate această problemă, cercetătorii trebuie să se asigure că aceste sisteme sunt antrenate pe seturi de date diverse, care să reprezinte în mod corect diferitele grupuri demografice.
Cazurile COMPAS și Clearview AI arată că adevărata provocare nu este dacă inteligența artificială poate fi folosită în justiție sau în securitate, ci în ce condiții ar trebui să fie folosită. Atunci când algoritmii ajung să influențeze libertatea unei persoane, accesul la justiție sau dreptul la viață privată, întrebările despre eficiență nu mai sunt suficiente. Devine esențial să existe transparență, supraveghere umană, mecanisme de responsabilizare și garanții clare pentru drepturile fundamentale. În lipsa acestora, tehnologia care promite să facă societatea mai eficientă riscă să amplifice exact inegalitățile pe care ar trebui să le reducă.
Surse:
https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm
https://arxiv.org/pdf/1906.04711
https://www.unesco.org/en/artificial-intelligence/recommendation-ethics/cases
