Supravegherea cu AI se extinde rapid, iar experții avertizează asupra unui risc uriaș. Recunoașterea facială nu este folosită doar de poliție

Adaugă ca sursă preferată pe Google

Unii experți evocă inclusiv lumea distopică imaginată de George Orwell în romanul „1984”, ca exemplu al unui viitor care ar trebui evitat.

Supravegherea cu inteligență artificială provoacă reacții în Statele Unite

Departamentele de poliție au început să testeze inteligența artificială pentru diferite forme de supraveghere și pentru ceea ce este descris drept activitate de poliție predictivă, a explicat profesorul Toby Walsh, cercetător-șef al UNSW AI Institute.

O nouă campanie de dezinformare atribuită Rusiei: deepfake-uri în care actori celebri de la Hollywood atacă Partidul Democrat

12 migranți, descoperiți ascunși într-un camion cu alune la Calafat. Unde încercau să ajungă

În Australia de Vest, poliția a testat un sistem de recunoaștere facială bazat pe inteligență artificială, capabil să scaneze pietonii de pe stradă și să compare chipurile acestora cu liste ale persoanelor urmărite.

În prima săptămână a testului au fost scanate aproximativ 130.000 de persoane, iar sistemul a contribuit la 18 arestări. Walsh consideră că mulți oameni ar putea fi mulțumiți de un asemenea rezultat, însă avertizează că supravegherea permanentă a spațiului public poate însemna renunțarea treptată la valori considerate până acum importante.

„Întrebarea este cât de mult suntem dispuși să sacrificăm aceste valori pentru beneficiile pe care ni le aduce tehnologia”, a spus profesorul. În afara Australiei, extinderea sistemelor de supraveghere bazate pe inteligență artificială a devenit un subiect tot mai controversat.

În Statele Unite, unii cetățeni au început să protesteze împotriva camerelor operate de compania Flock Safety, care dispune de zeci de mii de dispozitive instalate în întreaga țară. Pe rețelele sociale au devenit virale inclusiv imagini în care camerele sunt distruse.

Tom Sulston, responsabil pentru politici publice în cadrul organizației Digital Rights Watch, a declarat pentru SBS News că sistemele Flock nu sunt utilizate în prezent în afara Statelor Unite, însă în Australia există numeroase companii care dezvoltă sau folosesc tehnologii asemănătoare.

Compania americană de analiză a datelor Palantir, care lucrează inclusiv cu structuri militare și cu autoritățile americane din domeniul imigrației, precum și compania israeliană de criminalistică digitală Cellebrite au contracte publice și private de zeci de milioane de dolari în Australia.

„Ar trebui să fim îngrijorați. Avem dreptul să ieșim în spațiul public fără să fim supravegheați, fără ca datele noastre biometrice să fie încărcate în cloud și fără ca acestea să fie utilizate în scopuri despre care nu știm aproape nimic”, a spus Sulston.

Experții consideră că autoritățile australiene trebuie să acorde o atenție mai mare protejării vieții private, mai ales în condițiile în care dispozitivele purtabile capabile să filmeze sau să analizeze mediul din jur, precum ochelarii inteligenți, devin tot mai răspândite.

„Avem unele legi care reglementează supravegherea în spațiul public, însă cu cât intră mai multe companii pe această piață, cu atât va exista o presiune mai mare pentru relaxarea regulilor”, a explicat Sulston.

Unde trebuie trasată linia dintre securitate și viața privată

Toby Walsh consideră că societatea trebuie să stabilească foarte clar unde se află limita dintre protejarea vieții private și nevoia de securitate. Inteligența artificială a făcut posibile forme de supraveghere care în urmă cu doar câțiva ani ar fi fost dificil sau chiar imposibil de realizat la o asemenea scară.

„Singurul lucru pe care George Orwell l-a anticipat greșit a fost faptul că nu oamenii îi vor urmări pe oameni. Vor fi calculatoarele și, în special, inteligența artificială cele care îi vor urmări”, a spus Walsh.

Flock Safety operează aproximativ 120.000 de camere în Statele Unite. Acestea înregistrează în principal numerele de înmatriculare și informații despre vehicule, datele fiind introduse într-o bază care poate fi ulterior consultată.

Compania susține că nu desfășoară activități de supraveghere în masă și că tehnologia sa este destinată prevenirii și investigării unor infracțiuni specifice. Datele sunt criptate și păstrate timp de 30 de zile, iar accesul este disponibil numai clienților autorizați și autentificați.

Sulston avertizează însă că informațiile obținute de asemenea sisteme pot fi combinate cu alte baze de date, inclusiv cu instrumente dezvoltate de companii precum Palantir. Rezultatul poate fi o imagine extrem de detaliată despre activitatea persoanelor care circulă prin spațiile publice.

„Au folosit aceste date pentru a construi sisteme care încearcă să anticipeze unde se vor produce infracțiuni și să informeze poliția cu privire la locurile în care consideră că ar putea avea loc o faptă”, a explicat Sulston.

Riscul ca algoritmii să amplifice discriminarea

O altă problemă semnalată de specialiști este reprezentată de erorile și prejudecățile pe care le pot manifesta sistemele bazate pe inteligență artificială. Sulston susține că astfel de tehnologii pot afecta disproporționat comunitățile care au fost deja supuse unui nivel ridicat de control din partea autorităților, inclusiv imigranții și persoanele care aparțin unor minorități.

„Există probleme reale legate de libertățile civile”, a afirmat el. Deși Flock Safety nu și-a extins până acum rețeaua la nivel internațional, directorul general Garrett Langley a indicat Australia drept un exemplu de piață externă care ar putea fi atractivă.

Unul dintre argumente este structura relativ centralizată a poliției australiene, organizată în numai opt forțe principale.

Poliția australiană folosește deja inteligența artificială

Australia nu dispune în prezent de o rețea comparabilă cu cea dezvoltată de Flock Safety în Statele Unite. Totuși, diferite structuri de poliție folosesc într-o măsură tot mai mare inteligența artificială în activitățile lor.

Poliția din New South Wales precizează că este interesată în primul rând de folosirea inteligenței artificiale pentru procesarea automată a unor volume foarte mari de informații și pentru identificarea legislației, procedurilor și precedentelor relevante.

Instituția analizează însă și noi modalități prin care inteligența artificială ar putea fi utilizată pentru prevenirea sau reducerea criminalității. În Australia, tehnologiile de învățare automată sunt deja folosite pentru procesarea unui volum mare de date provenite, de exemplu, din sistemele care detectează utilizarea telefonului mobil la volan sau nepurtarea centurii de siguranță.

Poliția din statul Victoria precizează că inteligența artificială semnalează posibilele abateri, dar verificarea imaginilor și emiterea sancțiunilor sunt realizate de oameni.

Toby Walsh avertizează că integrarea treptată a inteligenței artificiale în activitatea zilnică a poliției ar putea determina o schimbare importantă de comportament, prin apariția unei tendințe a oamenilor de a considera automat că decizia mașinii este corectă.

„Nu sunt deloc sigur că avem cu adevărat acordul publicului pentru această transformare”, a spus cercetătorul.

Accesul la date poate deveni o problemă în sine

Riscurile nu sunt legate exclusiv de modul în care sunt colectate informațiile. O problemă importantă este reprezentată și de persoanele care pot avea acces la acestea.

În Statele Unite, The Washington Post a relatat că cel puțin 50 de reprezentanți ai forțelor de ordine au fost acuzați că au folosit necorespunzător accesul la baze de date, inclusiv la informații provenite din sistemele Flock, pentru a urmări actuali sau foști parteneri de viață. Și în Australia, zeci de polițiști au fost acuzați de fapte asemănătoare, potrivit SBS News.

„Trebuie să fim foarte atenți la informațiile pe care le colectăm și la controlul exercitat asupra persoanelor care au acces la aceste date”, a spus Sulston.

Recunoașterea facială nu este folosită doar de poliție

Utilizarea inteligenței artificiale pentru supraveghere nu se limitează la activitatea forțelor de ordine. În 2024, retailerul Coles a semnat un contract pe trei ani cu Palantir pentru optimizarea forței de muncă și eficientizarea lanțurilor de aprovizionare în cele 840 de supermarketuri ale companiei din Australia.

Bunnings utilizează, la rândul său, tehnologie de recunoaștere facială bazată pe inteligență artificială pentru monitorizarea clienților din magazine.

Sulston consideră că popularitatea tot mai mare a inteligenței artificiale amplifică problemele existente în domeniul protecției vieții private și susține că actualul cadru legislativ nu mai este suficient. „Avem nevoie ca Guvernul să intervină, să acorde prioritate reformei privind protecția vieții private și să se asigure că legile pe care le avem pot face față noilor amenințări”, a declarat el.

Experții cer transparență înainte ca tehnologia să devină imposibil de controlat

Toby Walsh consideră că Australia trebuie să gestioneze cu prudență dezvoltarea inteligenței artificiale și să învețe din modul în care au fost reglementate rețelele sociale. În cazul platformelor online, multe dintre măsurile legislative au apărut abia după ce tehnologia devenise deja parte din viața cotidiană și după apariția unor probleme greu de corectat.

Expertul consideră că aceeași situație nu ar trebui repetată în cazul inteligenței artificiale și al supravegherii automate. „Avem nevoie de transparență. Publicul trebuie să știe unde și când este utilizată această tehnologie, când nu este folosită, în ce condiții poate fi activată și care sunt limitele sale”, a spus Walsh.

Potrivit cercetătorului, societatea încă acceptă într-o anumită măsură folosirea acestor tehnologii atunci când ele contribuie la siguranță și la prevenirea infracțiunilor. Această acceptare nu este însă garantată pe termen lung.

„Încă există o anumită acceptare socială, dar bănuiesc că, dacă nu suntem atenți, ea poate dispărea foarte repede”, a avertizat Toby Walsh.