Tehnologia pe care Facebook si Google nu au indraznit sa o lanseze
Intr-o dupa-amiaza de la inceputul anului 2017, la sediul central al Facebook din Menlo Park, California, un inginer pe nume Tommer Leyvand statea intr-o sala de conferinte cu un smartphone atasat pe marginea sepcii sale de baseball. Benzile de cauciuc il tineau ancorat, cu camera orientata spre exterior. Absurdul telefon-sapca continea un instrument secret cunoscut doar de un mic grup de angajati. Ceea ce putea face era remarcabil, transmite site-ul dnyuz.com, care citeaza un articol New York Times.
Cei cativa barbati din incapere radeau si vorbeau unii peste altii in entuziasm, asa cum arata o inregistrare video realizata in acea zi, pana cand unul dintre ei a cerut liniste. In sala s-a facut liniste; demonstratia era in desfasurare.
Leyvand s-a intors spre un barbat aflat in fata sa. Obiectivul camerei smartphone-ului – rotund, negru, fara nicio clipire – a plutit in fata fruntii lui Leyvand ca un ochi de ciclop in timp ce examina chipul din fata sa. Doua secunde mai tarziu, o voce feminina robotizata a spus: „Zach Howard”.
„Eu sunt”, a confirmat Howard, un inginer mecanic.
Un angajat care a vazut demonstratia tehnica a crezut ca ar fi trebuit sa fie o gluma. Dar cand telefonul a inceput sa spuna corect numele tuturor celor din sala, i s-a parut infiorator, ca ceva desprins dintr-un film distopic.
Telefonul-sapca de identificare a persoanei ar fi fost o mana cereasca pentru cineva cu probleme de vedere, dar era prea riscant. Implementarea anterioara de catre Facebook a tehnologiei de recunoastere faciala, pentru a-i ajuta pe oameni sa-si eticheteze prietenii in fotografii, a provocat un protest din partea avocatilor pentru protectia vietii private si a dus la un proces colectiv in Illinois in 2015, care a costat in cele din urma compania 650 de milioane de dolari.
Sase ani mai tarziu, Meta nu a lansat o versiune a acelui produs, iar Leyvand a plecat la Apple pentru a lucra la ochelarii de realitate augmentata Vision Pro.
In ultimii ani, start-up-urile Clearview AI si PimEyes au impins limitele a ceea ce publicul credea ca este posibil, lansand motoare de cautare a fetelor asociate cu milioane de fotografii de pe web-ul public. Cu aceste instrumente, disponibile pentru politie in cazul Clearview AI si pentru publicul larg in cazul PimEyes, o fotografie a unei persoane poate fi folosita pentru a gasi alte fotografii online in care apare acel chip, ceea ce ar putea dezvalui un nume, profiluri de socializare sau informatii cu care o persoana nu ar dori niciodata sa fie asociata in mod public, cum ar fi fotografii riscante.
Ceea ce au facut aceste start-up-uri nu a fost o descoperire tehnologica, ci una etica. Gigantii din domeniul tehnologiei dezvoltasera cu ani in urma capacitatea de a recunoaste fetele persoanelor necunoscute, dar alesesera sa retina aceasta tehnologie, hotarand ca versiunea cea mai extrema – punerea unui nume pe fata unui strain – era prea periculoasa pentru a fi disponibila la scara larga.
Acum, ca tabu-ul a fost spart, tehnologia de recunoastere faciala ar putea deveni omniprezenta. Folosita in prezent de politie pentru a rezolva infractiuni, de guvernele autoritare pentru a-si monitoriza cetatenii si de intreprinderi pentru a-si tine la distanta dusmanii, aceasta ar putea fi in curand un instrument aflat in mainile noastre, o aplicatie pe telefon – sau in ochelarii de realitate augmentata – care ar introduce o lume fara straini.
„Am decis sa ne oprim”
Inca din 2011, un inginer de la Google a dezvaluit ca a lucrat la un instrument care sa caute pe Google fata cuiva si sa gaseasca alte fotografii online ale acestuia. Cateva luni mai tarziu, presedintele Google, Eric Schmidt, a declarat intr-un interviu ca Google „a construit aceasta tehnologie” dar a decis sa nu o lanseze public.
„Din cate stiu, este singura tehnologie pe care Google a construit-o si, dupa ce am analizat-o, am decis sa ne oprim”, a spus Schmidt.
In mod intentionat sau nu, gigantii din domeniul tehnologiei au contribuit, de asemenea, la stoparea circulatiei tehnologiei prin achizitionarea celor mai avansate start-up-uri care o ofereau. In 2010, Apple a cumparat o companie suedeza promitatoare de recunoastere faciala numita Polar Rose. In 2011, Google a achizitionat o companie americana de recunoastere faciala populara in randul agentiilor federale, numita PittPatt. Iar in 2012, Facebook a cumparat compania israeliana Face.com. In fiecare caz, noii proprietari au inchis serviciile companiilor achizitionate pentru persoanele din exterior. Greii din Silicon Valley au fost de facto gardienii modului in care si daca tehnologia va fi utilizata sau nu.
Facebook, Google si Apple au utilizat tehnologia de recunoastere faciala in moduri pe care le considerau relativ benigne: ca instrument de securitate pentru deblocarea unui smartphone, ca modalitate mai eficienta de a marca prietenii cunoscuti in fotografii si ca instrument de organizare pentru a clasifica fotografiile de pe smartphone in functie de fetele persoanelor din ele.
In ultimii ani, insa, aceste limite au practic anulate de companii mai mici si mai agresive, cum ar fi Clearview AI si PimEyes. Ceea ce a permis aceasta schimbare a fost natura open-source a tehnologiei retelelor neuronale, care sta acum la baza majoritatii programelor de inteligenta artificiala.
Intelegerea parcursului tehnologiei de recunoastere faciala ne va ajuta sa ne orientam in ceea ce urmeaza sa se intample cu alte progrese in domeniul inteligentei artificiale, cum ar fi instrumentele de generare a imaginilor si a textelor. Puterea de a decide ce pot si ce nu pot face va fi din ce in ce mai mult determinata de oricine cu un pic de pricepere in domeniul tehnologiei, care s-ar putea sa nu tina cont de ceea ce publicul larg considera acceptabil.
„Stand pe umerii gigantilor”
Cum am ajuns in punctul in care cineva poate observa un „tata sexy” pe un trotuar din Manhattan si apoi sa foloseasca PimEyes pentru a incerca sa afle cine este si unde lxucreaza? Raspunsul scurt este o combinatie de coduri gratuite partajate online, o gama vasta de fotografii publice, lucrari academice care explica cum se pun toate acestea cap la cap si o atitudine laxa fata de legile care guverneaza viata privata.
Cofondatorul Clearview AI, Hoan Ton-That, care a condus dezvoltarea tehnologica a companiei sale, nu avea o pregatire speciala in domeniul biometriei. Inainte de Clearview AI, el a realizat chestionare pe Facebook, jocuri pentru iPhone si aplicatii prostesti, cum ar fi „Trump Hair”, pentru a face ca o persoana dintr-o fotografie sa para coafata ca fostul presedinte.
In incercarea sa de a crea o aplicatie revolutionara si mai profitabila, Ton-That a apelat la resurse online gratuite, cum ar fi OpenFace – o „biblioteca de recunoastere a fetelor” creata de un grup de la Universitatea Carnegie Mellon.
Biblioteca de coduri era disponibila pe GitHub, cu un avertisment: „Va rugam sa o utilizati in mod responsabil!”
„Nu sustinem utilizarea acestui proiect in aplicatii care incalca confidentialitatea si securitatea”, se arata in declaratie. „Folosim acest lucru pentru a ajuta utilizatorii cu deficiente cognitive sa simta si sa inteleaga lumea din jurul lor”.
A fost o cerere nobila, dar complet inaplicabila.
Ton-That a reusit sa puna in functiune codul OpenFace, dar nu era perfect, asa ca a continuat sa caute, ratacind prin literatura academica si prin depozitele de coduri, incercand diverse strategii pentru a vedea ce functiona. Era ca o persoana care se plimba printr-o livada, gustand din fructele a zeci de ani de cercetare, coapte pentru a fi culese si glorios de libere.
„Nu as fi reusit daca ar fi trebuit sa o construiesc de la zero”, a spus el, mentionand numele unora dintre cercetatorii care au facut progrese in domeniul vederii computerizate si al inteligentei artificiale, inclusiv Geoffrey Hinton, „nasul inteligentei artificiale”. „Stateam pe umerii unor giganti”.
Ton-That construieste inca. Clearview a dezvoltat o versiune a aplicatiei sale care functioneaza cu ochelarii de realitate augmentata, o realizare mai completa a aplicatiei pe care echipa de ingineri de la Facebook o realizase cu ani in urma.
Sfarsitul anonimatului
Perechea de ochelari de realitate augmentata de 999 de dolari, produsa de compania Vuzix, conecteaza purtatorul la baza de date Clearview, care contine 30 de miliarde de fete.
Aplicatia de realitate augmentata de la Clearview, care poate identifica o persoana aflata la o distanta de pana la 3 metri, nu este inca disponibila publicului, dar Fortele Aeriene au oferit finantare pentru o posibila utilizare a acesteia in bazele militare.
Intr-o dupa-amiaza de toamna, Ton-That a facut pentru ziaristii NYT o demonstratie a ochelarilor in apartamentul purtatoarei sale de cuvant din Upper West Side din Manhattan. Dupa ce si-a pus ochelarii si s-a uitat la ziarist, a spus: „Ooooh, 176 de fotografii”0 „Festivalul de idei de la Aspen. Kashmir Hill”, a citit din legenda imaginii de pe una dintre fotografiile care au aparut.
Apoi a inmanat ochelarii ziaristului. Desi pareau greoi, erau usoare si se potriveau natural.
Cand s-am uitat la Ton-That prin ochelari, a aparut un cerc verde in jurul fetei sale, cu mesajul „Cautam…”
Apoi, patratul s-a umplut cu fotografii cu el, cu o legenda sub fiecare dintre ele.
Cand ziaristul s-a uitat la purtatoarea lui de cuvant, au aparut 49 de fotografii, inclusiv una cu un client. Purtatoarea de cuvant a cerut ca aceasta fotografie sa nu fie mentionata.
Acest lucru a dezvaluit intamplator cat de intruziva poate fi o cautare a fetei cuiva, chiar si pentru o persoana a carei slujba este de a determina lumea sa imbratiseze aceasta tehnologie.
Este clar ca persoanele care detin un astfel de instrument vor avea in mod inevitabil putere asupra celor care nu au.
O oportunitate pierduta?
Meta lucreaza de ani de zile la ochelarii sai de realitate augmentata. Intr-o intalnire interna la inceputul anului 2021, directorul de tehnologie al companiei, Andrew Bosworth, a declarat ca i-ar placea sa ii echipeze cu capacitati de recunoastere faciala.
Intr-o inregistrare a reuniunii interne, Bosworth a spus ca lasarea recunoasterii faciale in afara ochelarilor de realitate augmentata a fost o oportunitate pierduta pentru imbunatatirea memoriei umane. El a vorbit despre experienta universala de a merge la o cina si de a vedea pe cineva cunoscut, dar de a nu reusi sa-ti amintesti acestuia.
„Am putea sa le punem un mic ecuson cu numele lor”, a spus el in inregistrare, cu un ras scurt. „Am putea. Avem aceasta abilitate”.
Dar el si-a exprimat ingrijorarea cu privire la legalitatea oferirii unui astfel de instrument. IBosworth a spus ca recunoasterea faciala este „extrem de controversata” si ca acordarea unui acces larg la aceasta este „o dezbatere pe care trebuie sa o avem cu publicul”.
In timp ce ochelarii de realitate augmentata ai Meta sunt inca in curs de dezvoltare, compania a inchis sistemul de recunoastere faciala implementat pe Facebook pentru a marca prietenii in fotografii si a sters cele peste un miliard de amprente faciale pe care le crease pentru utilizatorii sai.
Ar fi destul de usor sde repornit un astfel de sistem. Intrebat despre comentariile lui Bosworth si daca intr-o zi compania ar putea introduce recunoasterea faciala in ochelarii sai de realitate augmentata, un purtator de cuvant al Meta nu a exclus aceasta posibilitate.
