„Nasul Inteligentei Artificiale” a parasit Google si vorbeste despre pericolele tehnologiei
Geoffrey Hinton, supranumit „Nasul AI”, a confirmat, luni, ca si-a dat demisia de la Google saptamana trecuta pentru a vorbi despre „pericolele” tehnologiei pe care a ajutat sa o dezvolte, potrivit CNN.
Lucrarea de pionierat a lui Hinton asupra retelelor neuronale a modelat sistemele de inteligenta artificiala care alimenteaza multe dintre produsele de astazi. Timp de un deceniu a lucrat cu jumatate de norma la Google, la eforturile de dezvoltare a IA, dar de atunci a ajuns sa aiba preocupari cu privire la tehnologie si rolul sau in promovarea acesteia.
„Ma consolez cu scuza ca, daca nu as fi facut-o eu, ar fi facut-o altcineva”, a spus Hinton pentru New York Times, care a fost primul care i-a anuntat decizia.
Intr-un tweet de luni, Hinton a spus ca a parasit Google pentru a putea vorbi liber despre riscurile IA, mai degraba decat din dorinta de a critica Google in mod specific.
„Am plecat ca sa pot vorbi despre pericolele inteligentei artificiale fara a lua in considerare modul in care acest lucru afecteaza pe Google”, a spus Hinton intr-un tweet. „Google a actionat foarte responsabil.”
Jeff Dean, om de stiinta la Google, a declarat ca Hinton „a facut progrese fundamentale in IA” si si-a exprimat aprecierea pentru „deceniul de contributii al lui Hinton la Google”. „Ramanem angajati intr-o abordare responsabila a inteligentei artificiale”, a spus Dean intr-o declaratie transmisa CNN. „Invatam continuu sa intelegem riscurile emergente, in timp ce inovam cu indrazneala.”
Decizia lui Hinton de a se retrage din companie si de a vorbi despre tehnologie vine in momentul in care un numar tot mai mare de parlamentari, grupuri de advocacy si persoane din interiorul acestui domeniu au tras semnale de alarma cu privire la potentialul unei noi serii de chatbot care ar putea raspandi dezinformarea si ar putea inlocui locurile de munca.
Valul de atentie din jurul ChatGPT de la sfarsitul anului trecut a ajutat la reinnoirea cursei inarmarilor intre companiile de tehnologie pentru a dezvolta si implementa instrumente similare in produsele lor. OpenAI, Microsoft si Google sunt in fruntea acestei tendinte, dar IBM, Amazon, Baidu si Tencent lucreaza la tehnologii similare.
In interviul acordat publicatiei Times, Hinton si-a exprimat ingrijorarile cu privire la potentialul IA de a elimina locurile de munca si de a crea o lume in care multi „nu vor mai putea sti ce este adevarat”. El a subliniat, de asemenea, ritmul uimitor de avansare, mult peste ceea ce el si altii anticipasera.
„Ideea ca aceste lucruri ar putea deveni de fapt mai inteligente decat oamenii a fost crezuta de cativa oameni”, a spus Hinton in interviu. „Dar cei mai multi au crezut ca mai este pana atunci. Si am crezut ca mai avem timp. Am crezut ca avem intre 30 si 50 de ani sau chiar mai mult. Evident, nu mai cred asta.”
Chiar inainte de a se indeparta de Google, Hinton a vorbit public despre potentialul IA de a face si bine, dar si rau.
„Cred ca progresul rapid al inteligentei artificiale va transforma societatea in moduri pe care nu le intelegem pe deplin si nu toate efectele vor fi bune”, a spus Hinton intr-un discurs de deschidere din 2021 la Institutul Indian de Tehnologie Bombay din Mumbai. El a remarcat felul in care IA va stimula asistenta medicala, creand, in acelasi timp, oportunitati pentru arme letale autonome. „Gasesc aceasta perspectiva mult mai imediata si mult mai terifianta decat perspectiva ca robotii sa preia controlul, ceea ce cred ca este foarte departe.”
Hinton nu este primul angajat Google care a ridicat suspiciuni cu privire la IA. In iulie, compania a concediat un inginer care a sustinut ca un sistem IA nelansat a devenit constient, spunand ca a incalcat politicile de angajare si securitatea datelor. Multi din comunitatea IA au respins cu fermitate afirmatia inginerului.
