Geoffrey Hinton, „parintele” inteligentei artificiale, avertizeaza asupra pericolelor dezvoltarii AI
Un om considerat drept parintele inteligentei artificiale (AI) si-a dat demisia, avertizand asupra pericolelor tot mai mari pe care le reprezinta evolutiile din acest domeniu, relateaza BBC.
Geoffrey Hinton, in varsta de 75 de ani, si-a anuntat demisia de la Google intr-o declaratie pentru New York Times, afirmand ca regreta acum munca sa.
El a declarat pentru BBC ca unele dintre pericolele reprezentate de chatbots cu inteligenta artificiala sunt „destul de infricosatoare”.
„In acest moment, nu sunt mai inteligente decat noi, din cate imi dau seama. Dar cred ca in curand ar putea fi”.
Dr. Hinton a acceptat, de asemenea, ca varsta sa a jucat un rol in decizia sa de a parasi gigantul tehnologic, spunand pentru BBC: „Am 75 de ani, asa ca este timpul sa ma retrag.”
Cercetarile de pionierat ale doctorului Hinton in domeniul invatarii profunde si al retelelor neuronale au deschis calea pentru sistemele actuale de inteligenta artificiala precum ChatGPT.
Dar psihologul cognitiv si informaticianul britanic-canadian a declarat pentru BBC ca chatbotul ar putea depasi in curand nivelul de informatii pe care il detine un creier uman.
„In momentul de fata, ceea ce vedem este ca lucruri precum GPT-4 eclipseaza o persoana in ceea ce priveste cantitatea de cunostinte generale pe care o are si o eclipseaza cu mult. In ceea ce priveste rationamentul, nu este la fel de bun, dar face deja rationamente simple.
„Si, avand in vedere ritmul de progres, ne asteptam ca lucrurile sa se imbunatateasca destul de repede. Asa ca trebuie sa ne facem griji in aceasta privinta.”
In articolul din New York Times, Dr. Hinton s-a referit la „actorii rai” care ar incerca sa foloseasca IA pentru „lucruri rele”.
Cand BBC i-a cerut sa detalieze acest lucru, el a raspuns „Acesta este doar un fel de cel mai rau scenariu, un fel de scenariu de cosmar”.
„Va puteti imagina, de exemplu, ca un actor rau, cum ar fi [presedintele rus Vladimir] Putin, decide sa dea robotilor capacitatea de a-si crea propriile subobiective”.
Omul de stiinta a avertizat ca acest lucru ar putea „sa creeze sub-obiective de genul ‘trebuie sa obtin mai multa putere'”.
El a adaugat: „Am ajuns la concluzia ca tipul de inteligenta pe care il dezvoltam este foarte diferit de inteligenta pe care o avem.
„Noi suntem sisteme biologice, iar acestea sunt sisteme digitale. Iar marea diferenta este ca, in cazul sistemelor digitale, aveti multe copii ale aceleiasi entitati.
„Si toate aceste copii pot invata separat, dar isi pot impartasi cunostintele instantaneu. Asadar, este ca si cum ai avea 10.000 de oameni si, de fiecare data cand o persoana invata ceva, toata lumea stie automat. Si asa pot aceste chatbots sa stie mult mai multe decat orice persoana.”
El a subliniat ca nu a dorit sa critice Google si ca gigantul tehnologic a fost „foarte responsabil”.
Intr-o declaratie, Jeff Dean, seful departamentului de stiinta al Google, a declarat: „Ramanem dedicati unei abordari responsabile a inteligentei artificiale. Invatam in permanenta pentru a intelege riscurile emergente, inovand in acelasi timp cu indrazneala”.
