Daca Inteligenta Artificiala ar vrea sa distruga omenirea, cum ar proceda?
Inteligenta artificiala (AI) ameninta omenirea cu o posibila „extinctie”, previn mai multi experti si antreprenori din acest sector de activitate aflat in plin avant, care fac apel la constientizarea riscurilor. Insa acest scenariu catastrofal si inca indepartat este oare credibil, se intreaba jurnalistii de la AFP, preluata de Agerpres.
„Agrafele mortii”
Aceasta situatie de cosmar, inspirata din numeroase filme SF, ar incepe atunci cand masinile si-ar vedea capacitatile depasindu-le pe cele ale oamenilor si ar scapa de sub control.
„Incepand din momentul in care vom avea masini care incearca sa supravietuiasca, vom avea probleme”, a declarat recent cercetatorul canadian Yoshua Bengio, unul dintre „parintii” invatarii automate.
Potrivit unei variante imaginate de filosoful suedez Nick Bostrom, momentul decisiv s-ar produce atunci cand masinile vor sti sa fabrice singure alte masini, provocand astfel „o explozie de inteligenta”.
Potrivit „teoriei agrafelor pentru hartie”, daca AI ar avea de exemplu ca scop suprem optimizarea productiei pentru acest accesoriu de papetarie, ea ar sfarsi prin a acoperi „mai intai Terra, apoi zone tot mai mari din Univers, cu agrafe”, a explicat el.
Nick Bostrom este o personalitate controversata, dupa ce a afirmat ca omenirea ar putea fi o simulare informatica si dupa ce a sustinut teorii apropiate de teza eugenismului. De asemenea, el a trebuit sa isi ceara scuze recent pentru un mesaj rasist pe care l-a expediat in anii 1990 si care a fost dezvaluit de curand.
Cu toate acestea, ideile lui despre pericolele generate de AI raman foarte influente si i-au inspirat atat pe miliardarul Elon Musk, CEO-ul companiilor Tesla si SpaceX, cat si pe astrofizicianul Stephen Hawking, decedat in 2018.
„Terminator”
Imaginea robotului cu ochi rosii din „Terminator”, trimis din viitor de o inteligenta artificiala pentru a anihila orice rezistenta umana, a marcat intr-un mod deosebit inconstientul colectiv.
Dar, potrivit expertilor din campania „Stop Killer Robots”, armele autonome din anii care vor urma nu se vor impune sub aceasta forma, au scris ei intr-un raport din 2021.
„Inteligenta artificiala nu va conferi masinilor dorinta de a ucide oameni”, a dat asigurari specialista in robotica Kerstin Dautenhahn, de la Universitatea Waterloo din Canada, contactata de AFP.
„Robotii nu sunt diabolici”, a afirmat ea, recunoscand totusi ca dezvoltatorii lor ar putea sa ii programeze pentru a face rau.
Arme chimice
Un scenariu mai putin evident prevede ca inteligenta artificiala va fi utilizata pentru a crea toxine sau noi virusuri, in scopul de a le raspandi apoi la nivel mondial.
Cercetatorii dintr-un grup care utilizeaza AI pentru a descoperi noi medicamente au realizat un experiment pe parcursul caruia au modificat inteligenta artificiala pentru ca ea sa caute mai degraba molecule nocive.
In mai putin de sase ore, ei au reusit sa genereze 40.000 de agenti potential toxici, conform unui articol publicat in revista Nature Machine Intelligence.
Gratie acestor tehnologii, cineva ar putea gasi o modalitate pentru a raspandi mai repede o „otrava” precum antraxul, a declarat Joanna Bryson, experta in AI la Hertie School din Berlin.
„Insa nu ar fi o amenintare existentiala, ci doar o arma ingrozitoare”, a adaugat ea pentru AFP.
O specie depasita
In filmele despre apocalipsa, catastrofa se petrece brusc si in acelasi timp peste tot. Dar daca omenirea ar disparea progresiv, fiind inlocuita de masini?
„In cel mai rau dintre cazuri, specia noastra ar putea sa se stinga fara urmasi”, anticipeaza filosoful Huw Price intr-un videoclip de promovare a Centrului pentru studierea riscurilor existentiale din cadrul Universitatii Cambridge.
Exista totusi „posibilitati mai putin sumbre”, in care oameni augmentati printr-o tehnologie avansata ar putea sa supravietuiasca. „Specia noastra pur biologica ar sfarsi atunci prin a disparea”, a continuat acelasi cercetator.
In 2014, Stephen Hawking a declarat pentru BBC ca specia umana ar putea intr-o buna zi sa nu mai fie capabila sa rivalizeze cu masinile si ca acel moment va fi „sunetul de clopot al rasei umane”.
Geoffrey Hinton, un cercetator care incearca sa creeze masini asemanatoare creierului uman, cel mai recent pentru grupul Google, a evocat in termeni similari anumite „superinteligente” care ar fi superioare oamenilor.
El a afirmat recent pentru postul de televiziune american PBS ca este posibil ca „omenirea sa fie doar o faza pasagera in evolutia inteligentei”.
