Un deputat australian a avertizat parlamentul ca IA ar putea fi folosita pentru „distrugere in masa”, intr-un discurs scris partial de ChatGPT

Deputatul laburist Julian Hill a folosit ceea ce se crede a fi primul discurs al unui parlamentar australian scris partial de ChatGPT pentru a avertiza ca inteligenta artificiala ar putea fi folosita pentru „distrugere in masa”, informeaza The Guardian.

Luni, Hill a cerut o ancheta care sa analizeze „riscurile si beneficiile” AI, avertizand ca studentii ar putea folosi aplicatia pentru a copia la examene, si ca aceasta ar putea duce la pierderea locurilor de munca, discriminare, dezinformare si aplicatii militare incontrolabile.

Hill a solicitat ChatGPT, inclusiv „rezumati rapoartele recente din media despre studentii care folosesc inteligenta artificiala in Australia pentru a copia si sa explice de ce profesorii sunt ingrijorati de acest fenomen” si „explicati in 2 minute riscurile si beneficiile pentru Australia ale inteligentei artificiale” pentru a compune sectiuni din discursul.

Pe masura ce utilizarea acestui software creste, New South Wales si Queensland au interzis utilizarea sa in scoli.

Deputatul a declarat Camerei Reprezentantilor ca „recent au existat rapoarte media despre studenti din Australia care folosesc inteligenta artificiala pentru a copia la examene”.

„Tehnologia AI, cum ar fi software-ul inteligent care poate scrie eseuri si genera raspunsuri, devine din ce in ce mai accesibila pentru studenti, permitandu-le sa finalizeze teme si teste fara sa inteleaga efectiv materialul, lucru care provoaca ingrijorarea profesorilor in legatura cu impactul asupra integritatii sistemului de invatamant”, a spus el.

Hill a avertizat, de asemenea, ca studentii ar putea „ocoli in mod eficient procesul educational si astfel ar putea obtine un avantaj nedrept”, in timp ce profesorii nu sunt in masura sa „identifice si sa abordeze examenele copiate”, inainte de a spune „trebuie sa recunosc ca nu eu am scris asta. De fapt, nu un om a scris asta. ChatGPT a facut-o.”

Intr-o alta sectiune scrisa de ChatGPT, Hill a avertizat despre posibilele „pierderi de locuri de munca”, despre faptul ca inteligenta generala artificiala „ar putea perpetua prejudecatile si discriminarea existente” si „ar putea fi folosita in scopuri rau intentionate, cum ar fi atacuri cibernetice si campanii de dezinformare”.

ChatGPT are, insa, si posibile beneficii, cum ar fi „potentialul de a revolutiona multe industrii, inclusiv asistenta medicala, transportul si finantele prin cresterea eficientei, reducerea costurilor si imbunatatirea procesului decizional”.

Hill, cel mai vizibil politician din Australia de pe aplicatia de socializare TikTok, a sugerat opozitiei liberale sa intrebe ChatGPT daca „schimbarile climatice sunt reale?” si „ce sustinem noi?”.

In sectiunile pe care le-a scris, Hill a avertizat ca inteligenta artificiala generala (AGI) prezinta riscuri care ar putea fi „distructive, catastrofale si existentiale”.

„[Inteligenta artificiala generala] are potentialul de a revolutiona lumea noastra in moduri pe care inca nu ni le putem imagina, dar daca depaseste inteligenta umana, ar putea provoca un prejudiciu semnificativ umanitatii daca obiectivele si motivatiile sale nu sunt aliniate cu ale noastre”, a spus el.

„Daca oamenii reusesc sa controleze AGI inaintea unei explozii de informatii, ar putea transforma stiinta, economiile, mediul si societatea noastra ducand la progrese in fiecare domeniu. Dar ceea ce ii ingrijoreaza din ce in ce mai mult pe oameni mult mai destepti decat mine este improbabilitatea ca oamenii sa poata controla AGI sau ca un actor rauvoitor sa poata folosi IA pentru distrugere in masa.”

Hill a spus ca „din ce in ce mai mult” oamenii de stiinta care evalueaza riscurile pun inteligenta artificiala inaintea „asteroizilor, schimbarilor climatice, supervulcanilor, eruptiilor solare devastatoare nucleare sau pandemiilor cu mortalitate ridicata”.

AI are potentialul de a „transforma razboiul asa cum il cunoastem”, cu implicatii „serioase” pentru securitatea nationala, a spus el. „Daca AGI depaseste inteligenta umana, ar putea reprezenta o amenintare pentru armata noastra, actualele noastre capacitati defensive putand fi depasite.”

Hill a spus ca „asa cum lumea a inceput – in sfarsit si cu intarziere – sa actioneze colectiv asupra schimbarilor climatice, trebuie sa ne unim colectiv si urgent asupra AGI”.

„Multi cred ca provocarile actiunii colective privind AGI sunt comparabile cu eforturile de decenii privind neproliferarea nucleara sau acordurile internationale privind clima. Deci trebuie sa incepem acum.”

Hill a cerut „o gandire politica concertata, serioasa, urgenta” incepand din 2023, cum ar fi o carte alba, o ancheta, o comisie permanenta, o colaborare internationala sau o combinatie a acestora.

In 2021, profesorul Stuart Russell, fondatorul Centrului de Inteligenta Artificiala Compatibila cu Omul de la Universitatea din California, Berkeley, a declarat ca expertii sunt „inspaimantati” de progresul AI, comparand-o cu dezvoltarea bombei atomice si cerand reglementari mai dure.

In 2014, fondatorul Tesla, Elon Musk, a cerut reglementarea IA, avertizand ca o considera cea mai grava amenintare la adresa supravietuirii rasei umane.