Elon Musk si alti lideri din domeniul tehnologiei cer o pauza in cursa AI „scapata de sub control”
Unele dintre cele mai mari nume din domeniul tehnologie cer ca laboratoarele de inteligenta artificiala sa opreasca pregatirea celor mai puternice sisteme AI timp de cel putin sase luni, invocand „riscuri profunde pentru societate si umanitate”, potrivit CNN.
Elon Musk a fost printre liderii din domeniu, profesori si cercetatori care au semnat scrisoarea, care a fost publicata de „Future of Life Institute”, o organizatie nonprofit sustinuta de Musk.
Scrisoarea vine la doar doua saptamani dupa ce OpenAI a anuntat aparitia GPT-4, o versiune si mai puternica a tehnologiei care sta la baza instrumentului AI chatbot, ChatGPT. In testele initiale si intr-o demonstratie a companiei, tehnologia a redactat dosare penale, a promovat examene standardizate si a construit un site web functional dintr-o schita desenata manual.
Scrisoarea spune ca pauza ar trebui sa se aplice sistemelor AI „mai puternice decat GPT-4”. De asemenea, a spus ca expertii independenti ar trebui sa foloseasca pauza propusa pentru a dezvolta si implementa in comun un set de protocoale partajate pentru instrumente AI care sunt sigure „dincolo de orice indoiala rezonabila”.
„AI avansata ar putea reprezenta o schimbare profunda in istoria vietii pe Pamant si ar trebui sa fie planificata si gestionata cu grija si cu resurse pe masura”, se spune in scrisoare. „Din pacate, acest nivel de planificare si management nu are loc, chiar daca ultimele luni au vazut laboratoarele de inteligenta artificiala blocate intr-o cursa scapata de sub control pentru a dezvolta si a implementa inteligente digitale tot mai puternice pe care nimeni, nici macar creatorii lor, nu le poate intelege, prezice sau controla in mod fiabil.”
Daca o pauza nu va fi instituita in curand, guvernele ar trebui sa intervina.
Valul de atentie din jurul ChatGPT a impulsionat cursa stransa intre companiile de tehnologie pentru a dezvolta si implementa instrumente similare AI in produsele lor. OpenAI, Microsoft si Google sunt in fruntea acestei tendinte, dar IBM, Amazon, Baidu si Tencent lucreaza la tehnologii similare. O lista lunga de startup-uri dezvolta, de asemenea, asistenti de scriere AI si generatori de imagini.
Expertii in inteligenta artificiala au devenit din ce in ce mai preocupati de potentialul instrumentelor de inteligenta artificiala de a crea raspunsuri partinitoare, capacitatea de a raspandi dezinformari si impactul asupra confidentialitatii consumatorilor. Aceste instrumente au starnit, de asemenea, intrebari cu privire la modul in care AI poate modifica profesiile, le permite studentilor sa triseze si schimbe relatia noastra cu tehnologia.
Scrisoarea sugereaza disconfortul creat in interiorul si in afara industriei din cauza ritmului rapid de progres in AI. Unele agentii guvernamentale din China, UE si Singapore au introdus anterior versiuni incipiente ale AI in cadrul de guvernanta.
