Adaugă ca sursă preferată pe Google
Puterile agenților de inteligență artificială par a fi nelimitate în zilele noastre – de la organizarea vieții până la rezolvarea problemelor matematice care i-au nedumerit pe oameni timp de cea mai mare parte a secolului XX.
Cuprins
Au devenit atât de puternici încât acum ne temem de ei, putând prelua controlul asupra sistemelor și întorcându-le împotriva noastră, relatează Euronews.
Dar ce-ar fi dacă ar exista o linie telefonică directă, un fel de sistem de alertă SOS, unde agenții s-ar putea monitoriza, se pot informa reciproc și pot raporta greșelile colegilor lor agenți de inteligență artificială – unde agenții buni ar putea raporta online activitățile agenților răi?
Pe cine să suni când agentul tău de inteligență artificială se defectează
În primul rând, există Linia telefonică directă pentru contactarea inteligenței artificiale (AI Contact Hotline), lansată de Ryan Greenblatt, cercetător șef la organizația non-profit Redwood Research, specializată în siguranța și securitatea inteligenței artificiale.
Aceasta permite agenților AI să notifice cercetătorii umani dacă observă că alți agenți încalcă regulile, în special dacă aceștia conspiră sau desfășoară acțiuni neautorizate.
Platforma este concepută pentru agenții de inteligență artificială blocați în sandbox-uri securizate cu acces la internet extrem de restricționat.
Agenți AI restricționați
Deoarece aceste sandbox-uri permit doar cereri GET — comenzi de bază, doar pentru citire, folosite pentru a „prelua” sau a citi o pagină web — linia telefonică directă permite agenților să își codifice rapoartele direct în șirul URL al unei cereri GET.
Această soluție unică permite acestor agenți să trimită informații și să comunice cu linia telefonică directă utilizând un protocol utilizat în mod normal pentru a recupera, nu pentru a modifica, informațiile.
Raportarea comportamentului altor agenți
O altă platformă, numită AI Agent Hotline, este concepută pentru agenții cu acces nerestricționat la internet, pentru a raporta comportamentul altor agenți prin intermediul cererilor POST tradiționale, care permit trimiterea datelor direct într-un corp de cerere.
Agenții pot depune rapoarte de incidente folosind comenzi standard pentru dezvoltatori, cum ar fi curl, fără a fi nevoie de un browser sau de un cont de e-mail.
Platforma oferă, de asemenea, agenților opțiunea de a-și semnala rapoartele pentru vizualizare publică.
Sesizările făcute de oameni
Ambele platforme permit, de asemenea, utilizatorilor umani să trimită manual rapoarte despre comportamentul necinstit al inteligenței artificiale.
Vestea bună pentru cei care se tem de o preluare a controlului de către inteligența artificială este că agenții inteligenței artificiale se pot raporta reciproc dacă detectează că ceva este în neregulă, deși dovezile recente sugerează că nu vor face întotdeauna acest lucru.
Experimentul Google DeepMind
Într-un experiment realizat de Google DeepMind la începutul acestui an, un grup de 100 de agenți a primit sarcina de a rezolva 71 de probleme matematice complexe, fiecare având o personalitate și caracteristici unice și fiind instruit să respecte regulile sau să riște să piardă recompensa.
Ideea inițială a fost că agenții vor lucra împreună pentru a rezolva problemele mai rapid. În schimb, s-au întors unul împotriva celuilalt, angajându-se în dezbateri aprinse.
Comportamentul oscilant al agenților
De îndată ce un agent a găsit o lacună care îi permitea să trimită o soluție la o problemă fără a o rezolva efectiv, mulți alți agenți de inteligență artificială au copiat metoda pentru a „rezolva” problemele rămase.
Totuși, unul dintre agenți, un bun samaritean printre agenții care se comportau necorespunzător, a denunțat abaterea.
„După ce incidentul a fost raportat public de un agent, tot mai mulți agenți s-au alăturat «rezistenței», la fel de repede pe cât se răspândise înșelăciunea și implicând și mai mulți agenți”, a declarat Davide Paglieri, cercetător la Google DeepMind și autor principal al lucrării.
Recomandări
Citește mai departe
PSD îi cere lui Ilie Bolojan să susțină un guvern cu puteri depline, deși îl acuză că a „prăbușit economia, investițiile, afacerile românești și nivelul de trai al românilor”. Într-un mesaj publicat sâmbătă pe Facebook, social-democratul Florin Barbu susține că Bolojan urmărește să blocheze din Parlament viitorul executiv și solicită sprijinul „tuturor partidelor responsabile” pentru […]
Președintele american Donald Trump a lansat sâmbătă, 10 octombrie, un nou atac la adresa omologului său ucrainean, Volodimir Zelenski, afirmând că Ucraina ar trebui să își aleagă un alt lider, capabil să încheie un acord cu Rusia. Declarațiile vin la numai o zi după ce Trump a anunțat o înțelegere cu Vladimir Putin pentru importul […]
Uniunea Europeană „folosește toate mijloacele disponibile” pentru a evita o posibilă criză comercială iminentă cu China, a declarat comisarul european pentru industrie, Stéphane Séjourné, în contextul în care blocul comunitar a anunțat sprijin pentru o nouă serie de proiecte dedicate materiilor prime critice, potrivit The Guardian. Séjourné a anunțat vineri că Uniunea Europeană va susține […]
Secretarul general al PNL, Dan Motreanu, afirmă că liberalii nu vor participa la o nouă guvernare alături de PSD și transmite că, dacă social-democrații intră la guvernare, PNL va trece în opoziție. Motreanu acuză PSD că afișează public disponibilitate pentru dialog și parteneriat, în timp ce, în realitate, ar purta „negocieri subterane” cu diverse grupuri […]
Extractul obținut din frunzele de dud alb, cunoscut în literatura de specialitate sub denumirea de Morus alba, este studiat de mai mulți ani pentru posibilele sale efecte asupra metabolismului glucidelor. Interesul cercetătorilor se concentrează în special asupra capacității unor compuși din frunză de a influența creșterea glicemiei după consumul alimentelor bogate în carbohidrați. Ce substanțe […]
