CEO-ul Microsoft anunță că inteligența artificială are nevoie de o „frână de urgență” controlată de oameni

CEO-ul Microsoft anunță că inteligența artificială are nevoie de o frână de urgență controlată de oameni
Președintele și directorul general al Microsoft, Satya Nadella, a cerut sâmbătă construirea de sisteme avansate de inteligență artificială, cu funcții de izolare, controale independente și o „frână de urgență” care să permită persoanelor autorizate să întrerupă sau să oprească un model în timpul ce îndeplinește o sarcină.

„Trebuie să înconjurăm modelele cu un design de sistem puternic, controale umane și proceduri operaționale fiabile și să stabilim standarde industriale acolo unde cele existente sunt insuficiente”, a scris Nadella într-o postare pe platforma de socializare X, relatează televiziunea americană CNBC.

Avertismentele liderilor din industria de tehnologie

„Tratarea modelelor de ponderare închise și deschise la frontieră precum riscurile din interior este o modalitate de a construi un astfel de sistem”, a spus el.

Comentariile lui Nadella vin pe fondul avertismentelor din partea unor directori și cercetători de top din domeniul tehnologiei – inclusiv Microsoft,
cofondatorul Bill Gates, Dario Amodei, CEO-ul Anthropic, Sam Altman, CEO-ul OpenAI și SpaceX, CEO-ul Elon Musk — despre protocoalele de siguranță insuficiente ale inteligenței artificiale și susține că tehnologia avansează prea repede.

Trump respinge avertismentele și cere menținerea vitezei de dezvoltare a inteligenței artificiale

Un cercetător în domeniul inteligenței artificiale a părăsit Anthropic luna trecută și a acuzat compania și principalul său rival, OpenAI, că „se joacă cu viețile noastre”. Mai târziu în acea zi, un responsabil de aliniere la Anthropic, axat pe siguranța inteligenței artificiale, a declarat că există o probabilitate mai mare de 10% ca tehnologia să „ucidă toți oamenii” în următorul deceniu.

În schimb, președintele Donald Trump a respins în repetate rânduri riscurile de dispariție a inteligenței artificiale și a subliniat în schimb că industria trebuie să fie cu un pas înaintea Chinei. Trump a introdus recent, de asemenea, o nouă „Forță de Inteligență Artificială”, condusă de directorul Serviciului Național de Informații, Jay Clayton , pentru a facilita industria și a elimina actorii negativi.

Nadella de la Microsoft a scris sâmbătă că sistemele de inteligență artificială ar trebui proiectate în jurul „principiilor de observabilitate”.

Acestea includ „diversitatea modelelor; o amprentă lizibilă de către om a acțiunilor modelului; testarea continuă a sistemului; controale independente și auditabilitate; izolarea; și dezvăluirea incidentelor”, a scris Nadella.

„Cel mai de încredere sistem de superinteligență nu va fi cel cu modelul în care avem cea mai mare încredere”, a scris el. „Va fi cel care ne va permite să avem cea mai mică încredere în model.”

Citește și

Comments are closed.

Citește mai departe

Un cutremur semnificativ, cu magnitudinea 5,7, s-a produs miercuri, 18 noiembrie, la ora 02:48:55, în zona seismică Vrancea, județul Covasna, potrivit anunțului Institutului Național de Cercetare-Dezvoltare pentru Fizica Pământului. Seismul a avut loc la o adâncime de 107,1 kilometri. Magnitudinea comunicată de institut este indicată drept „(EWS) M 5.7”. „În ziua de 18 Noiembrie 2026, […]
Explozia inteligenței artificiale este responsabilă pentru o mare parte din creșterea economică a SUA, iar numărul centrelor de date din Statele Unite a explodat. Un nou studiu oferă acum, pentru prima dată, cifre fiabile despre ce înseamnă acest lucru pentru climă. Cele mai mari centre de date din SUA sunt responsabile pentru aproximativ 25,7 milioane […]
Victoria categorică a democraților la alegerile de la jumătatea mandatului din Statele Unite ar putea schimba radical modul în care administrația Donald Trump aplică politica imigrației. Democrații au obținut majorități solide în ambele camere ale Congresului, au câștigat funcții importante de guvernator și au preluat controlul în state considerate până recent bastioane republicane. Potrivit The […]
Personalul militar francez este într-adevăr prezent în Ucraina pentru antrenament și reparații de echipamente, potrivit ministrul francez delegat pentru Forțele Armate, Alice Rufo. Ministrul a subliniat că misiunea armatei franceze este „extrem de situațională” și că trupele în sine se află „la o distanță foarte mare de linia frontului” și nu sunt angajate în luptă, […]
Un al treilea portavion american a sosit în Orientul Mijlociu, a anunțat Comandamentul Central al SUA într-o postare pe rețelele de socializare, făcând o demonstrație dramatică de putere militară în timp ce președintele Donald Trump își menține deschise opțiunile pentru următorii pași în războiul din Iran. USS Theodore Roosevelt aduce mii de soldați suplimentari în […]