„Trebuie să înconjurăm modelele cu un design de sistem puternic, controale umane și proceduri operaționale fiabile și să stabilim standarde industriale acolo unde cele existente sunt insuficiente”, a scris Nadella într-o postare pe platforma de socializare X, relatează televiziunea americană CNBC.
„Tratarea modelelor de ponderare închise și deschise la frontieră precum riscurile din interior este o modalitate de a construi un astfel de sistem”, a spus el.
Comentariile lui Nadella vin pe fondul avertismentelor din partea unor directori și cercetători de top din domeniul tehnologiei – inclusiv Microsoft,
cofondatorul Bill Gates, Dario Amodei, CEO-ul Anthropic, Sam Altman, CEO-ul OpenAI și SpaceX, CEO-ul Elon Musk — despre protocoalele de siguranță insuficiente ale inteligenței artificiale și susține că tehnologia avansează prea repede.
Un cercetător în domeniul inteligenței artificiale a părăsit Anthropic luna trecută și a acuzat compania și principalul său rival, OpenAI, că „se joacă cu viețile noastre”. Mai târziu în acea zi, un responsabil de aliniere la Anthropic, axat pe siguranța inteligenței artificiale, a declarat că există o probabilitate mai mare de 10% ca tehnologia să „ucidă toți oamenii” în următorul deceniu.
În schimb, președintele Donald Trump a respins în repetate rânduri riscurile de dispariție a inteligenței artificiale și a subliniat în schimb că industria trebuie să fie cu un pas înaintea Chinei. Trump a introdus recent, de asemenea, o nouă „Forță de Inteligență Artificială”, condusă de directorul Serviciului Național de Informații, Jay Clayton , pentru a facilita industria și a elimina actorii negativi.
Nadella de la Microsoft a scris sâmbătă că sistemele de inteligență artificială ar trebui proiectate în jurul „principiilor de observabilitate”.
Acestea includ „diversitatea modelelor; o amprentă lizibilă de către om a acțiunilor modelului; testarea continuă a sistemului; controale independente și auditabilitate; izolarea; și dezvăluirea incidentelor”, a scris Nadella.
„Cel mai de încredere sistem de superinteligență nu va fi cel cu modelul în care avem cea mai mare încredere”, a scris el. „Va fi cel care ne va permite să avem cea mai mică încredere în model.”