Anthropic suspendă noile instrumente de inteligență artificială din cauza unor îngrijorări de securitate exprimate de guvernul SUA

Adaugă ca sursă preferată pe Google

Într-o declarație publicată pe site-ul său, Anthropic a spus că a fost obligată să suspende accesul cetățenilor străini la Claude Fable 5, un program pe care compania l-a descris ca fiind „prea puternic”, informează BBC.

„Efectul acestui ordin este că trebuie să dezactivăm brusc Fable 5 și Mythos 5 pentru toți clienții noștri pentru a ne conforma”, a scris compania.

Anthropic și administrația Trump sunt implicate într-un proces separat în curs de desfășurare, privind un ordin de a opri agențiile guvernamentale să utilizeze instrumentele de inteligență artificială ale companiei.

Tehnica revoluționară ce ar putea salva gheața arctică a trecut primul test. De ce cercetătorii privesc rezultatele cu prudență

Canicula schimbă modul în care dormim și poate afecta sănătatea mai mult decât ne imaginăm

Claude Fable 5 este o versiune a programului de inteligență artificială Claude Mythos de la Anthropic, care rivalizează cu concurenții ChatGPT de la OpenAI și Gemini de la Google.
Anthropic a declarat că autoritățile de securitate națională din SUA nu au identificat preocupări specifice.

„Din câte înțelegem guvernul consideră că a fost descoperită o metodă de ocolire a restricțiilor de securitate (care permite hackerilor să acceseze informații sensibile sau să deblocheze funcții) ale Fable 5”, a declarat compania.

„Am analizat o demonstrație a acestei tehnici specifice și am identificat un număr mic de vulnerabilități minore, cunoscute anterior. Toate aceste vulnerabilități par relativ simple și am constatat că și alte modele disponibile publicului sunt capabile să le descopere fără a necesita o ocolire”, a spus Anthropic.

Înainte de lansarea Claude Fable 5, compania a lăudat diverse „măsuri de siguranță” pe care le-a implementat pentru a preveni hacking-ul cibernetic.

Liderii din domeniul financiar, tehnologic și guvernamental și-au exprimat îngrijorarea cu privire la lansarea sa publică, în urma unei lansări private din aprilie pentru previzualizarea și testarea vulnerabilităților din propriul sistem.

Anthropic a declarat că a permis accesul pre-lansare pentru un număr mic de organizații, deoarece instrumentul era atât de inteligent încât putea fi periculos din cauza capacității sale de a exploata sau pirata sisteme informatice.

Anterior, compania a declarat că programul Claude Fable 5 este „prea puternic pentru a fi lansat”, lucru pe care unii critici l-au pus sub semnul întrebării, numindu-l o exagerare și o manipulare de marketing.

„Capacitățile Fable le depășesc pe cele ale oricărui model pe care l-am pus vreodată la dispoziția publicului”, a declarat compania.

Anthropic s-a aflat recent în vizorul administrației Trump. Donald Trump a criticat public compania, iar secretarul american al Apărării, Pete Hegseth, a etichetat-o drept „risc pentru lanțul de aprovizionare” – prima dată când o companie americană a primit public o astfel de desemnare.

Această desemnare înseamnă că un instrument sau un serviciu nu este suficient de sigur pentru uz guvernamental și este rezervată în mod tradițional companiilor cu sediul în țări adverse.
Anthropic a dat în judecată Pentagonul în urma desemnării. Un judecător american a decis că directiva Pentagonului nu poate fi aplicată, ceea ce înseamnă că agențiile guvernamentale și organizațiile care lucrează cu armata americană pot utiliza în continuare Anthropic cât timp procesul este în desfășurare.