Comisia Europeană lansează o nouă anchetă împotriva companiei X a lui Elon Musk, cu privire la presupuse încălcări ale chatbot-ului său Grok. Comisia își propune să stabilească dacă X a luat măsuri suficiente pentru a preveni presupusa distribuire de deepfake-uri ilegale, cu conținut sexual explicit, prin intermediul lui Grok.
Imaginile generate de inteligență artificială, care prezintă abuzuri asupra copiilor, ar fi putut fi, de asemenea, diseminate prin intermediul lui Grok, a declarat Comisia într-un comunicat de presă de luni, relatează Der Spiegel.
După o actualizare a botului de inteligență artificială de la sfârșitul lunii decembrie, Grok a putut crea deepfake-uri explicite, uneori pornografice. Conform rapoartelor, programul poate fi folosit și pentru a suprapune imagini cu persoane reale în bikini sau în ipostaze sexualizate. Acest lucru se întâmplă fără consimțământul celor reprezentați. Generarea de imagini de către Grok este integrată în platforma de socializare X, ceea ce înseamnă că imaginile pot fi distribuite pe scară largă acolo.
Femeile sunt afectate în mod special de așa-numita pornografie deepfake. Conform unei investigații a organizației AI Forensics, Grok a fost folosit și pentru a crea astfel de imagini cu minori. În urma criticilor internaționale, X a răspuns la mijlocul lunii ianuarie, declarând că intenționează să împiedice Grok să creeze imagini nud generate de inteligența artificială, cu caracter sexual. Elon Musk însuși a scris, de asemenea, că nu știa de niciun caz în care Grok ar fi creat imagini nud cu minori.
Comisia trimisese deja companiei X a lui Elon Musk întrebări la mijlocul lunii ianuarie cu privire la imaginile cu caracter sexual generate de Grok. X a trimis deja răspunsuri, dar acestea se pare că nu satisfac încă Comisia Europeană. Mai mulți membri ai echipelor Comisiei pentru protecția datelor și securitatea acestora lucrează la acest caz. Comisia a precizat că tratează acest caz ca „prioritate maximă”.
Comisia își bazează cazul pe Legea privind serviciile digitale (DSA), nu pe Legea privind inteligența artificială. Comisia susține că DSA, care este de fapt destinată platformelor de socializare, se aplică în acest caz, deoarece chatbot-ul cu inteligență artificială este complet integrat în platforma de socializare.
În decembrie, Comisia Europeană a impus o amendă de 120 de milioane de euro companiei X, pe baza Legii privind transparența de sistem (DSA), pentru încălcarea obligațiilor de transparență. Cazul a provocat controverse politice considerabile între UE și guvernul SUA.