Opozitia italiana a depus o plangere privind utilizarea de catre partidul de extrema dreapta Liga a unor imagini „rasiste” generate de inteligenta artificiala
Partidele de opozitie din Italia au depus o plangere la autoritatea de reglementare a comunicatiilor cu privire la o serie de imagini generate de inteligenta artificiala publicate pe retelele de socializare de Liga, partidul de extrema dreapta al vicepremierului Matteo Salvini, numindu-le „rasiste, islamofobe si xenofobe”, informeaza The Guardian.
Partidul Democrat de centru-stanga (PD) si Alianta Verzilor si Stangii, au depus joi o plangere la Agcom, autoritatea italiana de reglementare a comunicatiilor, sustinand ca imaginile false folosite de Liga contineau „aproape toate categoriile de discurs instigator la ura”.
In ultima luna, zeci de fotografii aparent generate de inteligenta artificiala au aparut pe canalele sociale ale Ligii, inclusiv pe Facebook, Instagram si X. Imaginile infatiseaza frecvent barbati de culoare, adesea inarmati cu cutite, atacand femei sau ofiteri de politie.
„In imaginile publicate de partidul lui Salvini si generate de AI exista aproape toate categoriile de discurs instigator la ura, de la rasism si xenofobie la islamofobie. Ei folosesc inteligenta artificiala pentru a viza categorii specifice de oameni – imigranti, arabi – care sunt prezentati ca potentiali criminali, hoti si violatori.
Aceste imagini nu sunt doar violente, ci si inselatoare: prin estomparea fetelor victimelor este ca si cum ar vrea sa protejeze identitatea persoanei atacate, inducand in eroare utilizatorii sa creada ca fotografia este reala. Acestea sunt imagini care incita la ura”, a declarat senatorul PD Antonio Nicita.
„Este grav. AI genereaza continut pe baza instructiunilor noastre si, in acest caz, a fost clar instruit sa genereze imagini cu oameni de culoare care jefuiesc o femeie in varsta sau o femeie speriata. Face parte din strategia lor de a induce frica in randul cetatenilor”, a spus Francesco Emilio Borrelli, deputat pentru Alianta Verzilor si Stangii.
Un purtator de cuvant al partidului lui Salvini a confirmat ca „unele dintre imaginile” prezentate pe canalele lor de socializare au fost „generate digital”.
„Nu imaginea este ideea. Ci fapta. Fiecare postare se bazeaza pe informatii adevarate din ziarele italiene, cu nume, date si locuri. Daca realitatea pare prea dura, nu dati vina pe cei care o raporteaza, ci pe cei care o fac. Daca este vorba despre o crima, este greu sa insotiti stirile cu imagini vesele sau linistitoare”, a spus acesta intr-o declaratie.
Salvatore Romano, directorul de cercetare al organizatiei nonprofit AI Forensics, a spus ca imaginile Ligii poarta „toate semnele distinctive ale inteligentei artificiale”.
„Sunt fotografii in afara contextului in care subiectul este in prim-plan, iar restul este complet neclar. Ceea ce ma ingrijoreaza este ca aceste imagini generate de AI devin din ce in ce mai realiste”, a spus el.
Plangerea adresata Agcom citeaza mai multe exemple de imagini despre care se crede ca au fost generate digital, spunand ca acestea au aparut alaturi de numele unor institutii mass-media de renume care au scris despre crimele mentionate, dar nu au folosit imagini ale presupusilor autori.
Intr-un caz, postarea Ligii spune: „Un strain ataca conductorul de tren” si asociaza textul cu o imagine a unui barbat de culoare cu pumnul ridicat. Titlul original din Il Resto del Carlino este: „Atacul asupra conductorului de tren [femeie] starneste panica la bord”. Articolul nu face nicio mentiune despre nationalitatea suspectului in afara de a-l numi „strain”. Nu a existat nicio fotografie a presupusului atac.
O alta imagine prezentata in plangere arata o mama si un tata in haine islamice care par sa strige furios la o fata, „hranind astfel prejudecati rasiale si islamofobe”. Il Giorno, ziarul citat, nu face referire in reportajul sau la religia nici a familiei, nici a fetei despre care se presupune ca a fost abuzata de parintii ei, in afara de a spune ca a urmat o scoala in limba araba. Nu era nicio fotografie a familiei.
Utilizarea imaginilor generate de inteligenta artificiala pentru propaganda de catre partidele de extrema dreapta este un fenomen in crestere inca de la alegerile europene de anul trecut, cand imaginile concepute pentru a starni temeri cu privire la imigratie sau pentru a demoniza lideri precum Emmanuel Macron au inceput sa circule pe retelele de socializare.
„Apoi au venit alegerile americane cu Donald Trump si Elon Musk, care au normalizat efectiv aceasta tendinta. Astazi vedem ca partidele de extrema dreapta nu numai ca au continuat sa genereze imagini false pentru propaganda, dar si-au sporit utilizarea intr-un moment in care instrumentele AI au imbunatatit calitatea continutului, facand fenomenul si mai ingrijorator”, a spus Romano.
In ciuda faptului ca platformele sociale sunt obligate sa ia masuri pentru a anticipa aceste riscuri – de exemplu prin adaugarea unei etichete care specifica ca o imagine a fost generata de AI – Romano spune ca, in practica, acest mecanism este aproape intotdeauna ineficient.
Intrebat daca Liga stie ca imaginile ar putea genera discursuri de ura, un purtator de cuvant al partidului lui Salvini a spus: „Ne pare rau, dar solidaritatea noastra se indreapta catre victime, nu catre autori. Daca denuntarea unor infractiuni comise de straini inseamna `xenofobie`, poate ca problema nu este cuvantul, ci cei care il folosesc pentru a cenzura dezbaterile. Vom continua sa denuntam, cu cuvinte si imagini puternice, ceea ce altii prefera sa ignore.”
Daca Agcom considera ca acest continut semnalat este ofensiv, in conformitate cu Legea privind serviciile digitale a UE, poate ordona eliminarea postarilor, eliminarea conturilor si amendarea platformelor de retele sociale pentru ca nu controleaza comportamentul utilizatorilor.
In 2023, Agcom a amendat Meta cu 5,85 milioane de euro si a ordonat eliminarea a zeci de conturi pentru incalcarea interzicerii publicitatii pentru jocuri de noroc.
Meta, proprietarul Facebook si Instagram, a fost abordat pentru comentarii. Un purtator de cuvant al X a spus: „Nu avem nicio obligatie legala de a eticheta fiecare imagine generata de AI. Este destul de clar ca aceste postari sunt doar politica.
Va asiguram, suntem de parere ca este esential sa mentinem autenticitatea conversatiei pe X si ne asiguram ca suntem bine echipati pentru a lupta impotriva oricarui continut manipulat – inclusiv tendinta in crestere a `deepfake` – si sa punem etichete vizibile pe orice astfel de continut care a fost dezmintit de o sursa credibila.”
