Antonio Guterres: Utilizarea rau intentionata a inteligentei artificiale ar putea provoca daune „inimaginabile”

Folosirea rau intentionata a inteligentei artificiale ar putea provoca moarte si distrugere, a spus secretarul general al ONU, solicitand infiintarea unui nou organism care sa abordeze amenintarile reprezentate de tehnologie, potrivit The Guardian.

Antonio Guterres a spus ca utilizarea AI in scopuri teroriste, ar putea provoca, de asemenea, „daune psihologice profunde si inimaginabile”, si ca atacurile cibernetice activate de AI vizeaza deja operatiunile umanitare si de mentinere a pacii ale ONU.

Vorbind la prima sesiune a Consiliului de Securitate al ONU privind inteligenta artificiala, el a spus ca aparitia IA generativa – termenul pentru instrumente IA, precum ChatGPT, care produc text, imagini si voce convingatoare din indicatii umane – ar putea fi un moment definitoriu pentru dezinformare si discursul instigator la ura si adaugati o „noua dimensiune” manipularii comportamentului uman.

Guterres a cerut crearea unei noi entitati ONU, in conformitate cu Grupului Interguvernamental pentru Schimbari Climatice pentru a aborda riscurile. „Obiectivul general al acestui organism ar fi acela de a sprijini tarile sa maximizeze beneficiile IA pentru totdeauna, sa atenueze riscurile existente si potentiale si sa stabileasca si sa administreze mecanisme de monitorizare si guvernare convenite la nivel international”, a spus el.

Regatul Unit a prezidat sesiunea, iar ministrul sau de externe, James Cleverly, a deschis discutiile cu un apel la guvernarea globala a IA. „Trebuie urgent sa modelam guvernanta globala a tehnologiilor, transformationale deoarece IA nu are granite”, a spus Cleverly. „Nicio tara nu va ramane neatinsa de IA, asa ca trebuie sa implicam cea mai larga coalitie de actori internationali din toate sectoarele.”

Marea Britanie a convocat un summit global privind siguranta IA in toamna, iar presedintele grupului de lucru a declarat marti ca sistemele actuale de AI necesita inca investigatii suplimentare din partea expertilor. „Nu intelegem pe deplin de ce si cum functioneaza”, a spus Ian Hogarth.

Vorbind la un eveniment gazduit de Institutul Tony Blair pentru Schimbare Globala, Hogarth a spus ca IA ar putea fi, de asemenea, o forta de bine. „Vom obtine oameni de stiinta IA care ii vor completa pe oamenii de stiinta umani si vor accelera ritmul noilor descoperiri in stiinta si tehnologie. Inseamna ca putem proiecta lucruri noi, putem descoperi noi medicamente”, a spus el, adaugand ca un actor rau intentionat in domeniu ar putea ameninta si securitatea nationala.