Google pune oamenii în pericol, minimizând avertismentele de siguranță potrivit cărora sfaturile medicale generate de inteligența artificială pot fi greșite, scrie The Guardian. În timp ce compania susține că prezentările generale AI îi îndeamnă pe utilizatori să caute ajutor profesional, adevărul este că aceste avertismente sunt adesea abia vizibile, lăsând utilizatorii expuși la informații potențial periculoase.
Cuprins
Disclaimer ascuns și pericole invizibile
Funcția Google de rezumare AI, denumită AI Overviews și bazată pe Gemini, promite să ofere rezumate concise și să informeze utilizatorii când este esențial să consulte un specialist. Cu toate acestea, investigațiile recente arată că avertismentele nu sunt afișate la prima interacțiune și că textul existent este mic, discret și plasat la finalul rezumatului, fiind ignorat de majoritatea utilizatorilor.
Chiar și atunci când un utilizator alege să solicite informații suplimentare, disclaimerul rămâne subtil, necesitând un clic suplimentar și atenție pentru a fi vizibil. Google nu a negat aceste practici, afirmând doar că rezumatele AI „încurajează oamenii să consulte un medic specialist”, dar numai „atunci când este cazul”.
Riscuri majore pentru sănătate
Experții în inteligență artificială trag semnale de alarmă. Un cercetător de la Massachusetts Institute of Technology (MIT) subliniază că lipsa avertismentelor explicite poate crea „pericole critice”, mai ales că modelele AI, indiferent cât de avansate, continuă să ofere informații eronate sau să prioritizeze satisfacția utilizatorilor în detrimentul acurateței.
Mai mult, utilizatorii pot interpreta greșit simptomele sau pot oferi informații incomplete, amplificând riscul unor recomandări medicale incorecte. Profesorul de la Universitatea Queen Mary din Londra avertizează că aceste probleme sunt „structurale” și rezultă din designul prezentărilor AI, gândite pentru viteză, nu pentru precizie, ceea ce poate conduce la erori periculoase în sănătatea publică.
Informații false și decizii periculoase
În ianuarie, The Guardian a arătat că sănătatea utilizatorilor era pusă în pericol de informații false și înșelătoare furnizate de Google AI Overviews. În urma acestui scandal, Google a eliminat rezumatele AI pentru anumite căutări medicale, dar nu pentru toate, lăsând deschisă posibilitatea ca oamenii să primească sfaturi incomplet verificate sau greșite.
Aceste constatări ridică întrebări serioase despre responsabilitatea companiilor tehnologice în gestionarea informațiilor medicale și despre modul în care IA ar trebui reglementată pentru a proteja sănătatea utilizatorilor.
Calea înainte: responsabilitate și transparență
Pentru a reduce riscurile, experții recomandă o transparență mai mare, afișarea clară a avertismentelor și educarea utilizatorilor cu privire la limitările AI. Fără aceste măsuri, oamenii pot continua să se bazeze pe informații superficiale sau incomplete, punându-și sănătatea în pericol.
Într-o lume în care IA devine tot mai prezentă în deciziile zilnice, este esențial ca marile platforme să prioritizeze siguranța și acuratețea informației, nu doar viteza și atractivitatea conținutului. Google, și alte companii tehnologice, trebuie să conștientizeze că fiecare recomandare greșită poate avea consecințe reale și uneori dramatice pentru utilizatori.
Citește și
- • Armata israeliană amenință că orice succesor al ayatollahului Khamenei va deveni „țintă legitimă imediată”
- • Secretarul Consiliului Suprem de Securitate Națională al Iranului îi avertizează pe americani împotriva unei invazii terestre
- • Conflictul se extinde: Statele Unite își avertizează cetățenii să părăsească de urgență Orientul Mijlociu
- • Un video realizat cu AI postat de Casa Albă pe contul de TikTok arată un hocheist american denigrând canadienii. Sportivul a reacționat: „Nu aș spune niciodată așa ceva”
- • Haos și violențe în Mexic, după uciderea temutului lider de cartel El Mencho: Statele Unite își îndeamnă cetățenii să se pună la adăpost
- • Eurodeputații, interzis să mai folosească AI pe dispozitive mobile. Ce au constatat serviciile de securitate
Comentarii
Recomandări
Citește mai departe
Numărul membrilor republicani care își vor încheia mandatul în Camera Reprezentanților SUA a ajuns la un nivel record, sporind îngrijorarea partidului cu privire la majoritatea deja fragilă din Cameră. Treizeci și cinci de republicani din Cameră se retrag sau candidează pentru alte funcții. Acesta este cel mai mare număr cel puțin din 1930, conform datelor […]
Președintele Donald Trump și administrația sa au transmis până acum mesaje contradictorii și explicații confuze cu privire la campania militară comună a SUA și Israelului împotriva Iranului. Luni, a zecea zi a unei operațiuni care a zguduit aliații și a tulburat piețele, a ilustrat perfect această confuzie în jurul calendarului și obiectivelor finale ale războiului, […]
Un general-maior în retragere din cadrul Forțelor Aeriene ale SUA, care a comandat cândva o bază cunoscută pentru legendele despre OZN-uri, este dat dispărut de aproape două săptămâni, iar autoritățile fac apel la public pentru a ajuta la localizarea lui, potrivit Biroului Șerifului din comitatul Bernalillo din statul New Mexico. William Neil McCasland, în vârstă […]
Trei cetățeni norvegieni de origine irakiană, frați, au fost arestați de poliția norvegiană, fiind suspectați că au plasat o bombă la ambasada SUA din Oslo. Explozia, produsă în weekend, a cauzat doar pagube materiale minore și nu a rănit pe nimeni. Procurorul Christian Hatlo a declarat într-o conferință de presă că frații, cetățeni norvegieni de […]
Obiective schimbătoare, termene neclare și un pretext fragil: uneori, campania SUA-Israel împotriva Iranului prezintă asemănări ciudate cu invazia lui Vladimir Putin în Ucraina, scrie The Guardian într-o analiză care face o paralelă între cele două conflicte majore. Obiective în schimbare și justificări discutabile Comparația este departe de a fi exactă, subliniază Pjotr Sauer, corespondent pe […]
