Un studiu recent realizat de Universitatea Oxford a evidențiat pericolele folosirii inteligenței artificiale pentru consultarea problemelor de sănătate.
Cercetătorii au descoperit că chatbot-urile medicale bazate pe AI oferă adesea sfaturi inexacte și contradictorii, ceea ce poate pune pacienții în situații periculoase, transmite BBC.
Un amestec de sfaturi utile și dăunătoare
Problema principală constă în incapacitatea acestor modele de a interpreta corect informațiile incomplete sau ambigue furnizate de utilizatori, ceea ce face ca auto-diagnosticarea să fie extrem de riscantă.
Experimentul desfășurat pe un eșantion de 1.300 de persoane a arătat că rezultatele obținute depind foarte mult de modul în care sunt formulate întrebările. Participanții au fost rugați să descrie simptome precum dureri de cap severe sau epuizare extremă, iar chatbot-urile au răspuns prin liste de posibile afecțiuni.
Pacienții au fost nevoiți să ghicească care diagnosticul ar putea fi corect, ceea ce, conform Dr. Adam Mahdi, autor principal al studiului, „este momentul în care totul se destramă”.
Dr. Rebecca Payne, medic principal al studiului, a explicat că practica consultării AI este periculoasă pentru că utilizatorii oferă informații treptat și pot omite detalii critice pe care un profesionist le-ar identifica într-un consult față în față.
Ca urmare, recomandările primite de la AI au fost adesea un amestec de sfaturi utile și dăunătoare, ceea ce poate complica decizia pacientului de a merge la medicul de familie sau de a solicita asistență de urgență.
Limitările tehnice și provocările viitorului
Pe lângă erorile individuale, experții atrag atenția asupra prejudecăților sistemice existente în datele medicale folosite pentru antrenarea AI-ului. Dr. Amber W. Childs de la Universitatea Yale subliniază că AI-ul reproduce adesea greșelile și inegalitățile deja existente în practica medicală modernă.
„Un chatbot este la fel de bun diagnostician ca și medicii cu experiență, ceea ce nu este neapărat ideal”, a adăugat ea. Acest fapt ridică riscul ca pacienții să fie ghidați spre diagnostice greșite sau tratamente nepotrivite.
Totuși, specialiștii văd un potențial pentru versiunile viitoare ale chatbot-urilor, dacă acestea sunt dezvoltate special pentru domeniul medical.
Dr. Bertalan Mesko a menționat că modelele recente OpenAI și Anthropic, proiectate pentru asistență în sănătate, pot oferi recomandări mai precise, dar siguranța lor depinde de implementarea unor reguli naționale clare, bariere de reglementare și recomandări oficiale din partea autorităților medicale.
Citește și
- • Mii de autori au publicat o carte „goală”, ca semn de protest față de utilizarea operelor lor de către AI fără permisiune
- • Un video realizat cu AI postat de Casa Albă pe contul de TikTok arată un hocheist american denigrând canadienii. Sportivul a reacționat: „Nu aș spune niciodată așa ceva”
- • În atenția celor care caută sfaturi medicale online: informațiile oferite de inteligența artificială pot fi incorecte
- • Eurodeputații, interzis să mai folosească AI pe dispozitive mobile. Ce au constatat serviciile de securitate
Comentarii
Recomandări
Citește mai departe
Mai multe locuințe sociale și convenabile din patrimoniul public al Capitalei au ajuns în posesia unor politicieni, funcționari publici, oameni de afaceri sau persoane publice, potrivit unei investigații realizate de publicația Buletin de București, care analizează modul în care au fost repartizate aceste spații în ultimele decenii. Investigația indică faptul că fondul locativ public din […]
Statele Unite și o serie de alte țări se așteaptă ca acțiunile militare dintre Statele Unite și Iran să continue până în toamnă. „La Washington și în capitalele din întreaga lume, autoritățile se pregătesc pentru o criză mult mai lungă decât se aștepta. Potrivit jurnalistului Axios, Barak Ravid, acesta a auzit de la trei persoane […]
Ambasadorul Iranului în Arabia Saudită, Alireza Enayati, a declarat că relațiile dintre Teheran și țările din Golful Persic necesită o revizuire serioasă pe fondul războiului dintre Statele Unite și Israel. Într-un comentariu pentru agenția Reuters, un diplomat a menționat că statele din regiune rămân vecine și nu pot exista unele fără altele. Prin urmare, potrivit […]
Secția pentru procurori a Consiliul Superior al Magistraturii a avizat luni favorabil, în unanimitate, propunerea ministrului Justiției pentru numirea procurorului Ioan‑Viorel Cerbu în funcția de procuror-șef al Direcția Națională Anticorupție, potrivit ordinii de zi soluționate în ședința de luni. Aviz favorabil pentru conducerea DNA Secția pentru procurori a CSM a analizat propunerea ministrului justiției privind […]
În cursul zilei de luni, 16 martie 2026, USR a anunțat că depune proiecte de lege prin care solicită desființarea a șase instituții publice, despre care a menționat că sunt „fără utilitate demonstrabilă, create și alimentate din banii cetățenilor, doar pentru a asigura sinecuri apropiaților vechilor partide”. Conform informațiilor care apar în comunicatul emis de […]
