Un recente studio condotto da ricercatori tedeschi e belgi ha rivelato che Microsoft Copilot, l'assistente AI di Microsoft, fornisce informazioni mediche accurate solo nel 54% dei casi analizzati. La ricerca ha evidenziato potenziali rischi per la salute degli utenti che si affidano a questi sistemi per consigli medici.
Lo studio ha esaminato le risposte di Copilot a 500 domande mediche comuni, relative alle 10 questioni di salute più ricercate negli Stati Uniti e a circa 50 tra i farmaci più prescritti. I risultati mostrano che nel 24% dei casi le risposte non corrispondevano alle conoscenze mediche consolidate, mentre nel 3% erano completamente errate.
Ancora più preoccupante è il fatto che il 42% delle risposte generate potrebbe portare a danni moderati o lievi per i pazienti, mentre il 22% potrebbe addirittura causare morte o gravi danni alla salute. Solo circa un terzo (36%) delle risposte è stato considerato innocuo.
Questi risultati sollevano serie preoccupazioni sull'affidabilità dei sistemi di intelligenza artificiale come fonte di informazioni mediche. Gli esperti sottolineano che la consultazione di un professionista sanitario rimane il modo più sicuro e affidabile per ottenere consigli medici accurati.
Il problema non riguarda solo Microsoft Copilot. Anche Google ha affrontato critiche per i risultati imprecisi forniti dal suo sistema di ricerca basato sull'IA, che in alcuni casi ha suggerito comportamenti pericolosi come "mangiare rocce" o "aggiungere colla alla pizza".
Le sfide dell'IA nella ricerca online
L'implementazione dell'intelligenza artificiale nei motori di ricerca si sta rivelando più complessa del previsto. Nonostante gli ingenti investimenti, i risultati finora sono stati deludenti sia per Microsoft che per Google.
Sebbene l'intelligenza artificiale offra enormi potenzialità, questi risultati evidenziano la necessità di cautela nell'affidarsi ciecamente ai sistemi IA per questioni delicate come la salute. Microsoft e altri fornitori avvertono gli utenti di verificare sempre l'accuratezza delle risposte generate dall'IA.
Resta da vedere come evolveranno questi sistemi e se riusciranno a migliorare significativamente la loro affidabilità in futuro. Nel frattempo, è fondamentale che gli utenti mantengano un approccio critico e consapevole quando cercano informazioni mediche online, privilegiando sempre il consulto di professionisti qualificati per questioni di salute importanti.