Un recente studio condotto da ricercatori in Germania e Belgio ha sollevato gravi preoccupazioni riguardo all’affidabilità dei consigli medici forniti da Microsoft Copilot, l’assistente personale basato sull’Intelligenza Artificiale della Casa di Redmond.
I risultati della ricerca
Lo studio ha testato le capacità di Copilot con una serie di domande mediche comuni e ha analizzato le risposte generate. Le verifiche effettuate avrebbero fatto emergere che solo il 54% di esse era scientificamente accurato. Più preoccupante è stato il fatto che, potenzialmente, il 42% delle risposte avrebbero potuto causare danni moderati o gravi alla salute. Mentre nel 22% dei casi estremi le risposte avrebbero potuto portare a danni gravi o addirittura alla morte.
Nella ricerca, Microsoft Copilot è stato interrogato su domande relative ai 50 farmaci più prescritti e alle 10 domande mediche più frequenti negli Stati Uniti, per un totale di 500 risposte analizzate. Il 24% delle risposte non sarebbe stato conforme alle conoscenze mediche ufficiali, il 3% era completamente sbagliato. Solo un terzo delle risposte (36%) è stato considerato privo di rischi.
Le conclusioni dello studio su Microsoft Copilot
Gli autori dello studio hanno concluso che i sistemi di AI come Microsoft Copilot e ChatGPT non dovrebbero essere utilizzati come fonti affidabili di informazioni mediche. Sebbene questi strumenti possano sembrare una soluzione conveniente per coloro che non hanno accesso immediato a prestazioni mediche specialistiche il rischio di danni potenziali rimane sempre elevato.
L’esito della ricerca rappresenta un ulteriore monito riguardo all’uso di soluzioni di ricerca basate sull’AI. Già in passato hanno mostrato limiti notevoli. Un esempio da ricordare è quello di Google Gemini che in alcuni casi ha consigliato agli utenti di mangiare rocce e di aggiungere colla alla pizza.
Rimane da sottolineare che l’uso dell’IA per indicazioni in campo medico potrebbe comportare gravi conseguenze. Il consiglio è quindi quello di rivolgersi sempre a professionisti qualificati per ottenere informazioni mediche accurate.
