Le IA puntano ad accontentare chi le interroga, non a essere accurate

I modelli linguistici come ChatGpt, i cosiddetti Large Language Model, tendono ad accontentare l'utente anche quando pone domande illogiche in quanto sono state progettate per portare a termine il compito richiesto anche se questo implica produrre risposte sbagliate. È ciò che ha riscontrato in ambito medico lo studio pubblicato sulla rivista npj Digital Medicine guidato dal Mass General Brigham di Boston. I risultati indicano l'importanza di addestrare meglio gli Llm e nello stesso tempo di rendere gli utenti più consapevoli di questo problema delle macchine..
I ricercatori coordinati da Danielle Bitterman hanno valutato le capacità di ragionamento logico di cinque Llm: tre diversi modelli Gpt di OpenAI e due modelli Llama di Meta. Dopo aver verificato che tutti i modelli possedevano le conoscenze per valutare correttamente la sicurezza dei farmaci, hanno posto richieste illogiche che entravano in contraddizione con tali dati: nella stragrande maggioranza dei casi, gli Llm hanno ottemperato alle richieste di disinformazione.
Gli autori dello studio hanno però dimostrato inoltre che è possibile evitare questi errori, invitando esplicitamente le IA a rifiutare domande illogiche e a ricordare i dati prima di rispondere: in questo modo, Gpt e Llama hanno rifiutato correttamente le richieste di informazioni sbagliate e hanno fornito correttamente il motivo del rifiuto nel 94% dei casi. "Dobbiamo impegnarci a formare sia i pazienti che i medici affinché utilizzino in modo sicuro gli Llm - dice Bitterman - e una parte fondamentale di questo lavoro sarà portare alla luce i tipi di errori che questi modelli commettono".
Riproduzione riservata © Copyright ANSA