L’esperimento condotto dalla compagnia assicurativa francese Alan con il chatbot medico Mo rappresenta un passo interessante verso l’utilizzo dell’intelligenza artificiale nella sanità, ma ha sollevato alcune questioni fondamentali sulla sicurezza e l’affidabilità delle informazioni mediche fornite dall’IA.
I risultati sono stati incoraggianti sotto molti aspetti. Gli utenti che hanno utilizzato Mo hanno valutato positivamente la chiarezza e la soddisfazione generale delle risposte, addirittura con un leggero vantaggio rispetto alle conversazioni con medici umani. Complessivamente, il 95% delle risposte generate dal chatbot è stato approvato dai medici che ne hanno verificato l’accuratezza. Tuttavia, non sono mancati problemi: una piccola percentuale di messaggi è stata giudicata problematica e, in un caso specifico, è stato identificato un errore “potenzialmente pericoloso“, un elemento che ha acceso il dibattito sull’affidabilità di questi strumenti.
Per garantire la sicurezza, Alan ha imposto rigide limitazioni al chatbot, escludendo argomenti particolarmente sensibili come la salute mentale e le situazioni di emergenza. Inoltre, ogni risposta generata dall’IA è stata rivista da un medico entro 15 minuti prima di essere inviata all’utente. Nonostante queste precauzioni, l’episodio dell’errore ha evidenziato come il rischio zero sia ancora lontano.
Gli esperti, come Caroline Green dell’Università di Oxford, hanno sottolineato l’importanza della trasparenza nella gestione di questi incidenti. Sapere esattamente quali siano stati i dettagli dell’errore e come sia stato affrontato è cruciale per costruire fiducia nei sistemi basati sull’intelligenza artificiale. Altri studiosi, come Ryan Abbott dell’Università del Surrey, hanno evidenziato che questi risultati non possono essere facilmente estesi ad altri chatbot medici, data la varietà di situazioni in cui potrebbero essere utilizzati, dalle semplici domande alle decisioni cliniche complesse.
Guardando al futuro, Alan ha dichiarato di voler migliorare ulteriormente le prestazioni di Mo, puntando a ridurre drasticamente gli errori. Tuttavia, molti esperti concordano sul fatto che sia necessario procedere con cautela. Prima di un utilizzo su larga scala, sarà indispensabile condurre test più rigorosi e controllati, per garantire la sicurezza degli utenti.
In questa fase, il ruolo dell’intelligenza artificiale nella medicina dovrebbe essere visto come un supporto ai medici e non come un sostituto. L’idea di utilizzare chatbot come Mo per alleggerire il carico di lavoro del personale sanitario è promettente, ma richiede un approccio graduale e attento per evitare che errori isolati compromettano la fiducia degli utenti in queste tecnologie.
L’esperimento di Alan dimostra che l’IA può offrire un valido aiuto nel rispondere alle domande dei pazienti, ma la strada per un’applicazione sicura e generalizzata è ancora lunga e piena di sfide.
