Big Data: la troppa fiducia è un rischio?

dayne-topkin-u5Zt-HoocrM-unsplashPhoto credit: Dayne Topkin

Inchiesta pubblicata sul Corriere della Sera, inserto Innovazione, il 29/06/2018

Nell’antica Grecia, quando qualcuno doveva prendere una decisione importante, consultava l’oracolo. Poneva una domanda, si inginocchiava, e l’oracolo cadeva in trance. Dopo un paio di giorni forniva la sua risposta. Guide del tempio affiancavano l’oracolo osservando i visitatori e chiedendo il perché delle loro richieste. Il delirio dell’oracolo era cioè solo parte di un processo di ricerca. Anche oggi consultiamo oracoli, ma i nostri sono pochi e molto potenti. Le guide del tempio si sono trasformate in dati: numerosi, segreti, preziosi, costosi. Chi li possiede si arricchisce, chi li analizza può trovare risposte e fare predizioni sempre più accurate. Le predizioni, però, sono potenti solo se i dati si interrogano con le domande giuste.

I big data aiutano compagnie a scegliere chi è il candidato più adatto da assumere, driverless cars a decidere la propria rotta per evitare un incidente, contadini indiani a calcolare con esattezza il periodo della semina per aumentare il proprio rendimento. Ma in modo particolare stanno stravolgendo il campo sanitario. Qui l’oracolo vale 14,25 miliardi di dollari, ed è previsto salire a 68,75 miliardi entro il 2025, integrando dati informazioni ricavate dai motori di ricerca a tutto quello che può percepire un dispositivo indossabile, e cioè il nostro ritmo cardiaco, i livelli glicemici, quanto camminiamo, cosa mangiamo. Questi dati vengono poi integrati a informazioni ospedaliere, ottenute grazie a crescenti partnerships tra sistemi sanitari e aziende private impegnate nello sviluppo di macchine potenti per l’analisi delle informazioni.

E così ora app per lo smartphone ogni giorno rendono più facile la vita di pazienti diabetici, controllandone i livelli glicemici in tempo reale. Sensori ingeribili aiutano i pazienti affetti da epatite C a tenere sotto controllo se stanno prendendo o meno le medicine. Orologi speciali  diagnosticano ai proprietari condizioni a partire dall’apnea notturna, all’ipertensione, fino alle aritmie cardiache. Centri di comando digitali aiutano chirurghi a prendere decisioni veloci in casi di emergenza. Sta aumentando la popolarità di test genetici domestici che ci informano sulle malattie a cui siamo predisposti geneticamente. E la medicina personalizzata promette di sviluppare farmaci adattati al singolo paziente.

Proprio negli ultimi giorni, l’algoritmo Medical Brain di Google, analizzando casi di 216,221 ricoveri e 114,003 pazienti (cioè più di 46 miliardi di dati) è riuscito a predire la morte di pazienti gravi ricoverati negli ospedali dell’University of California e dell’University of Chicago, con accuratezza rispettivamente del 95% e 93% – contro l’86% dei metodi tradizionali. Nel caso di una paziente con cancro al seno in stadio avanzato, l’algoritmo di Google ha provato la sua efficacia integrando 175,649 dati sulla paziente e stimando con probabilità del 19.9% (contro il 9.3% dei metodi ospedalieri) che sarebbe morta in ospedale. La donna è morta in ospedale entro pochi giorni.

In Italia, simili servizi potrebbero essere introdotti come risultato della partnership tra il sistema sanitario e IBM Watson: se l’accordo andasse in porto, l’intelligenza artificiale di IBM avrebbe accesso al trattamento dei dati sanitari dei circa 61 milioni di cittadini italiani – al momento, però, il progetto è in stallo per incertezze legate alla riservatezza e alla protezione della privacy dei cittadini. Il problema del trattamento dei dati è una questione spinosa: non sempre è chiaro come le aziende private si servano dei dati (ad esempio, se la nostra polizza assicurativa salirà alle stelle perché siamo geneticamente predisposti a qualche malattia). Talvolta non è neanche chiaro come le aziende si impossessino dei dati, come nel caso dell’1.6 milioni di dati di cittadini inglesi ottenuti da Google Deepmind senza avere prima ricevuto il consenso dei pazienti. E spesso, le compagnie rimangono opache su come guadagneranno dall’utilizzo dei dati: proprio in questi giorni, sempre Google Deepmind è stata invitata dai suoi revisori indipendenti inglesi a rendere pubblico il suo modello di business. A quanto pare l’azienda (comprata da Google quattro anni fa per 400 milioni di pound) non avrebbe ancora registrato entrate.

Di sicuro, però, in Italia sarà introdotto Radar CNS, un progetto europeo che terrà sotto controllo per uno o due anni un migliaio di persone con sclerosi multipla per elaborare un software capace di prevedere l’evoluzione della malattia. E l’app “Cliccailneo”, introdotta dopo un periodo di prova nel comune di Bergamo, promette già di diagnosticare tumori della cute semplicemente analizzando una foto scattata dal cellulare. Il fascicolo sanitario elettronico, poi, aiuta i cittadini a gestire direttamente le proprie informazioni cliniche. Cioè la medicina dei dati si apre ad un nuovo ruolo: oltre a curare, si impegna a prevenire e monitorare. Questo approccio modifica il concetto di paziente, che non si preoccupa più della propria salute una volta compromessa, ma la tiene sotto controllo per evitare che peggiori.

Con questa opportunità, però, arrivano altri rischi. Potremmo pensare che, se ci viene un tumore, forse è perchè non ci siamo impegnati abbastanza a prevenirlo. Oppure potremmo riporre troppa fiducia nei mezzi di prevenzione, e una volta rassicurati che il nostro neo è sano per errore dell’app, potremmo rinunciare ad una costosa visita dal dermatologo che ci salverebbe la vita.  

Secondo Prof. Donal O’Donoghue, direttore dei revisori indipendenti di Google Deepmind, è proprio per questo che il ruolo del medico non potrà assolutamente essere rimpiazzato. “Il ruolo cambia solo nel senso che invece che passare tempo a raccogliere informazioni sul paziente, il medico può focalizzare il tempo clinico su diagnosi e il trattamento.” E Leonelli aggiunge che “non solo questo sistema richiede ancora di più l’assistenza di medici con un training apposito per interpretare i dati, ma i medici dovranno essere affiancati da data scientists che interpretino le risorse disponibili.” Più dati, cioè, significa più persone. Suona quindi preoccupante il drastico calo di medici italiani in corsia, con 47.000 specialisti che andranno in pensione entro il 2028 e che non saranno interamente rimpiazzati.

Il problema è che i big data, da sé, non parlano. E se si lasciano parlare a vanvera, dicono scemenze. E’ proprio per questo che investire nei big data è semplice ma usarli è difficile. C’è bisogno di talento – cioè di persone che sappiano porre le domande giuste. Sabina Leonelli, professoressa all’Università di Exter e leader nella ricerca sull’etica dei dati, sottolinea che “quando si formano questi grandi database c’è la tentazione di pensare che abbiamo tutte le informazioni di cui abbiamo bisogno. E questo è molto problematico.”

Un caso esemplare di fallimento nell’interpretazione dei dati risale a dieci anni fa, quando Google si lanciò nel programma ambizioso dei Trend Influenzali. La compagnia prometteva di monitorare in tempo reale la diffusione dell’influenza secondo l’assunzione che, se quando ci ammaliamo ci mettiamo a cercare i nostri sintomi su Google, allora sarebbe possibile tracciare l’espansione tracciando alcune parole chiave nel motore di ricerca. Un’idea brillante, che però fallì in modo spettacolare, sovrastimando di oltre il 50% la presenza influenzale nelle stagioni invernali del 2011 e 2012. Il progetto non fallì per colpa dei big data. Fallì per la troppa fiducia che ripose nei numeri senza interrogarli. Ad esempio, Google non si chiese come fossero cambiate le modalità di ricerca dei suoi utenti dopo l’inserimento della funzione di ricerca “suggerita”. Così come non tenne conto del fatto che alcuni termini associabili all’influenza (per dire, gli starnuti e il mal di gola) saltano fuori per altre ragioni in alcuni periodi dell’anno (per dire, nella stagione dei pollini).Il team cioè non tenne conto dell’aspetto qualitativo del perché e del come di certi risultati, ma si affidò a quello quantitativo del quanto e del che cosa. E allora, tornando all’antica Grecia, dobbiamo ricordarci che anche in un mondo di big data l’uomo rimane oracolo. Semplicemente affiancato da miliardi di guide del tempio.

© Riproduzione riservata

Published by silvialazzaris

Italian writer based in the UK.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s