newsletter finesettimana #50
logo Scienza in rete finesettimana #52
9 novembre 2021
a cura di Chiara Sabelli
Buon martedì,
questa settimana parliamo di sistemi di spiegazione per gli algoritmi di machine learning utilizzati in ambito medico. In un editoriale pubblicato su The Lancet Digital Health, tre ricercatori mettono in guardia dal riporre troppe speranze in questi sistemi, che sono ancora poco robusti e che non devono distrarre dalla costruzione di un ecosistema di strumenti che vigilino sull'intera filiera dei sistemi di assistenza alla decisione.
Poi, un riassunto della prima settimana di negoziati della COP26 in corso a Glasgow e gli ultimi aggiornamenti su Covid-19.
Buona lettura (per segnalare questa newsletter agli amici ecco il link per l'iscrizione)

ALGORITMI IN MEDICINA: COME VIGILARE SULLA LORO AFFIDABILILTÀ
cover

Due anni fa Facebook ha inserito nella sua applicazione la funzione “Why am I seeing this post?” per permettere ai suoi utenti di capire di più sul funzionamento dell’algoritmo che regola il news feed, il flusso di post di amici, amici degli amici, pagine e gruppi che ci viene mostrato quando accediamo. È uno dei tentativi per rendere più trasparente e comprensibile il complicato algoritmo, o più correttamente l’insieme di complicati algoritmi, che animano la più grande piattaforma digitale di interazioni sociali del mondo, non solo per gli utenti ma prima di tutto per gli stessi programmatori che l’hanno costruita.

Ora immaginiamo che l’algoritmo in questione invece di decidere quali post visualizzare e in che ordine, analizzi l’immagine di una radiografia del torace e suggerisca ai medici che ci hanno in cura la diagnosi di polmonite. Come viene utilizzata questa informazione? E come viene comunicato ai pazienti l’esito dell’algoritmo e il ruolo che questo ha avuto nel suo piano terapeutico? Una delle strategie proposte per rendere più affidabili, accettabili e utilizzati gli algoritmi di machine learning in ambito medico è quella di corredarli con sistemi di explanation, spiegazione, nello stile del “Why am I seeing this post?”. Nel caso dell’immagine radiografica del torace, un esempio di spiegazione potrebbe essere una mappa di rilevanza, che mostra cioè su quali aree dell’immagine l’algoritmo si è “concentrato” di più per arrivare alla classificazione di “polmonite”.

Tuttavia, diversi ricercatori hanno criticato questo approccio. Il loro timore è, da una parte che la spiegabilità diventi un bollino che una volta acquisito sollevi gli sviluppatori e gli utenti dal compito di vigilare con costanza sull’affidabilità, l’accuratezza e la sicurezza di questi algoritmi e dall’altra che le spiegazioni lascino un gap interpretativo verso gli utilizzatori effettivi dei sistemi (i medici) o i soggetti delle decisioni (i pazienti) creando un falso senso di fiducia.

Queste preoccupazioni sono state espresse in un editoriale pubblicato la scorsa settimana dalla rivista The Lancet Digital Health. Secondo Marzyeh Ghassemi, informatica della University of Toronto esperta di sistemi di IA in medicina, Luke Oakden-Rayner, radiologo e ricercatore all’Australian Institute for Machine Learning, e Andrew Beam, epidemiologo e biostatistico di Harvard, i metodi di spiegazione sviluppati finora sono poco robusti soprattutto quando vengono utilizzati per capire il funzionamento dell'algoritmo su un singolo caso. «La falsa speranza», scrivono i tre ricercatori, «è che gli utenti o coloro che sono soggetti alle decisioni informate dai sistemi di machine learning saranno in grado di giudicare la qualità di una previsione esaminando una spiegazione locale», cioè una spiegazione valida solo per quella specifica previsione, e aggiungono che tuttavia «le spiegazioni possono essere estremamente utili quando applicate a processi globali di machine learning, come lo sviluppo di modelli, l’estrazione della conoscenza e la revisione.» Continua a leggere su Scienza in rete


ALTRE NOTIZIE
Il metano protagonista della COP26
90 paesi hanno firmato il Global Methane Pledge, impegnandosi a ridurre le emissioni di metano del 30% entro il 2030. La decisione è basata sui risultati di diversi studi che hanno mostrato che le emissioni di questo gas sono molto più frequenti di quello che si pensava. Science ha intervistato Steven Hamburg, ricercatore della ONG statunitense Environmental Defense Group, che ha coordinato uno di questi studi. Il prossimo anno, la sua organizzazione lancerà un satellite per monitorare le emissioni del gas in atmosfera [Science]

Come si mette fine al potere del carbone?
40 paesi hanno firmato l'impegno a eliminare il carbone tra le fonti utilizzate per generare elettricità tra il 2030 e il 2050. Tra i firmatari dell'appello ci sono alcuni tra i maggiori utilizzatori di carbone, come Canada, Polonia, Vietnam, Corea del Sud, Ucraina e Indonesia. Tuttavia, la maggior parte dei più grandi consumatori di carbone - Australia, Cina, Stati Uniti, India e Sudafrica - non hanno aderito all'accordo. A dominare il settore del carbone sono spesso aziende pubbliche e i governi faticano dunque ad avviare un cambiamento che, senza opportune politiche di compensazione, impoverirebbe la popolazione di intere regioni. Per superare queste resistenza è necessario investire in formazione per poter convertire le competenze di chi lavora nel settore del carbone affinché possa essere impiegato nel settore delle rinnovabili, evitando di ripetere quello che è accaduto in Scozia, dove intere comunità sono state duramente colpite dalla transizione [The Conversation]

Gli alberi non possono risolvere la crisi climatica. Solo le persone possono farlo
Più di 130 paesi si sono impegnati ad arrestare e invertire la perdita di foreste e il degrado del territorio entro il 2030. Tuttavia, affinché questo impegno si traduca in una reale riduzione delle emissioni nette è necessario un sistema condiviso e affidabile di contabilizzazione della capacità delle foreste di assorbire anidride carbonica dall'atmosfera. Per ora i modelli climatici e gli inventari tenuti dai singoli stati sono in disaccordo. Le variabili da considerare sono tante. I modelli climatici mostrano che gli ecosistemi saranno più efficaci nell'assorbire biossido di carbonio se il riscaldamento globale rimarrà contenuto entro i limiti previsti dall'accordo di Parigi. Se le temperature saliranno troppo, come sembra probabile, gli ecosistemi tropicali ricchi di carbonio si seccheranno, bruceranno e diventeranno fonti di anidride carbonica piuttosto che assorbitori [The Economist]

Cosa pensano gli scienziati degli annunci della prima settimana di negoziati
Normalmente i politici e personaggi di alto profilo non partecipano ai primi giorni dei negoziati sul clima, almeno così era stato fino al 2019. Quest'anno però è stato diverso perché i primi giorni sono stati caratterizzati da annunci altisonanti e personalità del calibro di Biden e Modi hanno presenziato. Nature ha intervistato alcuni scienziati per avere il loro parere sul contenuto di questi annunci [Nature]

Glasgow sarà in grado di raggiungere un accordo globale sul clima?
Al di là degli annunci della prima settimana, il summit dovrebbe essere giudicato sulla capacità di tutte le 197 parti di concludere un accordo dettagliato e formale che imponga ai governi di rispettare le promesse. Questo significherebbe raggiungere il consenso su questioni spinose ma cruciali come la frequenza con cui le nazioni dovranno rafforzare i loro piani di riduzione delle emissioni, la quantità e il tipo di aiuti finanziari che i paesi ricchi dovranno garantire a quelli più poveri per adattarsi agli effetti del cambiamento climatico, e come regolare il mercato globale delle emissioni [The New York Times]

Covid-19
   ×  Abbiamo perso 28 milioni di anni di vita a causa di Covid-19, secondo uno studio dell'università di Oxford che ha confrontato l'aspettativa di vita registrata nel 2020 in 37 paesi ad alto e medio reddito e la ha confrontata con quella attesa sulla base del trend 2005-2019. Il bilancio è probabilmente più alto perché nell'analisi non sono stati considerati la maggior parte dei paesi di Africa, Asia e America Latina per la mancanza di dati affidabili [The Guardian]
   ×  L'Agenzia del farmaco britannica ha approvato il molnupiravir, il primo antivirale contro Covid-19 che si può assumere per bocca a casa. La somministrazione del primo milione e mezzo di dosi avverrà attraverso uno studio clinico del sistema sanitario nazionale a partire dalla seconda metà di novembre [The Guardian]
   ×  Una pillola per trattare Covid-19 sviluppata da Pfizer ridurrebbe il rischio di ospedalizzazione o morte dell'89% negli adulti vulnerabili, secondo i primi risultati degli studi clinici resi noti dall'azienda statunitense [BBC]
   ×  Dopo il parere positivo dell'FDA, i CDC hanno raccomandato la somministrazione vaccino Pfizer-BioNTech ai bambini tra 5 e 11 annunciato [The New York Times]
   ×  Gli impatti della campagna di vaccinazione in questa fascia di età avrà effetti positivi sia sui bambini, che sono tornati a scuola dopo l'estate non protetti dall'infezione, che sugli adulti a contatto con loro che saranno meno a rischio di essere contagiati, in particolare nei paesi in cui la circolazione è stata molto controllata e dunque l'immunità naturale della popolazione è molto limitata [Nature]
   ×  Il vaccino di Novavax, basato su nanoparticelle ottenute combinando più proteine spike del SARS-CoV-2, ha ricevuto la prima autorizzazione in Indonesia [The New York Times]
   ×  I ricercatori guardano con attenzione all'andamento della pandemia nel Regno Unito: potrebbe essere predittivo di quello che succederà altrove nel prossimo futuro. Stanno studiando il peso dell'aumento dei contatti sociali (che però non sono ancora ritornati ai livelli pre-pandemia), della riapertura delle scuole, della diminuzione di efficacia dei vaccini col passare del tempo e dei richiami, dell'utilizzo delle mascherine e dell'utilizzo dei test rapidi [Nature]

Per suggerimenti e commenti scrivere a: [email protected]
Per donare alla Newsletter clicca qui
Se invece non vuoi più ricevere la newsletter clicca qui
PS: per tenere Scienza in rete fuori dallo spam aggiungi la nostra mail [email protected] tuoi contatti (per Gmail, vai a contacts.google.com e clicca su "crea contatto"). Se Scienza in rete finisce nelle promozioni di Gmail, trascinala nella casella della tua posta in entrata per non perdere mai un numero!
Segui Scienza in rete
logo facebook logo twitter logo twitter logo twitter

By:
logo nuovo zadig