newsletter finesettimana #67
finesettimana #74 / 18 giugno 2022 a cura di Chiara Sabelli
Buon sabato,
questa settimana parliamo degli errori degli algoritmi, da quelli numerici a quelli statistici a quelli
causati da cattive formulazioni degli obiettivi di questi sistemi o da distorsioni presenti nei dati
su cui vengono allenati. Comprendere come gli algoritmi sbagliano è fondamentale per costruire un'alleanza virtuosa tra
persone e sistemi automatici di assistenza alla decisione, una partita che si gioca in campo giuridico, ma anche culturale e politico.
Poi alcuni suggerimenti di lettura dai giornali internazionali.
Buona lettura (per segnalare questa newsletter agli amici ecco il link per l'iscrizione) |
|
|
Gli algoritmi sbagliano, ma anche noi
|
|
|
Una delle ragioni con cui viene giustificato il ricorso agli algoritmi come sistemi di assistenza alla decisione è la necessità di diminuire gli errori umani e arginare la parzialità dei loro punti di vista. Inserire nel processo decisionale una procedura automatica formulata nel linguaggio della matematica e magari anche basata sui dati, sembra una buona strategia per renderlo più oggettivo e affidabile.
Ma gli algoritmi sbagliano, eccome. E sbagliano in tanti modi diversi. In alcuni casi sbagliano nel senso che sono approssimazioni numeriche di qualche formula matematica implicita, in altri casi sbagliano in senso statistico perché hanno un’accuratezza limitata, in altri sbagliano perché, come scriveva la matematica Cathy O’Neil nel 2016, sono “opinioni scritte nel linguaggio della matematica”.
Questa tassonomia degli errori degli algoritmi non ha nessuna pretesa di essere esaustiva, ma è utile per ragionare su quanto gli algoritmi siano fallibili, senza mai perdere di vista il fatto che anche le persone sbagliano e l’obiettivo da perseguire dovrebbe essere quello di costruire un’alleanza virtuosa tra esseri umani e computer.
Gli algoritmi “sbagliavano” già prima dell’era digitale, dei social media e delle reti neurali.
Il 25 febbraio 1991, durante la guerra del golfo, un missile Scud lanciato dall’esercito iracheno verso la base americana a Dhahran in Arabia Saudita uccise 28 soldati americani e ne ferì 260. Il sistema antimissile a disposizione dell’esercito statunitense aveva nel passato intercettato con missili Patriot gli ordigni lanciati dall’Iraq verso Israele e Arabia Saudita, ma quel giorno fallì. Per il sistema di tracciamento la traiettoria dello Scud non è altro che la posizione del missile istante dopo istante, calcolata moltiplicando la velocità del missile per la durata in secondi dell’intervallo con cui viene discretizzato il tempo di volo. L’ampiezza di questo intervallo era di un decimo di secondo, ma il computer ha bisogno di rappresentarlo in forma binaria, cioè come somma di potenze di grado crescente della frazione ½. Con un po’ di aritmetica si capisce che la rappresentazione binaria è 0.000110011001100 … e così via ripetendo 1100 all’infinito. Ma il computer non ha spazio infinito per rappresentare un numero, aveva, quello di allora, 24 bit a disposizione, cioè una stringa di 24 interi, 0.00011001100110011001100, che tradotta in notazione decimale è 0,099999905, di pochissimo inferiore a 0,1. L’errore è piccolo, ma ripetuto per tutti i passi temporali necessari a descrivere la traiettoria del missile, causò un errore di ben 573 metri nel determinare la posizione finale dello Scud iracheno, e come conseguenza non venne attivato il sistema di difesa.
Il vantaggio con questo tipo di errori è che possiamo stimarli in anticipo. Così come quando istruiamo un computer a calcolare l’integrale di una funzione, cioè l’area sotto la curva che descrive questa funzione. Uno dei metodi più semplici è riempire quest’area con una serie di rettangoli, come per costruire un istogramma che stia sempre sotto la curva. A seconda di quale sia il nostro obiettivo, possiamo decidere di raffinare la nostra stima scegliendo rettangoli con base sempre più piccola, ma questo verrà al costo di un maggiore tempo computazionale.
Ma se degli errori numerici degli algoritmi potevamo forse ignorare l’esistenza, perché tutto sommato rimanevano confinati a campi specifici per cui era accettabile pensare che solo gli specialisti dovessero conoscerne il funzionamento e i limiti, degli algoritmi “statistici” dobbiamo interessarci, perché sono alla base di una serie di servizi che mediano le nostre interazioni sociali, che influenzano le decisioni delle amministrazioni pubbliche e le nostre scelte personali, che in alcuni casi determinano la qualità dell’assistenza sanitaria che riceviamo o l’equità del sistema giuridico.
Con algoritmi “statistici” intendiamo qui tutti gli algoritmi basati sui dati, siano essi semplici regressioni lineari o reti neurali profonde. Tra questi rientrano i sistemi di classificazione che sono alla base di tanti dei servizi che abbiamo elencato prima. Continua a leggere su Scienza in rete
|
Altre notizie
Google ha davvero sviluppato un'intelligenza artificiale senziente?
Black Lemoine, dipendente di Google ora messo in congedo forzato dall'azienda, ha rilasciato
una lunga intervista al Washington Post in cui dice che l'ultimo algoritmo sviluppato da Google,
l'agente conversazionale LaMDA, sarebbe senziente. Lemoine ha dichiarato che parlando con LaMDA
gli è sembrato di avere a che fare con un bambino di 7 o 8 anni e che, secondo lui, sarebbe necessario
chiedere il suo consenso per proseguire gli esperimenti sull'algoritmo. L'azienda sostiene che non ci siano
evidenze a sostegno delle affermazioni di Lemoine
[The Washington Post]
Il chirurgo italiano Paolo Macchiarini condannato per lesioni in Svezia
Tra il 2011 e il 2014 il chirurgo, considerato una star nell'ambito della medicina rigenerativa e assunto dal Karolinska Institute di Stoccolma,
aveva trapiantato trachee sintetiche cresciute parzialmente da cellule staminali prelevate dal midollo osseo di almeno otto pazienti.
Tutti, tranne uno, morirono per complicazioni legate al trapianto. All'unico sopravvissuto venne asportata la trachea sintetica.
Il processo contro Macchiarini riguardava però solo tre di questi pazienti, per
la cui morte il chirurgo era stato inizialmente accusato di omicidio colposo. L'accusa era stata poi ridimensionata ad assalto aggravato e lesioni fisiche.
In due dei tre casi Macchiarini è stato assolto, mentre per il terzo caso, quello di un ragazzo turco arrivato a Stoccolma per i danni subiti alla trachea in un
precedente intervento chirurgico, il chirurgo è stato riconosciuto colpevole di lesioni fisiche, perché avrebbe effettuato una procedura
che comportava troppi rischi rispetto ai potenziali benefici. Non è ancora chiaro se le parti appelleranno la sentenza
[Science]
Il numero di donne uccise per via del loro genere nel mondo è ampiamente sottostimato
Un numero imprecisato di donne e ragazze viene ucciso ogni anno principalmente a causa del loro genere, omicidi noti come "femminicidi".
Sebbene la violenza di genere sia un problema serio in tutto il mondo, i dati ufficiali dei governi sono spesso imprecisi, incompleti o inesistenti.
Gruppi di attivisti in tutto il mondo stanno cercando di colmare questo gap di conoscenza raccogliendo dati dove non esistono oppure costruendo database
indipendenti da quelli governativi
[Science]
L'FDA autorizza i vaccini di Moderna e Pfizer per i bambini più piccoli
Dopo aver ricevuto mercoledì il parere positivo di un panel di esperti, l'agenzia del farmaco
statunitense ha autorizzato la somministrazione del ciclo di due vaccinazioni con Moderna per i bambini da 6 mesi a 5 anni,
e del ciclo di tre vaccinazioni con Pfizer per i bambini da 6 mesi a 6 anni. Negli Stati Uniti, sono circa 20 milioni i bambini che,
probabilmente già dalla prossima settimana potranno ricevere le prime dosi. Ma l'ultima parola spetta si Centers for Disease Control and Prevention,
i C.D.C., che stanno valutando il tipo di raccomandazione da dare ai genitori. L'adesione alla campagna vaccinale potrebbe però essere
deludente. I genitori potrebbero infatti essere scoraggiati dalle stime di efficacia piuttosto ridotte con la variante Omicron rispetto alle vecchie varianti,
ma le autorità li esortano a non attendere una riformulazione dei vaccini perché quelli già disponibili offrono una eccellente protezione dalle forme
gravi della malattia e dalla morte
[The New York Times]
|
|
|
Aiuta Scienza in Rete a crescere. Il lavoro della redazione, soprattutto in questi momenti di emergenza, è enorme. Attualmente il giornale è interamente sostenuto dall'Editore Zadig, che non ricava alcun utile da questa attività, se non il piacere di fare giornalismo scientifico rigoroso, tempestivo e indipendente. Con il tuo contributo possiamo garantire un futuro a Scienza in Rete.
|
Ricevi questa email perché hai un'iscrizione attiva alla newsletter di Scienza in rete
Se non vuoi più ricevere la newsletter clicca qui per cancellarti
Per suggerimenti e commenti scrivi qui
|
|
|
|