Valutazione, anche gli Usa piangono

Read time: 3 mins

Valutare la ricerca non è facile. Neppure negli Stati Uniti, paese considerato all’avanguardia nel settore. Neppure per gli US National Institutes of Health (NIH), che hanno un sistema di valutazione considerato un modello. Solo una piccola parte dei progetti selezionati dall’agenzia federale americana si dimostra, infatti, eccellente. E solo una minima parte dei progetti americani eccellenti hanno superato il sistema di valutazione NIH.

È questa la conclusione del rapporto che Joshua M. Nicholson, ricercatore del Department of Biological Sciences del Virginia Tech di Blacksburg in Virginia, e  John P. A. Ioannidis, dello Stanford Prevention Research Center di Stanford in California, hanno di recente pubblicato su Nature. I National Institutes of Health degli Stati Uniti, ricordano i due, son il maggior singolo finanziatore al mondo di ricerca biomedica. Con il suo sofisticato sistema di valutazione mediante peer review, tra il 2002 e il 2011, l’agenzia federale ha promosso ben 460.000 progetti di ricerca, finanziandoli con qualcosa come 200 miliardi di dollari (una cifra pari a quella investita dall’Italia per tutta la ricerca scientifica, pubblica e privata).

Con quali risultati qualitativi?

La domanda non ammette risposte semplici, perché la qualità non è facilmente definibile e, tantomeno, misurabile. I due ricercatori hanno tentato comunque di farlo, pur conoscendo i limiti del metodo. In definitiva, hanno preso in esame i 1.380 articoli scientifici highly citated, sui 20 milioni pubblicati nel mondo tra il 2001 e il 2012 classificati nel database di Scopus. Gli articoli highly citated sono quelli che hanno ricevuto oltre 1.000 citazioni. Difficile dire se siano gli articoli migliori, certo sono gli articoli più influenti. Tra quei 1.380, ben 700 articoli sono classificati come biomedici e hanno almeno un autore affiliato a un istituto di ricerca degli Stati Uniti. I 700 articoli hanno 1.172 autori che figurano come primo o ultimo firmatario, o addirittura come autore singolo. Troppi, per essere analizzati compitamente. Cosicché Nicholson e Ioannidis, tra quei 700 articoli, hanno ne hanno selezionato a caso 158, per un totale di 262 “autori eleggibili”: ovvero autori afferanti a istituti americani, primi o ultimi (o singoli) firmatari. Ebbene solo 104 tra loro, il 39,7% del totale, hanno la ricerca “altamente citata” con fondi NIH. Ben 158 autori “altamente citati” americani, pari al 60,3% del totale, hanno svolto le loro ricerche altamente influenti con fondi diversi da quelli erogati dall’NIH. Qualsiasi sia la ragione, la parte prevalente della ricerca di punta americana in campo biomedico non è finanziata con i fondi pubblici degli NIH. Di conseguenza, l’influenza degli stessi NIH sulla ricerca di punta biomedica va leggermente ridimensionata.

Ma c’è di più. Tra i 1.172 autori americani “altamente citati” in campo biomedico solo 72 (il 6%) fanno parte del gruppo di studio che assegna i fondi NIH. Ma il gruppo di studio degli NIH è formato da 8.517 membri. Il che significa che solo lo 0,8% dei ricercatori che assegna fondi NIH è un ricercatore “altamente citato” e “influente”. Tutto questo – rilevano Nicholson e Ioannidis – contrasta alquanto con la missione assegnata ai National Institutes of Health: utilizzare i migliori ricercatori per finanziare i migliori progetti. Né la prima né la seconda parte dell’assunto viene rispettata.

Perché? Difficile dirlo, visto che finora il metodo di assegnazione dei grants da parte degli NIH era considerato tra i migliori al mondo. La verità è, probabilmente, che ogni sistema ha i suoi difetti. E che ogni sistema su vasta scala finisce per promuovere i progetti di ricerca che rientrano in quella che Thomas Khun – a proposito, sono 50 anni dalla pubblicazione del suo fondamentale The Structure of Scientific Revolutions – chiamava “la scienza normale” e che noi, più modestamente, potremmo definire più conformisti. Moda che prevale, inevitabilmente (?), anche nella selezione dei selezionatori.

Se Nicholson e Ioannidis hanno ragione, la loro analisi dimostra, ancora una volta, che occorre riflettere più a fondo su come si giudica la qualità nell’era della ricerca caratterizzata dalla quantità (di risorse, di ricercatori, di output).

altri articoli

Le notizie di scienza della settimana #101

È entrata in vigore il 20 maggio, in occasione del World Metrology Day, la nuova definizione del chilogrammo, basata non più sul campione di platino-iridio depositato al Bureau international des poids et mesures a Parigi bensì sulla costante di Planck ℏ. La nuova definizione garantirà la stabilità di questa unità di misura, che finora doveva essere aggiornata ogni volta che il campione di platino-iridio si deteriorava e il suo peso cambiava di conseguenza. Ora il valore del chilogrammo è legato a una costante della natura misurata con estrema precisione e che non cambierà di valore. Ma come è legata la misura del chilogrammo alla costante di Planck? Per capirlo bisogna scendere nei sotterranei del National Institutes of Standards and Technology a Gaithersburg nel Maryland per vedere la bilancia di Watt, o Kibble balance. Nell'immagine: la NIST-4 Kibble balance. Credit: J.L. Lee / NIST.

Curare l'obesità con la chirurgia

La chirurgia bariatrica è lo strumento più efficiente per curare i casi gravi di obesità, eppure solo l'1% degli statunitensi che ne trarrebbero beneficio si sottopone a questo tipo di interventi. I sondaggi mostrano, infatti, che la maggioranza considera la chirurgia bariatrica pericolosa o poco efficace. Tuttavia, sono ormai numerosi gli studi scientifici che mostrano che i benefici superano abbondantemente i rischi. Non tutti gli interventi sono uguali, però.