Effetti linguistici della valutazione della ricerca

Read time: 8 mins

Stilare classifiche degli atenei è diventata una necessità in quei paesi dove parte del finanziamento statale alle università è distribuito sulla base di periodiche valutazioni della ricerca scientifica. In Italia, ad esempio, si è iniziato nell’ultimo decennio: al VTR (Valutazione Triennale della Ricerca), esercizio pilota condotto dal Comitato di indirizzo per la valutazione della ricerca fra il 2001 e il 2003, è succeduto il VQR 2004-2010 (Valutazione della Qualità della Ricerca) guidato dall’Agenzia di valutazione del sistema universitario e della ricerca.

L’indicatore più diffuso per valutare una variabile complessa come la qualità della ricerca è il giudizio dato da esperti indipendenti nella cosiddetta peer review o valutazione inter pares. Tuttavia, la volontà di ridurre i costi degli esercizi valutativi e una certa suggestione per la misura “oggettiva” spingono per maggiore utilizzo degli indicatori bibliometrici, cioè indicatori calcolati sulla base del numero di citazioni ricevute da un articolo, una rivista o un autore. L’indicatore bibliometrico più conosciuto è il fattore d’impatto di una rivista. Nato negli anni ‘20 del secolo scorso negli Stati Uniti per guidare le scelte di acquisto dei responsabili delle biblioteche universitarie, il fattore d’impatto è stato promosso a livello internazionale dall’Institute for Scientific Information - ISI (oggi Thompson Reuters) a partire dagli anni ’70. Il fattore d’impatto di una rivista in un certo anno è definito come il rapporto tra il numero delle citazioni ricevute dagli articoli pubblicati nella rivista nei due anni precedenti e numero di articoli pubblicati nella rivista durante lo stesso lasso di tempo.

Mentre gli indicatori bibliometrici nel VTR fungevano da semplice supporto informativo alla valutazione inter paresnel VQR il fattore di impatto e il numero di citazioni sono criteri indipendenti applicati talvolta in modo meccanico. In alcuni settori disciplinari, i GEV (Gruppi di esperti della valutazione ) giudicheranno il valore di una percentuale variabile di articoli in modo automatizzato, cioè attraverso degli algoritmi che determinano la qualità di un articolo in base al numero di citazioni ricevute e al fattore di impatto della rivista. Questi prodotti scientifici non saranno quindi analizzati da un esperto; si procederà al massimo a una valutazione inter pares di controllo per un campione o per i casi ambigui.

Un aspetto poco discusso nel VQR ― che, sia detto per inciso, è pertinente anche per l’abilitazione scientifica nazionale ― riguarda leconseguenze linguistiche dell’utilizzo degli indici bibliometrici. Uno degli effetti più probabili del VQR e delle valutazioni successive, se i criteri non cambieranno e se non saranno approntate opportune politiche linguistiche di bilanciamento, sarà di accelerare la convergenza verso il monolinguismo inglese nella comunicazione scientifica in Italia. L’uso del fattore d’impatto di Thompson Reuters e del numero di citazioni a fini valutativi rischia di tradursi in un incentivo economico implicito a preferire l’inglese all’italiano nelle pubblicazioni scientifiche. L’esperienza spagnola sembra confermare questa tesi.González-Alcaide, Valderrama-Zurián e Aleixandre-Bonavent, fra gli altri, in un articolo pubblicato quest’anno su Scientometrics, rivista di riferimento della bibliometria, mostrano che l’utilizzo degli indici calcolati sui cataloghi Thompson Reuters per la valutazione delle università spagnole dal 1989 ha contribuito in modo significativo alla marginalizzazione delle riviste scientifiche in spagnolo e in generale dell’utilizzo dello spagnolo nella comunicazione scientifica. Questa tendenza, beninteso, non è interamente attribuibile all’uso degli indicatori adottati dall’agenzia di valutazione spagnola, ma essi l’hanno certamente accelerata e consolidata.

Il motivo è duplice. In primo luogo, il fattore di impatto e il numero di citazioni sono calcolati nella maggior parte dei casi a partire dal Web of Science di Thompson Reuters, un catalogo in cui le riviste in inglese sono notoriamente sovrarappresentateThompson Reuters, d’altra parte, non fa mistero della propria politica linguistica; sul sito istituzionale si legge che “l’inglese è la lingua universale della scienza in questo momento storico. È per questa ragione che Thomson Reuterssi concentra sulle riviste che pubblicano i testi completi in inglese o che come minimo hanno le informazioni bibliografiche in inglese. Ci sono molte riviste incluse nel Web of Science che pubblicano solo le proprie informazioni bibliografiche in inglese con il testo completo in un’altra lingua. Tuttavia, guardando al futuro, è evidente che le riviste più importanti per la comunità internazionale dei ricercatori pubblicheranno testi completi in inglese”. Si tratta ovviamente di una forzatura, ma l’utilizzo pervasivo del fattore d’impatto nei sistemi valutativi rischia di avere i tipici effetti della profezia che si autoavvera. Il fattore d’impatto è calcolato in base al numero di citazioni fatte da riviste indicizzate del Web of Science verso altre riviste indicizzate nello stesso catalogo; se le riviste redatte in una certa lingua sono escluse dal catalogo, il loro fattore di impatto sarà nullo; se invece sono incluse, probabilmente il loro fattore d’impatto sarà molto basso perché non vengono conteggiate le citazioni di fatte sulle riviste nella stessa lingua che non sono incluse nel catalogo. Nel VQR alcuni GEV utilizzano anche altri cataloghi come Scopus, ma il Web of Science resta dominante.

In secondo luogo, la dimensione delle comunità linguistiche e la distribuzione delle competenze nelle lingue straniere fra la popolazione dei ricercatori hanno un effetto sulle citazioni, perché esse dipendono dalla capacità dei ricercatori di comprendere la lingua in cui un testo è scritto. Da un lato, la letteratura bibliometrica ha mostrato che tutte le comunità linguistiche hanno tendenza a citare maggiormente i lavori redatti nella propria lingua, e questo vale anche per la comunità anglosassone che è certamente maggioritaria in termini relativi (almeno in area OCSE). Dall’altro lato, la letteratura scientifica in inglese ha maggiore potenziale di circolazione grazie alla diffusione internazionale dell’inglese come lingua straniera. L’esistenza di una “distorsione linguistica” nelle citazioni è stata messa in risalto da diversi autori. In un articolo pubblicato quest’anno su ScientometricsLiang, Rousseau e Zhong hanno mostrato che la maggior parte degli articoli scientifici pubblicati in inglese in riviste multilingui di fisica e chimica recensite nel Web of Science riceve in media un maggior numero di citazioni rispetto ad articoli non in inglese pubblicati nella stessa rivista. Si potrebbe dire che ciò dovuto alla maggiore qualità degli articoli in inglese rispetto agli altri, ma si tratta pur sempre di articoli pubblicati nella stessa rivista che sono sottoposti agli stessi processi di vaglio della qualità scientifica. Se la qualità di un articolo è misurata attraverso l’indicatore citazionale, il concetto stesso di qualità rischia di diventa circolare (si confronti l’adagio “un articolo è buono perché viene citato molto, ed esso è citato molto spesso perché l’articolo è buono”).

L’importanza empirica dell’effetto della sovrarappresentazione delle riviste anglosassoni nel Web of Science e della distribuzione delle competenze linguistiche nella comunità scientifica sulle citazioni è una questione che va analizzata separatamente, ma sarebbe sbagliato negarne o minimizzarne l’esistenza. È vero che molte delle migliori riviste internazionali pubblicano in inglese ed è altrettanto giusto ricompensare i ricercatori e le università italiane che si misurano con la comunità scientifica internazionale, evitando logiche autoreferenziali o prassi provinciali. Ma è altrettanto vero che, come peraltro già notato da alcuni valutatori nella relazione finale del VTR,non vi è una necessaria correlazione fra lingua di pubblicazione da un lato e qualità scientifica o internazionalizzazione dall’altro. Inoltre, il fattore di impatto, come osserva Moed nel libro “Citation analysis in research evaluation”, più che un indice di qualità è un indicatore di visibilità. A riprova basti citare un esempio dal Brasile. Il programmaScientific Electronic Library Online, un metaeditore di riviste scientifiche elettroniche, ha permesso di aumentare la visibilità delle più prestigiose riviste scientifiche brasiliane tramite un portale ad accesso libero. Secondo Meneghini e Packer, il programma ha avuto in diversi casi un effetto positivo sul fattore d’impatto delle medesime riviste brasiliane inserite del Web of Science; ciò non era dovuto al fatto che la qualità di articoli già pubblicati fosse misteriosamente migliorata, ma semplicemente all’effetto di una maggiore visibilità raggiunta grazie al libero accesso in rete.

Non è nostra intenzione biasimare gli indicatori bibliometrici in quanto tali, ma piuttosto mettere in discussione il loro utilizzo sistemico in un contesto linguistico e culturale diverso da quello in cui sono nati. Per avere un’accurata rappresentazione della qualità della ricerca in un paese, il decisore pubblico dovrebbe interrogarsi sull’opportunità di fondare la valutazione su cataloghi non rappresentativi della letteratura scientifica in italiano e sull’utilizzo di indicatori meccanici che rischiano di penalizzare artificialmente ricercatori e università sulla base della lingua utilizzata nei prodotti scientifici. Contribuire alla marginalizzazione dell’italiano come lingua di elaborazione e trasmissione del sapere con delle politiche linguistiche messe in atto surrettiziamente attraverso gli indicatori bibliometrici distorti in favore dell’inglese rischia non solo di non giovare alla qualità della ricerca, ma anche di ostacolare la circolazione del sapere all’interno del paese. Come osservano Meneghini e Packer sulla rivista dell’Organizzazione europea di biologia molecolare, la scienza è parte della cultura in senso lato; essa “non è fatta in una torre d’avorio separata dal resto della società, ma è riconosciuta come un’essenziale risorsa di conoscenza per lo sviluppo economico e tecnologico. I risultati, i termini e le idee scientifiche permeano la società circostante e creano nuovi prodotti, servizi ed espressioni che alla fine entrano nell’uso comune. Se non vi è un impegno a creare una semantica scientifica nella lingua materna, un paese e la sua cultura non saranno capaci di assorbire la conoscenza e le idee scientifiche che alla fine servono alla società stessa”.

altri articoli

La fuga dei cervelli fa bene alla scienza

Luggage. Credit: Inspiredimages / Pixabay. Licenza: CC0.

Pare sempre più evidente che le scelte politiche internazionali vadano nella direzione opposta rispetto a quella indicata dalla scienza. I recenti sconvolgimenti politici – dall'inasprimento dei divieti di entrata negli Stati Uniti di Trump alla Brexit - minacciano infatti di avere un effetto frustrante sulla collaborazione e sulla mobilità dei ricercatori.