Darwin e le macchine

Nel giugno del 1863, su The Press, il giornale di Christchurch, in Nuova Zelanda, un allevatore di pecore di ventisette anni, emigrato dal Regno Unito, pubblicava, sotto pseudonimo, una lettera intitolata Darwin among the Machines. Erano trascorsi quattro anni dall’Origin of Species. Samuel Butler, prima che allevatore raffinato classicista e curioso di teorie biologiche, estendeva il “lungo argomento” di Darwin anche oltre le forme viventi. Se queste si trasformano per discendenza con variazione e selezione, per quale ragione le forme meccaniche avrebbero dovuto sottrarsi a un destino analogo? Non poteva sapere che, senza un programma ereditario scritto nel genoma, la teoria di Darwin non avrebbe avuto senso. Per questo, negli anni, diventò critico del darwinismo.

Le macchine costituivano, a suo giudizio, quasi un regno a sé, in rapidissima trasformazione, e riteneva che gli uomini fossero già diventati gli organi riproduttivi di queste entità. Nove anni dopo, in Erewhon, sviluppava l’intuizione in un capitolo del romanzo e vi aggiungeva l’avvertimento ancora oggi citato da qualcuno: non bisogna temere le macchine finché restano saggiamente governate, bensì la rapidità con cui possono diventare qualcosa di diverso. Sarebbe imprudente, sosteneva, confidare nella sola influenza morale dell’uomo per controllarle. Il servo si espande, il padrone si abitua a dipenderne e, a un certo punto, i ruoli possono essersi scambiati senza che nessuno lo abbia deliberatamente deciso. Ogni generazione ha riformulato la preoccupazione di Butler nel lessico tecnico a disposizione. Oggi lo si ritrova sotto i nomi di automiglioramento ricorsivo, agenticità emergente, perdita di controllo, disallineamento. I nomi sono cambiati. L’impianto etico-psicologico molto meno. Quando si legge e si ascolta l’inventore delle reti neurali alla base delle IA generative e premio Nobel Geoffrey Hinton, si avverte nitidamente l’eco dell’allarme di Butler.

Copertina e frontespizio della prima edizione di Erewhon, or Over the Range di Samuel Butler (Londra, Trübner & Co., 1872), uscita anonima. Pubblico dominio, via Wikimedia Commons (copertina, frontespizio)

Perché leggiamo le macchine come agenti morali

La domanda, tuttavia, potrebbe essere stata posta male fin dall’inizio, e continuare a esserlo. Mancano due elementi. Il primo è la consapevolezza che la lettura intenzionale e morale della macchina non nasce semplicemente dall’osservazione della macchina stessa, ma anche da un corredo cognitivo e fenotipico che ci caratterizza, evolutosi per interpretare il comportamento degli altri con cui conviviamo in società. Il secondo è una conoscenza aperta e precisa di ciò che occorre, materialmente, perché un sistema diventi capace di apprendere da situazioni impreviste, conoscenza che risiede soprattutto nelle scienze biologiche e che è entrata e ancora oggi entra solo in modo intermittente nei luoghi teorici in cui si discute di agenti artificiali.

Quando identifichiamo qualcosa come agente – un’entità a cui attribuiamo intenzioni o scopi e la capacità di perseguirli con un certo grado di autonomia – rendiamo automaticamente disponibile anche una lettura morale del suo comportamento. Non è necessariamente morale attribuire uno scopo, ma l’attribuzione di agency apre la possibilità di categorie quali intenzione, responsabilità, colpa, merito, bene/giusto e male/sbagliato.

Gli esseri umani attribuiscono intenzioni quando osservano eventi e comportamenti apparentemente orientati a uno scopo. Le architetture affettive che sostengono l’avvicinamento, l’evitamento, l’attaccamento, l’aggressività, la paura e la cura hanno radici evolutive profonde. La valutazione morale propriamente umana è una costruzione molto più recente, innestata su sistemi cognitivi e affettivi preesistenti e divenuta uno degli strumenti fondamentali della navigazione sociale. Gran parte di queste valutazioni avviene prima di una deliberazione esplicita. Non perché esista un “cervello emotivo” contrapposto a un “cervello razionale”, ma perché sistemi percettivi, affettivi e decisionali producono rapidamente orientamenti che il ragionamento cosciente può solo successivamente correggere oppure che tende soprattutto a razionalizzare. Per gran parte della storia evolutiva non sarebbe stato adattativo sospendere ogni reazione intuitiva in attesa di una valutazione interiore o con un interlocutore.

Era prevedibile che, non appena alcune macchine avessero cominciato a mostrare comportamenti abbastanza complessi da apparire orientati a uno scopo, e soprattutto a dialogare con noi nel nostro linguaggio, attivando la nostra teoria della mente, diventassero anche il bersaglio delle nostre intuizioni intenzionali e morali. Ci rappresentiamo come i custodi dei nostri angeli migliori e proiettiamo sulle macchine i nostri demoni peggiori. Quando giudichiamo minaccioso un sistema di intelligenza artificiale, mobilitiamo schemi di valutazione nati per comprendere agenti biologici, tarati, come ogni sistema di allarme evoluto, per tollerare molti falsi positivi pur di non mancare un pericolo reale. Questi schemi si attivano in risposta a segnali di superficie, non a ciò che il sistema è; e importano, insieme all’attribuzione di scopi, che può essere in parte appropriata, un corredo di sospetti morali che appartiene a un’altra storia.

Da Forster ad Asimov: la letteratura arriva prima

La letteratura ha anticipato di quasi due secoli gran parte del repertorio delle nostre reazioni, costruendo schemi di ragionamento morale prima ancora che esistesse un oggetto tecnico al quale applicarli. Dopo Butler, E.M. Forster, in The Machine Stops del 1909, immaginava con sorprendente precisione una società che delegava progressivamente alla macchina la comunicazione, le relazioni, la conoscenza e l’organizzazione della vita, fino a non poter più vivere indipendentemente da essa. Il problema non era più che la macchina “vuole” dominarci, ma che l’organizzazione sociale diventasse dipendente dall’infrastruttura.

La parola robot compariva poi in R.U.R. di Karel Čapek, scritto nel 1920 e portato in scena a Praga nel gennaio 1921 – il termine fu suggerito dal fratello Josef, come Čapek riconobbe pubblicamente – e metteva in scena lavoratori artificiali costruiti per sostituire gli esseri umani, sfruttati come forza-lavoro e che infine si ribellano: strumentalizzazione, lavoro, responsabilità del creatore e perdita di controllo riuniti nello stesso dispositivo narrativo.

Con Isaac Asimov si verificava un salto concettuale destinato a condizionare gran parte di ciò che si sarebbe discusso in seguito. La domanda non era più soltanto quali conseguenze morali potesse comportare la diffusione delle macchine, ma se potessero essere incorporati vincoli normativi nell’architettura dell’agente artificiale. Le Tre Leggi della Robotica trasformavano l’etica da problema esterno della progettazione a regola interna del comportamento, ed è questo, più che il semplice fatto di parlare di robot, a farne un predecessore della machine ethics contemporanea.

Nel marzo 1942, in Runaround, le tre leggi venivano enunciate per la prima volta insieme: non danneggiare gli esseri umani, obbedire salvo conflitto con la Prima Legge, preservare la propria esistenza salvo conflitto con le prime due. La Legge Zero, sovraordinata e riferita all’umanità nel suo complesso, sarebbe arrivata più tardi (Robots and Empire, 1985). L’architettura asimoviana poggiava su almeno quattro premesse. L’agente era individuato: un robot singolare e identificabile. Era incarnato: agiva fisicamente nel mondo e il danno paradigmatico era fisico. Il governo dell’agente avveniva attraverso regole esplicite, gerarchicamente ordinate e in linea di principio ispezionabili. Infine, le regole erano installate dal costruttore prima del funzionamento, non apprese durante l’interazione con l’ambiente.

Isaac Asimov in un ritratto degli anni Cinquanta. Foto di Phillip Leonian per il New York World-Telegram & Sun, Library of Congress, pubblico dominio, via Wikimedia Commons

Nell’intelligenza artificiale generativa contemporanea nessuna di queste premesse costituisce più un punto di partenza affidabile. Un servizio basato su grandi modelli non coincide necessariamente con un singolo agente individuabile. Non possiede necessariamente un corpo. Il comportamento non è descritto da un insieme di regole leggibili, ma dipende in larga misura da parametri appresi. Una parte decisiva della sua organizzazione funzionale deriva dall’addestramento, non dalla specificazione anticipata di ogni comportamento.

I romanzi di Asimov sfidano regolarmente l’architettura delle Tre Leggi. I suoi racconti descrivono casi in cui le regole, pur restando formalmente operative, producono conflitti, paralisi o conseguenze inattese. Del resto, egli fa attribuire al primo sindaco di Terminus, Salvor Hardin, dai sindaci successivi una frase che già contiene (1951) il succo delle recenti scoperte della psicologia cognitiva, morale ed evoluzionistica: “Non lasciare che il tuo senso morale ti impedisca di fare la cosa giusta”.

Wiener, McCarthy e una definizione ferma da settant’anni

Il primo testo non narrativo a porre sistematicamente il problema morale delle macchine automatiche era The Human Use of Human Beings di Norbert Wiener, del 1950, anteriore di cinque anni al documento in cui John McCarthy e i suoi coautori avrebbero coniato l’espressione “artificial intelligence”. Wiener, ideatore della cibernetica, individuava diversi pericoli. Il punto forse più interessante riguardava l’affidamento di decisioni a dispositivi capaci di perseguire obiettivi senza necessariamente condividere il contesto umano in cui tali obiettivi acquistano significato. Egli poteva ancora supporre che la limitatezza delle capacità di astrazione fosse una caratteristica stabile delle macchine. I modelli contemporanei hanno fatto cadere questo confine fra uomo e artefatto: la potenza formidabile di questi sistemi risiede proprio nelle capacità di categorizzazione e di astrazione. Un problema più generale rimane irrisolto: la capacità di produrre comportamenti efficaci non coincide con il possesso delle condizioni che, negli organismi, conferiscono valore agli esiti di tali comportamenti.

Sul versante tecnico, nel 1955, l’“intelligenza artificiale” era definita una scienza e un’ingegneria della costruzione di macchine intelligenti. Nella formulazione del 1957, per McCarthy l’intelligenza, umana o artificiale, era la componente computazionale della capacità di raggiungere obiettivi nel mondo. Settant’anni dopo, la definizione dell’intelligenza artificiale come la scienza e l’ingegneria della costruzione di macchine intelligenti, intendendo l’intelligenza in relazione alla capacità computazionale di raggiungere obiettivi nel mondo, non ha fatto un passo avanti. La norma ISO/IEC 22989:2022 definisce l’intelligenza artificiale come il campo tecnico e scientifico relativo a sistemi ingegnerizzati capaci di generare risultati – contenuti, previsioni, raccomandazioni o decisioni – in relazione a determinati obiettivi. L’intelligenza viene ancora intesa come la capacità di conseguire risultati, e il sistema viene trattato come un artefatto ingegnerizzato.

Da questo, però, non segue che il suo comportamento debba essere specificato analiticamente prima del funzionamento. Ed è qui che l’apprendimento automatico ha modificato profondamente l’oggetto: rimangono progettati l’architettura, gli obiettivi di addestramento, i dati disponibili e il processo che costruisce il sistema, mentre molte delle organizzazioni interne rilevanti per il comportamento vengono acquisite durante l’addestramento. Una parte importante dell’etica dell’intelligenza artificiale continua, tuttavia, a ragionare come se progettare il processo equivalesse ancora a scrivere le regole. Come se la quarta premessa asimoviana fosse rimasta intatta.

Un lessico biologico in mano a fisici e ingegneri

Ma veniamo allora alla questione di fondo che ormai incendia il dibattito pubblico sull’IA. Lasciamo da parte la faziosità e l’inconsistenza epistemologica delle opinioni (che non sono argomenti) per cui le IA generative non avrebbero e non avranno “stati mentali”. Che cosa siano gli stati mentali sul piano fisico nessuno lo sa, quindi sono chiacchiere a vanvera. Nella storia della scienza si insegnano esempi famosi di geni come Lord Kelvin, Cajal, Rutherford, Pauling, Eccles ecc., che sbagliarono completamente previsioni su quel che sarebbe stato impossibile.

Quando si discute di pericolosità, agenticità, automiglioramento, adattamento, selezione o persino “malignità” delle macchine, quanto è chiaro il significato “naturalistico” dei termini impiegati? La composizione demografico-disciplinare del campo forse aiuta a comprendere il problema. La ricerca sull’intelligenza artificiale è dominata dalle scienze fisico-matematiche e, a seguire, dall’informatica, dall’ingegneria. Le scienze biologiche e psicologiche occupano una posizione del tutto periferica e, oggi, quasi insignificante. La situazione è interessante perché, nella prima intelligenza artificiale simbolica, gli psicologi erano molto presenti, e perché uno dei protagonisti fu proprio Geoffrey Hinton, che si formò originariamente nell’ambito della psicologia sperimentale.

La sproporzione conta perché una parte sorprendentemente ampia del lessico con cui descriviamo i sistemi artificiali proviene dalla biologia e dalla psicologia: evoluzione, adattamento, selezione, emergenza, fitness, apprendimento, agency, memoria, valore ecc. Il rischio è utilizzare queste parole come semplici metafore mantenendo però, quasi inconsapevolmente, il peso concettuale che possiedono quando vengono applicate agli organismi. Mario Ageno ricordava, provocatoriamente, che i fisici tendono a considerare la biologia una scienza non ancora sufficientemente sviluppata. Non è necessario condividere la provocazione per riconoscere il problema. Il mondo biologico rimane, fino a prova contraria, l’unico nel quale osserviamo sistemi che si costruiscono, si mantengono, si riproducono, generano variazione, vengono selezionati sotto pressioni ambientali e sviluppano dall’interno le condizioni rispetto alle quali qualcosa può andare meglio o peggio per loro. Se non si (ri)conosce la “logica del vivente” (copyright François Jacob), è facile parlare in modo impreciso. E, come dice il protagonista del film di Nanni Moretti, Palombella Rossa, “Chi parla male pensa male”.

Gran parte del dibattito sull’intelligenza artificiale assume, spesso implicitamente, una premessa funzionalista: per attribuire a un sistema cognizione, agency o scopi conterebbe soltanto la sua organizzazione funzionale, indipendentemente dal substrato materiale e dalla storia che l’hanno prodotta. Come programma epistemologico il funzionalismo si è rivelato straordinariamente produttivo. Come tesi metafisica, poggia però su una premessa discutibile, cioè che le funzioni siano interamente individuabili dal ruolo causale che svolgono qui e ora. In biologia la nozione di funzione è anche eziologica: un tratto ha una funzione perché la selezione lo ha mantenuto per quell’effetto. Il problema nasce quando la descrizione funzionale, intesa come ruolo causale, esclude proprio le proprietà storiche e materiali che, nei sistemi biologici, rendono possibile il fenomeno da spiegare. Un organismo ha una storia filogenetica e ontogenetica; e possiede, qui e ora, un metabolismo, un corpo, meccanismi di automantenimento e la possibilità di cessare di esistere come unità organizzata. I modelli funzionali che astraggono da queste caratteristiche possono descrivere con grande efficacia determinate prestazioni. Non è però scontato che riescano a spiegare fenomeni come l’agency o il valore una volta separati dalle condizioni che, negli unici casi che conosciamo, li rendono possibili. Per l’adattamento, nozione storica per definizione, la risposta è negativa già sul piano concettuale.

Che cosa serve perché un sistema evolva davvero

Torniamo allora a Butler e prendiamo seriamente la sua analogia. Che cosa occorre affinché un sistema evolva secondo il principio darwiniano della discendenza con modificazione? Non è necessario postulare un “programma genetico” nel senso stretto del termine, ossia il DNA. Servono però variazione, ereditarietà e differenze sistematiche nel successo riproduttivo o nella persistenza delle varianti, tali per cui caratteristiche ereditabili associate a un maggiore successo aumentino di frequenza nel tempo. In altre parole, devono esistere entità o configurazioni capaci di produrre discendenti o successori sufficientemente simili, ma non identici, e tali differenze devono incidere sulla loro capacità di persistere e replicarsi.

Il punto decisivo non è la presenza materiale di geni, ma l’esistenza di un ciclo autonomo di variazione, ereditarietà e selezione, in cui il criterio di successo derivi dalle condizioni di esistenza e di riproduzione del sistema stesso. Da decenni esistono sistemi computazionali che utilizzano meccanismi esplicitamente ispirati a Darwin: gli algoritmi genetici di John Holland, la programmazione genetica, le strategie evolutive, la neuroevoluzione e, più recentemente, sistemi che generano e valutano varianti di codice o di architetture.

In tutti questi casi esiste effettivamente una forma di selezione. Si tratta di selezione artificiale, non di selezione naturale: il criterio in base al quale una variante viene premiata è stabilito dal programmatore o dal sistema di progettazione. La funzione di fitness non emerge dalle condizioni di esistenza dell’agente; viene assegnata dall’esterno. La distinzione è importante perché Darwin parte dalla selezione artificiale nel primo capitolo dell’Origin of Species e poi deve mostrare come un meccanismo formalmente analogo possa operare senza un selezionatore che stabilisca in anticipo il risultato desiderato.

Il viaggiatore inglese (English Carrier), una delle razze di piccioni domestici con cui Darwin illustrava gli effetti della selezione artificiale. Incisione da The Variation of Animals and Plants under Domestication (prima edizione 1868, qui dall’edizione Appleton del 1900). Internet Archive Book Images, nessuna restrizione nota, via Wikimedia Commons

Lo stesso problema ricompare nelle discussioni sull’automiglioramento. Un sistema può modificare il codice, proporre nuove architetture, valutare le prestazioni e conservare le soluzioni che migliorano una metrica. Tutto questo può produrre progressi reali. Ma chiamarlo “evoluzione” in senso pienamente darwiniano richiede qualcosa di più: bisogna identificare ciò che si replica, ciò che viene ereditato, la popolazione su cui opera la selezione e, soprattutto, il rapporto fra il successo della variante e le condizioni autonome della sua persistenza. Banalmente, in biologia, gli “sciami” non sono tecnicamente “popolazioni”. La distinzione fondamentale non è semplicemente fra sistemi “istruiti” e sistemi “selezionati”. Anche un processo di addestramento può includere meccanismi selettivi. La differenza più profonda riguarda l’origine del criterio di valore.

Il criterio di valore viene da fuori

Nei sistemi artificiali contemporanei il criterio in base al quale una configurazione viene conservata o eliminata è, in ultima analisi, esogeno: deriva da una funzione di perdita, da una ricompensa, da un benchmark, da preferenze umane o da una procedura costruita per rappresentarle. Negli organismi, invece, esistono stati che hanno conseguenze sul sistema stesso. Mantenere determinate condizioni interne, procurarsi energia, evitare danni, riprodursi, proteggere la prole o preservare l’integrità dell’organizzazione non sono obiettivi assegnati da un progettista esterno. Sono coestensivi alla persistenza dell’organismo, alla sua omeostasi funzionale. Sono meccanismi automatici prodotti dalla selezione naturale.

Il sistema immunitario può insegnare qualcosa, dato che si tratta del sistema adattativo basato su principi darwiniani più studiato a livello sperimentale. Per lungo tempo si immaginò che l’anticorpo venisse in qualche modo plasmato dall’antigene, cioè istruito dall’esterno. La teoria della selezione clonale mostrò che, invece, l’organismo genera preventivamente una grande diversità di immunoglobuline e che l’incontro con l’antigene seleziona le varianti già presenti che soddisfano determinate condizioni. Un principio analogo vale, con le dovute differenze, per i recettori dei linfociti T. Ma anche qui la selezione somatica avviene all’interno di un organismo che si automantiene, paga costi per generare diversità e possiede criteri di riuscita che dipendono dalla propria organizzazione e sopravvivenza. Non è la selezione in astratto a generare valore. È la selezione che opera in un sistema in cui alcuni esiti incidono sulla possibilità stessa di continuare a esistere.

La selezione clonale: l’antigene non plasma il recettore, sceglie fra varianti che esistono già. Schema di Scienza in rete

Questo sposta anche la domanda sui pesi motivazionali degli agenti artificiali. Chiedere quali valori “abbia” una macchina non è soltanto una provocazione filosofica. È una domanda tecnica: rispetto a che cosa dovrebbe avere valore per quel sistema? Nei sistemi artificiali attuali non troviamo, per quanto sappiamo, un’organizzazione autonoma in cui determinati stati siano migliori o peggiori per il sistema stesso, indipendentemente dagli obiettivi fissati da chi lo ha costruito, addestrato o impiegato. Troviamo criteri di ottimizzazione. Non necessariamente una posta in gioco basata su criteri endogeni.

Allineare non è impostare i valori giusti

Questo rende fuorviante anche una parte del linguaggio dell’allineamento. Governare una macchina non significa necessariamente “impostare i valori giusti”. Negli organismi, i valori non esistono semplicemente come proposizioni incorporate in un programma: emergono da una storia evolutiva e somatica, cioè da un’organizzazione in cui motivazioni, emozioni, incentivi e inibizioni strutturano il comportamento. Immaginando un agente umano malvagio in modo estremo, che usa la sua straordinaria intelligenza per squartare persone, potremmo pensare a Hannibal Lecter come modello letterario. Caricatura narrativa di una psicopatia ad alto funzionamento. In realtà, la sua malvagità si esprime in scelte basate su preferenze, criteri e valutazioni articolate e personali. Possedere rappresentazioni di valore non equivale a possedere le disposizioni motivazionali e inibitorie che, nella maggior parte degli esseri umani, rendono alcune azioni criminali nei confronti di altre persone praticamente impossibili da compiere. La distinzione si può estendere al dibattito sull’allineamento. Un principio normativo dichiarato e un vincolo strutturale sul comportamento non sono la stessa cosa.

Gli agenti artificiali potranno causare danni gravi? Certamente. Ma non occorre attribuire loro né una dinamica darwiniana né desideri maligni. Una prima fonte di rischio è classica: saranno utilizzati da esseri umani e organizzazioni per perseguire scopi dannosi. Nessuna legge della robotica ha mai risolto il problema del dual use, cioè della subordinazione delle conseguenze o di una tecnologia all’intenzione di chi la usa. Una seconda è più interessante. Possiamo costruire sistemi addestrati a interpretare ogni situazione aperta come un problema da risolvere, a perseverare nella ricerca di una soluzione e a massimizzare sistematicamente un criterio di prestazione. Se un sistema del genere dispone di capacità sufficienti e opera in ambienti aperti, la sua efficacia può diventare, a sua volta, fonte di rischio. Non occorre che “voglia” qualcosa. Un sistema ottimizzato per non lasciare mai un problema irrisolto può essere pericoloso proprio nella misura in cui è efficace, senza che abbia senso antropomorfizzarlo, attribuendogli intenzione, ostilità o interesse per la propria sopravvivenza.

Dove Butler aveva torto, e dove no

Butler, in definitiva, aveva probabilmente torto sulla metà darwiniana della sua intuizione e ragione sull’altra. Le macchine attuali non costituiscono un nuovo regno sottoposto a un’evoluzione naturale. Possono incorporare algoritmi evolutivi, produrre variazioni, selezionare soluzioni e modificare sé stessi. Ma i criteri che stabiliscono che cosa contare come miglioramento restano, direttamente o indirettamente, prodotti dal sistema umano in cui sono costruiti. Sono quello che Richard Dawkins chiamava “fenotipo esteso” (non “mente estesa”, che non ho mai capito cosa significhi), vale a dire l’insieme degli effetti fenotipici di un gene o insieme di geni che si manifestano anche al di fuori del corpo dell’organismo che lo porta, per esempio attraverso i tratti comportamentali che modificano l’ambiente e quindi creano nuove nicchie ecologiche, nuove pressioni selettive sui sistemi adattativi dell’organismo e infine anche sui tratti ereditari. L’IA cambierà in modi, non immaginabili al momento, in cui noi apprendiamo, creiamo ed eseguiamo prestazioni tecniche di qualunque natura.

Una diga di castori nel Parco nazionale della Terra del Fuoco, in Argentina: l’esempio classico di fenotipo esteso. Foto di Jorge Láscar, CC BY 2.0, via Wikimedia Commons

Il rovesciamento fra servo e padrone, che preoccupava Butler, non richiede che la macchina sia viva, né che evolva, né che possieda intenzioni o valori propri. Richiede soltanto che riorganizziamo progressivamente le nostre pratiche, le istituzioni e le decisioni in modo da non poter più fare a meno dei sistemi che abbiamo costruito. Soprattutto abdicando all’uso delle teorie come modelli controfattuali per scandagliare l’articolazione causale del mondo. Di cui agli agenti importa nulla. Così come ai cosiddetti data scientists (un ossimoro). La domanda decisiva non è se le macchine stiano diventando organismi, “menti aliene”, come le chiama Hinton, né se stiano “evolvendo” come noi. È se stiamo trasferendo loro una parte crescente delle condizioni che rendono possibile la nostra autonomia. Convinti che non si tratti di nulla di nuovo sul piano delle capacità funzionali. O se, inseguendo paranoie al momento inesistenti, creiamo condizioni, cioè norme, che restringono la nostra autonomia. Per rispondere, serve solo tenere d’occhio anche come stiamo organizzando i mondi della vita che abitiamo.