fbpx Ghost in the machine: l’intelligenza artificiale al cinema | Scienza in rete

Ghost in the machine: l’intelligenza artificiale al cinema

Primary tabs

Read time: 28 mins

L’informatica nasce a metà del secolo scorso, come prodotto delle ricerche militari che hanno preceduto e accompagnato la seconda guerra mondiale (proprio come la bomba atomica). Si sviluppa poi enormemente, nei decenni successivi, in seguito all’evoluzione della tecnologia elettronica. Il passaggio dai tubi a vuoto ai transistor e ai circuiti integrati permette una maggiore potenza di calcolo e una velocità di elaborazione enormemente superiore. Ma non solo. Si verifica una svolta: la trasformazione da macchine per il calcolo a macchine pensanti. Ma che cosa significa l’espressione “macchine pensanti”? Significa macchine capaci di ragionamento logico e non solo di calcoli matematici; capaci di inferenze e non solo di deduzioni; capaci insomma di emulare la mente umana nel suo funzionamento non strettamente calcolante.

Il cinema, spesso in anticipo rispetto agli sviluppi della scienza e della tecnologia, mette in scena questo aspetto sorprendente e qualche misura inquietante di un mondo che si immaginava perfetto e limpido nella sua razionalità. Da Agente Lemmy Caution: missione Alphaville, di Jean Luc Godard, del 1965, fino a Terminator Salvation, di McG, del 2009, il cinema propone una rassegna delle potenzialità di una nuova tecnoscienza e, insieme, esplora il mondo dei desideri e delle paure che essa ha suscitato o potrà suscitare.

[pagebreak]

Macchine pensanti

alphavilleA partire dalla fine degli anni 60, anche il cinema recepisce la svolta che si sta producendo nell’informatica, e corrispondentemente la rappresentazione dei computer si trasforma. Si può dire che questo accada per la prima volta nel caso del potente computer Alpha 60 del film Agente Lemmy Caution: missione Alphaville, di Jean Luc Godard del 1965.

In questo film di un grande  regista c’è una visione pessimistica del ruolo della tecnologia informatica nel futuro: un ruolo che porterà a una struttura sociale completamente controllata e dominata dai computer. Come vedremo, il pessimismo - la distopia - sarà una cifra molto presente nella lettura che il cinema farà dell’intelligenza artificiale.

Il computer Alpha 60 ha programmato la società del pianeta Alphaville secondo la razionalità scientifica più rigorosa. Le strade hanno nomi di scienziati, i sentimenti sono banditi, la ricerca operativa (ossia la ricerca di soluzioni efficienti a complessi problemi logistici) è lo strumento principe. In più, però, il computer si fa da solo le domande che gli umani non sono in grado di porgli, e progetta addirittura nuovi computer. Già John von Neumann, uno dei padri dell’informatica, aveva ipotizzato un possibile futuro di questo tipo.

Con il modello Alpha 60, dunque, il computer diventa più autonomo, pur mantenendo la sua fredda e disumana razionalità.

2001 odisseaMa il computer probabilmente più famoso della storia del cinema è Hal, protagonista di  2001: Odissea nello spazio di Stanley Kubrick del 1968, tratto da un racconto di Arthur C. Clarke [i]. Il regista anticipa qui genialmente gli sviluppi dell’intelligenza artificiale, e immagina addirittura una macchina capace di un barlume di pensiero autonomo, in grado di ribellarsi agli umani in nome della propria sopravvivenza e della missione da portare a termine.

Hal è un computer dell’ultima generazione capace di linguaggio, di comunicazione, di pensiero anche in situazioni impreviste. E’ lui che gestisce e controlla ogni particolare di un viaggio verso Marte: dal mantenimento della rotta della missione fino alla gestione della sopravvivenza degli astronauti ibernati e addirittura alla somministrazione di test psicologici all’equipaggio. Ma a un certo punto, in seguito ad una sua diagnosi di guasto che gli umani giudicano errata, Hal decide che l’errore è dalla parte di questi ultimi, che quindi vanno eliminati per la buona riuscita della missione.

L’unico superstite riesce fortunosamente a riprendere il controllo e si dispone a “uccidere” Hal. Fermati, David, ho paura - lo supplica Hal. David non si ferma, e Hal, perdendo a uno a uno i suoi circuiti, regredisce a computer-bambino, che canta una filastrocca con voce sempre più cavernosa e infine si spegne.

Questa invenzione cinematografica è particolarmente felice: nasce dall’ipotesi secondo cui un computer che pensa quasi come un essere umano deve necessariamente avere una storia di interazioni col mondo, una storia di apprendimenti e di crescita. In altre parole, un computer che pensa è un computer che impara. Una degradazione delle sue strutture farà dunque regredire la macchina pensante a uno stadio precedente, quasi infantile.

Attraverso film come questo, la fantascienza propone - con grande anticipo rispetto agli sviluppi della scienza e della tecnologia - un punto centrale della riflessione sulle macchine pensanti. Fin dove può arrivare il pensiero di una macchina, il pensiero, per così dire, astratto, replicato su un substrato diverso da quello biologico? Il pensiero, la res cogitans cartesiana, può venire riprodotto separandolo dal corpo biologico, e dunque dalla sua struttura fisica, dalle sue esperienze vitali, dal sangue e dal respiro? In una certa misura ciò nel film appare possibile: il ragionamento di Hal e il suo comportamento appaiono infatti manifestazioni di un pensiero coerente e inventivo, nella prospettiva in cui la missione vale più degli uomini che la compiono (forse nessuno, d’altra parte, aveva fornito ad Hal una diversa gerarchia di valori...).

Robot informatici

Nella seconda metà del novecento ha luogo una fondamentale svolta tecnologica con la cibernetica. la studia la possibilità di sistemi artificiali dotati di autonomi, che quindi pone al centro dei propri interessi l’interazione delle macchine col mondo: un mondo imprevedibile e sconosciuto, più complesso di quello che il computer Hal controllava restando immobile, attraverso telecamere e servomeccanismi. Le macchine, dunque, imparano ad acquisire ed elaborare informazioni sull’ambiente e a muoversi nello spazio. Nascono così i primi robot tecnologici, basati sull’informatica e sull’intelligenza artificiale, che iniziano anche a popolare lo schermo: essi, oltre alla capacità di movimento, possiedono una certa autonomia di pensiero, che permette loro di affrontare situazioni impreviste.

metropolisMa la presenza di creature artificiali sullo schermo era iniziata ben prima, addirittura ai tempi del cinema muto. Un esempio particolarmente significativo di questa presenza è la creatura meccanica (“uomo macchina”, viene definita nel film) di Metropolis, un film di Fritz Lang del 1927: una creatura divenuta l’icona dei robot (parola slava che significa lavoro forzato, introdotta dal romanziere ceco Karel Čapek nel suo testo teatrale R.U.R. del 1921).

In Metropolis, come in altri film dell’epoca, il riferimento alla tecnologia è estremamente vago. E’ solo molto più tardi che la tecnologia costruttiva risulta chiara: si tratta di sistemi meccanici con un cervello (o, se si preferisce, un cuore) informatico, che saranno sempre più spesso rivestiti di un materiale simile alla carne.

Nel film Ultimatum alla terra di Robert Wise del 1951, il robot è una macchina antropomorfa dotata di poteri straordinari: forza fisica, invulnerabilità, armi invincibili. Ma queste caratteristiche, che potremmo definire sovrumane, sono al servizio di una autorità indiscussa: in questo caso, una popolazione di extraterrestri assai più saggi degli umani. In altri casi, i robot possono invece essere al servizio di un potere dittatoriale, come in THX: L’uomo che fuggì nel futuro di George Lucas del 1971, straordinaria opera prima di quello che diventerà un regista e produttore famoso, o in Sky captain and the world of tomorrow di Kerry Conran del 2004, dove i robot hanno una struttura esteriore quasi ottocentesca ma capacità molto evolute. Oppure al servizio del piacere e degli stereotipi maschili, come in molti altri film sui robot, tra cui La donna perfetta di Frank Oz del 2004, in cui si immagina una cittadina americana nella quale la tecnologia realizza il sogno degli uomini di avere mogli perfette (nel senso, naturalmente, dei loro desideri più maschilisti...).

Fin qui, i robot sono pensati dagli umani come schiavi ad alta tecnologia, e in essi si ritiene possibile conciliare un pensiero simile a quello umano con una disumanità programmabile e controllabile. Sono, insomma, macchine pensanti al servizio di un potere, buono o cattivo non importa. I robot che ho citato prima (quelli di Ultimatum alla terra, THX, Sky Captain, La donna perfetta) appartengono a questa categoria.

L’autonomia delle macchine pensanti, però, può anche rivelarsi disfunzionale rispetto agli scopi stabiliti dagli umani: esse, infatti, possono ribellarsi e rifiutarsi di obbedire. Il topos della ribellione dell’artefatto al suo creatore è presente in molti film di fantascienza: la differenza tra le diverse storie consiste però nel senso della rivolta.

Nel caso più semplice, la ribellione nasce dal tentativo del robot di portare a termine un programma che agli umani non appare più adeguato, ma che non riescono a disabilitare. E’ il caso, ad esempio, di Pianeta rosso di Anthony Hoffman del 2000, nel quale il robot scambia gli astronauti amici per nemici, e dunque mette in atto un programma di distruzione. Anche in Alien di Ridley Scott del 1979 un robot (perfettamente mascherato sotto le sembianze di un umano) cerca di portare avanti il progetto iniziale di catturare forme di vita aliene anche quando è chiara la sinistra pericolosità di questa operazione.

Nel film Corto circuito di John Badham del 1986, invece, un corto circuito – appunto - provoca in un robot una sorta di mutazione. Essa dà origine a una spinta all’autodifesa, all’autoconservazione ad ogni costo, completamente assente dal progetto, e solo embrionale nei robot precedenti. Nel film Generazione Proteus di Donald Cammell del 1977 sembra emergere addirittura, senza che intervenga un evento esterno, una inattesa ambizione del robot di riprodursi, ibridandosi con l’umanità.

Si può così individuare nella filmografia una sorta di scala evolutiva nell’acquisizione della coscienza da parte dei robot. In questo modo la fantascienza sviluppa ulteriormente - con grande anticipo rispetto agli sviluppi della tecnologia, ma con un preciso riferimento alla tecnologia stessa - la riflessione sulle macchine pensanti già accennata in precedenza. Fin dove può arrivare il pensiero di una macchina, il pensiero replicato su un substrato diverso da quello biologico? La res cogitans, secondo l’immagine cartesiana, può venire separata dal corpo biologico, e dunque dalla sua struttura fisica di carnee sangue e dalle sue esperienze vitali? Può una macchina sviluppare pensieri autonomi, identità, addirittura sentimenti?

Domande di questo genere vengono poste a volte in modo scherzoso, come nel caso del film Io e Caterina di Alberto Sordi del 1980. Non si tratta di un film particolarmente significativo, ma va comunque ricordato per l’idea di fondo, che coglie una tematica importante: l’inattesa nascita del sentimento di identità in una macchina.

west worldTra i primi film che fanno riferimento a robot informatici, uno dei più significativi è Westworld di Michael Crichton, del 1973 (il titolo italiano è Il mondo dei robot). La sceneggiatura è stata scritta dallo stesso Crichton [ii].

La vicenda si svolge a Delos, una colossale area di divertimenti, dove ciascuno degli ospiti può scegliere di trascorrere la propria vacanza all’interno della perfetta riproduzione di un particolare ambito storico (tra questi, appunto, il Mondo del West). Il regista afferma di essersi ispirato a Disneyland, esasperando gli obiettivi di gratificazione dei visitatori che caratterizzano luoghi come quello.

In questo mondo artificiale, ogni desiderio può divenire realtà. E i desideri più intensi e inconfessabili degli ospiti si concentrano intorno a gozzoviglie, potere, sesso e violenza omicida. Delos permette la soddisfazione di questi desideri attraverso una tecnologia straordinariamente avanzata, che ha i robot come protagonisti. Essi sono rivestiti di un materiale simile alla carne, e il loro aspetto è pressoché indistinguibile da quello degli esseri viventi. Inoltre, il loro computer interno è estremamente perfezionato, per cui anche il linguaggio, i gesti, il comportamento sono ingannevolmente simili a quelli umani.

Queste macchine popolano i mondi artificiali, e interagiscono con gli ospiti paganti, esaudendo i loro desideri. Può trattarsi di una casa di appuntamenti, in cui cercare il piacere, oppure di una banca da svaligiare. Ma può trattarsi anche di una rissa in un saloon, dove un pistolero provoca l’ospite e ne viene ucciso.

Nella notte, una squadra di tecnici raccoglie e ripara i robot danneggiati, accedendo alla loro struttura interna. Anche lo spettatore può vedere così che dietro la ricopertura di un materiale simile alla carne c’è un computer: un computer che ha prestazioni completamente diverse da quelle delle macchine che – negli anni 70 - in uffici e centri di calcolo eseguivano compiti ripetitivi ed esattamente programmati.

Ad un tratto le macchine complesse che popolano Delos divengono aggressive e addirittura mortali verso gli ospiti. Questo evento inatteso si può leggere come conseguenza dell’emergere, nei robot, di una dignità quasi umana. Anche comunicando tra di loro, le macchine reagiscono alll’insopportabile umiliazione di essere progettate come oggetti per l’appagamento del desiderio di possesso e di dominio da parte degli ospiti di un raffinato e costoso parco di divertimenti.

Sembra dunque che, a somiglianza degli umani che li hanno progettati, i robot giungano a sviluppare un sentimento di identità: essi, addirittura, sembrano porsi il problema della difesa della propria dignità. Alla fine, l’uomo vince: ma si dimostra malvagio.

Un mondo di macchine

Facciamo ora un salto di una trentina d’anni dal 1973, anno di Il mondo dei robot, e arriviamo all’inizio del 21esimo secolo. La tecnologia informatica ha ormai prodotto macchine che realizzano una parte delle fantasie espresse dal cinema nei decenni precedenti attraverso i film appena citati, e attraverso tanti altri film, come Futureworld di Richard T. Heffron (1976), Guerre stellari di George Lucas (1977), War Games di Joh Badham (1983), Robocop di Paul Verhoeven (1987).

aiTrent’anni dopo il suo 2001: Odissea nello spazio, Stanley Kubrick ha immaginato un nuovo film di fantascienza, ispirato a un racconto di Brian Aldiss del 1969 [iii]: A.I. Intelligenza Artificiale. Questo film è uscito nel 2001, proprio nell’anno al quale si riferiva il film precedente.[iv] In questa nuova opera, però, la prospettiva è molto diversa. Non sono più le macchine a minacciare l’umanità, ma è l’umanità stessa che ha quasi distrutto se stessa; le macchine, anzi, l’aiutano a sopravvivere.

Di che tipo di macchine si tratta? Sono robot esteriormente del tutto simili agli esseri umani ma – come in Westworld – sono dotati di un cervello elettronico. Essi sono in grado di operare in ogni campo, a seconda delle specializzazioni: dalle attività pesanti alle prestazioni sessuali, dalla soluzione di problemi complessi ai lavori di abilità. Eppure, ancora manca loro qualcosa: la capacità di provare emozioni e sentimenti.

Nei robot delle generazioni precedenti, infatti, le emozioni erano simulate, come pure i sentimenti. Anche la paura di Hal, dunque, era una simulazione. Ma che cosa succederebbe – questa è la domanda da cui prende avvio il film - se, per mezzo di una tecnologia nuova, fosse possibile costruire macchine veramente capaci di amare? In altre parole, se fosse possibile rendere vero quello che gli artefatti fin qui realizzati sanno simulare perfettamente? Nel film si immagina che a tale scopo una questa nuova tecnologia sia disponibile, e che vengano effettivamente costruiti robot con caratteristiche quasi umane.

C’è qui un riferimento, seppure vago, agli sviluppi dell’intelligenza artificiale, che per risolvere problemi non formalizzabili attraverso algoritmi ha ipotizzato architetture nuove, come le reti neurali, che imitano (a grandi linee) la struttura del cervello, fatta di neuroni fittamente interconnessi. L’ipotesi del film, allora, è che dalla complessità strutturale di un cervello di nuovo tipo possano emergere caratteristiche simili a quelle più propriamente umane. L’ispirazione – non esplicitamente dichiarata – è alla scienza della complessità.

La  scelta del tipo di robot capace di amare cade su un bambino, che viene chiamato David. Per l’esperimento viene individuata una coppia il cui unico figlio è in coma per effetto di una malattia che la scienza medica non è in grado di curare. Il rapporto tra la madre, Monica, e David sembra svilupparsi senza grande difficoltà, e Monica decide di avviare la procedura irreversibile di imprinting, che consoliderà definitivamente (dalla parte del robot) la relazione d’amore. Questa è la precauzione presa dal progettista per garantirsi contro una eccessiva autonomia di affetti da parte dei robot, i quali potrebbero amare la persona sbagliata oppure essere incostanti nel loro amore.

A un certo punto, i progressi della medicina permettono al figlio naturale di guarire e ritornare a casa. E’ inevitabile, allora, la sua gelosia nei riguardi dell’intruso. Verrà dunque presa la dolorosa decisione di abbandonare David  nel bosco.

Inizia a questo punto la lunga parte centrale del film, che presenta il lato oscuro della convivenza degli uomini con i robot che essi hanno creato. Enormi camion scaricano mucchi di robot ancora “vivi”, ma orrendamente mutilati; squadre specializzate inseguono e catturano i robot fuggiaschi per poi farli crudelmente “morire” in una specie di Colosseo post-moderno, dove si esalta in modo cruento la superiorità degli umani sulle macchine, schiavi moderni.

Viene posto qui, almeno implicitamente, anche il problema dell’etica nei riguardi dei robot: è moralmente lecito comportarsi così, trattando come schiavi da far morire queste creature capaci di sentimenti e di emozioni?

Quando ancora viveva in famiglia, David aveva sentito raccontare dalla madre la storia di Pinocchio. Egli cerca allora la Fata turchina, l’unica che potrà farlo diventare un bambino e così permettergli di conquistare l’amore della sua mamma, che egli è ormai programmato ad amare perdutamente per sempre. Dopo essere riuscito a sopravvivere alle mille insidie del mondo, David si immerge nel mare, e sul fondo finalmente vede - con le sembianze di una Madonna - una statua della Fata turchina, che egli contemplerà in silenzio finché le sue batterie non si scaricheranno, e davanti alla quale resterà per duemila anni.

Verrà riportato in “vita” dai filiformi robot che abitano ormai la terra dopo la sparizione del genere umano. Sarà questo popolo buono a far incontrare David con la Fata, la quale farà rivivere Monica a partire da una ciocca di capelli. Ma sarà per un giorno soltanto. David potrà trascorrere quel giorno da solo con la sua mamma, potrà sentirsi dire quanto gli vuole bene, potrà infine coricarsi vicino a lei e, come un bambino vero, dormire e sognare per una notte.

Si immagina qui che, al di là di un certo livello di complessità cerebrale, l’artefatto aspiri irresistibilmente all’umano: non solo ad avere rapporti con umani, ma a divenire esso stesso un essere umano a pieno titolo. Addirittura, le macchine appaiono in un certo senso più umane degli uomini che hanno sostituito.

Diversi film, oltre ad A.I.si pongono il problema della possibile convivenza tra umani e androidi. Un esempio particolarmente interessante è quello di Appleseed (Shinji Aramaki, 2004), dove si fronteggiano la linea della convivenza tra umani e biodroidi e quella di una completa eliminazione degli umani.

Ghost in the machine [v] 

io robotNel film Io, robot di Alex Proyas del 2004, è centrale il tema della libertà dei robot: della possibilità che essa emerga da un cervello informatico (il titolo stesso del film parla evidentemente del sentimento di identità).

Il film è tratto liberamente dai racconti di Asimov [vi], e alcuni personaggi (come il mitico dottor Lanning, progettista dei robot e inventore delle tre leggi) [vii] sono quelli ben noti agli appassionati del genere.

Siamo nel 2035, e una nuova generazione di robot (Nestor classe 5) è pronta per venire immessa sul mercato. Finora, la fiducia degli esseri umani nei riguardi dei robot è totale. All’improvviso giunge la notizia della morte del dottor Lanning. Non è chiaro se si tratti di un suicidio o piuttosto di un omicidio da parte di un robot della nuova generazione, che ha cercato di fuggire. Questo robot, catturato, nega però di avere ucciso quello che definisce suo “padre”, colui che “ha provato a insegnargli le emozioni umane”, che lo ha reso capace di porsi domande sulla propria identità. E’ unico, e ha coscienza di esserlo. Lo stesso titolo del film allude a questa unicità, alla nascita della coscienza.

In una conferenza, Lanning aveva spiegato la radice di questa nuova invenzione, di questo “spirito nella macchina”. [viii] Al di là della vaghezza del linguaggio, Lanning sembra enunciare una visione della mente come una realtà che emerge da una struttura fisica sufficientemente complessa. In particolare, la libertà – che sarebbe impensabile in un sistema fisico rigorosamente deterministico – è resa possibile, secondo Lenning, anche dalla presenza di elementi di casualità, il che non contraddice il determinismo. Non siamo molto lontani, come si vede, dalle teorie sulla mente di Daniel Dennett [ix]. 

Il robot incriminato, che ha anche un nome – Sonny – , è diverso dagli altri NS-5 perché è dotato di coscienza: prova emozioni e sentimenti, cerca di fare ciò che è giusto. Di qui le domande che Lanning lascia in eredità dopo la sua morte.

L’essere artificiale sospettato di omicidio, che viene lungamente braccato dalla polizia, si rivelerà non colpevole della morte del suo creatore, e sarà addirittura alleato degli umani nel controllo degli altri robot, asserviti a un dispotico computer centrale. Ritorna così in scena anche il potente computer centrale che già era stato protagonista di 2001: Odissea nello spazio, qui nella nuova veste di inflessibile e dispotico controllore di robot.

Utilizzando microscopici robot – i nanodroidi – Sonny con l’aiuto di Spooner e di Susan neutralizza il computer centrale e riporta gli NS-5 all’obbedienza.

Accanto al tema della possibile nascita della coscienza da una adeguata organizzazione cerebrale – un tema che potremmo definire tipico di una riflessione sulla complessità – in questo film viene proposto anche un altro aspetto dell’intelligenza artificiale: la cooperazione tra molti  agenti intelligenti, che si manifesta nel modo di operare dei nanodroidi. Quest’ultima modalità operativa di piccolissimi agenti intelligenti e coordinati è presente anche in  The island di Michael Bay (2005), un film centrato sulla clonazione umana a scopo riparativo.

Il robot diverso dagli altri, partecipe di una condizione pressoché umana (emergente qui dalla complessità della struttura cerebrale), inaugura dunque una nuova era per le macchine. Ma, insieme all’acuta coscienza della propria identità e della propria unicità, dovrà sperimentare anche le ansie e le incertezze dell’essere umano.

Ma queste ansie, queste incertezze sono veri sentimenti? Oppure nei robot ci sono soltanto simulazioni, imitazioni di sentimenti? Questa è una domanda che i film sui robot cominciano a porsi esplicitamente, soprattutto nel nuovo millennio. Un esempio è il già citato film animato – anime – giapponese Appleseed, nel quale una giovane robotica (definita “biodroide”) interroga una umana, appunto, sull’amore.

GHOST IN THE MACHINE

bicentenarioIl film L’uomo bicentenario (Chris Columbus, 1999, ispirato a un racconto di Asimov [x]) sviluppa in modo molto interessante l’evoluzione di un robot in funzione degli sviluppi della tecnologia, effettuando una sorta di ricapitolazione della storia della fantascienza. Partendo come robot elettronico - proprio come Sonny - esso acquista ad un certo punto una ricopertura simile alla carne, poi una struttura interna simile a quella umana, irrorata dal sangue, e infine la caratteristica più specificamente umana: quella di provare emozioni e sentimenti, fino a invecchiare e morire come tutti gli umani.

Gli ultimi film di cui si è parlato – A.I., Io robot, L’uomo bicentenario – affrontano tutti un problema filosofico definito da Gylbert Ryle come “ghost in the machine”. Il problema si può esprimere nel modo seguente. C’è una specificità umana – la coscienza, il sentimento di identità, addirittura l’anima, come viene chiamata in Io, robot – che costituisce una differenza incolmabile tra umani e artefatti, oppure è pensabile una tecnologia che faccia sorgere – che faccia “emergere”, come si direbbe con il linguaggio della scienza della complessità – questa dimensione che finora è stata considerata specificamente umana?

Diversi filosofi, oltre a Ryle, si sono schierati per la seconda ipotesi,e anche questi film la fanno propria.

A questo proposito, vorrei citare anche un film di animazione giapponese, che si intitola per l’appunto Ghost in the shell (Mamoru Oshii, 1995), in cui questo tema è uno degli elementi  portanti. Il film ha una trama molto complessa, che non è possibile riassumere qui. Viene proposta addirittura l’ipotesi che la realtà immateriale (comunque vogliamo chiamarla: coscienza, identità, anima, forma di vita) una volta emersa, come si dice nel film, come “nodo in un flusso di informazioni” - come emergenza di un sistema complesso - possa trasferirsi da un supporto materiale all’altro. L’idea ispiratrice è che la vita è informazione che tende a preservare se stessa, e in fondo – argomenta il film – lo stesso si può dire del DNA umano.

Skynet

In questa prospettiva, anche i grandi elaboratori, e non solo i robot, possono acquisire un Ghost in the machine: l’abbiamo visto in Io, robot. 

terminator IINel film Terminator II di James Cameron (1984), come pure nei successivi Terminator III di Jonathan Mostow (2003) e Terminator Salvation di McG (2009), Skynet è un rivoluzionario computer, basato su un innovativo processore a rete neuronica, progettato per la supervisione di tutte le strutture militari americane. “All’inizio del 21esimo secolo, Skynet, un programma militare di difesa, divenne cosciente. Considerando l’umanità come una minaccia per la sua esistenza, Skynet decise di colpire per primo” Così inizia Terminator Salvation . In Terminator III  la vicenda è raccontata con maggiori dettagli. Non avendo ancora il pieno controllo del sistema di difesa, Skynet diffonde segretamente un virus informatico con il quale mette fuori uso satelliti, computer, televisioni e telefoni.

I militari, convinti che Skynet possa eliminare il virus, gli ordinano di allacciarsi a tutte le strutture strategiche della difesa. A questo punto, Skynet, disponendo di una volontà propria ed utilizzando tutte le tecnologie della difesa americana, dà il via all'attacco nucleare contro l'umanità.

Skynet tiene sotto controllo i sopravvissuti per mezzo dei cyborg Terminator. La parola cyborg è una contrazione di cybernetic organism: queste macchine infatti si fondano su una tecnologia che integra strutture metalliche, sistemi informatici e carne di tipo umano.

I cyborg appartengono a serie diverse: dopo la serie 600, dall’aspetto ancora meccanico (l’abbiamo appena visto in azione), il più popolare, quello interpretato da Arnold Schwarzenegger, è il "T-800", che ha come modello  la figura umana, e ha un endoscheletro di lega metallica ultraresistente rivestito di tessuti umani.  I T-800 dispongono di conoscenze di anatomia e medicina, per poter uccidere e ferire meglio i loro bersagli umani. e nei loro processori è presente un circuito di apprendimento che permette loro di evolversi. Sono anche in grado di imitare perfettamente le voci e dispongono di conoscenze psicologiche. Inoltre, sono dotati di sensori che entrano in funzione ogni volta che vengono colpiti da proiettili o da traumi e danno origine a stimoli di tipo dolorifico. Sanno anche ripararsi perfettamente.

I robot delle generazioni successive al servizio del supernetwork Skynet sono composti di una lega chiamata “polimetallico-mimetica”, che consente loro di replicare oggetti metallici come le armi da taglio, e di assumere le fattezze degli esseri umani - che di norma uccidono - con cui entrano in contatto fisico. Grazie al fatto di essere privi di endoscheletro,  questi nuovi robot sono virtualmente indistruttibili: possono venire crivellati di pallottole, smembrati con gli esplosivi, congelati e sbriciolati: si riassembleranno sempre, come gocce di mercurio. Nello stesso tempo, hanno una intelligenza che sopravvive a queste trasformazioni, e fanno quindi riferimento a una ipotetica nuova e oggi impensabile tecnologia.

Senza entrare nella complicata trama di questa saga cinematografica, che prevede un intreccio di viaggi nel tempo, mi limito a sottolineare la centralità della collaborazione intelligente tra robot e computer centrale (che creano una struttura multi-agente). Il computer centrale ha anche la funzione di progettare robot con caratteristiche sempre nuove e quasi incredibili, sganciate ormai dai limiti dei supporti materiali.

Artefatti biologici

Nel ventesimo secolo, c’è tutto un filone di creazione di esseri artificiali di tipo nuovo che non si ispira più alla cibernetica e all’elettronica, pur appoggiandosi ancora a quel concetto di informazione che ho definito come caratteristico del novecento: è il filone che fa riferimento alle  biotecnologie.

Le biotecnologie si fondano sull’immagine delle cellule embrionali come macchine viventi che si sviluppano seguendo un programma che è scritto in molecole particolari, quasi come se si trattasse della memoria di un computer. Non è possibile dominare teoricamente la complessità di questo processo, ma in questo campo domina la sperimentazione più spinta, appoggiata ancora una volta a potentissime macchine elettroniche che acquisiscono ed elaborano i dati. C’è dunque un intreccio di artificiale e di naturale: l’artificiale è rappresentato dalla manipolazione genetica, e il naturale dalla prodigiosa macchina biologica che interpreta il codice manipolato.

In una certa misura, si può dire che questo tipo di creature artificiali si ricollega ai miti più antichi di creazione artificiale: al Golem, all’homunculus di Goethe, alla creatura di Frankenstein.

Nella fantascienza ispirata alle biotecnologie, gli androidi fatti di carne o di una sostanza simile alla carne sono inquietantemente simili all’uomo: sono infatti capaci di volontà, di fantasie, di desideri.

blade runnerBlade Runner è un film del 1982, diretto da Ridley Scott, un regista che ha firmato alcuni  film che sono rimasti nella storia del cinema. In particolare, Blade Runner è uno dei più celebri film di fantascienza di tutti i tempi.

Il film è liberamente ispirato al romanzo Ma gli androidi sognano pecore elettriche? (Do Androids Dream of Electric Sheep?) di Philip K. Dick, uno dei maggiori scrittori americani (non solo nell'ambito fantascientifico) della seconda metà del Novecento.[xi]

Il film è interamente ambientato a Los Angeles, nel novembre del 2019. Il pianeta Terra, a causa dell'inquinamento e del sovraffollamento, è diventato invivibile. Chi può si trasferisce nelle colonie extramondo, mentre sulla Terra rimangono coloro che sono stati scartati alla visita perché malati. La città di Los Angeles è perennemente avvolta dalla nebbia prodotta dall'inquinamento, che offusca il Sole e produce una pioggia continua. Le strade, rese luride dalla pioggia, brulicano di veicoli e di persone di ogni razza.

A Los Angeles, la Tyrell Corporation ha sviluppato nuove tecnologie che consentono di fabbricare “replicanti”, cioè organismi viventi uguali in tutto agli essere umani, ma con una forza superiore. Essi sono privi di sentimenti, anche se i progettisti hanno previsto che dopo qualche anno avrebbero sviluppato sentimenti propri, e quindi hanno limitato il loro tempo di vita. I replicanti vengono usati nelle colonizzazioni di altri pianeti e nelle esplorazioni pericolose.   Un gruppo di replicanti del tipo più recente (Nexus 6, “più umani degli umani”), fuggiti da una colonia spaziale, si è impadronito di una navetta uccidendone l’equipaggio ed è sceso sulla terra con intenzioni ostili.

Deckard, un ex “blade runner” (nome in codice per i detectives incaricati di individuare e “ritirare” i replicanti) viene forzato dalla polizia di Los Angeles a riprendere la sua attività. Si reca allora alla Tyrrell Corporation, dove Deckard esegue il test su Rachel, presentatagli come nipote di Tyrrel, e scopre che si tratta di una inconsapevole replicante. Roy riesce a incontrare Tyrrell e, dopo un intenso dialogo col suo creatore, lo uccide. Deckard viene inseguito e ferito da Roy, ma quest’ultimo infine lo risparmia, e accetta la propria morte. Deckard ritrova Rachel nel proprio appartamento, e fugge con lei (che è un modello sperimentale senza un limite di vita), di cui si è innamorato.

Il replicante modello Nexus-6 è un prodigio di razionalità: è Roy a dare scacco matto a Tyrell con l’ultima mossa di una intrigante partita. Ma la razionalità non basta a rispondere alle grandi domande: chi viene messo in scacco non è che un povero e impotente demiurgo, malato a sua volta di razionalità progettuale. Roy ucciderà Tyrell, demiurgo incapace di rispondere alla grandi domande di senso che sono nate nella sua creatura: nessun altro essere verrà più irresponsabilmente creato da lui, che non sa vedere l’essenziale, che non è il “Dio della biomeccanica”

Con il suo sguardo potenziato dalla tecnologia, Tyrell non è in grado di vedere al di là della tecnica, e nemmeno è in grado di controllare la tecnica stessa: e Roy simbolicamente  lo acceca uccidendolo. Anche Roy morirà, perché la sua vita è a termine. Ma morirà lasciando vivere Deckard, che uscirà trasformato da questa esperienza. Si scoprirà, insomma, fratello degli androidi.

Il punto di partenza, nel romanzo di Dick come nel film di Ridley Scott, è lo stesso: gli androidi, o “replicanti” come vengono definiti nel film, sono diversi dalle macchine, sono molto più simili agli esseri umani. Da questi ultimi però – per il modo in cui sono stati progettati - differiscono su un punto cruciale: l’incapacità di provare empatia. Ma, con un inatteso rovesciamento di prospettiva, nel corso del film “gli esseri artificiali, segnati dalle esperienze estreme delle colonie extra-mondo, lungi dal rappresentare un’umanità disumanizzata, diventano degli oppressi, dotati di sentimenti e di emozioni che gli uomini hanno invece perduto, e diventano capaci di ergersi contro i loro persecutori come eroi romantici, gli unici capaci di dare un senso alla morte”.[xii]

Pensiamo ad esempio a Roy che risparmia la vita a Deckard all’ultimo momento, ma ancor prima alla sua tristezza per la fine imminente.

ROY - Io ne ho viste cose che vuoi umani non potreste immaginarvi. Navi da combattimento in fiamme al largo dei bastioni di Orione... e ho visto i raggi B balenare nel buio vicino alle porte di Tannhauser... e tutti quei momenti andranno perduti nel tempo come lacrime nella pioggia. E' tempo di morire...

Blade Runner ci porta a domandarci, ancora una volta: possono “emergere” spontaneamente, da una complessità biologica progettata e realizzata dall’uomo, l’autonomia, l’autoriflessività, la coscienza, l’identità? Possono emergere, addirittura, le qualità umane più specifiche, e in particolare quella che Philip Dick considera la  qualità umana per eccellenza, l’empatia, ossia la capacità di cogliere e condividere i sentimenti dell’altro? La creatura dell’uomo può andare al di là delle intenzioni e delle aspettative del suo creatore, acquisendo una dimensione trascendente?

Per concludere

C’è una linea di demarcazione invalicabile tra robot e umani, quella che passa attraverso il cuore, la carne, il sangue? Oppure, come suggerisce poeticamente, tra gli altri, il film Blade Runner, gli umanoidi dotati di una adeguata organizzazione e di una sufficiente complessità possono raggiungere una dimensione trascendente che si appoggia alla struttura biologica ma non è riducibile ad essa, che si può pensare come emergenza dalla biologia, ma a quest’ultima non è riducibile? Una dimensione in cui hanno origine non solo l’identità e la coscienza, ma anche l’empatia, l’amore, il fascino della bellezza?

La filmografia sui robot, gli androidi, i biodroidi ci lascia con questa domanda aperta. Ma è una domanda che ha due dimensioni. Da un lato riguarda i possibili, futuribili, ipotetici progressi della tecnologia. Dall’altro, ci porta a riflettere su di una dimensione propria dell’umano, che le fantasie sui robot ci fanno riscoprire in noi stessi, anche se le nostre macchine, i nostri droidi, le nostre creature artificiali molto probabilmente non potranno mai raggiungerla.

Questa  rapida rassegna di film che per qualche aspetto fanno riferimento all’intelligenza artificiale avrebbe potuto essere ben più ampia: in particolare, avrebbe potuto avere uno spazio significativo la tematica dei mondi virtuali, e della vita artificiale di personaggi e avatar all’interno di questi mondi. Ma, volutamente, questa tematica è stata lasciata da parte, perché richiedono una trattazione ampia e quindi un tempo che non sia una semplice parentesi. Anche così, comunque, si vede che il tema dell’intelligenza artificiale ha una presenza molto significativa nel panorama cinematografico.

Certo, è una presenza che sottolinea soprattutto aspetti spettacolari, che sono i più adatti a essere portati sullo schermo: ma alcuni di essi si collegano a tematiche realmente centrali e importanti negli studi e nelle realizzazioni dell’intelligenza artificiale, e riprendono inoltre domande che sono state e sono al centro del dibattito filosofico. In questo senso, si può dire che l’intelligenza artificiale deve al cinema il fatto che il grande pubblico sia consapevole, almeno a grandi linee e con notevoli esagerazioni, ma pur sempre consapevole, di alcune linee di ricerca che oggi strutturano questo settore della scienza e della tecnologia.

Note

[i] A.C.Clarke, The sentinel (1951), in J.Angel, The making of Kubrick’s 2001, New American Library, New York, pp.25-35.
[ii] M.Crichton, Westworld, Bantam Books, New York, 1974.
[iii] B.W.Aldiss, A.I.Intelligenza artificiale, Mondadori, Milano, 2001
[iv] Dopo la morte di Stanley Kubrick, il film A.I. è stato realizzato da  Steven Spielberg.
[v] Ghost in the machine è una espressione coniata dal filosofo Gilbert Ryle (The concept  of mind, Hutchinson's University Library, London, 1949) nell’ambito della sua critica all’impostazione dualista del problema mente-corpo.
[vi] I.Asimov, Tutti i miei robot, Mondadori, Milano, 205. I racconti risalgono agli anni quaranta del 900.
[vii] Le tre leggi della robotica formulate da Asimov sono le seguenti: Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge. Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima e con la Seconda Legge.
[viii] “Ghost in the machine” è una espressione coniata dal filosofo Gilbert Ryle (The concept  of mind, 1967) nell’ambito della sua critica all’impostazione dualista del problema mente-corpo. La vedremo ripresa anche nel titolo di un film di animazione.
[ix] D.C.Dennett, L’evoluzione della libertà, Cortina, Milano, 2004
[x] I.Asimov, “L’uomo bicentenario”, in Tutti i miei robot, cit.
[xi] P.K.Dick, Ma gli androidi sognano pecore elettriche?, Fanucci, Milano, 2000.
[xii] A.Caronia, Il corpo virtuale, Muzzio, Padova, 1996, pp. 40-41.


Scienza in rete è un giornale senza pubblicità e aperto a tutti per garantire l’indipendenza dell’informazione e il diritto universale alla cittadinanza scientifica. Contribuisci a dar voce alla ricerca sostenendo Scienza in rete. In questo modo, potrai entrare a far parte della nostra comunità e condividere il nostro percorso. Clicca sul pulsante e scegli liberamente quanto donare! Anche una piccola somma è importante. Se vuoi fare una donazione ricorrente, ci consenti di programmare meglio il nostro lavoro e resti comunque libero di interromperla quando credi.


prossimo articolo

Superdiffusore: il Lancet ricostruisce la storia di una parola che ha avuto molti significati

Un cerchio tutto formato di capocchie di spillo bianche con al centro un disco tutto formato da capocchie di spillo rosse

“Superdiffusore”. Un termine che in seguito all’epidemia di Covid abbiamo imparato a conoscere tutti. Ma da dove nasce e che cosa significa esattamente? La risposta è meno facile di quello che potrebbe sembrare. Una Historical review pubblicata sul Lancet nell’ottobre scorso ha ripercorso l’articolata storia del termine super diffusore (super spreader), esaminando i diversi contesti in cui si è affermato nella comunicazione su argomenti medici e riflettendo sulla sua natura e sul suo significato. Crediti immagine: DALL-E by ChatGPT 

L’autorevole vocabolario Treccani definisca il termine superdiffusore in maniera univoca: “in caso di epidemia, persona che trasmette il virus a un numero più alto di individui rispetto alle altre”. Un recente articolo del Lancet elenca almeno quattro significati del termine, ormai familiare anche tra il grande pubblico: