L’etica delle macchine intelligenti

Read time: 6 mins

Lo chiamavano “il Turco”, ed incuriosì le corti ed i palazzi di mezza Europa tra la fine del Settecento e la metà dell’Ottocento.
Era costituito da un tavolo, con una scacchiera e una figura meccanica seduta a lato. Il marchingegno giocava (e per la maggior parte delle volte vinceva) partite di scacchi contro avversari in carne e ossa. Inventato da Wolfgang Von Kempelen nel 1770, “il Turco” era in realtà una truffa: al suo interno, ben nascosto, c’era un campione di scacchi che azionava la macchina attraverso un sistema complicato di controlli.

La storia è interessante, non tanto perché mostra come le truffe siano sempre esistite, quanto perché rivela un elemento fondamentale alla base della realizzazione di macchine robot: il sogno della costruzione di una macchina intelligente, in grado di improvvisare ed adattarsi alle diverse situazioni, giocandosela alla pari con gli esseri umani. Fino a che punto è arrivato il grado di sviluppo dell’intelligenza artificiale? E con quali rischi?

Interessante e al tempo stesso preoccupante lo sviluppo tecnologico dei droni, dispositivi di varie dimensioni capaci di librarsi in cielo senza necessità di un pilota a bordo.
Gli utilizzi di questa tecnologia sono svariati. Diverte l'idea di un gruppo di ragazzi di San Francisco che sta mettendo a punto una flotta di "Burrito Bomber", mini-bombardieri capaci di recapitare involtini messicani lanciandoli sul piatto del cliente muniti di paracadute; anche Hollywood sta bussando furiosamente alle porte del Congresso americano e dell'Agenzia Federale per il Volo chiedendo il permesso di usarli come "cineoperatori". Le sequenze di apertura di Skyfall, l'ultimo James Bond uscito, sono state girate grazie a robot volanti al costo complessivo di 300 dollari. Un decimo degli almeno 3mila che sarebbero costati un elicottero con equipaggio umano.

A fianco di questi possibili utilizzi vi è la sempre più diffusa applicazione in ambito militare. Con Barack Obama, infatti, i droni sono diventati lo strumento fondamentale della strategia militare contro il terrorismo. La New America Foundation di Washington stima che gli Stati Uniti abbiano effettuato 350 attacchi con droni dal 2004 al 2013, uccidendo un numero di persone compreso tra 1963 e 3293, di cui il numero di civili innocenti è stimato essere tra il 9% e il 14%.

Gli aeromobili a pilotaggio remoto vengono utilizzati non soltanto perché non prevedono un pilota a bordo, ma anche perché considerati macchine intelligenti. Spesso i terroristi vivono mimetizzati all'interno della società, nascondendosi tra i civili. Grazie a complessi algoritmi matematici del tipo network analysis, i droni sono in grado di analizzare ed elaborare una serie enorme di dati e individuare i comportamenti sospetti di singoli o gruppi di persone. Pur essendo algoritmi molto sofisticati, rimangono comunque statistici, il che significa che implicano un certo grado d'errore. Quello che individuano, infatti, è il “terrorista altamente probabile”. Ma va da sé che la probabilità, seppur alta, non può essere sufficiente quando si decide della vita di un essere umano, soprattutto quando si rischiano vite innocenti. L'alto numero di civili coinvolti non può non sollevare dubbi di carattere etico sull'utilizzo di questa tecnologia: per quanto ritenuta intelligente, il numero di vittime accidentali durante attacchi con droni è decisamente superiore ad ogni soglia si accettabilità.
Un'altra criticità da non sottovalutare è il distacco che viene a crearsi tra il drone che esegue operativamente l'atto e chi decide in remoto di portare a termine l'attacco. Spesso chi pilota questi mezzi, si trova a centinaia di chilometri di distanza. Non vede di persona ciò che le macchine definiscono “comportamento sospetto” e non può giudicare se non in base ai dati raccolti e all'analisi fatta dai droni stessi. Il rischio è che, non essendo coinvolto in prima persona, il soldato non abbia la percezione reale delle conseguenze delle sue azioni e di che cosa comporti realmente portare a termine la missione. La decisione di sganciare o no una bomba o di sparare a un gruppo di persone, rischia di diventare un gesto meccanico, niente più che schiacciare un bottone e guardare la scena attraverso uno schermo. Il Governo americano, al momento continua non solo a utilizzare questo nuovo modo di far guerra ma anche a sovvenzionare la ricerca in modo da rendere queste armi senza pilota sempre più autonome e in grado di “scegliere liberamente” senza intervento umano, dove, quando e chi colpire. Possiamo noi esseri umani dotati di coscienza, di sentimenti e di libero arbitrio, lasciare che un algoritmo, seppur sofisticato, decida della vita o della morte di un nostro simile?

Per il Governo italiano no. Gli APR (aeromobili a pilotaggio remoto) dell'Aeronautica Militare Italiana sono equipaggiati esclusivamente con sistemi di sorveglianza e ricognizione. A bordo sono dotati di parabole, sensori, telecamere e fotocamere ma niente armi. Vengono impiegati in diverse missioni e nelle aree di conflitto, come in Afghanistan, ma hanno sempre e soltanto fornito intelligence e supporto ai reparti di terra. Si chiamano le Streghe di Amendola e la base nella quale sono stanziati si trova ai piedi del Promontorio del Gargano. I sistemi operativi di istanza in Italia sono i Predator A+ (MQ-1) e i più evoluti B (MQ-9A). Le dimensioni di questi aerei sono impressionanti. Il Predator A+ è lungo nove metri con un'apertura alare di diciassette, mentre il Predator B è lungo undici e ha un'apertura alare di venti metri. Sono in grado di volare per ventiquattr'ore di seguito e raggiungere rapidamente la zona in cui devono operare. Grazie al suo motore a cilindri, il Predator A+ riesce a volare fino a circa 200 Km/h, mentre il B, che è dotato di un motore a turboelica, è in grado di raggiungere i 420 km/h. Questi droni, sono in grado di fornire immagini video e foto altamente dettagliate e in tempo reale, sia di giorno che di notte, grazie alle diverse tecnologie di cui sono dotati.

Attualmente, i Predator italiani sono operativi nelle zone del Corno d'Africa, per individuare i pirati al largo della Somalia e nella penisola arabica con la coalizione internazionale anti Isis. Sono stati impegnati anche nell'ambito dell'operazione Mare Nostrum, sorvolando il Mediterraneo, e hanno contribuito a salvare molte vite, individuando barche di profughi alla deriva e facendo convergere sul posto le unità di soccorso. Grazie ai filmati ad alta risoluzione, hanno anche permesso di individuare alcuni degli scafisti.

Le potenzialità di questa tecnologia sono molteplici. Dopo l'attacco terroristico alla redazione di Charlie Hebdo a Parigi, le misure di sicurezza in tutta Europa sono notevolmente aumentate e in situazioni particolari come manifestazioni, congressi internazionali, stadi, strade e autostrade potrebbe essere richiesto l'intervento degli Aeromobili a Pilotaggio Remoto per garantire la sicurezza e scongiurare il pericolo di attacchi terroristici o disordini di varia natura. Già nel 2007 i Predator hanno partecipato alla sorveglianza del vertice intergovernativo Russia-Italia a Bari e nel 2009 del G8 all'Aquila.
Insomma, questa tecnologia può essere un prezioso alleato per scongiurare disordini o attacchi terroristici e per coordinare le operazioni via terra, le potenzialità sono infinite. Il quesito fondamentale non è sull'intelligenza di queste macchine, ma sull'intelligenza di chi ha il potere di decidere come utilizzarle.

di Chiara Budri e Anna Camisasca

altri articoli

Le notizie di scienza della settimana

L'illustrazione "The Fin de Siècle Newspaper Proprietor" di Frederick Burr Opper, pubblicata nel 1894 sul magazine Puck. Credit: Library of Congress. Licenza: Public Domain.

Sarà vero? Incontro pubblico sull'attendibilità delle fonti

Lunedì 18 dicembre a Milano, presso il Museo del Fumetto, si terrà l'incontro pubblico "Sarà vero?" sull'attendibilità delle fonti e le fake news organizzato da Scienza in rete e Gruppo 2003 per la ricerca. Ecco di cosa parleranno i relatori. [Scienza in rete; Redazione]