07 maggio 2019

Mio fratello robot

    A cura di

  • Roberto Cingolani
  • Daniele Andresciani

Il progressivo superamento di una concezione elitaria della scienza ha favorito lo sviluppo tecnologico e in particolare della robotica che, negli ultimi decenni, ha compiuto straordinari passi in avanti ideando macchine che, dall’essere statiche e passive, oggi sono in grado di agire in autonomia e con processi di autodeterminazione analoghi a quelli dell’uomo.

Questo importante avanzamento solleva tuttavia molti interrogativi di carattere etico e di regolamentazione, di cui non possono essere sottovalutati gli effetti in termini di sostituzione della forza lavoro o persino di una possibile futura convivenza tra le due “specie”: l’uomo e il robot. È però nel nesso corpo-mente, caratteristica umana difficilmente eguagliabile dalla realizzazione di un computer, il limite più importante della robotica e che rende di fatto l’uomo non replicabile con una macchina.

Nella Grecia antica, il termine banausia (da banausos, “artigiano”, “lavoro manuale, meccanico”) veniva usato per riferirsi al lavoro manuale e all’arte meccanica in generale, con una connotazione negativa: l’artigiano, o chiunque praticasse i mestieri manuali, veniva considerato inferiore a chi svolgeva attività intellettuali. Molti anni dopo, tra XV e inizio del XVIII secolo, si è invece assistito a un processo di rivalutazione della tecnica nella cultura europea. Alcuni dei procedimenti in uso presso tecnici e artigiani per modificare la natura si sono infatti rivelati fondamentali per la conoscenza della realtà naturale. Al contempo, la difesa delle arti meccaniche dall’accusa di indegnità e il rifiuto di far coincidere le attività pratiche con il concetto di schiavitù implicarono una svolta culturale storica, ovvero il superamento di un’immagine elitaria della scienza e la fine della distinzione tra il conoscere e il fare.

In questo contesto di rivalutazione della scienza e delle arti meccaniche, una voce autorevole e originale è stata quella di Francis Bacon, autore di un’importante e lucida trattazione critica del metodo sperimentale e della moralità della scienza e della tecnologia. Nel “Novum Organum”, pubblicato per la prima volta nel 1620, il filosofo inglese trattava le condizioni preliminari a ogni lavoro scientifico: l’eliminazione degli idola, anticipazioni o pregiudizi che inquinano la mente dello scienziato e l’obiettività del suo lavoro. Questi potevano essere tribus (di tutti gli uomini), specus (del singolo individuo), fori (legati alle polemiche e alle dispute verbali) o theatri (dovuti a dogmatismi di tipo filosofico, religioso, culturale). Nella stessa opera, Bacon stigmatizzava l’esistenza di due opposti atteggiamenti antiscientifici che identificava con l’agire dei ragni e delle formiche: i dogmatici razionalisti, privi di contatto con la realtà, sono come i ragni che tessono la loro tela a partire dalla propria bava; gli empiristi, privi di fondamenta teoriche, somigliano alle formiche che accumulano e consumano ciecamente. Il vero scienziato deve unire assetto teorico e sperimentazione, come l’ape che ricava la materia prima dai fiori e l’assimila e la digerisce con la virtù che le è propria.

In un’opera precedente, il “De sapientia veterum” (1609), Bacon, sfruttando in modo geniale la figura di Dedalo, aveva già sollevato il tema dell’ambiguità costitutiva della tecnica. Secondo il mito greco, il grande inventore aveva costruito una macchina per far accoppiare Pasifae con un toro e, da tale uso pernicioso della tecnica, nacque il Minotauro divoratore di uomini. A questo punto, Dedalo utilizzò in modo benevolo il proprio ingegno per costruire il celebre labirinto e rinchiudervi il mostro. La struttura aveva bisogno anche di un sistema di sicurezza, il filo di Arianna, che permise a Teseo di uscire dal labirinto. La metafora è chiara: la scienza e la tecnica possono essere usate contro o a favore dell’uomo, e lo scienziato dev’essere responsabile prevedendo rimedi e limiti alle potenzialità negative delle sue scoperte.

Malgrado siano vecchie di quattro secoli, le idee di Bacone sono straordinariamente attuali; l’intuizione circa l’ambiguità del progresso tecnologico calza perfettamente con le problematiche relative allo sviluppo della robotica e dell’intelligenza artificiale (IA). Definire che cosa sia un robot è impresa non facile, considerato il rapido e continuo sviluppo della robotica. Il termine “robot”, coniato in tempi recenti (Karel Čapek, 1920), supera il concetto di automa e introduce l’idea di una macchina artificiale costruita dall’uomo per svolgere precise funzioni legate soprattutto al mondo del lavoro (in ceco robota significa lavoro forzato).

La robotica ha fatto straordinari progressi negli ultimi sessant’anni. Inizialmente i suoi prodotti erano oggetti meccanici, statici, passivi, ripetitivi ed esecutivi mentre oggi i robot stanno divenendo realtà autonome e mobili in grado di svolgere funzioni generali, non soltanto specifiche; possono avere capacità di apprendimento e di adeguamento all’ambiente, e agire in modo autonomo, senza il controllo di un operatore. I robot più avanzati hanno abilità cognitive paragonabili a quelle di un primate; sono in grado di comunicare mediante il riconoscimento della parola e possono avere espressioni che imitano alcune emozioni umane nelle loro manifestazioni esteriori.

Oggi si discute molto della possibilità di realizzare robot muniti di un’intelligenza artificiale talmente avanzata da sviluppare capacità decisionali e processi di autodeterminazione analoghe a quelle dell’uomo. Di fatto, nell’immaginario collettivo e nella rappresentazione che ne viene fatta dai mass media, dalla letteratura, dai film e dalle serie televisive, il robot si presenta sempre più come un’entità dotata di un corpo meccanico che pensa e si comporta come un essere umano. La realtà non è così scontata: è necessario mettere un po’ di ordine tra questi concetti.

La prima cosa da fare è convenire su una classificazione semplice e univoca delle macchine autonome e intelligenti con le loro differenti caratteristiche. Spesso robot, umanoidi e intelligenza artificiale vengono trattati come se fossero la stessa cosa, ma non è così. Occorre in primo luogo distinguere tra due grandi tipologie di macchine: le macchine dotate di un corpo (embodied) e quelle che non ce l’hanno (non-embodied). In secondo luogo occorre distinguere se le macchine, embodied o non-embodied, siano dotate di una qualche forma di intelligenza artificiale (cioè se siano stupide o intelligenti).

Le macchine embodied sono in grado di attuare movimenti e di produrre lavoro fisico. Sono macchine che conosciamo bene: ruspe, sistemi di automazione e tutte quelle tecnologie che sostituiscono l’uomo nel lavoro fisico, oppure lo affiancano aumentandone le prestazioni (ad esempio la forza, la precisione, la velocità di esecuzione ecc.). Di solito queste macchine sono “stupide”: sono programmate per operare in modo automatico svolgendo lavori gravosi o ripetitivi per aumentare la produttività e le prestazioni degli operatori che le usano. Essendo guidate o programmate dall’uomo non prendono decisioni autonome: il loro agire dipende dal programma o dal pilota, ovvero dall’essere umano.

In tempi recenti alcune macchine embodied sono state dotate di intelligenza artificiale acquisendo crescenti capacità cognitive e decisionali. Possono essere macchine non antropomorfe, ad esempio le auto a guida autonoma, oppure veri e propri umanoidi sviluppati per interagire con gli esseri umani e supportarli. La capacità di prendere decisioni autonome, senza il controllo di un operatore, è una grande sfida tecnologica che tuttavia solleva molti interrogativi in termini etici e di regolamentazione. Infatti, benché robot intelligenti di questo tipo siano progettati per sostituire l’uomo in situazioni pericolose o per affiancarlo in caso di necessità, non sono da sottovalutare né il loro impatto sulla forza lavoro (la sostituzione dell’operatore umano in lavori di routine con robot intelligenti) né il problema della futura convivenza tra le due specie: l’uomo e il robot, entrambi “pensanti” ma con logiche e funzionamento completamente differenti.

Nell’immaginario collettivo e nella rappresentazione che ne viene fatta dai mass media il robot si presenta sempre più come un’entità dotata di un corpo meccanico che pensa e si comporta come un essere umano. La realtà non è così scontata

Mechanical Man, immagine realizzata digitalmente dall’illustratore Bill McConkey con il fotomontaggio di strumenti a fiato

Mechanical Man, immagine realizzata digitalmente dall’illustratore Bill McConkey con il fotomontaggio di strumenti a fiato

I prodotti tecnologici non-embodied non sono in grado di compiere lavoro o di fare movimenti, e fanno parte di quelle tecnologie comunemente chiamate “digitali” che vanno dalle telecomunicazioni all’intelligenza artificiale. Anche per questo tipo di prodotti possiamo fare una distinzione simile alla precedente. Alcune macchine senza corpo, come ad esempio la TV e la radio, che da tempo sono diventate oggetti di utilizzo quotidiano e da cui l’uomo è quasi dipendente, sono “stupide”. Esse processano e trasmettono informazioni, sia audio che visive, e hanno aperto il mondo delle comunicazioni alla società moderna. Le macchine non-embodied sono diventate progressivamente sempre più “intelligenti”. A partire dallo smartphone per arrivare ai supercomputer, esse sono oggi in grado di svolgere calcoli ad altissima velocità; da qualche milione di operazioni al secondo di uno smartphone ai milioni di miliardi di operazioni al secondo di un supercomputer. Ciò è avvenuto negli ultimi anni grazie alla crescente miniaturizzazione dei circuiti integrati che ha permesso ai dispositivi elettronici di effettuare un numero sempre più elevato di operazioni se il robot forzuto è anche in grado di pensare e se il computer che ci batte a scacchi diventa pure capace di correre, l’uomo è in pericolo perché può perdere il controllo delle sue creature artificiali.

Le macchine intelligenti e autonome (A/IS, Autonomous Intelligent Systems) rappresentano una vera e propria rivoluzione tecnica, scientifica e culturale, e sono forse la più grande conseguenza delle nanotecnologie; esse cominciano seriamente a misurarsi con la nostra società e con la cultura e i costumi che ci appartengono, sollevando dubbi, ansie e timori. Ma dobbiamo porci una domanda: si tratta di timori fondati? Come tutte le realtà nuove e inconsuete, questa rivoluzione-evoluzione non va temuta, piuttosto va studiata e capita.

Nel corso della storia della tecnologia, ricercatori e scienziati hanno lavorato duramente per raggiungere l’obiettivo di creare robot sempre più simili all’uomo e intelligenze via via più somiglianti a quella umana. L’espressione “intelligenza artificiale” è stata coniata nel 1956 dal matematico americano John McCarthy; da allora, man mano che i risultati tecnici e scientifici sono progrediti, scienziati e filosofi hanno iniziato a riflettere con passione e senso critico su quanto si possa parlare di “intelligenza” riferendosi alle macchine, e quanta analogia possa esserci tra la macchina e l’uomo. Negli anni Sessanta vengono pubblicati i primi saggi su questo argomento. Con lungimiranza vengono individuati molti ostacoli che la ricerca sull’intelligenza artificiale incontrerà negli anni successivi, causati soprattutto dalla forte differenza tra i risultati cognitivi ottenuti dalle macchine e quelli tipici degli esseri umani. Nel 1969 Marvin Minsky e Seymour Papert, nel volume “Perceptrons”, evidenziano i limiti delle prime reti neurali artificiali da loro realizzate. Data l’autorevolezza degli autori, la pubblicazione di “Perceptrons” spegne l’entusiasmo creatosi attorno a questo argomento e determina una consistente riduzione dell’interesse scientifico ed economico nei confronti dell’IA; tale condizione si prolunga sino ai primi anni Novanta, quando, grazie all’accelerazione delle tecnologie elettroniche e all’aumento delle prestazioni dei computer, la ricerca nel campo dell’intelligenza artificiale riprende con grande decisione. Ci si concentra sull’agente intelligente come entità autonoma e fioriscono studi sui software intelligenti e sugli agenti intelligenti embodied in un sistema fisico. Incoraggiati dai risultati ottenuti con i computer di nuova generazione, negli scienziati si rinnova la speranza di costruire robot intelligenti; di inserire cioè un’intelligenza artificiale in un corpo sintetico per imitare l’essere umano.

Con gli standard tecnologici attuali è impossibile ipotizzare un sistema semovente capace di pensare come l’uomo e con le sue stesse capacità mentali e biomeccaniche

Illustrazioni di protesi meccaniche contenute in Instrumenta chyrurgiae et icones anathomicae, di Ambroise Paré, 1564

Illustrazioni di protesi meccaniche contenute in Instrumenta chyrurgiae et icones anathomicae, di Ambroise Paré, 1564

I progressi nella sensoristica consentono di costruire sistemi di visione e di percezione molto avanzati; vengono realizzati sensori tattili e sistemi uditivi integrati in robot con capacità biomeccaniche sempre migliori. Gli algoritmi di controllo evolvono rapidamente e l’elettronica e i computer consentono di immagazzinare e utilizzare gli stimoli che provengono dai sensori per consentire al robot di muoversi in autonomia e, grazie alle prime intelligenze artificiali embodied, persino di iniziare a prendere delle decisioni. Molti di questi sistemi si rivelano utili per risolvere problemi importanti per l’uomo e per la società, ma fanno anche tornare in auge un’antica questione: possono gli esseri umani diventare obsoleti? Minsky aveva scritto: «I robot erediteranno la Terra? Sì ma quei robot saranno i nostri figli!».

Per decenni corpo e mente erano stati studiati e imitati separatamente, dando origine a macchine molto potenti e precise, o a “cervelli elettronici” dalle straordinarie capacità computazionali; con l’avvento delle macchine intelligenti si iniziano a integrare sistemi meccatronici con capacità sensoriali e prestazioni biomeccaniche simili a quelle del corpo umano e sistemi di calcolo con potenze computazionali paragonabili o superiori a quelle del cervello umano. L’integrazione di questi due mondi tecnologici in macchine intelligenti costituite da robot dotati di intelligenza artificiale costituisce un passo importantissimo nella storia della scienza e della tecnologia e l’inizio di quella che si prospetta come una rivoluzione non solo tecnica ma anche antropologica, legale ed etica. Tuttavia un’analisi oggettiva delle potenzialità e dei limiti degli A/IS mostra un ostacolo fondamentale che esse devono superare: la difficilissima riproduzione del nesso inscindibile tra corpo e mente, tipico dell’uomo e degli esseri viventi più evoluti.

La distinzione tra corpo e mente può in prima istanza valere per la coppia robot-intelligenza artificiale, ma certamente non è applicabile agli esseri viventi, e in particolare all’uomo: l’orchestrazione corpo-mente dell’uomo e quella corpo-intelligenza artificiale dell’umanoide sono completamente diverse. Nell’uomo, corpo e cervello sono profondamente interconnessi e sinergici; nessuno dei due ha un ruolo dominante: ciò che conta è l’orchestrazione, l’armonica e perfetta sinergia delle loro funzioni. L’apparato muscoloscheletrico umano si è evoluto di pari passo al sistema cognitivo con un processo di adattamento reciproco, mediato dalla biochimica della vita (ormoni, metabolismo ecc.). Lo stato emotivo condiziona la risposta fisica del corpo: la rabbia moltiplica le nostre forze, la paura ci fa vigili e concentrati e la tenerezza ci rende particolarmente delicati. Le fibre responsive che costituiscono i muscoli del corpo umano si contraggono e si rilassano grazie a stimoli nervosi consapevoli e inconsapevoli, correlati a stati mentali e a decisioni relative al nostro movimento o alle nostre necessità. Nel nostro corpo esistono sinergie, sviluppatesi in miliardi di anni, che sfruttano meccanismi biologici attualmente non riproducibili nei robot.

Un lungo lavoro di integrazione è stato fatto, ma ancora c’è tanta strada da fare per rendere sinergici e compatibili l’attuatore motorizzato, che realizza il movimento, e il computer, che tale movimento deve comandare. Nella macchina intelligente una scheda elettronica computa algoritmi complessi che generano segnali digitali; questi a loro volta comandano interruttori e amplificatori che immettono correnti elettriche nei motori del robot, mediante un processo tuttora dispendioso e rudimentale rispetto a quello biologico. Nell’essere umano al posto della corrente elettrica, un flusso di elettroni, ci sono impulsi nervosi: pacchetti di ioni che si muovono in acqua, l’elemento che costituisce circa il 60% del corpo di un uomo adulto. Il robot segue le leggi dell’elettricità, il corpo umano quelle della biochimica.

Dopo aver descritto come si è realizzato lo storico salto tecnologico che ha dato origine alle macchine autonome e “pensanti”, è utile fornire alcuni dati importanti per confrontare le loro caratteristiche e performance con quelle dell’uomo. Innanzitutto è necessario fare un raffronto che potremmo definire “ecologico-costitutivo”: l’uomo, come tutte le entità organiche, biologiche, naturali, è composto per il 99% da 6 atomi (ossigeno, carbonio, idrogeno, azoto, calcio e fosforo). Esso è progettato per crescere e, al termine della sua vita, dissociarsi in questi 6 atomi. Qualunque macchina artificiale, invece, richiede

dai 30 ai 50 atomi, è progettata per essere assemblata nel minor tempo possibile e, a fine ciclo vita, qualcuno la dovrà disassemblare per recuperare i materiali. Per assemblare un’automobile ci vogliono 4 ore, per disassemblarla 40 ore e si deteriorano molte parti.

Dal punto di vista del rapporto mente-corpo l’uomo ha un sistema che si è ottimizzato in 3 miliardi di anni di evoluzione: un lunghissimo lasso di tempo nel quale egli ha sviluppato straordinarie capacità di adattamento e di apprendimento. È ancora enorme il gap che la tecnologia deve superare per competere con i risultati dell’evoluzione umana. Il sistema di stabilità e di equilibrio dinamico dell’uomo è solo lontanamente imitabile dalla tecnologia: si può dare equilibrio a un robot utilizzando dei giroscopi (come quelli dei telefoni cellulari o degli aeroplani), ma i risultati non sono minimamente comparabili alle prestazioni del sistema vestibolare di un atleta o di un’acrobata.

Se ci soffermiamo poi a considerare il nesso corpo-mente, scopriamo che esso è difficilmente eguagliabile dalla realizzazione di un computer connesso ad attuatori di movimento e a sensori. Grazie alla sua lunga e complessa evoluzione, oggi il cervello umano funziona in modo sinergico col corpo: lo stesso gruppo di neuroni che controlla la vista supervisiona anche l’attività di manipolazione, il gruppo che controlla la lingua supervisiona l’attività di comprensione del linguaggio e così via. Attualmente è impossibile trasferire nelle macchine le sinergie mente-attuazione, tipiche dell’uomo, perché l’intelligenza elettronica e il corpo meccatronico funzionano con meccanismi diversi da quelli biologici. Inoltre è difficile pensare a macchine autonome intelligenti (A/IS) in grado di comunicare ad alto livello con gli uomini usando la semantica del corpo, interpretando correttamente i semplici gesti umani e capendone le intenzioni. Il linguaggio non verbale è parte importante della comunicazione umana: un ammiccamento o un volto contrariato possono dire più di mille parole; sono un tipo di comunicazione estremamente intuitiva e veloce che usiamo continuamente, ma molto difficile da insegnare alle macchine.

Vi è, infine, un altro aspetto centrale nel paragone tra uomo e A/IS: questi ultimi hanno bisogno di una quantità di energia enormemente più grande (anche milioni di volte) per processare le istruzioni (MIPS o le operazioni PetaFLOPS equivalenti) necessarie al funzionamento di un’entità biologica complessa come quella umana. La capacità computazionale di alcune macchine può anche arrivare a centinaia di PetaFLOPS, tuttavia nella pratica hanno bisogno di potenze elettriche enormi (decine di milioni di watt), sono grandi come una stanza e usano enormi centrali di raffreddamento e una centrale elettrica indipendente. Il cervello umano è una “palla” che pesa meno di due chili ed è alimentata dal metabolismo degli zuccheri con poche decine di watt! Dunque, con gli standard tecnologici attuali, è impossibile ipotizzare un sistema semovente capace di pensare come l’uomo e con le sue stesse capacità mentali e biomeccaniche.

Non abbiamo mai temuto che un computer potesse svolgere dei calcoli più rapidamente di noi o che un robot potesse essere più forte e preciso nello svolgimento di un lavoro fisico. Anzi, gran parte del progresso industriale si è sviluppato grazie all’uso di macchine che aumentavano le performance umane in specifici ambiti, asservendole ai nostri scopi

R1, robot dell’IIT progettato per lavorare in ambito domestico e professionale

R1, robot dell’IIT progettato per lavorare in ambito domestico e professionale

Le big data companies, che gestiscono i grandi apparati di storage, potrebbero offrire una parziale soluzione al dilemma apparentemente insolubile tra “capacità intellettiva” e dispendio di energia da parte della macchina. I robot probabilmente resteranno “stupidi” e con una capacità computazionale individuale limitata (intorno a un miliardo di operazioni al secondo, paragonabile a quelle di un buon computer che consuma qualche centinaio di watt). Questa limitata “intelligenza” potrà essere impiegata per muoversi bene, mentre tutta la parte “cognitiva” dovrà essere gestita in modo diverso. Si può ipotizzare la creazione di una mente unica a cui tutti i robot saranno collegati, una sorta di repositorio globale dell’intelligenza delle macchine che utilizzerà il cloud per conservare tutte le informazioni e le “cose imparate” dai robot; ciascuna macchina potrà fare l’upload delle proprie esperienze e il download di quelle altrui.

Si tratta di uno scenario affascinante in cui, alla memoria e all’intelligenza individuale degli esseri umani, si contrappone una memoria e un’intelligenza unica e condivisa per i robot. Queste macchine potrebbero comportarsi come uno sciame, dotato di un’intelligenza unica cui contribuiscono tutti i suoi individui: una specie che non ha equivalente nel mondo biologico e con la quale forse un giorno dovremo imparare a convivere.

Difficile dire quanto sia realistico questo scenario. Le difficoltà tecnologiche da affrontare sono ancora enormi. Le tecnologie wireless velocissime necessarie a dialogare in tempo reale con il cloud, ove dovrebbe risiedere l’unico grande intelletto a cui attingono tutti i robot (ricorda l’intelletto agente di Avicenna), non sono disponibili ovunque e richiedono infrastrutture di rete molto complesse (ad esempio una rete 5G capillare). È probabile che siano molto più entusiaste e interessate a queste tecnologie le aziende che non costruiscono robot rispetto a quelle che lo fanno: queste ultime sanno che i robot da soli saranno sempre inferiori all’uomo, mentre le prime ritengono che un’intelligenza artificiale globale unica possa essere molto performante.

Pur con tutte le limitazioni appena esposte, già oggi si solleva un potenziale problema regolatorio ed etico: il giorno in cui si avranno macchine autonome e intelligenti (A/IS) sufficientemente sofisticate e computer potenti quanto basta, con quali regole verrà gestita l’intelligenza globale del pianeta, il global repository of intelligence che diventerà il cloud? E chi lo gestirà? Gli Stati oppure le grandi aziende? E qualora si riuscisse ad avere A/IS con una intelligenza elevatissima non condivisa nel cloud, ma residente individualmente in ciascuna macchina (scenario davvero improbabile al momento), come verranno trattate queste entità a tutti gli effetti non biologiche ma capaci di intendere e di volere?

Le macchine intelligenti potranno diventare capaci di intendere e di volere ma di sicuro non condivideranno la nostra stessa biologia. Sarà più semplice affrontare il problema pensando di avere a che fare con una razza aliena o dovremo cercare di adattare le regole che abbiamo sviluppato per noi stessi? Si tratta di questioni aperte a cui abbiamo il dovere di pensare, senza catastrofismi o eccessivi ottimismi, ma intersecando la storia, la filosofia e le scienze umane con i nuovi orizzonti della tecnologia.

“il testo è tratto dagli atti, in corso di pubblicazione, del workshop “Roboetica. Persone, macchine salute”, Pontificia Accademia per la Vita, 25-26 febbraio 2019 , Città del Vaticano”.

Condividi sui Social

Pagina PrecedenteLa nostra felice pazzia
Pagina SuccessivaSaper fare saper pensare

Il Nostro Magazine

Civiltà delle Macchine

Ultimo numero Nuova Edizione
Copyright © 2019 Leonardo S.p.A. Privacy & Cookie Policy