Gianmarco Veruggio. Roboetica: la nuova etica applicata per affrontare la rivoluzione robotica

11/10/17

Gianmarco Veruggio è uno scienziato robotico sperimentale, nonché uno studioso delle implicazioni etiche, legali e sociali della robotica e un visionario divulgatore degli scenari futuri conseguenti all’invasione robotica della società.
Consegue la Laurea in Ingegneria Elettronica presso l’Università di Genova nel 1980.
È Dirigente di Ricerca del CNR, Responsabile della Sede di Genova dell’Istituto di Elettronica e di Ingegneria dell’Informazione e delle Telecomunicazioni (CNR-IEIIT).
Crea il CNR-IAN Robotlab (1989-2002), mediante il quale progetta prototipi di robot e coordina Progetti di Ricerca, nazionali e internazionali, guidando personalmente numerose Campagne Sperimentali e Spedizioni Scientifiche e Tecnologiche in Mediterraneo, Antartide e Artico.
Pioniere della Internet Robotics, nel 2002 esplora entrambi i poli con un robot sottomarino controllato via satellite per la prima volta al mondo tramite Internet.
Si dedica a progetti di divulgazione ed educazione e nel 2000 fonda l’Associazione “Scuola di Robotica” avente come scopo la promozione della cultura mediante attività di istruzione, formazione, educazione e divulgazione delle arti e delle scienze coinvolte nel processo di sviluppo di questa nuova scienza.
Nel 2002 crea il termine Roboethics (Roboetica) e propone il concetto di un’etica applicata allo sviluppo della robotica per il progresso umano e sociale. È ideatore e organizzatore del “First International Symposium on Roboethics” (Sanremo, 2004), del “EURON Roboethics Atelier” (Genova,  2006) e autore della prima Roboethics Roadmap.
Oltre alla ricca produzione scientifica, ha pubblicato decine di articoli divulgativi, e ha tenuto numerose conferenze e interviste giornalistiche e televisive in ambito nazionale e internazionale. Ha collaborato con le principali iniziative di divulgazione scientifica, dal Festival della Scienza al TEDx.
Nel 2009 riceve l’Onorificenza di Commendatore dell’Ordine al Merito della Repubblica Italiana.
Nel 2015 la Fondazione Rotary International gli attribuisce il titolo di Paul Harris Fellow per il suo tangibile e significativo apporto nel promuovere una miglior comprensione reciproca e amichevoli relazioni fra i popoli di tutto il mondo.
http://www.veruggio.it
https://it.linkedin.com/in/veruggio
https://www.facebook.com/gianmarco.veruggio 

Gli effetti del progresso sulla vita degli esseri umani hanno sempre suscitato problemi etici. Due dei campi più avanzati della scienza e della tecnologia, la fisica nucleare e l’ingegneria genetica, sono stati costretti ad affrontare le ricadute delle applicazioni delle loro ricerche sotto la pressione di eventi drammatici e complessi, al punto che in molti paesi l’opinione pubblica, preoccupata da alcuni di questi effetti, ha chiesto di fermare le applicazioni di entrambi i settori, o di controllarli strettamente.

Per questo è opportuno riflettere per tempo sugli sviluppi della robotica, una nuova scienza ancora allo stato nascente, nata dalla fusione di molte discipline appartenenti al campo delle scienze umane e di quelle naturali. Chiunque, anche da amatore, si avvicini a essa, può intravederne le potenzialità e immaginare le mille strade che questa disciplina e le sue applicazioni potranno percorrere, invadendo campi tradizionali del sapere e aprendo problemi nuovi e complessi di natura etica, filosofica, sociale, legale. Infatti, a differenza di altri sistemi tecnologici, seppure sofisticati, la robotica realizza macchine intelligenti ed autonome che non sono soltanto oggetti tecnologici ma, sempre più, soggetti dotati di capacità decisionali. A questo punto, la domanda classica sulla titolarità della responsabilità (chi è responsabile dell’errore commesso o del danno provocato da una macchina? Il progettista? Il produttore? L’utente finale?) vedrà l’emergere di un’altra figura: il robot.

In tale contesto, sono soprattutto le ricerche e le applicazioni nel settore della robotica di servizio applicata al medicale, alla biorobotica, alla robotica per assistenza e alla robotica militare a sollevare inquietudini e perplessità e sollevare domande a cui non è facile rispondere. Per questo quindici anni fa ho proposto il concetto della Roboetica, l’etica applicata alla robotica: per cercare di promuovere uno sviluppo di questa nuova scienza nella direzione di un reale progresso umano ed evitare che si trasformi nell’ennesimo incubo in grado di sterminarci come nei più cupi e pessimistici film di fantascienza.

Gli argomenti sui quali è ormai aperto il dibattito roboetico fra scienziati robotici, filosofi, giuristi, sociologi e psicologi sono innumerevoli. Ad esempio, fino a che punto di imitazione dell’essere umano si dovrebbe arrivare nel progettare la forma e il comportamento dei robot: dovrebbero essere molto simili o molto diversi dagli esseri umani? Oppure: di quale grado di autonomia dovremmo dotare i robot? Ed anche: che cos’è l’intelligenza umana e che cos’è una macchina intelligente?

Inoltre, per quanto riguarda gli effetti nella società, ci si chiede, per esempio come potrà cambiare il mercato del lavoro a seguito della sostituzione del personale umano con robot. In molti settori industriali questo ha già creato problemi di disoccupazione, problemi che potranno solo aumentare, man mano che i robot diventeranno sempre più autonomi, ma ha anche creato nuovi settori produttivi e nuove professioni. Lo stesso avverrà nel settore dei servizi, dove l’intelligenza artificiale renderà superfluo l’intervento umano e obsolete la maggior parte delle professionalità di livello medio-basso. Che forma prenderà l’economia quando la perdita del lavoro e quindi la diminuzione del reddito familiare metterà in difficoltà i bilanci di larghi strati della popolazione, deprimendo i consumi e indebolendo tutti i settori economici interessati?

A mano a mano che crescerà il grado di abilità dei robot di cooperare con gli umani, crescerà la loro adattabilità al nostro ambiente, e quindi la loro penetrazione nella nostra società. Il risultato è che ogni prodotto tecnologico con cui interagiremo nella nostra vita quotidiana, dagli elettrodomestici alle autovetture, di fatto sarà un robot. Come sarà la nostra vita quando saremo immersi in un ecosistema robotico, dove ogni oggetto sarà dotato di intelligenza e ogni macchina diventerà un robot dotato di capacità di apprendimento e di autonomia?

La inevitabile crescita delle interazioni coi robot richiederà interfacce operative sempre più a misura d’uomo in modo che, anziché essere noi a dover imparare ad usare le macchine, siano loro ad imparare il nostro linguaggio e obbedire ai nostri comandi. Si pensi, ad esempio, ai progressi degli assistenti vocali installati sugli smartphone. Questo aspetto della robotica, identificato come Human-Robot Interaction, sta assumendo sempre maggiore importanza via via che i robot escono dagli ambienti professionali e si diffondono nella società a contatto con utenti comuni a digiuno di linguaggi di programmazione e di robotica. Questo non significa necessariamente che essi dovranno avere sembianze umane: per esempio, un robot progettato per sostituire i minatori in ambienti pericolosi e nocivi non sarà certo realizzato in forma umanoide. Però, qualora i robot abbiano compiti di assistenza e cura di categorie deboli (pazienti, anziani, disabili, bambini) o di collaborazione con operatori umani nell’ambito di team misti, la forma antropomorfa potrebbe essere vantaggiosa sotto vari aspetti, anche se come vedremo occorre valutare attentamente le implicazioni psicologiche del circondamento da parte di robot umanoidi. Ad esempio, quanto è etico sostituire operatori umani con macchine dotate di intelligenza artificiale, nell’assistenza e cura di individui che, proprio perché in condizioni difficili, avrebbero bisogno di sostegno emotivo oltre che fisico?

In generale, l’applicazione dei robot al campo della sanità avrà risultati senza dubbio importanti e positivi; ma anche in questo caso occorre non sottovalutarne i possibili aspetti critici. Ad esempio nell’ambito della robotica chirurgica bisognerà evitare uno spostamento eccessivo dell’attenzione dall’individuo alla tecnologia, lasciando prevalere considerazioni economiche sul benessere dei pazienti.

Un altro settore delicato è la bio-robotica, ovvero la progettazione ed applicazione di protesi robotiche e sistemi bionici ibridi. In questo contesto, la robotica sta incontrando problemi, in parte già affrontati dalla Bioetica nel campo dei trapianti o della procreazione assistita, relativi alla salvaguardia della dignità e dell’integrità fisica e psichica dell’individuo.

Da questa rapida disamina si vede come il campo dei problemi da affrontare sia vastissimo, ma il tema non è nuovo e si è puntualmente riproposto ogni qualvolta sono comparse nuove classi di macchine che hanno in qualche modo modificato le nostre condizioni di vita e di lavoro. Basti ricordare il film Tempi Moderni di Charlie Chaplin e la sua spietata visione dell’uomo spersonalizzato e diventato parte di un ingranaggio più grande di lui.

Questa citazione non è casuale in quanto l’arte è sempre stata pronta a descrivere ed analizzare, con toni a volte drammatici e a volte umoristici questi cambiamenti, tant’è che la letteratura e la cinematografia fantascientifica sono ricchissime di opere dedicate alla robotica. Basti pensare che il termine “robotics” è stato coniato da uno scrittore di fantascienza, Isaac Asimov, l’ideatore delle famose “tre leggi della robotica” che nella finzione letteraria avrebbero dovuto appunto essere la soluzione di tutti i problemi. Purtroppo, come abbiamo visto, la realtà si prospetta assai più complessa di quella che immaginava Asimov, proprio perché, ben prima di aver compreso il funzionamento dell’intelligenza umana, ci troviamo a dover gestire il tumultuoso ed imprevedibile sviluppo dell’intelligenza artificiale. E soprattutto, le problematiche poste dalla rivoluzione robotica non sono in alcun modo risolvibili mediante espedienti tecnologici senza aver prima affrontato il nodo cruciale della coscienza morale umana che deve guidarne lo sviluppo, il che è appunto la missione della Roboetica.

Data la vastità della materia, in questa sede accennerò brevemente soltanto ad alcuni aspetti che riguardano il rapporto fra esseri umani e macchine. Senza dubbio una relazione con un mezzo tecnologico costruito per aiutare/intrattenere/stimolare le persone e deliberatamente progettato per “piacere” agli umani, secondo le logiche del commercio, espone le categorie psicologicamente più vulnerabili a diversi rischi, che andrebbero previsti e prevenuti.

Appare al momento probabile (seppure ancora da dimostrare) che anche per la relazione umano-robot la prospettiva dei fattori di rischio per la salute emotiva e psichica degli utilizzatori possa essere quella che una parte delle ricerche sta mettendo in luce rispetto all’uso di internet e alla dipendenza da relazioni mediate dallo schermo: non è tanto il mezzo a favorire la comparsa di particolari comportamenti/sindromi patologiche, ma la pre-esistenza di aree di fragilità nella personalità del soggetto, che si manifestano attraverso un uso improprio o in qualche misura contrastante con il benessere psicofisico dell’utilizzatore.

Vale a dire che, così come avviene per la rete, l’interazione con i robot potrà diventare un mezzo di espressione di sofferenze interiori che avrebbero trovato modalità differenti per evidenziarsi in assenza della diffusione robotica.

Ad esempio, che cosa succederà quando questi robot intelligenti saranno i nostri collaboratori familiari, badanti, infermieri o baby sitter? Quando conosceranno tutto di noi e quando la nostra vita dipenderà da loro? La dipendenza, fisica e psichica, dai robot potrebbe diventare più pericolosa e devastante di quella dalla tv, da Internet e dai videogame. Inoltre anche la privacy, già intaccata dal trasferimento on-line di molte delle nostre attività – internet banking, e-commerce, social network – sarà ancora più a rischio quando saremo circondati di apparecchi che per poterci fornire servizi potranno spiarci in ogni istante della nostra vita.

Infatti, tutto quello che abbiamo detto finora va contestualizzato nell’ambiente tecnologico attuale, caratterizzato dalla diffusione sempre più capillare delle reti di comunicazione cablate nelle case e nei luoghi di lavoro, ma anche delle reti radio dei gestori telefonici in gran parte del territorio, ormai coperto dalle antenne dei sistemi cellulari. In questo modo si può disporre pressoché ovunque di connessioni ad alta velocità che, oltre ad assicurare comunicazioni audio e video, permettono di navigare su Internet e scaricare e installare sugli smartphone un’infinità di programmi – le famose App – per qualunque necessità, dalle previsioni del tempo ai videogames. E poiché ovviamente tutti i robot saranno collegati ad Internet – per funzioni banali come gli inevitabili aggiornamenti software, o per consentire di interagire con loro a distanza per fargli svolgere funzioni in nostra assenza – è chiaro che si porrà la ben nota questione della protezione dei dati sensibili. E nasceranno i classici problemi di sicurezza dovuti alla vulnerabilità dei programmi di comunicazione e di controllo dei robot a virus, malware e ad attacchi di hacker intenzionati a prendere il controllo del robot per poter compiere qualunque tipo di azione illegale.

Al di là di questo le possibilità che si aprono immaginando tutti i robot connessi ad Internet sono ancora più interessanti. Infatti sarà possibile comprare un robot standard e personalizzarlo scaricando le app che preferiamo per far svolgere al robot i compiti che ci servono. Inoltre i robot non dovranno necessariamente essere superdotati di memoria e capacità di calcolo perché potranno trovare in rete l’informazione che occorre e reperire nel cloud le risorse di calcolo per l’esecuzione delle elaborazioni più complesse. Tutto questo moltiplicherà l’intelligenza artificiale dei robot che potranno anche comunicare direttamente fra di loro per scambiarsi dati e suggerimenti su come affrontare le situazioni e risolvere i problemi. Lo scenario che stiamo descrivendo prefigura una evoluzione quasi fantascientifica dei robot verso forme di intelligenza collettiva che non è detto che sia facilmente comprensibile e controllabile dagli esseri umani e che potrebbe avere effetti rilevanti sul corso della nostra evoluzione mentale e psichica.

In conclusione possiamo affermare che l’attuale rivoluzione robotica sarà molto più di una semplice rivoluzione tecnologica, ma provocherà cambiamenti sociali profondi. Cambieranno le nostre abitudini, il nostro modo di interagire col mondo fisico e di gestire le relazioni sociali. Sorgeranno nuovi problemi e occorrerà trovare nuove soluzioni eticamente accettabili, sperando che le forze sane della società riescano ad imporle prima che le corporation e le lobby finanziarie e militari intraprendano sconsideratamente strade irreversibili. Purtroppo, alla luce di quanto vediamo accadere oggi nel mondo, occorre una buona dose di volontà per non sprofondare nel pessimismo e continuare a lavorare per uno sviluppo responsabile della robotica, come stiamo facendo nell’ambito di numerose iniziative internazionali. Tra queste merita citare quella per la moratoria sui robot militari, che sta raccogliendo sempre maggiori adesioni e che è all’ordine del giorno della Commissione sulle armi non convenzionali dell’ONU.