RoboLaw riscrive le leggi di Asimov

Cosa succede se un robot chirurgico commette un errore? E se si verifica un incidente tra due veicoli autonomi? A chi andrà attribuita la colpa?

Robolaw, un team di ricerca italiano con sede presso la Scuola Sant'Anna coordinato dalla Prof.ssa Enrica Palmerini (vincitrice dell'ultimo "World technology award", cioè il premio Oscar della tecnologia), ha lavorato a lungo per cercare di trovare risposta a queste domande.

Si tratta di questioni apparentemente semplici ma in realtà controverse e soprattutto urgenti, perché dalla risposta a tali interrogativi dipendono le sorti di un settore industriale importantissimo. Da un recente studio condotto dal McKinsey Global Institut sono emerse infatti in modo chiaro le conseguenze economiche a cui si va incontro se non si stabiliscono leggi che tutelino i produttori e i consumatori di macchine.

La mancanza di una risposta alla domanda "in caso di errore della macchina chi deve pagare?" paralizza lo sviluppo delle nuove tecnologie robotiche perché il rischio legale per i produttori e i consumatori è eccessivamente alto. Parliamo di un rischio talmente elevato che non basta neanche più finanziare la produzione o gli studi per un avanzamento della ricerca: si preferisce semplicemente non produrre. Così facendo, un settore che potrebbe portare a enormi guadagni sia da un punto di vista economico che da un punto di vista scientifico, va in perdita. Ecco perché si è ritenuto necessario cercare delle soluzioni al problema.

Il 24 settembre il team di RoboLaw, rappresentato dalla Prof.ssa Palmerini e da Andrea Bertolini, ha presentato il risultato della ricerca condotta in questi mesi davanti alla commissione Juri del Parlamento Europeo (Commissione Affari Legislativi, ossia l'ente che si occupa di redigere proposte normative.)

Nonostante le origini tutte italiane di questo progetto, in Italia non se ne è parlato tanto. Gli articoli sul tema sono stati pochissimi e nella maggior parte dei casi il contenuto era piuttosto sommario e a tratti fuorviante. In Inghilterra e poi in America la notizia ha goduto di un maggiore successo ma nella maggior parte dei casi si è parlato della possibilità concreta di considerare i robot come persone: i toni erano degni di un libro di fantascienza.

Per capire qualcosa di più della natura di questo progetto e del documento che ne è stato prodotto mi sono messa in contatto con Andrea Bertolini. La conversazione che ho avuto con lui è stata ben diversa dalle mie aspettative, ma non per questo meno interessante e mi ha fatto riflettere sulla necessità di sfatare alcuni miti che aleggiano mediaticamente intorno alla ricerca robotica.

I ricercatori di RoboLaw hanno lavorato per mesi alla stesura di un documento che consiste in una serie di linee guida. Andrea ha voluto subito chiarire che queste linee guida non sono leggi, ma sono piuttosto dei semplici "consigli relativi a come l'Unione europea dovrebbe intervenire attraverso disegni di legge per regolare le tecnologie robotiche."

Questa raccolta di raccomandazioni etiche e giuridiche è stata stabilita a partire da una considerazione semplice di natura terminologica: "robot" a differenza di quello che si pensa, non è un termine scientifico, ma appartiene ad un campo semantico letterario e fantascientifico. Significa macchina, in un senso molto generico. Il team di RoboLaw ha quindi prima di tutto dovuto operare una scelta tra le diverse forme di tecnologia robotica che abbiamo a disposizione. Sono state analizzate quattro forme diverse–quelle che hanno un impatto maggiore, in termini di utilizzo, sulla società: i veicoli autonomi, i robot chirurgici, le protesi, gli esoscheletri e i robot companion (macchine costruite per assistere le persone.) Per ognuna di queste tipologie sono state studiate alcune problematiche connesse al loro utilizzo in situazioni quotidiane e concrete e sono state poi proposte alcune soluzioni giuridiche.

Le macchine ad impiego militare come i droni, le cui implicazioni in termini di responsabilità giuridica sono problematiche e delicate, sono state volutamente escluse da questo studio perché connesse a questioni politiche internazionali da cui per il momento i ricercatori preferiscono tenersi lontani.

Durante il processo di analisi delle diverse casistiche e delle possibili risoluzioni si è paventata anche la possibilità di attribuire al robot una personalità giuridica. È stato probabilmente questo il punto che ha permesso ai vari media di sbizzarrirsi e di lanciarsi in interpretazioni affascinanti ma ben poco attinenti con lo stato reale delle cose. L'attribuzione della personalità giuridica alla macchina, spiega Andrea Bertolini, è stata proposta a livello potenziale solo per alcuni casi specifici, cioè quelli dei robot companion che nell'ambito di un'attività di assistenza a persone che hanno disabilità, potrebbero dover anche compiere alcune piccole azioni finanziarie. Ma si tratta di casi limitatissimi e rari.

La posta in gioco delle linee guida non è mai stata quella di riconoscere un'anima e quindi una coscienza e dei diritti umani alla macchina. In ballo non c'è un codice di diritto robotico e non stiamo assistendo ad un'umanizzazione delle macchine, anzi. Alla base delle linee guida c'è l'idea che i robot siano dei prodotti commerciali e che come tali vadano trattati, utilizzati e quindi regolamentati.

Non è difficile capire perché i media abbiano preferito raccontarci la storia di queste linee guida con toni degni di un best seller di fantascienza: dei robot umani attirano sicuramente più attenzione dei problemi connessi a delle macchine che si inceppano. Resta ancora difficile invece capire perché, come già detto all'inizio, nonostante RoboLaw sia nato e si sia sviluppato in Italia, quasi nessuno qui abbia parlato di questo studio così importante da essere considerato il più avanzato al mondo in materia. Il documento prodotto dai ricercatori della Scuola Sant'Anna è considerato il più completo al mondo e perfino in America si stanno attrezzando per iniziare ad utilizzarlo (a tale proposito, apparirà a breve sul portale di robotica robohub una accurata analisi delle linee guida). Ma noi abbiamo deciso di tacere: chissà mai che per una volta questo sia un silenzio wittgensteiniano e non una semplice professione di ignoranza.

In conclusione direi che le leggi di Asimov dovranno attendere ancora un bel po' prima di avere una portata reale e la frontiera delle macchine umane, in grado di provare sentimenti e di interagire con noi in modo empatico, non è ancora stata raggiunta e probabilmente non lo sarà mai. Ma in fondo è proprio questa l'essenza della fantascienza: la sua, almeno parziale, irrealizzabilità.