Immagine: Numero1Studio

La guida di Motherboard alle macchine a guida autonoma

Il modo più veloce per avere un futuro driverless passa dallo studiare legge ed etica.

|
feb 1 2018, 4:08pm

Immagine: Numero1Studio

La tecnologia e la scienza stanno semplificando qualunque aspetto della nostra vita, ma se c'è una cosa che rimane ancora difficilissima quella cosa è stare sul pezzo. Il 2018 sarà un anno cruciale per tantissimi ambiti che non hanno, il più delle volte, direttamente a che fare con la nostra vita, ma che la influenzeranno radicalmente nel futuro prossimo.

Per questo motivo abbiamo deciso di creare La Guida di Motherboard al 2018, una serie di articoli introduttivi su quelli che, per noi, saranno i temi più importanti dell'anno. Così al prossimo pranzo di famiglia non fate brutta figura, non ringraziateci.


Prima di parlare di auto a guida autonoma è bene capire di cosa si tratta. La SAE (Society of Automotive Engineers) ha definito sei classi di auto. Al Livello 0 si trovano le auto tradizionali in cui la guida è totalmente affidata al pilota. Al Livello 1 la guida assistita in cui il guidatore ha il controllo completo ma viene aiutato da sistemi di assistenza come l'ABS o il cruise control. Al livello 2 si situa l'automazione parziale, con intervento autonomo su frenata e accelerazione, sistemi di frenata di emergenza, sistemi per mantenersi all'interno di una corsie o regolare accelerazioni e frenate per mantenere la velocità media impostata.

Dal Livello 3 abbiamo l'automazione condizionale e si inizia a parlare di vera e propria automazione: i sistemi dell'auto possono sostituire pienamente l'autista nel controllo del veicolo per determinate manovre, ma questo deve restare sempre vigile per riprenderne il controllo. Il Livello 4 è quello dell'alta automazione, con automobili capaci di monitorare l'ambiente circostante e di elaborare la mole di dati per guidare, lasciando comunque al pilota l'obbligo di riprendere il controllo dell'auto in qualsiasi istante. L'obiettivo nei sogni dei produttori di auto è il Livello 5, cioè, della piena automazione: un'auto che può selezionare da sola il percorso migliore e guidare in qualsiasi condizione di strada e di traffico, senza alcun intervento diretto di un essere umano.

Illustrazione: Numero1Studio

La grande notizia riguardo le driverless car è che la California si sta attrezzando a livello legislativo per la sperimentazione su strada delle auto a guida autonoma di quinto livello, pubblicando una bozza di norme. Dando per scontato che non avendo mai sperimentato su strada i veicoli di Livello 5, non possiamo sapere quanto sono efficienti, è curioso capire quali leggi permetteranno la circolazione delle auto driverless di quinto livello. Al di là della naturale diffidenza per una nuova tecnologia, il limite principale è di natura etica: sappiamo che fino a quando le sperimentazioni su strada non partiranno la loro reale efficacia non potrà essere verificata, tuttavia, questo potrebbe mettere in pericolo delle vite.

Al momento — e probabilmente mai — non esiste una risposta univoca al problema etico che viene definito dilemma del carrello. La versione originale del trolley problem è più o meno questa: siete posizionati vicino allo scambio dei binari di una ferrovia quando passa un treno a cui si sono rotti i freni, su una delle due diramazioni è stata legata una persona e sull’altra più persone. L’unico intervento utile che potete fare è quello di deviare il treno su una delle due diramazioni. Di certo c'è che causerete la morte di qualcuno, ma qual è la scelta migliore?

Il dilemma si ripropone nel mondo delle auto senza pilota in più varianti. In breve, in caso di pericolo, un’auto a guida autonoma deve cercare di proteggere i suoi passeggeri oppure mettere in pericolo gli altri automobilisti o pedoni? Quale vita umana va tutelata a scapito di altre? Il dilemma non ha una soluzione univoca, piuttosto, si possono compiere più scelte — proprio come quando si guida un auto. La questione diventa più problematica nel programmare queste soluzioni in anticipo prendendosi la responsabilità di queste decisioni e, in un certo senso, pensare a delle regole che consentono le sperimentazioni su strada delle auto a guida autonoma è come scegliere una delle soluzioni possibili del trolley problem e farle diventare leggi valide per tutti.

La soluzione più sanguinosa possibile al problema del carrello.

LA PROPOSTA DELLA CALIFORNIA

Volendo riassumere le specifiche delle proposta di legge, la responsabilità delle sperimentazioni ricade su chi chiede l'autorizzazione a farle, ovvero i produttori delle auto.

Per potere richiedere una sperimentazione bisogna rispettare i seguenti requisiti: i test devono essere condotti da dipendenti o consulenti legati all'operatore da un contratto; il produttore deve disporre di un canale di comunicazione con il veicolo e monitorarlo costantemente; bisogna indicare alle autorità il luogo della sperimentazione e disporre di un piano per il primo soccorso in caso di incidente; bisogna fornire i dati per ottenere una valutazione della sicurezza dei veicoli; bisogna stilare un report dei danni del caso alle proprietà. Inoltre, i produttori dovranno segnalare alle autorità: come aggiorneranno i programmi rispetto alle modifiche alle norme di circolazione, come monitoreranno i veicoli, come raccoglieranno i dati sugli incidenti, come li segnaleranno alle autorità, come informeranno i clienti sul loro funzionamento e come le loro auto gestiranno le situazioni di emergenza.

Queste raccomandazioni presentano una serie di paradossi, però: ad esempio, ai produttori viene semplicemente chiesto di auto-certificare la loro conformità ad una serie di requisiti — nella maggior parte dei casi, i dettagli di come le case devono mettere in pratica le richieste vengono lasciati alla discrezione delle case automobilistiche stesse. Inoltre, non viene imposto l'uso di specifiche tecnologie o tecniche di sicurezza.

"Gli Stati Uniti, ovviamente, spingono per attirare investimenti, per questo, avviare per primi la sperimentazione su strada rappresenta anche una forma pubblicitaria, il problema è quanto sarà sicura."

Un'altra questione piuttosto delicata riguarda chi si prende carico della responsabilità di eventuali incidenti quando viene coinvolta un'auto senza conducente. Per ora le norme fanno riferimento al costruttore dell'auto, e per questo motivo le aziende che utilizzano automobili diverless devono fornire la prova della propria solidità finanziaria con una assicurazione primaria più cauzione da 10 milioni di dollari in totale.

Ho parlato al telefono con l'avvocato Raffaele Zallone vice presidente di Lexing ed ex Direttore Centrale Legale della IBM Italia, che studia da tempo le leggi americane in materia di driverless car. A colpirlo della proposta, è la responsabilità totale affidata ai produttori: un caso senza precedenti persino per gli Stati Uniti che pure hanno una grande tradizione in cui i produttori sono chiamati a rispondere dei difetti di un prodotto in modo molto più stringente rispetto all'Unione Europea.

LEGGI DI PIÙ

- La Germania ha pubblicato le prime linee guida per le auto senza pilota
- Il primo incidente mortale di un'auto Tesla con il pilota automatico
- Come l'AI rivoluzionerà il trasporto su gomma

In Europa, in caso di un incidente, per ottenere un rimborso dall’azienda produttrice di un determinato prodotto chi subisce un danno deve dimostrare l'entità del danno e il suo ammontare oltre a dimostrare che il danno è diretta conseguenza di un inadempimento da parte dell’azienda stessa. La visione della questione che hanno gli Stati Uniti, invece, dando tutta la responsabilità ai produttori, permette di sbloccare le sperimentazioni delle auto a guida autonoma pur monetizzando il rischio di incidenti.

Zallone ha anche sottolineato altre tre questioni che non vengono affrontate nella proposta. La prima sono le indicazioni dei requisiti tecnici richiesti per la circolazione. In sostanza, lo Stato si fiderà dei dati che gli verranno forniti senza poterli verificare perché non ha la competenze reali per giudicare la sicurezza di un prodotto. La seconda riguarda la tutela dei veicoli contro gli hacker e la terza è la privacy. A chi appartengono i dati prodotti dalle auto, ai loro proprietari, ai produttori, ad altri enti? Una legge più completa non dovrebbe dimenticarsi di trattare questi temi.

LA VISIONE DELL'EUROPA

Per capire le prospettive europee sul tema, ho parlato al telefono con Mario Nobile, capo della Direzione generale per i sistemi informativi e statistici del Ministero dei Trasporti italiano che ha lavorato alla proposta del decreto Smart Road per consentire l'inizio delle sperimentazioni in Italia. Dalla sua prospettiva, oltre a pensare allo sviluppo delle auto, bisognerà lavorare sulle infrastrutture — ad esempio, creando corsie preferenziali per le auto a guida autonoma, inoltre la vera sfida sarà capire come garantire l'interazione tra auto autonome e tradizionali. Per fare tutto questo, però, ha sottolineato come uno dei problemi maggiori è anche di tipo tecnico; non si può avere accesso al codice sorgente dei programmi delle auto driverless perché è coperto da segreto industriale, questo impedisce la certezza di verifica da parte delle autorità. Il tema centrale è avere accesso ai risultati delle sperimentazioni. In ogni caso, per Nobili, la creazione di leggi più eque possibili per le auto a guida autonoma sarà al centro di un dibattito politico e sociale di grande portata.

Gli Stati Uniti, ovviamente, sono i primi ad aver avviato questo processo per attirare investimenti, per questo, avviare per primi la sperimentazione su strada rappresenta anche una forma pubblicitaria, il problema è quanto sarà sicura, ha aggiunto Nobili. Se volessimo pensare in termini di competizione tra i vari paesi che riusciranno a portare per primi le auto a guida autonoma sulle loro strade, vincerà chi avrà la capacità di mettere attorno ad un tavolo assicuratori, penalisti e esperti di etica — e in questo l’UE è più avanti, ha concluso Nobili.

L'IMPORTANZA DELL'ETICA

L'approccio europeo è quello di affrontare il tema innanzitutto a livello etico: la Germania, ad esempio, ha pubblicato le prime linee guida di natura etica al mondo per le auto a guida autonoma. E visto che la gara sarà vinta da chi lavora con gli esperti di etica, ho pensato di chiamare al telefono anche Luciano Floridi ordinario di filosofia ed etica dell'informazione all'Università di Oxford. Secondo lui, iniziare troppo presto con la sperimentazione sulle driverless car è un po’ come fare del beta testing sugli esseri umani. Il problema di non muoversi con sufficiente cautela è che nel malaugurato caso in cui dovessero verificarsi degli incidenti in circostanze tali da scuotere l’opinione pubblica, la reazione dei cittadini potrebbe essere molto violenta, rischiando di vanificare tutta la ricerca condotta fin ad ora e nel caso peggiore vietare del tutto la tecnologia.

"Potremmo non raggiungere mai la piena autonomia ma il risultato sarà che le nostre auto diventeranno più sicure. Come in ogni ricerca, porsi obiettivi elevati, anche se non vengono raggiunti, comporta dei vantaggi."

Ad ogni modo, il lavoro passerà dall'incrocio di tre tipi di ricerche, ha concluso Floridi: quello della tecnologia in cui gli Stati Uniti sono avanti, quello delle regole e leggi su cui ci stiamo muovendo in Europa e quello della modifica dell'ambiente in cui circoleranno le auto, ancora quasi totalmente da elaborare.

Anche per Floridi, si deve utilizzare un altro approccio: l’adattamento ambientale. Devono essere le strade su cui si muovono le auto e l'ambiente che le circonda a cambiare, per arrivare a una situazione più simile a quella molto predeterminata di un treno che si muove su un binario. Uno scenario come un'autostrada costruita appositamente per le driverless car, sarebbe molto più facile da gestire rispetto alle innumerevoli incognite che possono presentare le strade di un paesino di provincia.

Si tratta di pensare a strumenti che possono circolare nei cosiddetti mondi chiusi — scenari in cui è possibile controllare tutte le variabili perché, per quanto riguarda lo stato della ricerca sui mondi aperti, lo stato è quello che mi ha descritto Floridi con un esempio: alcune delle ricerche condotte ad Oxford che si stanno concentrando sulla capacità dei sistemi a guida autonoma di riconoscere la differenza tra un sacchetto di plastica o un masso caduto sulla strada per capire in quale caso inchiodare.

Racchiudere le driverless car all'interno di ambienti su cui abbiamo il controllo totale, ad esempio, in aeroporto per trasportare i passeggeri di un volo dall'aereo al controllo dei passaporti con dei mezzi a bassa velocità, oppure nei parchi tematici tipo Disneyland o nei parchi naturali è forse un mondo di non affrontare completamente il problema?

Il futuro sarà più ibrido e complesso di quello che si immagina chi — come me purtroppo — sogna un mondo di auto completamente automatizzate. Esclusi i casi già citati di mondi chiusi, potremmo non raggiungere mai la piena autonomia, ma il risultato sarà che le nostre auto diventeranno più sicure. Come in ogni ricerca, porsi obiettivi elevati, anche se non li si raggiungono, comporta dei vantaggi. Cercheremo di raggiungere il Livello 5 ma, probabilmente, arriveremo ad ottenere il Livello 4 solo per alcuni veicoli che circoleranno in ambienti ben determinati.

QUESTIONE DI LOGICA

L'unica notizia in tal senso che mi dà qualche speranza di vedere realizzato il mio sogno di auto a guida completamente autonoma sembrerebbe non riguardare direttamente le driverless car. Un team guidato da Agata Ciabattoni, del Politecnico di Vienna, e da Elisa Freschi, esperta di sanscrito dell'Accademia Austriaca delle Scienze, composto da esperti di logica, informatica e sanscrito sta esaminando gli antichi testi indiani Veda della scuola filosofica Mīmāṃsā. I Veda che risalgono a più di 2.000 anni fa sono i primi testi incentrati su obblighi e proibizioni. Sono scritti in sanscrito e non sono ancora stati tradotti completamente, per questo, nessun logico ci ha dedicato ancora la giusta attenzione. Lo scopo della ricerca è tradurre in linguaggio matematico, comprensibile da un computer, proprio le regole etiche che riguardano divieti e obblighi.

Ho parlato al telefono con Agata Ciabattoni ed Elisa Freschi che mi hanno spiegato come la logica classica si concentra sullo stabilire se una determinata affermazione sia vera o falsa, mentre il tipo di logica contenuta in questi testi riguarda ciò che dovremmo o non dovremmo fare e in particolare si interroga su che cos'è un obbligo, quali sono le sue applicazioni e cosa bisogna fare in casi di conflitti tra obblighi e proibizioni. Il tutto senza connotazioni etiche. Uno dei principali filosofi della scuola sembra rimandare al concetto di male minore. Forse la soluzione passerà anche attraverso ricerche simili?

Di sicuro, per quanto possa suonare brutale, la stessa legge che seguiamo ogni giorno si basa su generalizzazioni degli eventi che ci possono capitare. Quando verrà sviluppato un programma di guida autonoma sufficientemente sicuro per poter circolare sulle strade sarà in grado di prevedere cosa fare nel numero massimo possibile di situazioni. Quando ci saranno dei problemi non previsti prima, chi avrà l'autorità di farlo sarà chiamato a decidere del caso particolare per la prima volta e la sua decisione diventerà il riferimento per altri casi futuri, andando ad aumentare la conoscenza generale dei programmi, esattamente come succede già oggi nelle corti che devono giudicare gli esseri umani anche se questo percorso, purtroppo, comporterà dei sacrifici.

Segui Federico su Twitter: @spaghettikraut

Seguici su Facebook e Twitter.