Il futuro che ci attende non è troppo diverso da 'Black Mirror'

In una puntata della serie tv Black Mirror, il protagonista sale in macchina dopo aver bevuto parecchio. Nel momento stesso in cui gira le chiavi, un segnale di allarme compare e una voce elettronica lo avvisa: "Non sei nelle condizioni psicofisiche di guidare, la nostra assicurazione non sarà responsabile…". La voce viene interrotta dal protagonista, che decide di guidare comunque. Black Mirror sarà anche una serie tv distopica, ma in questo caso sembra peccare di ottimismo, dando per scontato che nelle auto del futuro potremo decidere di guidare anche quando non siamo nelle condizioni più adatte per farlo.

Prima di arrivare al futuro, è però il caso di capire che cosa ci riserva il presente. Un primo indizio lo troviamo, spesso, installato direttamente nei nostri smartphone: la app che monitora la nostra attività fisica e, volendo, anche la nostra dieta. A prima vista non sembra esserci niente di male: la si può ignorare completamente, oppure usare come un incentivo a camminare di più e a nutrirci meglio. La app per iPhone, d'altra parte, si chiama Salute; e se può aiutarci ad avere una salute migliore, che male c'è?

Ma perché queste applicazioni, almeno sull'iPhone, sono preinstallate e non sono delle semplici applicazioni opzionali, e magari a pagamento? Il critico della Silicon Valley, Evgeny Morozov (autore del libro I Signori del Silicio, Codice Edizioni), ha le idee chiare a riguardo: "È il futuro della sanità. Non ci sono più i soldi per garantire a chiunque cure decenti, quindi adesso si punta sulla sanità preventiva, in modo che le malattie possano venire identificate prima e lo Stato riesca a risparmiare i soldi che non ha più", spiega l'autore a Motherboard. L'idea di Morozov, quindi, è che i dati di queste applicazioni saranno messi a disposizione dello Stato e delle assicurazioni sanitarie molto presto.

La salute, d'altra parte, è il contrario dell'assistenza sanitaria. Anzi, è proprio l'attenzione alla salute che permette di evitare, in futuro, ospedali e medici. Cosa c'è di male, quindi, ad avere applicazioni che controllano il nostro comportamento e, ogni tanto, ci inviano notifiche per farci sapere che questa settimana stiamo camminando meno della precedente? Se tutto ciò può anche aiutare la sanità pubblica a risparmiare soldi, tanto meglio.

Stando ai numerosi critici di quello che viene chiamato nudge state (letteralmente "stato della gomitatina", dell'esortazione), però, le cose sono ben più complicate di così. Come segnalato sempre da Morozov sul Guardian, il think tank britannico 2020health ha proposto di introdurre ribassi fiscali alle persone che dimostrano di non avere il vizio del fumo, di essere magre, in buona salute e di bere poco. Un premio finanziario nei confronti di chi, con il suo comportamento virtuoso, permette allo stato di risparmiare sulle spese sanitarie.

Negli Stati Uniti, dove la sanità è anche privata, sono le assicurazioni a dare valore alla possibilità di ottenere, attraverso queste applicazioni, i dati sulla nostra condotta e a prestare grande attenzione agli sviluppi dell'Internet of Things. Nel 2014, la Microsoft e la compagnia assicurativa American Family Insurance hanno siglato un patto per finanziare le più promettenti start up che si occupano di sviluppare sensori nelle nostre smart home e smart car, allo scopo di incentivare la "protezione proattiva". Così, il vostro smart-frigorifero potrebbe sapere che questa settimana avete bevuto un po' troppa birra, e che è il caso di evitare di aprirne un'altra. O che avete mangiato troppi zuccheri e poca verdura.

Con la collaborazione della Silicon Valley e delle assicurazioni, lo Stato si fa paternalista. Ma soprattutto, grazie all'aura di oggettività dei dati, si dà per scontato che la responsabilità della nostra salute sia solo nostra, lasciando da parte gli aspetti socio-economici e dimenticando che acquistare "smart-oggetti", fare attenzione alla qualità dell'alimentazione e fare costante attività fisica sono dei lussi (economici o di tempo) che non tutti si possono permettere. E si dimentica anche che, di norma, si viene puniti per i comportamenti illegali, non per i comportamenti non virtuosi.

Fino a questo momento si è parlato infatti solo di possibili benefit finanziari per chi ha comportamenti virtuosi; ma cosa succederà nel momento in cui avere queste applicazioni installate sul telefono o dei sensori sul frigorifero diventerà la normalità? A un certo punto, per forza di cose, rifiutarsi di monitorare la dieta e l'attività fisica sarà considerato un atto anomalo, di chi ha qualcosa da nascondere. Immaginare che le assicurazioni americane determinino un premio più alto per chi non vuole essere controllato a distanza nei suoi comportamenti non sembra distopia, ma una conseguenza logica.

La volontà di essere "lasciati in pace" rischia quindi di diventare un atteggiamento strano, come immaginato anche da Dave Eggers ne Il Cerchio. Questo vale soprattutto (e così torniamo alle auto dalle quali siamo partiti) se si pensa alle smart-car: si sottolinea sempre che queste auto che si guidano da sole aumentano la sicurezza; molto meno si sottolinea che le aziende che hanno costruito queste auto sapranno – e in buona parte sanno già adesso – dove ci troviamo e dove stiamo andando, e potranno controllare a distanza i veicoli. Le assicurazioni, anche in questo caso, potrebbero essere molto interessate a inserire sensori che controllano la qualità della guida, offrendo in cambio degli sconti.

Proprio come in Black Mirror, il futuro potrebbe inoltre essere un tempo in cui è qualcun altro a decidere se siamo nelle condizioni psicofisiche adatte per guidare; senza però necessariamente conoscere le ragioni per cui io, utilizzando il mio libero arbitrio, sto prendendo determinate decisioni. Lo scorso anno, negli Stati Uniti, è stato presentato il Driver Alcohol Detection System for Safety (DADSS, "Sistema di rilevamento alcolico del guidatore per la sicurezza"): se il guidatore non passa l'alcool test, l'auto non parte. Ma se si trattasse di un'emergenza? Può essere un sistema automatico a valutare tutte le possibili sfumature e conseguenze?

"Nel 2020," scrive Guido Scorza su CheFuturo! (non esattamente un sito complottista), "quando le automobili prodotte da Google e Ford senza conducente circoleranno nelle nostre strade, basterà un click per fermare quelle degli automobilisti più indisciplinati. E quando, sempre nel 2020–o una manciata di anni più avanti–tutte le serrature delle nostre porte saranno controllate via smartphone, per mettere alla porta gli inquilini in ritardo con il canone sarà sufficiente una mail al relativo provider di servizi per impedirgli di rientrare dentro casa."

Il problema di quella che Tim O'Reilly, considerato "l'editore della Silicon Valley", ha chiamato algorithmic regulation è che è una politica che lavora solo sugli effetti e non sulle cause; che si accontenta di punire le infrazioni ma non di discutere e risolvere i problemi alla base, per esempio, delle difficoltà di alcuni cittadini a pagare mutuo o affitto.

"I Codici (quelli delle leggi)," prosegue ancora Guido Scorza, "sono stati sostituiti dal codice (quello in cui vengono tradotti gli algoritmi) e dai termini d'uso delle grandi piattaforme online e decidere ciò che è lecito e ciò che non lo è tocca alle grandi corporation della rete, non perché abbiano colonizzato il mondo e imposto la 'legge del conquistatore', ma, peggio ancora, perché i governi del mondo hanno chiesto loro di farlo".

Tutto ciò si vede nella sua massima evidenza nelle continue richieste di aiuto dei governi alla Silicon Valley affinché li supporti nella guerra contro lo Stato Islamico. Ancora una volta, il governo appalta alcune sue prerogative a compagnie private, che diventano responsabili di decidere quali voci debbano essere ascoltate e quali invece censurate. Finché questa censura viene eseguita in nome della lotta tra "buoni e cattivi" molti di noi possono anche accoglierla positivamente, ma le compagnie private, per definizione, cambiano proprietà e non sono regolate da meccanismi democratici.

La storia del texano ubriacone e pistolero che acquista Facebook è poco più di una barzelletta, ma quello che potrebbe accadere ai nostri dati e alle nostre vite se una cosa del genere diventasse realtà è una questione molto più seria.

Seguiteci sulla nostra nuova pagina!