Er is niets dat een complete privacy-dystopie verhindert

David Golumbia is universitair hoofddocent Engels aan de Virginia Commonwealth University en auteur van ‘The Politics of Bitcoin: Software as Right-Wing Extremism’. Chris Gilliard promoveerde aan het Rhetoric and Composition Program van de Universiteit van Purdue en geeft les op het Macomb Community College. Hij runt Hypervisible .

Eind vorig jaar begon iemand een thread op Twitter met de volgende vraag: “Wat is het meest absurde/ingrijpende wat tech-bedrijven doen of hebben gedaan, dat niet echt klinkt, maar dat wel is?”

Het is de bedoeling dat met deze lijst kan worden aangetoond hoeveel er mis is in de tech-industrie. Om te beginnen voegde Chris een aantal voorbeelden van techbedrijven toe die de meeste mensen wel kennen: Facebooks “mensen die je misschien kent”-functie, die het privéaccount van sekswerkers aan klanten onthulde, of Ubers CEO die met God View indruk probeerde te maken op een feestje door alle actieve gebruikers op een bepaalde locatie te laten zien. Zoals wel verwacht werden Uber, Facebook en Google het vaakst genoemd.

De meeste mensen kwamen met voorbeelden die het algemeen bekend zijn. Maar sommige voorbeelden blijven tot op heden niet meer dan geruchten. Zo zou Facebook mensen volgt die het platform niet eens gebruiken; het gedrag van gebruikers controleert, zelfs wanneer ze zijn uitgelogd; kopieën bewaart van verwijderde, niet-verzonden berichten; naar manieren zoekt om gezichtsherkenning in te zetten, ondanks dat gebruikers hun ongenoegen hebben geuit; experimenten uitvoert met de emoties van gebruikers; samenwerkt met onderdrukkende regimes om dissidenten stil te krijgen; en denkt dat iedere #BlackLivesMatter-supporter ook zwart is. Veel mensen hebben bewijs geleverd dat bijdraagt aan het hardnekkige gerucht dat Facebook en andere bedrijven telefoongesprekken afluisteren, zelfs wanneer de apps niet geopend is en ze geen toegang tot de belfunctie van de telefoon hebben – hoewel het misschien niet eens nodig is om dat doel te bereiken.

Diensten verzamelen allerlei gegevens waarvan de meeste mensen denken dat het beschermde medische gegeven zijn. Een commerciële verkoopt door welke medicijnen mensen gebruiken. Er is een app die mensen met zelfmoordideeën op sociale media opspoort. Een fabrikant van een vibrators volgde het seksleven van zijn gebruikers zonder er open over te zijn dat ze dit deden. Doordat er zoveel DNA-gegevens worden verzameld, lijkt het mogelijk dat ze al commercieel geëxploiteerd of misbruikt worden. Een app waarmee vrouwen hun menstruatie kunnen volgen, verkoopt deze gegevens aan aggregators.

Maar het gaat allemaal veel verder dan het delen van gezondheidsgegevens. Roomba wil plattegronden van de huizen van eigenaars van hun stofzuigers gaan doorverkopen. Het blijkt mogelijk om met gyroscopen die de beweging van smartphones tracken, spraak te herkennen. Samsung-tv's bleken naar kijkers te luisteren. Een Uber-manager onthulde tijdens een feestje dat de God View van het bedrijf een opmerkelijke hoeveelheid informatie over chauffeurs en passagiers bevat. Daarnaast hielp hij de wereld in dat Uber wist welke passagiers one-night-stands hadden. Een school gebruikte de camera's op laptops om hun studenten te bespioneren. Zelfs iets zo eenvoudig als de afspeelgeschiedenis van Spotify-gebruikers is op manieren te gebruiken waar veel mensen niet blij van zullen worden.

Chris hield recent een lezing over ‘redlining’ aan de Universiteit van Oklahoma toen hij aan deze voorbeelden dacht. Redlining is een Amerikaanse praktijk waarbij diensten worden geweigerd aan inwoners die in bepaalde gebieden wonen, op basis van etnische of raciale samenstelling van die gebieden, door bijvoorbeeld de prijs omhoog te gooien. Hij sloot zijn lezing gaf met een interactief “WTF”-onderdeel waarin verschillende technische scenario’s aan het publiek werden voorgelegd. Hij vroeg ze te raden welke voorbeelden klopten en welke niet.

Als je mee wilt doen, pak dan nu je pen en papier. Onderaan de scenario’s staan de antwoorden.

Een paar van de scenario's:

• Amazon verwijderde op afstand de boeken van George Orwell van alle Kindles
• Uber gebruikte zijn gegevens om te berekenen welke gebruikers one-night-stands hadden
• Ancestry.com heeft tientallen begraafplaatsen gekocht om geld te verdienen met DNA van lijken
• Een hightech modebedrijf verkoopt luxegoederen die opzettelijk kapot gaan na eenmalig gebruik. Bijvoorbeeld een Louis Vuitton-tas die door inktcapsules wordt verprutst nadat GPS zegt dat deze eenmaal is gedragen
• Een directeur van een universiteit die voorstelde om met voorspellende analyses te bepalen welke studenten hun jaar niet zouden halen, zodat ze die studenten aan kunnen moedigen om te stoppen

Als je hebt meegedaan, dan zijn hier de antwoorden: waar, waar, onwaar, onwaar, waar.

Zelfs nadat ze geconfronteerd werden met de meest absurde scenario's, zeiden veel mensen dingen als: “Ik denk dat dit waar is, maar ik hoop echt dat het niet is.” Niemand in het publiek kon met zekerheid zeggen: “Dit is sowieso niet gebeurd.” In plaats daarvan heerste er twijfel: “Misschien heb ik er nog niks over gehoord,” leken hun gezichten te zeggen.

We zijn nu al op het punt gekomen waarop het lijkt dat alles maar kan. Er zijn bijna geen wettelijke of ethische grenzen meer. Het enige wat ons nog tegenhoudt, is wat er nu technisch mogelijk is.

Probeer je eens het meest absurde wat met de huidige techniek mogelijk is voor te stellen. Vraag jezelf dan af of een technologiebedrijf al iets dergelijks heeft gedaan. Als dat niet het geval is, voor zover we weten, is dat vanwege een of andere wet of ethische code, of komt het gewoon daardat het nog niet winstgevend is? We hebben vrij levendige fantasieën, en alles we we hebben bedacht, is ofwel al gedaan of in de maak. Dus de vraag is: hoe overleef je in een maatschappij waar werkelijk alles is toegestaan?

Jacques Ellul is een Franse filosoof en theoloog. In een essay uit de vroege jaren zestig, getiteld The Technological Order, gaat hij verder op enkele thema's uit zijn beroemde boek The Technological Society (we hebben het niet vertaald uit respect voor Ellul en om zijn woorden zo puur mogelijk te houden):

Ellul beschrijft precies de wereld waarin we nu in leven en de stemming in de afgelopen tien jaar in tech: innovatie zonder toestemming en snel handelen en dingen kapotmaken. Maar misschien gaat dit minder over het moreel besef van ontwikkelaars, programmeurs en technologen, en meer over de verwachtingen van onze samenleving.

We zijn supersceptisch over de rol van consumenten en over hoe bepaalde technologieën door de samenleving worden omarmd. Als er een grootschalige weerstand tegen een bepaalde technologie zou zijn, of tegen een bepaalde privacy-inbreuk waarvan algemeen werd aangenomen dat het te ver gaat, zouden we misschien rekening gaan houden met andere uitkomsten. Als we accepteren dat alles is toegestaan en verzet zinloos is, dan zullen deze dingen nog meer realiteit worden dan dat ze nu al zijn.

We hebben enig bewijs dat dit zou kunnen gebeuren. Zo waren we allemaal getuige van de succesvolle weerstand van gewone mensen tegen Googles ingrijpende Google Glass-technologie, waarvan voorstanders in het begin zeiden dat de innovatie onvermijdelijk was. Of het verweer tegen de verschrikkelijke app genaamd Peeple, die was ontworpen om mensen ratings te geven over andere mensen zonder hun toestemming (of zelfs zonder dat ze de app gebruiken).

Ondanks dat Google Glass geen succes werd, verschijnen er met enige regelmaat verhalen over de wedergeboorte ervan. Eind 2016 introduceerde Snapchat de Spectacles-brillen die vooral vanwege te weinig belangstelling geen succes werden, maar niet omdat het publiek zich er zo druk om maakte. En de meest angstaanjagende ontwikkeling: de Chinese politie draagt nu al brillen die gezichtsherkenningssoftware. Zelfs Peeple lijkt terug te keren. Dat doen ze met blockchain-technologie, via een app genaamd FriendZ die op schokkende wijze inspiratie haalt uit een Black Mirror-aflevering waarin mensen door hun collega's worden beoordeeld op een app. Op de een of andere manier negeert de app het dat het allemaal nogal dystopisch aanvoelt.

Dit is allemaal bewijs voor wat sommige tech-critici al veel langer zeggen: als tech onze hele maatschappij gaat binnendringen, beïnvloeden en vormen, is het onacceptabel dat alleen de tech-industrie, of invloedrijke techneuten beslissen wat wel of niet acceptabel is. Als iedereen belang heeft bij de uitkomst, moet iedereen invloed hebben over of er verder moet worden gegaan met de ontwikkeling van een bepaalde technologie.

De potentieel nuttige technologieën in de geneeskunde en genetische manipulatie, evenals gevaarlijke chemische, biologische en nucleaire wapens, laten het gevaar van tech zien. Tech-insiders, waaronder ex-Googlers Tristan Harris en James Williams en de vroege Facebook-investeerder Roger McNamee, leiden de Time Well Spent-beweging. Deze beweging belooft bedrijven af te schrikken om technologieën te ontwikkelen en te verkopen die onze privacy schenden.

Er zijn tal van ex-Facebook-investeerders en -medewerkers die de aandacht vestigen op de destructieve sociale effecten van Facebook in het bijzonder en sociale media in het algemeen. Er is reden genoeg om sceptisch te zijn over deze inspanningen, maar als de industrie zo radicaal gaat veranderen, zijn dit soort inspanningen belangrijk. Maar op zichzelf zijn de pogingen niet voldoende: serieuze overheidsregulering van de technologiebedrijven is absoluut noodzakelijk. Op dit moment is de EU de bezig met de Algemene Verordening Gegevensbescherming. Dat kan een stap in de goede richting zijn: proactief bekijken hoe technologiebedrijven voorstellen om privégegevens te gebruiken voordat ze er ook echt mee mogen werken in de EU en mogelijk ook wereldwijd.

De Time Well Spent-beweging heeft een “eed van Hippocrates voor technologie” voorgesteld waarin geen kwaad doen voorop staat. Techbedrijven – en techno-optimisten in het algemeen – hebben laten zien dat ze niet in staat zijn of verantwoordelijk genoeg zijn om in te zien welke schade hun technologie aan kan richten. Maar ook amateurs en tech-ondeskundigen moeten zich bemoeien met de opkomst van digitale technologie. Niet alleen met de gevolgen van de technologieën, maar ook voor de functies binnen de technologieën.