Beeld: Motherboard

Online advertenties maken het internet en de rest van de wereld kapot

Er valt niet te ontsnappen aan het afluisterkapitalisme van Facebook en Google. De enige manier om hier nog iets aan te doen, is door overheden te laten ingrijpen.

|
28 november 2018, 10:22am

Beeld: Motherboard

Mark Zuckerberg verklaarde afgelopen voorjaar, in een wanhopige poging om de politici en de rest van de wereld gerust te stellen, aan de Amerikaanse Senaat dat Facebook geen gebruikersdata doorverkoopt. Maar wat Facebook, Google, Twitter en andere socialmediabedrijven wel doen – onze aandacht verkopen – is eigenlijk net zo verontrustend. Er wordt dan wel geen directe persoonlijke informatie doorverkocht (zoals de KVK het tot voor kort wel deed), maar een verdienmodel dat op advertenties gebaseerd is, beïnvloedt wel het beleid van een bedrijf op manieren die nogal schadelijk voor de wereld kunnen zijn. Socioloog Zeynep Tufekci verwoordde dat in haar TED Talk uit 2017 als volgt: “ We bouwen een dystopie, puur en alleen om mensen op advertenties te laten klikken.”

Socialmediabedrijven zijn adverteerders. Dit is natuurlijk nooit een geheim geweest. Eind jaren negentig pionierde Google met een businessmodel dat uitging van gepersonaliseerde advertenties. Sheryl Sandberg bracht deze strategie in 2008 naar Facebook toen ze er COO werd. Het geld stroomde binnen, en bedrijven rond Silicon Valley en daarbuiten kozen allemaal voor dezelfde basisstrategie: zorg er eerst voor dat je zo snel mogelijk veel gebruikers krijgt zonder aan geld te denken; verzamel daarna zoveel mogelijk data van die gebruikers; verdien daar geld mee door er een bak data-analisten op los te laten en de advertenties nauwkeurig te targeten op allerlei kenmerken en interesses; ????; profit.

Een tijd leek het een fijne win-winsituatie: mensen over de hele wereld konden kijken naar luiaardfilmpjes en foto’s van baby’s in Halloweenpakjes, contact onderhouden met familie, vrienden en collega’s. Het enige wat gebruikers daarvoor hoefden te doen, was naar advertenties kijken die ook echt relevant voor ze waren. Contextuele reclame werkt al decennialang prima bij tv en printmedia, dus was het een logische vervolgstap. Wat kon er in vredesnaam misgaan?

1543398595346-1542394250356-shutterstock_10988
Facebook-CEO Mark Zuckerberg. Beeld: Shutterstock

Best wel wat, blijkt nu. De Arabische Lente was een belangrijke waarschuwing dat techno-utopisme ook grenzen heeft. Natuurlijk waren revolutionairen, hervormers en mensenrechtenactivisten de eersten die gebruik maakten van wat we toen het ‘Web 2.0’ noemden, maar overheden haalden ze snel in en gebruikten deze nieuwe tools om iedereen die hun macht bedreigde aan te pakken. Bij de verkiezingscampagne van Obama in 2008 werden online advertenties voor het eerst gebruikt om de juiste boodschap met grote precisie bij kiezers te krijgen. Tien jaar later worden dezelfde technieken gebruikt om rechtse, autoritaire leiders aan de macht te helpen in de Verenigde Staten, de Filipijnen en Brazilië, en om xenofobie, rassenhaat en zelfs genocide over de hele wereld aan te wakkeren. Myanmar is daar misschien wel het verschrikkelijkste voorbeeld van. Maar hoe hebben we het in vredesnaam zover laten komen?

Het begon allemaal met gepersonaliseerde advertenties en een nieuwe economische situatie die Shoshana Zuboff, wetenschapper aan de Harvard Business School, ‘surveillance capitalism noemt, het ‘afluisterkapitalisme’.

Net zoals Ford en General Motors in de twintigste eeuw hun eigen vorm van kapitalisme uitvonden, waar massaproductie en een scheiding tussen management en aandeelhouders centraal stonden, ontdekten Google en Facebook hoe ze geld konden verdienen met ‘de waarheid’ door het gedrag van mensen (niet alleen hun eigen gebruikers) online (en steeds vaker ook offline) te tracken. De techbedrijven leerden te voorspellen wat mensen in de toekomst waarschijnlijk gaan doen, om zo hun shop- en stemgedrag te beïnvloeden. En dat verkopen ze aan de hoogste bieder.

“Wij als samenleving hebben er nooit toestemming voor gegeven dat er uit onze privé-ervaringen gedragsdata wordt geëxtraheerd en dat die vervolgens weer wordt verkocht om ons gedrag te voorspellen,” zegt Zuboff in een telefonisch interview.

In Zuboffs nieuwe boek, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontiers of Power, onderzoekt ze de 20-jarige geschiedenis van het surveillance capitalism, vanaf de geboorte van online advertenties in de late jaren negentig tot aan de gevaren die het nu voor onze democratie vormt. “Surveillance capitalism werd uitgevonden toen de internetzeepbel klapte,” zegt ze. “Google was toen nog een jong bedrijf en zijn investeerders dreigden om het te laten vallen – ook al was hun zoekmachine een superieur product. Daarom greep Google naar eerder weggegooide data logs en hergebruikte ze voor een heel nieuw doel: het voorspellen van gedrag.”

“Als er al een digitale revolutie was, was dat de opkomst van online advertenties.”

Zuboff voorspelt dat als er niks gedaan wordt surveillance capitalism net zo schadelijk gaat worden als eerdere vormen van kapitalisme, maar wel op totaal nieuwe manieren. “We hebben het over het eenzijdig claimen van menselijke ervaringen als grondstof voor nieuwe producten,” zegt ze. “Industrieel kapitalisme eigende zich de natuur toe en het wordt nu pas duidelijk wat de gevolgen daarvan zijn. Deze nieuwe fase van het kapitalisme draait op de menselijke natuur. In deze markt wordt ons gedrag voorspeld en vervolgens verkocht. Dit nieuwe kapitalisme zorgt voor extreme ongelijkheid van kennis en de macht die daaruit voortvloeit. Dit onbekende terrein gaat ingrijpende gevolgen hebben voor de samenleving van de 21ste eeuw.”



Online tracking is overal, vertelt Tim Libert van het CyLab Security and Privacy Institute van Carnegie Mellon University in een e-mail. “Je wordt getrackt op 91 procent van de miljoen populairste websites. Ik doe dit soort tests al jaren en de resultaten zijn altijd hetzelfde: je kunt niet browsen zonder gevolgd te worden, punt. Bedrijven tracken je als je medische websites bezoekt, of pornosites, websites van advocatenkantoren, politici of kranten, en hetzelfde geldt natuurlijk voor apps. Er zijn maar weinig dingen die mensen niet opzoeken of delen op een computer en bijna alles wordt constant getrackt. Dat wordt gedaan door de miljardenbedrijven die je in het nieuws ziet, maar ook honderden bedrijven waar je nog nooit van gehoord hebt.”

Als je een website bezoekt die advertenties host, maakt een advertentienetwerk – zoals DoubleClick van Google – een keuze tussen verschillende advertenties. Omdat Google zoveel van jou, je vrienden, je smaak, je gewoontes en je koopkracht weet, kan DoubleClick berekenen op welke advertentie jij het snelst zou klikken en uiteindelijk welk product jij het snelst zou kopen.

“Dat is wat AI en machine learning voor deze bedrijven betekenen: beter worden in raden welke advertenties jij moet zien,” zegt Libert. “Ieder extra stukje data dat wordt binnengehaald, verhoogt de kans dat ze je de ‘juiste’ advertentie laten zien. Daarom stoppen ze nooit, rusten ze nooit en respecteren ze je privacy nooit. Iedere dag is iedereen bij Google bezig met meer één doel: het percentage ‘juiste’ advertenties een beetje opkrikken.”

Het is bijna onmogelijk om precies te achterhalen hoe deze ‘Digital Influence Machine’ werkt, zoals Data & Society deze in een recent onderzoek omschrijft. Net als dat het onmogelijk is om te zeggen hoe klimaatverandering heeft bijgedragen aan het ontstaan van een specifieke orkaan, is het niet mogelijk te bepalen waarom iemand één specifieke reclame ziet. Maar als je alle datapunten samenneemt, is het verband overduidelijk en onweerlegbaar.

“Politieke communicatie is drastisch veranderd door de technologie achter online advertenties,” zegt Joan Donovan, een onderzoeker van Data & Society, in een e-mail. “Als er al een digitale revolutie was, was dat de opkomst van online advertenties. Veel van deze advertenties worden niet gereguleerd of beheerd. Politieke strategen zagen een nieuwe mogelijkheid om via internet foutieve informatie te verspreiden en zo het systeem uit te buiten. Geen enkele politicus kan onder deze omstandigheden ethisch verantwoord campagne voeren, omdat degenen die bereid zijn om misbruik van de systemen te maken zoveel sterker zijn.”

Door online advertenties is het democratische beginsel van de scheiding der machten uit balans geraakt, is de vierde macht steeds verder afgetuigd, en worden er steeds meer nagels in de doodkist van de privacy geslagen.

Internetbedrijven negeerden een cruciale regel van de traditionele media toen ze hun op advertenties draaiende businessmodellen overnamen: de scheiding tussen commerciële en redactionele keuzes. Hoewel er lang niet door iedereen netjes met deze regel werd omgesprongen, verbood de ethische code van journalisten wel om berichtgeving te laten beïnvloeden door financiële overwegingen. Door deze ethische muur was het mogelijk om het kapitalisme de vrije pers te laten sponsoren. Hierdoor werden bedrijven en de overheid gecontroleerd en bleven ze eerlijk. De scheiding der machten zoals het bedoeld is.

Dat hield allemaal op met bestaan door gepersonaliseerde advertenties. Die werden ingezet voor platforms die niet educatief, of informatief zijn, en de overheid en het bedrijfsleven ook niet controleren. Het enige doel van deze platformen is om mensen ‘engaged’ te houden. Engagement gaat ervan uit dat er steeds meer data moet worden verzameld en steeds meer ads te zien moeten zijn. En dat uit zich in algoritmes die populariteit – clicks, likes en shares – veel belangrijker vinden dan kwaliteit. In minder dan 20 jaar tijd heeft Silicon Valley redactionele afwegingen vervangen door een wiskundige kijk op populariteit. Hierdoor is het democratische beginsel van de scheiding der machten uit balans geraakt, is de vierde macht steeds verder afgetuigd, en worden er steeds meer nagels in de doodkist van de privacy geslagen.

Het gepersonaliseerde-advertentiemodel stimuleert bedrijven om zoveel mogelijk informatie te verzamelen: wat gebruikers op hun platform doen en wat ze op de rest van het internet doen. Google en Facebook houden zelfs het internetgedrag bij van mensen zonder account en gebruiken die data om modellen mee te maken. Met deze informatie verspreiden ze advertenties over het hele web.

Google is ook recent begonnen met het opkopen van data over de creditcardaankopen en andere offline activiteiten van consumenten. Het is geen verrassing dat ook overheden deze data graag willen hebben. Uit de onthullingen van Edward Snowden in 2013 bleek bijvoorbeeld dat verschillende NSA-programma’s, waaronder PRISM, gebruik maakten van informatie van grote tech-bedrijven. Soms wisten hun directies hiervan, maar vaak ook niet. En dat gebeurt niet alleen in de VS, maar ook in allerlei andere landen.

Gepersonaliseerde advertenties automatiseren discriminatie en normaliseren het door het idee te wekken dat er niet gebruik gemaakt wordt van persoonlijke vooroordelen. “ Surveillance capitalism maakt winst door mensen comfortabeler te maken met discriminatie,” schrijft Chris Gilliard in een onlangs verschenen essay. Dit komt naar voren in racistische zoekresultaten, dat mensen andere prijzen betalen voor dezelfde diensten of producten, filterbubbels op social media en online vormen van ‘redlining’.

Safiya Noble, hoogleraar aan de Universiteit van California en auteur van Algorithms of Oppression, vertelde me in een e-mail dat “we afhankelijk zijn geworden van commerciële zoekmachines om te achterhalen wat waar is en wat niet. Maar bij veel sociale en politieke kwesties zijn zoekmachines onbetrouwbare factcheckers. Eigenlijk kijken we nu naar een gigantische vertrouwensbreuk met online platforms in een tijd waarin zij juist de invloedrijkste krachten zijn die democratische idealen over de hele wereld kunnen beschermen of ondermijnen.”

Gepersonaliseerde advertenties en hun algoritmes zijn schadelijk voor de democratie. Door de digitalisering van advertentiemarkt zijn de inkomsten van nieuwsmedia ingestort, en daarmee is de vrijheid van informatie verzwakt. Door reclame-inkomsten te verbinden aan pageviews, zijn mediabedrijven geneigd stukken te produceren waar veel op geklikt wordt. En dat gaat soms ten kosten van verhalen die mensen iets leren, ze vermaken of mensen met macht ter verantwoording roepen. Met gepersonaliseerde advertenties hebben politieke campagnemedewerkers en propagandamakers de tools om een micro-segment van de maatschappij bereiken, om ze hun kijk op de wereld te beïnvloeden. Dit is de perfecte voedingsbodem voor populisten met authoritaire neiging als Rodrigo Duterte, Donald Trump, en Jairo Bolsanaro om aan de macht te komen, met alle gevolgen van dien voor mensenrechten.

Decennialang hebben denkers als Hannah Arendt, Karl Polanyi en vele anderen ons herhaaldelijk gewaarschuwd dat fascisme een direct gevolg is van het ondergeschikt maken van menselijke behoeften aan de behoeften van de markt. Door het moedwillig lessen uit het verleden te negeren, hebben we toegelaten dat de hebzucht van bedrijven ons media-ecosysteem heeft veranderd in een systeem wat de voorkeur geeft aan autoritair populisme.

Het businessmodel van gepersonaliseerde advertenties als kloppend hart van het surveillance capitalism moet grondig aangepast of misschien zelfs vervangen worden. Maar met wat? En hoe komen we zover?

Experts zijn het er niet over eens of het mogelijk is om het gepersonaliseerde-advertentiemodel aan te passen, en of dat genoeg zal zijn om de schadelijke gevolgen voor de samenleving terug te draaien. “Surveillance capitalism is als een invasieve plant zonder natuurlijke vijanden die zich overal heeft genesteld en al twee decennia op wetteloze plek bloeit,” zegt Zuboff, wiens nieuwe boek uitkomt in januari.

Dipayan Ghosh, voormalig tech-beleidsadviseur voor de regering-Obama en privacy- en beleidsadviseur was bij Facebook, is optimistischer, maar ook hij sluit overheidsingrijpen niet uit. Zoals tech-bedrijven zelf beweren, hebben internetgebruikers baat bij gepersonaliseerde advertenties, zodat ze relevante mogelijkheden en evenementen kunnen ontdekken. Maar hetzelfde systeem waardoor je erachter komt dat je favoriete band in de buurt optreedt, zorgt er ook voor dat mensen slechte ideeën kunnen verspreiden.

“Dit commerciële bewind is verantwoordelijk voor enorme veiligheidsrisico’s,” zegt Gosh, in een interview. “We zullen met beleidsmaatregelen het goede van dit businessmodel moeten behouden en het slechte uitbannen. En als dat niet werkt, zijn we misschien genoodzaakt om strengere maatregelen te nemen tegen gepersonaliseerd adverteren. Ik denk dat we manieren kunnen verzinnen waardoor we gepersonaliseerde advertenties van Chanel en de NBA wel toestaan en Russische propaganda niet.”

Het is aan Silicon Valley om te laten zien dat bedrijven iets kunnen doen om de schade van surveillance capitalism te beperken, zonder dat ze hun businessmodellen overhoop moeten gooien. Of, nog beter, dat ze nieuwe manieren vinden om geld te verdienen waarbij ze niet het privégedrag van mensen in een product hoeven te veranderen. Dit is des te belangrijker, omdat mensen niet de keuze hebben om zich af te melden voor dataverzameling voor gepersonaliseerde advertenties.

Google en Facebook bieden gebruikers de mogelijkheid bieden om geen gepersonaliseerde advertenties meer te zien, maar het is alleen niet mogelijk om te voorkomen dat je getrackt wordt of in de datasets wordt opgenomen, die worden gebruikt om targeting-algoritmes mee te maken.

Tim Libert van Carnegie Mellon University is nog semihoopvol: “Je denkt misschien dat als je geen gepersonaliseerde ad voor schoenen ziet, dat ze je niet tracken, maar dat is niet het geval. Er zijn manieren om iets minder gevolgd te worden, maar dat is als een aspirientje nemen om kanker te behandelen. Je voelt je misschien een paar uur iets beter, maar je hebt daarna nog steeds kanker. De enige manier om iets aan de kanker die gepersonaliseerd adverteren heet te doen, is door het te reguleren. Europa voert op dit moment een groot experiment uit met de GDPR, en de rest van de wereld houdt dit nauwlettend in de gaten.”

Ook beleidsmakers in Washington worden zich steeds bewuster dat privacy en veilige data een belangrijk onderdeel van een samenleving zijn. Hopelijk zullen zij, net als de bevolking, deze situatie niet veel langer accepteren.

Volg Motherboard op Facebook, Twitter en Flipboard.