Een dude keek gister naar een pizzareclame, maar zag een beschrijving van zichzelf

Hmm, ok. Dit wisten we nog niet.

|
mei 11 2017, 8:30am

Gister verscheen er een foto op Facebook van een reclamebord dat geen reclame liet zien, maar een tekst die precies beschreef wie er naar de reclame keek. Een jonge man, lachend, 406 tijdseenheden. Etc.

Het was een reclamebord van een Peppe's Pizza, een kleine restaurantketen in Oslo, dat was gecrasht, en alleen nog het log van het gezichtsherkenningsalgoritme liet zien, in plaats van een afbeelding.

Forsaken75, de jongen die de foto heeft gemaakt (echte naam Jeff Newman) zegt op Reddit dat het scherm begon te scrollen toen hij dichterbij kwam. Toen hij beter keek, zag hij dat er informatie over hem voorbijkwam. Dat hij een jonge man was, precies waar hij naar keek, en of hij aan het lachen was, en hoe breed. "Ik plaats deze foto omdat ik denk dat niet iedereen weet dat dit soort informatie over je wordt verzameld als je naar een reclame kijkt," schrijft hij op Reddit.

Jeff Newman. Foto: privé.

Volgens Newman was de camera nauwelijks te zien. Je weet dus niet dat er gezichtsherkenning op je gericht wordt als je in de quasi publieke sferen van een winkelcentrum rondloopt.

De hamvraag is nu: moet dit kunnen? Mijn eerste reflex was: dit is insane. Maar Newman zelf maakt zich er eigenlijk helemaal niet zo druk om: "het is alleen maar bedoeld om informatie in te winnen om betere reclames te maken." De beschrijvingen op het scherm zijn ook generiek: man, lacht, kijkt x-aantal seconden. Er staat niet: Jan lacht, volgende keer aanschieten met een pizzadeal.

Er is dus geen sprake van een invasie op de privacy van passanten. Er kleeft misschien zelfs een voordeel aan: minder willekeurige reclames op straat. Denk aan een toekomst waarin je niet meer hoeft te kijken naar posters van vrouwen in bh's, maar alleen nog maar halfnaakte mannen in boksers ziet, omdat je, zoals ik, een man bent en dus tot die doelgroep behoort. Of juist andersom: dat de gezichtsherkenning doorheeft dat je slecht gaat als je alleen maar halfnaakte mannen ziet. En daarom juist bh's laat zien, of pizza's, die je zo lekker kunt eten bij Peppe's (ga ik even van uit, want als je gezichtsherkenning inzet, moet je ook lekkere pizza's bakken, anders ben je echt een walgelijk bedrijf).

Ik heb het bedrijf om een reactie gevraagd, maar helaas: ze zijn niet te bereiken via de mail. Mocht dat nog gebeuren dan volgt er een update.*

Toch zie ik dit redelijk onschuldige incident als onderdeel van een groter verhaal. Het grootste bezwaar tegen dit soort technologie op straat, is dat de kans dat het hierbij blijft erg klein is. We schreven vorige week al over de glijdende schaal van de privacy. Privacy wordt nooit in één keer te grabbel gegooid. Dat gaat geleidelijk. De Nederlandse overheid heeft de bevoegdheden voor preventief fouilleren, cameratoezicht en het gebruik van kentekenscanners onlangs verruimd – al deze dingen werden kortgeleden überhaupt niet geaccepteerd. Nu vinden mensen het prima.

Het is een kleine stap naar de commercie. Als een kleine keten als Peppe's Pizza nu al gezichtsherkenning inzet, wat doen grotere bedrijven dan over een paar jaar? AIs het nu al normaal voor bedrijven is om generieke informatie te verzamelen op straat, dan is het best aannemelijk dat je in de toekomst op straat een opt-in-notificatie op je telefoon krijgt met een aanbod voor een personalised-ad-account. Specifieke gezichtsherkenning die "de klant herkent, om de optimale eetervaring te serveren."

Tja, hoe erg is dat? Een optimale eetervaring. Prima toch!

Niet echt. Anonimiteit op straat behoort dan niet langer tot de mogelijkheden, zelfs niet als je je telefoon thuis laat. Dat betekent dat nog meer data van burgers beschikbaar komt. Burgers wier belangen het keer op keer afleggen tegen de belangen van de overheid die de burger wil bespioneren. Belangen van verzekeraars die premies willen verhogen. Belangen van bedrijven die geld willen verdienen. En is er niemand die gelooft, of kan garanderen dat veiligheidsdiensten bedrijven niet onder druk zullen zetten om emotionele data van burgers beschikbaar te maken "als dat nodig is."

Als ik mijn brein even op hol mag laten slaan: wat als verzekeringsmaatschappijen in de toekomst beschikking krijgen over data die op straat is ingewonnen op basis waarvan ze kunnen zeggen: je eet te veel pizza's. Betaal een hogere premie. Wat als uit gezichtsherkenning blijkt dat je woedend bent, of verdrietig. Gaat er dan ergens een lampje op risico level 1: "boze man loopt richting kassa, eiland 2." Worden misdaden dan voorkomen voordat ze begaan zijn? (Minority Report = de hel) Mogen mensen straks niet meer vrij rondlopen omdat ze zich ooit hebben misdragen op een bepaalde locatie? En kunnen we die risicoafwegingen echt overlaten aan algoritmes, die niet vergeten en vergeven?

Laten we eens een blik werpen op die wereld: de straat als grabbelton voor bedrijven, verzekeraars en overheid die continu weten hoe jij je voelt omdat er allemaal camera's op je gericht staan. Je bent dan geen mens meer, maar een hoopje gekwantificeerde data. Dit is geen prettige wereld. Een mens is irrationeel en elke dag anders. Een mens vergeeft, omdat het vergeet. Data blijft voor altijd bestaan. Data is rationeel en vergeet en vergeeft niet. Je kunt niet meer iets anders worden. Dat is een gevangenis.

Sommigen van jullie hebben vast al gedacht: deze dude overdrijft! Sommigen zijn misschien zelfs al afgehaakt. Want inderdaad; dit zijn speculaties over een toekomst die er nog niet is. Maar het vereist een beetje fantasie om in te beelden hoe je ooit zal worden onderdrukt.

Dat we op een glijdende schaal staan richting steeds minder privacy voor burgers, en steeds meer invasieve controle voor bedrijven en overheid, is gemakkelijk aan te tonen. En er is geen reden om te denken dat deze trend niet zal doorzetten, want er zijn nauwelijks duidelijke regels die de datagulzigheid van bedrijven en overheid aan banden leggen. En die zullen er ook niet komen als niemand de overheid daartoe dwingt.

TastybrainMeats vraagt zich op Reddit af of maskers in de mode zullen komen. En dat is een belangrijke vraag, want inderdaad: waarom moeilijke wetten maken, als je ook gewoon een blij masker op kunt zetten.

Denk daar maar even over na.

* Jørn Olsen van Peppe's Pizza heeft laten weten dat ze de eerste "dappere" partij zijn die deze technologie gebruikt. Hun doel is om interessantere reclames te maken voor hun klanten, en niet om de identiteit te achterhalen van hun klanten.