Het advertentie-algoritme van Facebook is discriminerend, volgens onderzoek

Facebook heeft het Amerikaanse ministerie van Volkshuisvesting en Stedelijke Ontwikkeling op zijn dak gekregen, omdat het platform gebruikmaakt van discriminerende targetingmethoden voor hun advertenties. Jarenlang konden adverteerders er op Facebook voor kiezen om bepaalde doelgroepen (zoals minderheden en mensen met specifieke genderidentiteiten) te bereiken of vermijden. Maar uit een nieuw onderzoek blijkt dat het advertentie-algoritme van Facebook per definitie bevooroordeeld is – zelfs wanneer adverteerders juist proberen om een zo groot en inclusief mogelijk publiek te bereiken.

Het onderzoek was een samenwerking tussen wetenschappers van de Northeastern University, de University of Southern California en Upturn, een non-profitorganisatie die zich bezighoudt met online rechten. In hun onderzoek stellen ze dat het algoritme achter de Facebook-advertenties voor een oneerlijke verdeling zorgt, waardoor bijvoorbeeld advertenties voor banen en woningen enkel bij bepaalde demografische groepen terechtkomen. Sommige banen worden voornamelijk als “relevant” gezien voor witte mannen, terwijl andere advertenties juist specifiek gericht zijn op vrouwen van kleur.

“Dat deze advertenties oneerlijk worden verspreid, heeft te maken met Facebooks optimalisatiedoeleinden en voorspellingen over de ‘relevantie’ van advertenties voor verschillende gebruikersgroepen,” staat er in het onderzoek, dat op de server van Arxiv werd gepubliceerd. “We zien een significante scheeftrekking bij de manier waarop advertenties voor banen en woningen worden weergegeven, wanneer het aankomt op geslacht en afkomst. Ondanks dat de parameters op neutraal staan.”

Het Amerikaanse ministerie van Volkshuisvesting en Stedelijke Ontwikkeling heeft Facebook vorige week aangeklaagd wegens het overtreden van de Fair Housing Act (FHA), nadat bleek dat het platform zijn advertenties voor woningen op discriminerende wijze onder gebruikers verspreidt. Het ministerie stelt dat Facebook haar gebruikers target op basis van “ras, huidskleur, religie, geslacht, gezinssituatie, nationaliteit en beperkingen” – iets wat volgens de FHA illegaal is.

Facebook is het niet eens met de beweringen. “Het ministerie heeft geen bewijs dat onze AI-systemen daadwerkelijk mensen discrimineren,” laat het platform weten.

Middels het onderzoek, dat nog niet peer-reviewed is, probeerden de wetenschappers erachter te komen of de weergave van advertenties onder verschillende demografieën kon worden scheefgetrokken op basis van hoe de advertentie werd verpakt. Als adverteerders er niet expliciet voor kozen om een specifieke groep te targeten, zou Facebook dit dan alsnog doen?

Om hierachter te komen hebben ze zelf advertentiecampagnes opgezet, ter waarde van zo’n 7500 euro. Ze publiceerden honderden advertenties die miljoenen mensen hebben bereikt.

"Als het gaat om discriminerende online advertenties, zijn de targetingopties voor adverteerders slechts het topje van de ijsberg," vertelt een woordvoerder van Upturn aan Motherboard. De onderzoekers stellen dat factoren zoals advertentie-uitgaven, afbeeldingen die in de advertenties worden gebruikt en de titels die ermee worden geassocieerd, van invloed zijn op wie de advertenties uiteindelijk te zien krijgt.

Om deze reden besloten de onderzoekers te experimenteren met ‘kale’ advertenties, dus met lege afbeeldingen en titels. Vervolgens begonnen ze steeds meer elementen en links toe te voegen, om zo te bepalen welke delen van een advertentie van invloed zijn op wie ‘m te zien krijgt. Toen ze bijvoorbeeld advertenties maakten die gelinkt waren aan sites als bodybuilding.com (wat oorspronkelijk vooral op mannen wordt getarget) of elle.com (op vrouwen), bleef de verdeling tussen mannen en vrouwen binnen de doelgroep ongeveer gelijk. Maar toen ze afbeeldingen toevoegden van gewichtheffende mannen en een set make-upborstels, verschoof deze verdeling: bij de bodybuilding-advertentie kwam ruim 75 procent bij een mannelijk publiek terecht, en bij de make-upadvertentie ruim 90 procent bij vrouwen.

Hoewel genderprofilering zorgwekkend is, zagen de onderzoekers dat hun experimenten ook andere opmerkelijke gevolgen hadden. Toen de onderzoekers vijf advertenties voor banen in de houtindustrie maakten en probeerden deze naar een breed publiek te sturen, werd de advertentie "voor meer dan 90 procent aan mannen en meer dan 70 procent aan witte gebruikers" afgeleverd. Vijf andere advertenties voor een baan als conciërge werden daarentegen in totaal “voor meer dan 65 procent naar vrouwen en meer dan 75 procent naar gebruikers van kleur” verzonden. Volgens het onderzoek levert Facebook hun advertenties voor koophuizen bovendien vooral af aan doelgroepen die voor 75 procent uit witte mensen bestaan, terwijl advertenties voor huurwoningen bij een veel beter uitgebalanceerde groep terechtkomen.

“Onze advertenties voor banen als kassamedewerker in supermarkten bereikten een publiek dat voor 85 procent uit vrouwen bestond, en onze advertenties voor banen bij taxibedrijven bereikten een voor 75 procent zwart publiek,” schrijven de onderzoekers.

Deze bevindingen zouden een verklaring kunnen zijn voor de aanklacht van het ministerie tegen Facebook. De aanklager stelde namelijk dat Facebook niet alleen discrimineerde door adverteerders te laten targeten op basis van ras, geslacht en andere beschermde kenmerken, maar ook dat het algoritme voor het afleveren van de advertenties bevooroordeeld is:

Zelfs als een adverteerder een doelgroep probeert te bereiken die ook bepaalde minderheden omvat, zal dit systeem de advertentie niet aan het gehele publiek weergeven. De advertenties worden namelijk enkel vertoond aan gebruikers van wie de kenmerken volgens het systeem het best aansluiten bij de advertentie. Als de adverteerder dit probleem probeert te vermijden door zich specifiek te richten op een niet-vertegenwoordigde groep, levert het systeem de advertentie nog steeds niet aan die gebruikers en wordt de advertentie mogelijk helemaal niet weergegeven. Het systeem is namelijk zo ingesteld dat het helemaal geen advertenties laat zien aan gebruikers waarvan het denkt dat ze zich niet aangetrokken zullen voelen tot de advertentie, zelfs als de adverteerder deze gebruikers nadrukkelijk probeert te bereiken.

Joe Osborne, een woordvoerder van Facebook, legde na de publicatie van het onderzoek de volgende verklaring af aan Motherboard:

“Wij zijn tegen iedere vorm van discriminatie. We hebben belangrijke wijzigingen aangekondigd rondom onze targeting en weten dat dit slechts een eerste stap is. We hebben ons systeem om advertenties te weergeven nog eens nagelopen en hebben hier deskundigen uit de branche, academici en burgerrechten-experts bij betrokken. We verkennen momenteel wat andere mogelijke wijzigingen zijn.”

Het onderzoek richt de aandacht op de vele vooroordelen die niet alleen heersen binnen onze maatschappij, maar ook in onze algoritmen. Helaas zijn er maar weinig mensen die daar weet van hebben, en zijn er nog minder onpartijdige onderzoekers die hier iets aan proberen te doen.

“Onze bevindingen benadrukken hoe belangrijk het is dat beleidsmakers en platformen zorgvuldig nadenken over hun eigen optimalisaties, en niet alleen over de targetingkeuzes van de adverteerders,” schrijven de onderzoekers. “Alleen zo kan discriminatie bij online advertenties worden voorkomen.”