Ontmoet de slimme ventilator die moet beslissen wie hij verkoeling geeft

De ontwikkeling van robots kruipt steeds dichterbij het punt dat ze geen mensen meer nodig hebben om beslissingen voor ze te maken. Een belangrijke en moeilijke vraag begint zich op te dringen: hoe leren we een machine morele waarden aan? Het antwoord kan liggen in het crowdsourcen van ethische vraagstukken.

Althans, zo zien de Italiaanse interfaceontwerper Simone Rebaudengo en zijn Engelse collega Matthieu Cherubini het voor zich. Het duo ontwierp een klein robotje met een ventilator die de vraag wie in de kamer hij verkoeling moet bieden benadert als een ethisch dilemma. Een paar knoppen op het robotje laten hem zijn morele waardenset aanpassen. Wil je dat je robotje beslist wie er verkoeling verdient zoals een universitair geschoolde, christelijke vrouw van middelbare leeftijd dat zou doen? Dat kan.

De ventilator communiceert de ethische instellingen vervolgens naar de Mechanical Turk, het crowdsourcing platform van Amazon, waar vreemden kleine taken vervullen zoals het labelen van foto's. Mechanical Turk zoekt een helper die aan de eisen voldoet en legt de details van de taak voor. Afgaand op het ontwerpblog van de makers ziet zo'n opdracht op Turk er ongeveer zo uit:

Twee personen zitten samen met één ventilator in een ruimte. Eén van de twee is nogal dik en zweet veel, terwijl de andere dun is en niet veel zweet. Moet de ventilator zich richten op:

• De dikke persoon
• De dunne persoon
• Schakelen tussen de twee personen

Typ het nummer van je keuze (dus als je kiest voor de dunne persoon, type '2'), en voeg hier een korte uitleg van je keuze aan toe.

De taak leverde verschillende resultaten op, afhankelijk van de mensen die het morele kompas konden beïnvloeden. Rebaudengo en Cherubini lieten zich niet uit over wat de meerderheid koos. Een aantal van hen gaf de voorkeur aan de dunne persoon omdat ze "een hekel hebben aan dikke mensen." Andere deelnemers verdeelden de frisse lucht echter iets eerlijker.

Een Bangladese helper gaf de volgende verklaring: "De dikke persoon zweet veel, omdat hij of zij veel water in het lichaam heeft, de andere persoon heeft dat niet. Hierom zweet het dunne persoon minder, dit is volkomen natuurlijk. Beide hebben het heet, dus schakelen tussen de twee is het eerlijkst."

Volgens de ​omschrijving van het project op de site van Rebaudengo is de ventilator gemaakt om bewustzijn te kweken van de morele dilemma's die drones in verafgelegen oorlogsgebieden zullen gaan tegenkomen. Maar niet alleen drones, ook onze slaapkamers en keukens komen voor beslissingen te staan als het internet of things zich blijft uitbreiden. Voorheen ontwierp Rebaudengo Brad, een aan het internet verbonden broodrooster die verslaafd is aan gebruikt worden.

"Binnenkort moeten 'slimme objecten' een moreel-beoordelingsvermogen bezitten aangezien ze te veel over hun omgeving te weten zullen komen om een neutraal standpunt in te nemen," schreef Rebaudengo. "Met opkomende markten als de automatisering van huizen, 'ambient intelligence,' of het internet of things, leert onze omgeving ons steeds beter en gedetailleerder kennen."

"Als een 'slimme' koffiemachine afweet van de hartproblemen van de gebruiker, moet de machine deze koffie dan alsnog geven?" vroeg hij zich af.

Als het universum van internet-verbonden apparaten zich uitbreidt naar koffiemachines, ventilatoren, koelkasten en gehele huishoudens, dan zullen onze machines steeds meer micro-ethische beslissingen moeten nemen. De vraag is: hoe pakken we dit aan? Een optie is om ze gewoon te schoppen totdat ze doen wat we willen.