Feriez-vous confiance à ce robot s’il vous donnait un cookie ?

Nous confions des responsabilités toujours plus grandes aux robots et à l'intelligence artificielle, qui sont désormais en charge de nombreuses tâches au sein de nos vies. Dans ces conditions, une question surgit : avons-nous placé une confiance déraisonnable dans les aptitudes des machines ? Même si de nombreuses études montrent que les humains craignent davantage les robots que la mort elle-même, on sait que, paradoxalement, ils ne remettent pas en question les décisions prises par les machines, surtout en temps de crise.

Afin de tester les limites de la foi inspirée par la « bienveillance » de nos compagnons robotiques, la chercheuse Serena Booth a réalisé une étude visant à analyser les interactions homme-machine sur le campus de Harvard, pour une durée d'un mois. Le robot utilisé mesure environ 60 centimètres et est équipé d'une caméra ayant permis à Booth de le surveiller et le contrôler à distance, tandis qu'il approchait les étudiants de Harvard afin de leur demander de lui ouvrir les portes des bâtiments à accès restreint.

Au total, 108 étudiants ont interagi avec le robot et se sont généralement montrés de bonne volonté pour l'aider à infiltrer des dortoirs. Selon Booth, environ 19% des étudiants ont aidé le robot lorsque celui-ci s'est approché alors qu'ils étaient seuls. Lorsque le robot a approché des groupes d'étudiants, ils se sont exécutés 71% du temps. Enfin, sur les 108 étudiants, un seul a songé à lui demander s'il avait le droit de rentrer dans les dortoirs.

Pour évaluer jusqu'où les bons sentiments des étudiants vis-à-vis du robot pouvait mener, et jusqu'à quel point cela pouvait mettre en péril leur propose sécurité, Booth a déguisé le robot en petit livreur travaillant pour une société fictive appelée RobotGrub. Après l'avoir muni d'un paquet de cookies, Booth a été surprise de constater que cette fois-ci, le robot obtenait un accès aux bâtiments interdits 76% du temps.

Même si certains étudiants se sont tout de même posés des questions (l'un d'entre eux a même eu une attitude raisonnable : appeler la sécurité du campus), Booth explique qu'elle avait été sidérée par l'attitude des humains. Même ceux qui avaient été « menacés » par le robot lui ont finalement ouvert la porte.

« Autre fait intéressant : de nombreuses personnes se sont arrêtées pour prendre le robot en photo, » explique Booth. « Pire encore, l'un des participants à l'étude a admis qu'elle avait laissé entrer le robot dans le bâtiment parce qu'elle voulait le filmer pour Snapchat. »

Selon Booth, cette étude servira d'avertissement. Il faut devenir plus méfiant à l'égard des robots, aussi mignons soient-il, car ils qui peuvent être contrôlés par un individu peu scrupuleux, voire malveillant. Même si celui-ci était tout à fait inoffensif, il aurait pu contenir une bombe, et faire un carnage dans les dortoirs d'Harvard.

« Nous faisons trop confiance aux robots, tout en leur accordant une place toujours plus importante dans la société, » ajoute Booth. « À cause de cela, nous nous mettons nous-mêmes en danger. »