Les robots-livreurs vont avoir besoin de votre gentillesse

S. A. Applin, Ph.D. est un anthropologue qui s'intéresse à la nature humaine, aux algorithmes, à l’intelligence artificielle et à l’automatisation dans le contexte des systèmes sociaux et de la sociabilité. Vous pouvez le suivre sur Twitter @anthropunk.

En avril, l'entreprise Starship Technologies a annoncé qu’elle allait lancer des « services de livraison par robot pour les campus ». Son objectif est de déployer au moins 1 000 robots-livreurs sur les « campus corporate et académiques en Europe et aux États-Unis » au cours de l’année à venir. C’est la dernière idée en vogue dans la vaste contrée des programmes de livraison automatisée venus d’entreprises de toutes les tailles.

Nous voilà face à une variation sur le thème de la perturbation civique, mais cette fois, plutôt que d’utiliser des appareils sur des terrains communaux plus vastes, le déploiement est destiné aux terrains communaux publics et privés appelés micro-communes. Ces micro-communes sont des espaces restreints et clairement délimités, au sein desquels s'appliquent des règles sociales et culturelles particulières. Une micro-commune peut être un campus universitaire ou corporate, un centre commercial, un hôpital, un palais des congrès…

Starship Technologies semble croire que les environnements qu'elle vise coopéreront totalement avec leurs robots-livreurs. De plus, elle part du principe qu'humains et robots évolueront de façon similaire sur toutes les micro-communes.

Spoiler : pas du tout.

En 2015, j’ai co-signé un article appelé Nouvelles technologies et convergence à usage mixte : comment humains et algorithmes s’adaptent les uns aux autres avec M.D. Fischer. Dans cet article, nous étudions les coups de pouce humains qui aident les algorithmes à fonctionner. Dans le cas des robots-livreurs, qui sont guidés par les algorithmes, l’interaction humaine collabore avec l’action du robot plutôt qu’avec son logiciel. Nous avons fait plusieurs constats.

Tout d’abord, l'arrivée de chaque nouvelle « technologie disruptive » suppose que la population s’ajustera rapidement à une présence hétérogène croissante. Cela signifie que les passants n'ont d'autre choix que s’adapter aux robots-livreurs immédiatement, même s'ils doivent déjà composer avec les e-bikes, les scooters sans docks, les nouvelles apps de réalité virtuelle ou augmentée et n’importe quelle nouveauté qui débarque sur les terrains communaux ou les micro-communes à l'instant où elle est lancée sur le marché.

Ensuite, la programmation rigide et l’adaptabilité limitée de l’algorithme (qui, dans ce cas, contrôle le robot) vont pousser le public à développer des solutions d'évitement face à ce nouvel élément perturbateur. Par conséquent, humains et robots passeront par une « période d’ajustement » au cours de laquelle ils essayent d'apprendre à partager un espace physique jusqu'alors vierge de tout robot.

Les entreprises proposant d’utiliser des robots-livreurs pensent que leurs appareils vont se fondre dans le système socio-technologique sans trop d’efforts de leur part. La tâche en incombera plutôt aux individus qui échangeront avec ces robots au quotidien au sein des micro-communes — même s’ils ne sont pas les destinataires des livraisons.

Où qu'ils soient déployés, les robots-livreurs auront besoin de beaucoup d'aide humaine pour fonctionner. Imaginons qu'ils aient à évoluer au quotidien sur les terrains et chemins d'un campus universitaire. Ces espaces de déplacement sont régis par des règles de navigation tacites qui permettent aux individus de se déplacer collectivement de façon efficace. Les piétons, voiturettes de golf et autres petits moyens de transport comme les vélos, scooters, rollers, Segways, hoverboards et tous les engins du futur emprunteront ces parcours — y compris les robots-livreurs. D'ailleurs, tous n'appartiendront pas forcément au même livreur. Plusieurs algorithmes de navigation pas forcément compatibles les uns avec les autres sont à prévoir.

Les robots-livreurs de Starship Technologies, tout comme leurs concurrents, s’arrêteront, seront coincés, entreront en collision avec des objets, dévieront de leur trajectoire… Si les humains ne sont pas là pour intercepter chaque robot en difficulté et le ramener sur le droit chemin, beaucoup deviendront vite inutiles. Ils pourraient aussi se renverser et blesser des gens en s’arrêtant, en créant des embouteillages ou en faisant des mouvements brusques. Beaucoup d'obstacles et de problèmes de sociabilité doivent encore être résolus avant que les drones de livraison ne deviennent réellement utiles.

Les robots devront également affronter la météo, les portes, les ascenseurs et bien d’autres défis physiques. Pour le moment, la technologie ne permet pas aux robots d’ouvrir les portes ou de contrôler les ascenseurs : pour qu'ils puissent se déplacer efficacement, ils auront besoin de l'aide des individus qui croisent leur route. Cela pourrait être des étudiants, des enseignants, des administrateurs, des concierges, des travailleurs, des visiteurs : en bref, n’importe qui.

Les cafouillages et le besoin d'aide humaine des robots pourraient bien perturber les mouvements et la plans des personnes résidant dans les micro-communes. Compter sur leur coopération est un pari risqué de la part de Starship Enterprises. Le pire, c'est que l'entreprise pourrait bien ne recevoir que des feedbacks positifs sur ses livreurs robotiques, et ne pas se rendre compte que leur succès dépend totalement de l’aide invisible de l’humain. Ces données incorrectes seront ensuite utilisées pour justifier le déploiement d'un plus grand nombre de robots, dont les lacunes devront être comblées par un plus grand nombre de bénévoles.

Tout cela ne tient que si le public est coopératif, ce qui n'est absolument pas garanti. Les robots peuvent être bot-nappés, brouillés, chevauchés, bousculés, lancés vers des excréments ou du chewing-gum, volés ou piégés et perturbés d'une myriade de façons typiquement humaines. La confiance aveugle de Starship Enterprises est incroyablement naïve. Comment croire qu'une armée d'amateurs de crowdsourcing attend les robots-livreurs ?

Le dernier point à souligner est l'un des plus importants : la culture. Les règles d’engagement culturel et social sont marquées et différentes d'un campus et d'un pays à l'autre. Les modèles d’engagement et de coopération, les bons samaritains et les fauteurs de troubles… Beaucoup de choses sont différentes selon les régions, et c'est d'ailleurs pour ça qu'un robot autonome suscitera des réactions différentes partout où il passe. Sa programmation devra donc lui permettre de s'adapter à toutes les règles de déplacement dans l’espace physique. En cas de myopie culturelle, les robots ne pourront rencontrer le succès que dans les contextes qui les ont vus naître. Ce serait dommage.