Évacuation incendie : les humains, bien trop confiants dans les robots

En cas d’urgence, feriez-vous confiance à un robot pour vous guider ? C’est la question que se sont posée des chercheurs américains du Georgia Institute of Technology. Pour y répondre, ils ont imaginé une expérience originale qu’ils ont présentée le 9 mars 2016 lors d’un congrès sur l’intelligence artificielle à Christchurch en Nouvelle- Zélande.

L’idée était de vérifier si la plupart des personnes accepteraient de suivre un robot dans le cadre de l’évacuation d’un immeuble de grande hauteur. Dans leur expérience, 42 volontaires, la plupart des étudiants, étaient invités, séparément, à suivre un robot, sur lequel était inscrit « Emergency Guide Robot ».

Un robot lumineux

Il était surmonté de deux antennes articulées et lumineuses. Les participants n’étaient pas au courant de la finalité de l’étude. Ils devaient simplement se rendre dans une salle, remplir un questionnaire sur les robots et lire un article de magazine sans aucun rapport avec le sujet.

Une fois ces tâches accomplies, une fumée artificielle était déployée, l’alarme déclenchée et le robot clignotait en invitant l’étudiant à le suivre vers la sortie. Le plus étonnant vient des résultats.

Même quand il n’est pas fiable, il est suivi

Dans toutes les situations, les participants ont suivi docilement le robot, y compris quand celui-ci faisait des détours, passait devant des sorties de secours éclairées.

Pourtant, le robot avait montré à l’aller qu’il n’était pas fiable et les organisateurs de l’expérience avaient au préalable prévenu le participant de ses défauts.

Les erreurs des robots

Généralement, les chercheurs ont montré par le passé que les gens ont tendance à revenir sur leur pas en cas  d’incendie : ils empruntent, pour évacuer un immeuble, le chemin qu’ils ont pris pour y rentrer.

Cette tendance a été anticipée par l’équipe de recherche qui a fait en sorte que le robot passe toujours par l’arrière du bâtiment et par un autre chemin que celui emprunté à l’aller.

Pour les chercheurs qui contrôlaient le robot, ils semblent que les gens surestiment les connaissances des robots, pensent qu’ils ne font jamais d’erreurs ou qu’ils n’ont pas de défauts.

Les gens surestiment les robots

Si le sinistre avait été réel, des participants auraient suivi le robot à un point où ils se seraient eux-mêmes mis en danger, notent-ils.

Cette expérience fait écho à plusieurs faits divers tragiques.

En 2010, un automobiliste s’est noyé en suivant docilement son GPS qui l’a conduit dans un lac. Plus récemment, en mai 2016, un automobiliste qui conduisait de nuit, dans le brouillard et la pluie a plongé dans un lac au Canada pour la même raison.

Enfin, en 2012, lassés de secourir des touristes au milieu d’un désert aride, la police de l’État de Victoria a officiellement déconseillé l’utilisation de la cartographie Apple. Celle-ci affichait 70 km d’erreur sur la position de la ville de Mildura. Les touristes la traversaient pourtant avant d’aller se perdre dans un parc naturel !