Google Maps et le bien commun

Il n’y a pas une minute de notre existence qui n’est pas menée par un algorithme, convient Hugues Bersini, codirecteur du Centre d’intelligence artificielle de l’Université libre de Bruxelles (IRIDIA). C’est d’ailleurs ce qu’on appelle la gouvernance algorithmique. Le chercheur ne s’en offusque pas, puisqu’il croit en la possibilité d’un « Big Brother bienveillant », où des logiciels bien conçus pourraient repenser les transports, optimiser la consommation énergétique et même diminuer le crime. « Mais il ne faut pas laisser la mainmise de ces algorithmes au secteur privé », prévient-il.

C’est pourtant ce qui se passe à l’heure actuelle. Par exemple, l’État construit les routes, mais Google décide comment elles sont utilisées, en analysant la localisation de ses millions d’utilisateurs et en leur indiquant le chemin à emprunter pour se rendre du point A au point B. « Le but de Google est de faire plaisir au consommateur en lui offrant le trajet le plus rapide possible », observe Hugues Bersini. Pour que la gouvernance algorithmique profite à toute la société, il ne suffit pas de viser ce seul objectif. Un logiciel qui guide les gens devrait aussi pouvoir choisir de rallonger leur déplacement pour désengorger les routes. Il devrait s’assurer que les conducteurs arrivent promptement à destination, mais d’une façon optimale pour préserver l’état des infrastructures.

Des algorithmes de ce genre existent dans la sphère publique. Aux urgences du CHUM, à Montréal, le logiciel SIURGE aide le personnel à trier les patients en fonction de leur état de santé. Le système n’est pas conçu pour le seul bonheur de la personne qui attend pour voir un médecin, mais pour prioriser les cas les plus urgents dans toute la salle d’attente.

« Lorsque les pouvoirs publics ont la haute main sur les algorithmes, leur mission est de maximiser le bien commun », note le codirecteur d’IRIDIA. Mais dans le monde algorithmique actuel, ce sont souvent les besoins des utilisateurs qui priment — et non ceux de la société —, car c’est à l’avantage des entreprises qui développent ces logiciels et profitent des retombées.

Freiner la tendance ne sera pas facile. Dans le cas de Google Maps, Hugues Bersini estime par exemple qu’un État pourrait créer son propre service concurrent, mais encore faudrait-il qu’il soit utilisé.

Les géants technos pourraient aussi être convaincus (ou contraints) de réduire les effets négatifs de leurs algorithmes, ne serait-ce qu’en proposant des possibilités aux clients : le chemin le plus court ou le chemin idéal pour la collectivité ? Quoique, devant la perspective de passer 30 minutes à faire du surplace sur un pont, rares sont ceux qui opteront pour un détour afin de favoriser le bien commun.

Les penseurs commencent à peine à prendre conscience des risques à long terme de la gouvernance algorithmique. Trouver des solutions à ces problèmes qui ne sont souvent pas encore définis sera l’un des grands défis des prochaines décennies.