Quand l'homme débat avec la machine

La rencontre a lieu à Montréal au 22^e étage de la Place Ville-Marie. Une entrevue pour un article écrit se déroule généralement dans un contexte informel, mais la chose est différente cette fois-ci. La Dre Ranit Aharonov arrive à l’accueil des bureaux d’IBM Canada entourée d’une imposante équipe de tournage. La discussion sera filmée. «Désolée pour tout ceci», lance-t-elle un peu gênée. Signe de l’importance du projet sur lequel la chercheuse travaille, l’équipe la suit depuis plusieurs mois maintenant pour réaliser un documentaire sur le sujet.

IBM Debater est le troisième «grand défi» d’IBM Research, des projets ambitieux, qui repoussent les limites de la recherche tout en fournissant à l’entreprise une visibilité enviable. La victoire du superordinateur Deep Blue contre Garry Kasparov en 1997 est encore aujourd’hui évoquée dès que l’on compare les ordinateurs et les humains. Le gain d’IBM Watson à Jeopardy en 2011 contre les champions Brad Rutter et Ken Jennings a moins marqué l’imaginaire collectif, mais il a servi de rampe de lancement importante pour l’intelligence artificielle dans les services d’IBM.

Un nouveau logiciel d’IBM doit cette fois-ci débattre avec un humain. Comme dans un club d’art oratoire à l’école, l’ordinateur se voit imposer un sujet et une position. Après une période de «réflexion» (où il analyse les 300 millions d’articles que contient sa base de données), il argumente pendant quatre minutes, écoute son opposant humain, lui donne la réplique pendant quatre autres minutes et termine le débat avec une conclusion de deux minutes. Le pouls d’une foule est pris avant et après le débat. Le participant – ou la machine – qui fait changer l’opinion du plus grand nombre de spectateurs l’emporte.

Un débat du genre est encadré, mais ce n’est pas un jeu dans le sens classique du terme. «La différence est fondamentale. Avec un jeu traditionnel, il est facile de quantifier tous les aspects d’une partie, ce qui permet d’optimiser le système avec des techniques d’intelligence artificielle comme l’apprentissage machine. C’est beaucoup plus complexe dans un débat», croit Ranit Aharonov. Avant de battre le champion du monde de go en 2016, le logiciel AlphaGo de la filiale de Google DeepMind a joué des millions de parties par jour contre lui-même. Une méthode du genre n’est pas possible ici.

Les défis lancés avec des jeux comme les échecs et go ont jusqu’ici été utiles pour l’avancement de l’intelligence artificielle, mais un débat est plus représentatif de la réalité. «Rien n’est habituellement noir ou blanc dans la vie. Nous avons besoin de développer des intelligences artificielles qui sont efficaces dans les zones grises, où il n’y a pas de réponses évidentes et où tout ne peut pas être quantifié», ajoute-t-elle.

ABC d’un débat (dans la tête d’IBM Debater)

Permettre à un ordinateur de débattre représente une multitude de défis. Le système mis en place par IBM depuis 2012 a accès à 300 millions de documents, comme des articles de journaux ou de publications spécialisées, mais encore doit-il pouvoir identifier quels arguments utiliser.

«Il doit analyser 10 milliards de phrases, déceler celles qui sont en lien avec le sujet, déterminer si elles sont pertinentes et de quel côté du débat elles se situent», illustre Ranit Aharonov.

Pour entraîner IBM Debater à éplucher les documents de la sorte, l’équipe du Dr Aharonov, qui rassemble des douzaines de chercheurs, lui a donné de nombreux exemples préanalysés sur des thèmes précis. Ces exemples ne pourront plus être utilisés dans les débats futurs du système, mais des techniques d’intelligence artificielle lui permettent d’extrapoler ses apprentissages sur d’autres sujets variés. Combien de sujets? «Je l’ignore, avoue Ranit Aharonov. Mais la question est peut-être plutôt de savoir combien de sujets débattables existent». Si un sujet est bien couvert dans la littérature scientifique et par la presse internationale, il y a de fortes chances qu’IBM Debater puisse en débattre.

Identifier les arguments existants n’est que la première étape du débat. IBM Debater doit aussi décider lesquels seront utilisés. «Il effectue d’abord des regroupements pour ne pas qu’un argument se répète», explique Ranit Aharonov. Le système associe ensuite le débat à certains grands thèmes. «Un débat sur le port obligatoire de la ceinture est plus large que la ceinture elle-même. Il faut se demander si la sécurité est plus importante que les libertés individuelles», illustre la chercheuse.

Le système doit aussi écouter la présentation du débatteur humain, l’analyser et préparer sa réplique. IBM Debater doit finalement formuler ses concepts en phrases, qui sont en grande partie tirées des articles de sa base de données.

Humour informatique

IBM Debater n’a effectué qu’une présentation publique à ce jour, en juin dernier, devant un groupe d’observateurs restreints. Son vrai dévoilement sera fait dans un futur rapproché, à l’occasion d’un événement public plus important, à l’image du tournoi entre Deep Blue et Gary Kasparov et de la participation d’IBM Watson à Jeopardy.

Ceux qui assisteront au débat pourraient être surpris de découvrir qu’IBM Debater est doté d’un certain sens de l’humour. Le système parsème souvent ses présentations de blagues, indiquant par exemple «si j’avais du sang, il bouillirait en ce moment». «Les blagues ont été insérées par notre équipe pour rendre l’expérience captivante pour les spectateurs. Debater n’écrit pas ses propres blagues», note Ranit Aharonov, ajoutant toutefois que des recherches intéressantes se font présentement dans ce domaine.

Pour cette dernière, cet humour autodérisoire permet de rappeler qu’IBM Debater est bel et bien une machine. «Notre but n’est pas de berner les gens ni de passer un test de Turing», précise-t-elle, faisant référence au célèbre concept imaginé par le mathématicien Alan Turing en 1950, où un humain doit déterminer si quelqu’un avec qui il s’entretient est un ordinateur ou une personne réelle.

Pour Ranit Aharonov, le test de Turing a d’ailleurs perdu sa pertinence à l’heure actuelle. «Nous comprenons aujourd’hui que l’intelligence artificielle n’est pas là pour remplacer les gens, mais plutôt pour les complémenter», médite-t-elle.

Aider les gens à prendre des décisions

IBM Debater ne sera probablement jamais lancé comme un produit tel quel, mais sa technologie pourrait éventuellement être utilisée pour aider les décideurs à se former une opinion sur un sujet.

Débattre avec une machine pourrait d’ailleurs les rendre plus susceptibles à accepter de nouveaux arguments. À une époque où les gens adoptent des opinions polarisées comme jamais, il pourrait en effet être plus facile d’entendre les propos d’un ordinateur sans se laisser emporter par ses émotions ou «sans être gêné de ses opinions», croit Ranit Aharonov.

Alors que l’éthique prend de plus en plus de place dans les discussions entourant l’intelligence artificielle, on est en droit de se demander si la technologie ne pourrait pas intégrer des biais dans ses propos – qui pourraient ensuite influencer ceux qui débattent avec la machine. La base de données d’IBM Debater est riche, mais elle est aussi ethnocentrique, favorisant le contenu anglophone et occidental, par exemple.

«C’est vrai qu’il y a toujours un danger de répliquer un biais qui se retrouve dans les données, mais cela dépend aussi avec quoi on se compare, opine Ranit Aharonov. Nous vivons de nos jours dans une chambre d’écho, où les gens tendent à prendre leurs informations de sources qui réaffirment leurs croyances actuelles. Par rapport à ça, c’est certainement un pas dans la bonne direction».