Retranscription de l’épisode 266 de Podcast Science. Un immense merci à Sabine Piquard et à Léa Vitrac pour l’énorme boulot que ça a représenté !

Nicolas: Informatique, travail, intelligence artificielle. Ce soir, on reçoit 2 invités de marque pour aborder tous ces sujets et essayer d’imaginer ce que peut être notre avenir, rien que ça. Vous êtes dans Podcast Science et c’est l’épisode 266, bienvenue.

(Générique)

N : Donc bonsoir à tous, petit tour de table physique, pour une fois on est tous présent au même endroit et il n’y a personne sur l’Internet mondial, ou du moins on va faire parler personne parce qu’on est pas capable de les écouter. Donc autour de la table, d’abord,  les habitués : on a Robin, salut Robin.

Robin : Salut.

N : Et après, on a, non pas 2 invités finalement mais 3 invités. On a d’abord Gilles Dowek, bonjour Gilles.

Gilles Dowek : Bonjour.

N : On discutera un peu de ce qu’ils font chacun tout à l’heure. On a Serge Abitboul, j’espère que je l’ai bien prononcé.

Serge Abitboul : Bonjour, oui très bien prononcé pour une fois.

N : Et Laure du Palais de la découverte dont je ne sais pas pourquoi elle est là, elle posera peut être des questions, pour pas l’intimider, mais [rires] pour participer, pour éventuellement poser des questions et peut être plus, qui sait… Ce soir, un sujet très vaste. Nous sommes avec deux spécialistes de l’informatique. Je vais les laisser parler très rapidement pour qu’ils nous expliquent en quoi consiste leur métier et leur quotidien parce que je pense qu’ils l’expliqueront mieux que moi. Nous allons essayer d’imaginer ce qu’est l’avenir de l’informatique, l’informatique aujourd’hui, le travail… Et comme ça s’annonce être une émission longue et dense, je propose de commencer tout de suite et que vous commenciez par nous raconter tous les deux ce que vous faites dans la vie.

Serge Abitboul: Qu’est-ce que je fais dans la vie ? Alors dans la vie, je suis chercheur en informatique à l’INRIA, qui est un centre en recherche informatique du gouvernement, et prof à l’ENS Cachan. Je vais commencer par prof, parce que c’est plus facile à expliquer. J’ai des élèves qui sont très sympas, très studieux, des élèves parfaits, saufs quelques glandeux bien sûr mais ça c’est normal. Et donc j’essaie de leur transmettre ce que je connais de l’informatique dans des cours, ou éventuellement pour les doctorants dans des travaux de recherches.  A part ça, je suis chercheur. Alors là on est dans le dur, c’est compliqué à expliquer et je ne sais pas très bien le faire. Je prends des sujets qui ont trait, dans mon cas, au logiciel. J’essaie de comprendre comment faire de meilleurs logiciels, des logiciels un peu nouveaux, un peu révolutionnaires. Le mieux c’est peut-être de prendre un exemple. En ce moment donc, on travaille avec des étudiants à essayer de récupérer toutes les données d’une personne (les données de votre téléphone, les données de vos déplacements, les données bancaires) puis de les intégrer, de trouver des liens entre, par exemple, le mail que vous avez reçu hier et votre déplacement aujourd’hui. Donc c’est un peu d’intelligence artificielle, et beaucoup de bases de connaissances et de bases de données. On essaie de démontrer des choses, de faire des logiciels.  Je reconnais que j’ai très mal expliqué, mais c’est parce que je ne sais pas le faire. Ca fait des années que je fais ça, et j’aime mieux expliquer prof parce que ça, tout le monde comprend.

N: C’est vraiment de la programmation ou ce sont des démonstrations ? Est-ce que c’est de l’informatique sur un tableau noir ?

SA : L’informatique c’est rarement au tableau noir, ça se marie mal avec le terme « tableau noir ».On a de nouvelles idées, qui peuvent se concrétiser par des théorèmes mathématiques, parfois par des logiciels qu’on va essayer, développer, pour lesquels on va faire des démonstrateurs, des prototypes. Ça peut aller (et ça m’est arrivé une fois dans ma carrière) d’aller jusqu’à créer une boîte et vendre le logiciel. Mais en général je m’arrête avant parce que je suis un peu fainéant. Mais on peut aller jusqu’à faire des démonstrateurs, tout à fait. L’informatique c’est quand même aussi une technique, il faut être un peu dans le concret, c’est rarement que du tableau noir.

N: D’accord. Et Gilles ?

Gilles Dowek: Alors comme les Dupond et Dupont, je suis aussi chercheur à l’INRIA, et je suis aussi enseignant à l’ENS Cachan. En revanche nos activités de recherche sont assez différentes. Serge a expliqué qu’il s’intéressait beaucoup aux données, aux bases de données et au web. Moi ce qui m’intéresse c’est le développement de logiciels, et en particulier comment développer des logiciels sans bug. Les bugs sont parfois des choses qui sont peu embêtantes. Souvent quand un logiciel bug, il suffit de le relancer et tout va bien. Mais il y a trois domaines dans lesquels les bugs posent des problèmes beaucoup plus embêtants : les transports, la santé et l’énergie. Quand il y a un bug dans une centrale nucléaire et que du combustible est répandu, quand un avion s’écrase parce qu’il y avait un bug dans un pilote automatique ou quand un robot chirurgien doit opérer une personne et qu’au lieu de lui couper la jambe droite, il lui coupe la jambe gauche, ce sont des bugs qui sont vraiment très embêtants, et qui peuvent entraîner des dizaines voire des centaines de morts. Il y a des techniques que nous essayons de développer pour programmer sans bug. Disons que ça, c’est l’aspect concret de mon travail de recherche. Du côté plus abstrait et plus conceptuel, ce qui m’intéresse c’est la manière dont l’informatique a transformé la notion de langage. Alors le langage de programmation bien entendu, mais également le langage logique puisque cette question de bugs est très lié à la logique. On n’avait pas inventé beaucoup de langages jusqu’au début du 20eme siècle, et avec l’explosion de l’informatique il y a eu une explosion du nombre de langages qu’on a inventés. Une partie de mon travail de recherche concerne cette notion ancienne mais renouvelée par l’informatique, la notion de langage.

N: Quand tu dis ancienne, je n’ai pas l’impression qu’il y ait beaucoup de langages qui se créent qui ne soient pas des langages informatiques. Je me trompe ?

GD : Alors si malgré tout. Par exemple quand un compositeur écrit une pièce et qu’ensuite un interprète, un instrumentiste la joue, eh bien une communication s’établit entre le compositeur et l’instrumentiste, même si le compositeur est mort depuis 300 ou 400 ans. On sait qu’on ne peut pas écrire une pièce de musique en disant : « il faudrait jouer un do, ensuite il faudrait jouer un ré, ensuite un mi ». On a besoin d’un langage particulier pour ça. Et donc au XIIIème siècle, on a commencé à inventer le langage que nous connaissons aujourd’hui et qui consiste en une portée formée de 5 traits, une clé, des altérations etc… C’est un exemple de langage qui a existé longtemps avant l’informatique. Et puis de la même manière, le langage de l’algèbre est apparu au XVIème siècle avec les x et les y. Ils sont assez caractéristiques. Quand on ouvre un livre de mathématiques, un livre d’algèbre surtout, la première chose qu’on voit c’est qu’il y a des équations avec des inconnues dedans. Ça c’est un langage qui est apparu au XVIème siècle. Alors ce sont deux exemples, mais avec l’informatique effectivement on est passé de quelques langages, peut-être quelques dizaines, à plusieurs milliers. Ça nous amène à nous poser des questions sur la notion de langage en général. Qu’est-ce qui distingue par exemple un langage de programmation d’un autre langage ? Est-ce que tous les langages sont des langages de programmation ? Voilà, c’est ce genre de questions qui nous occupent toute la journée.

N: D’accord, on voit un peu mieux, et j’espère qu’on verra encore plus précisément par la suite. Juste sur les langages on va faire un petit lien alors il y a beaucoup de dossiers de Podcast Science où on a déjà parlé un peu d’algorithme, entre autre l’épisode 82, ça nous rajeunit pas, où on a parlé des algorithmes de manière très générale et on a dit qu’à partir du moment où on pouvait programmer une machine de Turing, tous les langages étaient équivalents. Mais malgré tout les informaticiens aiment bien avoir des langages différents,  ce qu’on a pas trop abordé. Alors je ne sais pas si l’un de vous deux veut parler justement de pourquoi il y a des langages différents alors que c’est pour faire la même chose finalement.

SA : Il y a deux choses dans un langage, la première chose c’est : “qu’est-ce que vous pouvez exprimer, qu’est-ce que vous pouvez dire, quelles sont les commandes que vous pouvez faire, quels sont les programmes ou les algorithmes que vous pouvez décrire”, c’est une première chose. Il y a un deuxième chose qui est très importante aussi, c’est quelle est la complexité, quelle est la difficulté pour un être humain, ou quelle est la facilité, c’est plutôt ça qu’on vise, pour exprimer cette question, pour écrire votre algorithme. Alors évidemment ce qu’on a fait beaucoup c’est essayer de trouver des langages, qui d’une certaine façon, permettaient d’exprimer les choses de façon beaucoup plus simple. Alors je vais prendre un exemple dans le traitement de données parce que c’est le sujet que je connais le mieux. Dans les années 60-70, on avait déjà des bases de données et puis on allait chercher des données dedans, il fallait être un espèce de gourou et puis écrire des codes qui étaient très compliqués. Alors quand vous écrivez un code très compliqué, ça vous prend beaucoup de temps, il faut être très compétent, vous pouvez faire pleins d’erreurs, les fameuses bugs dont parlait Gilles. Mais par contre les gens faisaient ça pendant des journées et des journées, vous aviez des bataillons de personnes en train d’écrire des programmes très compliqués pour aller chercher des données. Et puis y a un type qui s’appelait Ted Codd qui a proposé d’utiliser un langage qui était beaucoup plus simple, on dit déclaratif, qui vous permettait de décrire ce que vous vouliez plutôt que d’écrire toutes les étapes des détails de calcul. Et à partir de là, on a gagné énormément, de pleins de façons différentes. La principale étant la productivité d’un programmeur. C’est-à-dire qu’au lieu de mettre une semaine à écrire une petite requête dont avait besoin pour le travail, on faisait ça en un quart d’heure. On a gagné aussi en niveau de compétences qui était exigé de ces gens là : à peu près n’importe qui était capable d’écrire une de ces requêtes alors que le même programme dans les langages des années 60-70, c’était des galères. Du coup on a fait moins d’erreurs etc. Donc il y a une question de “c’est la même chose” en fait à l’arrivée la machine va calculer exactement la même chose. Mais on s’est mis dans un langage, on appelle ça des langages de plus haut niveau, et qui sont plus près d’un être humain et c’est ça qui fait toute la différence. Si vous regardez bien le langage c’est quoi ? C’est de la médiation. Alors Laure devrait bien écouter parce que c’est de la médiation ton travail. Donc c’est de la médiation entre un être humain et puis une machine et des disques, un processeur etc. Le langage c’est qui va nous permettre de commander la machine, de commander les disques, de commander les réseaux partout dans le monde. Et essentiellement ce qu’on voudrait c’est un langage qui soit beaucoup plus proche de l’humain et puis c’est l’ordinateur qui va traduire ça. On parle alors de compilation qui va traduire ça dans des suites d’instructions dégueulasses, des instructions que vous avez pas envie de lire et qui vont être réalisées par la machine.

GD : Oui alors ce que Serge vient d’illustrer c’est un point qu’on essaye de développer dans le livre qu’on est en train d’essayer d’écrire ensemble, enfin je pense qu’on va l’écrire mais il faudrait qu’on le termine un jour, qui est le fait qu’en informatique, une chose importante c’est de voir le même phénomène, le même objet, avec des degrés d’abstractions très divers. Donc effectivement, quand on dit “tous les langages sont équivalents” parce qu’ils sont tous équivalents au langage des machines de Turing, c’est quelque chose qui est vrai. Mais par exemple, il y a une manière de voir les problèmes où on se dit qu’écrire un programme de dix lignes et écrire un programme d’un million de lignes c’est exactement pareil, l’important c’est qu’il existe un programme qui résolve un certain problème. Et donc ça c’est une manière de voir les choses qui est importante, qui a toute sa légitimité, mais qui n’est pas la seule. Il y a un autre moment où on doit penser à un autre niveau, où on pense les choses de manière un peu plus concrètes et où on se dit effectivement si on peut développer quelque chose en cinq minutes, c’est mieux que le développer en une semaine. Non pas tant qu’on est réticent à utiliser une semaine pour développer un programme, mais c’est que si on peut développer en cinq minutes ce qu’on pouvait développer avant en une semaine, ça veut dire qu’on va pouvoir développer en une semaine des choses beaucoup plus intéressantes que ce qu’on était capable de faire avant. Donc c’est une des particularités, des difficultés un peu d’entrer dans la manière dont pensent les informaticiens  dans ce qu’on appelle la pensée informatique, c’est qu’il faut savoir comme ça de temps en temps de changer de point de vue. Et il y a des moments où une ligne, un million de lignes, c’est pareil, et il y a des moments où c’est très différent.

N: Alors justement on parlait de comment pensaient les informaticiens, en effet dans Podcast Science pour une fois on a pas lu le livre des invités avant qu’ils viennent parce qu’il n’est pas encore sorti, et on vous préviendra quand il sera sorti, il y a un passage qui est sur comment pensent les informaticiens. C’est un peu pour ça que je vous avais posé cette question de langage parce que quelque chose qui est peut être méconnu, surtout parce qu’on a un peu cette idée de quel langage vous savez parler quand on programme, en fait les informaticiens ont tendance à choisir leur langage en fonction de ce qu’ils ont à faire. Alors qu’on choisit pas vraiment sa langue en fonction de ce qu’on a à dire.

GD : Oui tout à fait. Alors quand on est polyglotte, on peut parler deux langues étrangères, on peut parler douze langues étrangères, mais apprendre une langue est quelque chose de difficile. En revanche quand on est informaticien, la question n’est pas de savoir si on connaît un langage ou deux langages ou dix langages. La vraie question c’est qu’il faut être capable de penser dans plusieurs langages différents, de passer d’un langage à l’autre, de traduire d’un langage vers un autre. Donc en fait les langages en informatique jouent un rôle assez différent des langues vernaculaires. C’est pas vraiment la même chose. Il y a des points communs bien sur, c’est des outils qui servent à s’exprimer, il y a des mots, on forme des phrases avec ça. Mais par exemple dans un langage informatique, il y a en général beaucoup moins de mots que dans une langue, la grammaire est beaucoup plus simple et donc du coup c’est beaucoup plus facile à apprendre. En revanche être informaticien, ça veut dire non pas connaitre Python, Java etc, mais ça veut dire avoir les capacités d’apprendre un nouveau langage, que ça soit un langage de programmation ou un langage de spécifications, un langage de requêtes, ça fait partie un petit peu de la vie quotidienne d’apprendre de nouveaux langages.

N: Alors on parlait de médiation à l’instant, on s’est dit que c’était assez important en vous recevant, d’avoir une bonne partie vulgarisation, éducation, médiation. Alors je ne sais pas quel terme on va utiliser, il y a un peu tous les goûts et c’est le grand débat ici de savoir quel terme utiliser. Vous êtes un peu connus tous les deux sur le fait d’essayer de vulgariser, d’expliquer l’informatique. Pourquoi c’est important ? Pourquoi on a besoin d’expliquer l’informatique de nos jours ?

SA : Je pense qu’on pourrait parler tous les deux pendant trois heures là-dessus, parce que là t’es tombé sur notre dada. Alors, en disant ça un peu rapidement, j’ai l’impression d’avoir répété ça des dizaines de fois, c’est un peu fatiguant. L’éducation qu’on a eu quand on est allé à l’école, et l’éducation qu’on offre en ce moment encore en grande partie à l’école, c’est une éducation qui était faite pour expliquer en gros le monde au début du XXème siècle. Grosso modo, on explique la physique qui permet d’expliquer ce monde là, la chimie, tout ça, la biologie, c’était la première moitié du XXème. Or il y a un truc qui est arrivé, que tout le monde a pu remarquer, c’est qu’est arrivé l’informatique, est arrivé le monde numérique, qui a changé complètement la donne. Donc pour comprendre le monde dans lequel on vit aujourd’hui, il faut comprendre des trucs du genre “comment fonctionne mon téléphone, qu’est ce que c’est que le cloud”, peut être “comment fonctionne un vote électronique”. Il y a pleins de questions nouvelles qu’il est impossible de comprendre avec la physique, la biologie, la chimie qu’on a appris à l’école. Donc on a une population qui vit dans un monde qui ne correspond pas à ce qu’elle a appris à l’école et c’est quand même un peu catastrophique. D’où notre intérêt tous les deux en tant qu’informaticiens, pour d’une part, que l’enseignement de l’informatique rentre dans l’école, rentre à l’école primaire, rentre au collège, rentre au lycée, ce qui est en train de se faire heureusement , mais ça prend du temps, mais bon c’est important. Mais je pense aussi, on ne va pas passer en profits et pertes toutes les personnes qui sont sorties de l’école déjà puisque c’est quand même une majorité des gens. Et pour ces gens là, la façon de se remettre à niveau, c’est d’essayer de comprendre un peu ce qu’il se passe, de suivre des podcast scientifiques, d’aller lire des bouquins, de se former, d’apprendre à programmer. Il y a Obama qui nous expliquait que tout le monde pouvait apprendre à programmer, les gosses, les personnes âgées, tout le monde pouvait apprendre à programmer.

GD : Et même, sans avoir écrit une ligne de code.

N: Là on a une réaction dans la chatroom qui dit : “encore faut-il être curieux, tout le monde n’est pas curieux de savoir comment fonctionne le monde qui l’entoure”

SA : C’est plus qu’être curieux, c’est être capable de maîtriser le monde qui t’entoure. C’est vrai que moi, je me pose la question toujours, est ce que j’ai envie de savoir comment fonctionne mon téléphone, mécaniquement, électroniquement. Tout ça je m’en fous un peu. Par contre, être capable de changer un peu le site web que j’édite pour écrire, je ne sais pas, trois lignes de php/MySQL parce qu’il y a un truc que j’aimerais bien qu’il fasse et qu’il ne fait pas, ben moi je pense qu’il y a des choses comme ça qui sont importantes pour ne pas être juste esclave du monde dans lequel on est.

GD : Alors je crois que c’est tout à fait vrai, il est tout à fait possible de traverser la vie sans rencontrer la connaissance, sans rencontrer la beauté, sans rencontrer l’amour. Bon c’est un choix de vie je veux dire, chacun fait ce qu’il veut et si des gens n’ont pas envie d’apprendre des choses, qu’ils n’ont pas de curiosité vers le monde qui les entoure, bon c’est eux que ça regarde. Moi je peux juste leur dire que s’ils font un petit effort de curiosité, ils vont sans doute beaucoup plus s’amuser. Mais bon après chacun est libre, on est pas là pour porter des jugements sur la manière dont vivent les gens.

N: Je pense que ça rejoint, au-delà de juste pas forcément être curieux, je pense que ça rejoint ce que disait Serge à l’instant : c’est autant comprendre exactement le fonctionnement électronique d’un téléphone ça paraît pas très important pour tout le monde ici, autant apprendre à programmer, là on a passé la barrière de l’important donc il doit y avoir un truc en plus.

GD : Oui, on est quand même obligé de dire que le développement de l’informatique, le développement des algorithmes mais également le développement des ordinateurs etc. change pas mal de choses. Ça change pas juste la manière dont on achète un ticket de métro, ou juste la manière dont on envoie une carte postale. Ça change vraiment notre rapport à ce qu’est le travail.  Par exemple, même la notion d’ami et la notion d’ami a changé. Alors la notion d’amis a tout le temps changé au cours de l’histoire, le mot ami a pris beaucoup de significations au cours de l’histoire mais c’est vrai que les réseaux sociaux en récupérant ce mot “ami” lui ont donné une nouvelle signification. On voit bien qu’aujourd’hui les institutions qui nous gouvernent, enfin que l’on gouverne plus exactement, sont en certaine partie obsolètes et c’est aussi beaucoup lié au fait que les gens échangent beaucoup plus d’informations entre eux qu’avant. La notion de propriété a changé également. La question de qu’est ce que c’est l’intelligence est également renouvelée. Donc il est un petit peu réducteur de dire “apprendre l’informatique”, “apprendre à programmer”, c’est juste savoir comment fonctionne un grille-pain ou comment fonctionne un moulin à café. Cela dit quand on commence à s’y intéresser, comment fonctionne un moulin à café, comment fonctionne un grille-pain, ça peut être aussi passionnant. Je crois qu’il faut à la fois dire qu’il y a vraiment des questions fondamentales qui se posent, des questions qui interrogent notre humanité vraiment et que ça, ça devrait intéresser beaucoup de gens, pas nécessairement tout le monde, mais au moins beaucoup de gens. Mais également, il y a un petit dédain, on entend que c’est pas très important de savoir comment fonctionne un grille-pain, mais si c’est passionnant.

N: Du coup, on va enchainer justement sur cet intérêt et parler un peu du travail parce qu’on entend beaucoup de choses là-dessus, souvent d’inspiration très américaine, très Silicon Valley. Donc j’image que vous allez avoir des choses un peu différentes à raconter sur le sujet. En particulier, il y a de plus en plus de types qui disent : “les algorithmes vont tous nous mettre au chômage”. Qu’est-ce qu’il en est ? Est-ce que c’est un peu plus modéré ?

GD : Alors les algorithmes vont tous nous mettre au chômage, et c’est tant mieux.

N: Et c’est tant mieux.

GD : Il faut quand même se souvenir que le travail n’est pas un but dans l’existence et que passer des heures, des mois, des années à pousser des wagonnets au fond de la mine, n’est pas un objectif que l’humanité devrait se fixer. Ce qui est important c’est que tout le monde puisse profiter des biens, des services, de la richesse qu’on est capable de créer. Et on vit dans un monde dans lequel, par le passé, pour créer cette richesse, il y avait besoin de beaucoup de gens qui travaillaient et donc c’était un petit peu en fonction du travail qu’ils faisaient qu’on leur donnait un salaire qui leur permettait d’accéder à ces richesses. On a de bonnes raisons de penser que le monde dans lequel on vit, et surtout le monde vers lequel on va, ne fonctionnera comme ça. En caricaturant, parce que ça va pas arriver en une minute et ça va sans doute pas arriver complètement, on pourrait imaginer un monde dans lequel, et bien, les êtres humains se reposent, les êtres humains auront des activités intéressantes, auront des activités réjouissantes et dans lequel les machines fabriquent des objets. Alors quand je dis “les machines fabriquent des objets”, c’est pas uniquement “les machines fabriquent des boîtes de conserve” ou “fabriquent des objets manufacturés” ou “fabriquent des fers à repasser” parce que ça c’est déjà le cas, mais c’est également des machines remplacent des métiers qu’on imaginait pas remplaçable par des machines. Le métier de chercheur par exemple, il est grandement transformé par le fait qu’on a des ordinateurs qui font des calculs à notre place. Le métier d’avocat, le métier d’enseignant, le métier de médecin, tout ça sont des métiers qui ne seront pas remplacés par des ordinateurs, mais où il y aura moins besoin de médecins parce que les ordinateurs vont pouvoir faire une partie du travail des médecins, comme par exemple interpréter des radios ou trouver des diagnostics, ou proposer des diagnostics, ou même faire certains examens médicaux qui peuvent être faits par exemple avec de l’imagerie médicale. Donc on va aller vers un monde où il y aura moins besoin de travail, mais où il y aura toujours autant de richesses et la vraie question qui se pose à nous, c’est comment partager ces richesses. C’est pas comment donner un travail à tout le monde de manière à ce que tout le monde ait accès aux richesses, c’est “ces richesses sont là, comment est ce qu’on fait pour les partager”. Alors par le passé on avait un moyen qui consistait à donner un emploi à chacun. On voit que ça marche plus et il va falloir à l’avenir, trouver d’autres moyens de partager les richesses. Alors comment, j’en ai aucune idée.

N: Ok. Je sais pas si Serge…

SA : Non, je partage complètement ce point de vue. Alors peut-être en essayant d’affiner un peu, je pense qu’il faut dissocier dans le travail, le travail répétitif, pénible, inintéressant qui était jusqu’à maintenant indispensable pour que les gens aient de quoi manger, s’habiller etc. et des travaux qui sont des travaux valorisants, par exemple je ne sais pas moi, enseigner, pour moi, c’est un boulot, c’est mon boulot, mais en même temps, je pense que si j’ai rien d’autre à faire, je le ferais quand même , même pas payé, si j’avais des ressources illimitées. Donc il y a des choses qui sont intéressantes, écrire des romans, faire de la musique, s’occuper peut-être des personnes âgées, avoir des contacts avec les personnes âgées etc, tout ça, c’est des choses qui peuvent être plus valorisantes et qui sont aussi du travail. Par contre le travail juste pour avoir à manger, et pour pouvoir se nourrir etc, ça me gêne pas du tout que ça soit des machines qui le fassent à ma place, je trouve que c’est une grande avancée. Et comme l’a souligné Gilles, le vrai problème c’est, pour insister complètement sur ce qui est expliqué car c’est, je pense, vraiment très important, quand vous remplacez les mille ouvriers d’une usine par des robots, c’est vachement bien, les mille ouvriers ne se plaignent pas de ne plus avoir de travail, ils se plaignent de ne plus avoir de salaire. Donc la question c’est pas ça, la question c’est que la richesse qui sort de l’usine, est-ce qu’on doit la partager avec les gens qui faisaient les robots jusque-là, qui faisaient les machines jusque-là ou est ce qu’on doit la garder juste à quelques propriétaires qui se les accaparent. Et c’est exactement ça le sujet, comme a dit Gilles.

N: Je comprend et je pense en effet que c’est un sujet qui est extrêmement important. Alors on va avoir du mal à rentrer dans les idées politiques surtout que Gilles nous a admis qu’il n’avait pas de solution politique au problème. Par contre je veux juste revenir un tout petit sur  le côté “tous les algorithmes vont nous remplacer” puisque j’ai l’impression, alors peut être que je regarde pas assez loin, qu’il y a deux types de métiers aujourd’hui qui ne sont pas encore en voie de remplacement. Il y a le métier de concepteur d’algorithmes qui a l’air d’être pas tout à fait remplacé tout de suite et même dans ces idées où les machines commencent à faire de plus en plus de choses, j’ai l’impression qu’il y a aura toujours besoin de gens pour les concevoir. Et le deuxième métier c’est que dans toute une partie du machine-learning, de toutes ces choses qui fonctionnent très bien aujourd’hui, il y a des humains qui font des tâches pour le coup très peu valorisantes qui sont des tâches que ne savent pas faire les machines de décrire une image qui finalement est au bout de l’algorithme, qui n’a pas réussi à être décrite. Toutes ces mines d’humains, je ne sais plus comment on appelle ça, ces fermes d’humains qui font du travail payé à la seconde un peu répétitif…

GD : Alors il est vrai que quand on essaye de penser un peu globalement, on a tendance à caricaturer. Donc quand je disais “on va tous être remplacés par des algorithmes”, “on va tous être remplacés pour des robots”, bien entendu, j’essayais de forcer un peu le trait mais parce qu’il me semble que c’est plus intéressant d’essayer de réfléchir dans cette caricature là que dans la caricature où les humains vont jamais être remplacés par des robots et où on va toujours garder une suprématie, et nous serons toujours ceux qui seront au fond de la mine à pousser des wagonnets. Donc bien entendu, je caricature un peu. Alors les deux exemples sont intéressants parce que, par exemple “concepteur d’algorithme” : il est vrai que c’est des êtres humains qui aujourd’hui écrivent des programmes. Mais est-ce que c’est complètement vrai ? Par exemple quand on écrit un programme, on est souvent aidé par une machine. Par exemple, comme le soulignait Serge tout à l’heure, on écrit un programme dans un langage de haut niveau et puis, c’est un compilateur, c’est-à-dire un algorithme, qui traduit le programme de ce langage de haut niveau vers un langage qui est exécutable par la machine. Et on s’aperçoit que là où il fallait une semaine avant, il faut, mettons, une journée. Donc ça veut dire que 80% du travail est désormais pris par une machine. Donc fort heureusement, il y a besoin d’un grand nombre de concepteurs d’algorithmes si bien que peu d’entres nous sont au chômage aujourd’hui. Mais on s’aperçoit que même là où on a l’impression que des algorithmes vont pas être complètement autonomes et écrire d’autres algorithmes, il y a besoin d’un peu d’intelligence humaine, et c’est vrai. Mais même là, on est quand même très aidé par les ordinateurs. Après, il est vrai aussi que développer des systèmes informatiques, induit aussi, comme d’autres travaux, des tâches répétitives. Donc il y a effectivement aussi des gens qui font des tâches répétitives parce que pour concevoir des algorithmes, il y a des parties intéressantes et puis des parties qui sont un peu plus répétitives. D’ailleurs Serge disait qu’il adorait enseigner, moi j’adore enseigner aussi, mais il y a un aspect très répétitif dans l’enseignement c’est corriger les copies. Et le jour où une machine pourra le faire, je ne crois pas que je me plaindrais de perdre cet aspect là de l’enseignement. Et donc oui, il faut penser secteur par secteur, il faut nuancer, il faut faire une définition beaucoup plus précise. Mais la vraie question moi me semble quand même celle-ci qui est : on va avoir besoin de moins de monde, alors ne disons plus “de plus personne”, pour produire plus de richesses, et comment est-ce qu’on répartit ces richesses. Et quand je disais “j’ai pas de solution”, c’est pas que je ne pense pas qu’il n’y ait pas de solution, c’est qu’il me semble que c’est pas uniquement aux informaticiens de proposer des solutions. C’est un problème politique dont doit se saisir non pas les politiques mais l’ensemble de la population. Et moi, il me semble, que c’est la vraie question sur laquelle on devrait voter. On va voter l’année prochaine pour élire un président de la république, moi j’aimerais que les candidats me disent dans leur programme quel projet ils ont pour répartir des richesses qui sont créées par des machines. Je leur poserais même cette question : “si on trouvait demain une corne d’abondance dans la forêt et que cette corne d’abondance nous donnait toutes les richesses qu’on voulait, aussi bien les fruits les plus savoureux, que les machines les plus sophistiquées, que même les services les mieux faits, et bien à qui reviendrait le bénéfice de la vente de ces objets. D’abord est-ce que ces objets devraient être vendus, est-ce qu’ils doivent avoir un prix, est-ce qu’ils doivent être gratuits ? A supposer qu’ils soient vendus, est-ce que c’est la personne qui a trouvé la corne d’abondance dans la forêt qui doit avoir tous les revenus de cette corne d’abondance par exemple ?”. Ça ne me paraît pas être une solution possible. Est c’est ce genre de problème politique qui aujourd’hui se pose à nous et une des raisons pour lesquelles on a eu l’idée d’écrire ce livre, c’est qu’on trouvait que ces problèmes étaient un tout petit peu absents du débat politique, alors qu’ils sont vraiment au centre des questions politiques du XXIème siècle.

SA : Je ne peux pas être plus d’accord avec ça, c’est pour ça qu’on écrit le bouquin. Pour pousser un peu les problèmes, parce que c’est peut être pas quelques chose qui se posera à nous comme question demain matin, c’est peut être plus loin, la question de Gilles : “qu’est ce qu’on fait demain matin avec les richesses qu’on construit”. Elle est pertinente pour demain matin. A plus long terme, moi j’aurais tendance à dire “est-ce que des ordinateurs pourront faire n’importe quel travail d’humain ?”. Moi j’aurais tendance à dire : j’ai l’impression que oui. Parce que si on regarde l’évolution de notre domaine, on a quoi comme recul, on a pas beaucoup de recul, on a moins de cent ans. En moins de cent ans, si on compare ce qu’on savait faire comme machine, et ce qu’on savait comme algorithme et comme programmation et ce qu’on sait aujourd’hui, les progrès sont carrément époustouflants. Alors si on essaye de faire une vague interpolation, on voit pas très bien quels sont les problèmes qui vont nous résister. Je ne dis pas qu’on aura des algorithmes qui seront capables de décrire, de résoudre des problèmes par eux-mêmes, dans 20 ans, dans 30 ans, encore que déjà ils le font sur des problèmes simples, mais pour des problèmes complexes dans 100 ans dans 200 ans, je ne vois pas pourquoi ça ne serait pas possible. Après, si on se projette très loin vers le futur comme ça, et peut être même à plus court terme, on a peut être d’autres questions, mais qui sont des questions qui sont moins urgentes, qui sont “et cette population qui n’aura plus de travail, comment on la motive, qu’est ce qu’on va lui faire faire”. Donc c’est un thème de science-fiction, c’est un thème qui peut se poser. C’est à dire que même d’une certaine façon, ce qui se pose aujourd’hui, c’est à dire que vous avez une société qui devient du jour au lendemain très altruiste et qui donne à tout le monde un salaire de base pour partager les richesses, est-ce que les gens ont besoin d’un rôle social qui serait “ils servent à quelque chose”, “ils font quelque chose”, donc là c’est aussi des questions sur lesquelles on peut réfléchir mais je pense que la vraie question au départ c’est “comment on fait demain matin pour partager les richesses”.

R : Je sais pas si vous en avez parlé, il y a une fois on s’était amusé pendant le podcast à réfléchir à quels types de métiers pouvaient résister à un ordinateur, et en toute humilité, on s’était dit que la vulgarisation était un truc compliqué à faire faire par un ordinateur. Parce que ça repose notamment sur des analogies, sur des choses qui sont typiquement comment on passe d’humain à humain.

SA : Je suis pas certain, il y a des tas de travaux aujourd’hui sur la modélisation de la compréhension humaine et donc il y a des gens qui travaillent sur “qu’est ce que peut comprendre un être humain”. Alors pour l’instant c’est balbutiant, on sait pas faire grand chose, mais encore une fois on va tellement vite que, même ça, j’ai peur…

R: Ca allait pour moi avec l’autre question qui est “comment on occupe les gens” parce qu’a priori, il y a une occupation naturelle qui est de partager des savoirs, de partager des connaissances, enfin pleins de choses, faire comprendre un certain nombre de trucs. Cela dit, si ça fait tout seul..

GD : Ce qui est intéressant dans cette remarque, c’est que si moi il faut que je trouve un métier qui ne sera jamais remplacé par les ordinateurs, j’ai tendance à penser au métier d’informaticien. En revanche, quand on pose la même question à Robin, il pense que c’est le métier de médiateur… (rires)

SA : Les coiffeurs pensent que c’est les coiffeurs

GD : et quand on pose la question à mon coiffeur, il me dit que jamais une machine pourra coiffer quelqu’un. Je pense qu’il y a un tout petit peu un biais personnel dans la manière dont Robin pose la question. Et effectivement, c’est quelque chose qui est pas facile, ni pour nous, ni pour les coiffeurs, ni pour les médiateurs de se dire, finalement, je peux être remplacé par une machine. C’est vrai que c’est quelque chose qu’on a un peu de mal à admettre et sur lequel on fait tous un peu de résistance. Je pense que Serge avait d’ailleurs dit que le métier d’enseignant était difficile à remplacer par un ordinateur. Mais cela dit, il faut bien voir que les gens qui nous expliquaient il y a 20 ans que, je ne sais pas, que le métier par exemple de dessinateur projeteur dans un cabinet d’architectes pourrait jamais être remplacé par un logiciel, aujourd’hui on est bien obligé de reconnaître que la plupart des bâtiments sont fabriqués avec des logiciels. Alors avec un architecte, mais des logiciels. Et que le métier de projeteur, il y a toujours besoin de quelques uns mais il y a quand même beaucoup moins de projeteurs qu’il y avait par le passé. Donc il faut résister à cette forme narcissique qui consiste à penser que son seul travail, son métier, sera le seul qui survivra. Je crois qu’on va tous y passer. On est tous logé à la même enseigne. “Comment occuper ses journées”, c’est une vraie question. Par exemple, il y a une chose qui m’inquiète beaucoup, c’est qu’on passe beaucoup plus de temps à consommer de la fiction. Là avant la fiction, on y accédait principalement par la lecture d’un livre. Maintenant, à partir du XXème siècle disons, on y a aussi accédé par la consommation de films, par le fait de voir un film. Aujourd’hui la fiction vient beaucoup plus à nous par des vidéos, par de très très longues séries. Un de mes amis qui a pourtant pas un très grand nombre d’années, me disait qu’il avait calculé qu’il avait passé en continu 7 mois à regarder des séries à la télé. 7 mois c’est une partie non négligeable de sa vie. Et puis on voit qu’il y a des livres interminables. Moi j’arrive pas à terminer “Harry Potter”, j’ai pas le temps. Mais je m’aperçois qu’il y a plein de gens qui ont réussi à lire les 3600 pages d'”Harry Potter”.

N : Et encore, il y a moins de pages que “Game of Throne” je crois. (rires)

GD : Voilà et donc, on se dit, on a trouvé la solution : au lieu de vivre, les gens vont écouter des histoires.

SA : Ils vivent par procuration.

GD : Voilà ils vivent par procuration, et ça je me dis, c’est pas forcément quelque chose de terrible. Ca serait peut être mieux qu’eux-même vivent les choses. Et puis si, plus personne ne vit rien, de quoi va parler la fiction. C’est aussi un problème. Donc c’est vraiment des questions passionnantes de savoir “à quoi allons nous passer nos journées quand nous serons un peu libérés du travail”. Ca veut pas dire qu’on ne va plus travailler. Mais supposons qu’on travaille 4 heures par jour par exemple, à quoi allons nous passer les 20 heures qui restent ? C’est une vraie question à laquelle j’ai pas plus de réponse qu’à la..

R : A l’art, à la création

GD : Oui mais la création, il faut bien, si on pense à l’art comme l’art de raconter des histoires, c’est pas uniquement ça, mais en même temps on ne va pas non plus passer nos journées à courir d’une galerie à une autre, pour voir de la peinture ou de la sculpture par exemple.

SA : Je connais des gens qui font ça.

GD : Bon ok, on va pas tous faire ça.

N : En fait sur l’art de raconter des histoires ça rebondit sur la remarque que je voulais faire sur le début de l’intervention de Robin qui ne se voit pas remplacé. Je pense que ce que disait Robin allait un tout petit peu plus loin parce que quand on avait abordé le sujet, c’était même moi qui avait abordé le sujet et je n’avais pas dit tout de suite “je ne pourrais pas être remplacé”, mais j’avais l’impression au fil de mes lectures c’est qu’il y aurait toujours besoin d’un humain dans la chaîne pour un rôle qui est finalement assez futile mais qui est : “on aurait une machine, par exemple pour le médecin, totalement automatique qui fait le diagnostic mais il y aurait un humain pour juste dire ‘monsieur vous avez un cancer’ “. Parce qu’il y a besoin du contact humain, parce qu’il y a besoin de tout un contact physique etc. Alors on peut aller très loin en se disant “on va construire un robot qui va reproduire physiquement un humain” mais ça a peu d’intérêt par rapport à mettre un humain pour juste transmettre le message. Et ça rejoint un peu l’idée de dire, il y a d’autres personnes qui disent que toute la partie story-telling qui finalement est juste “raconter des choses à des humains par des humains” sera sans doute encore faite par des humains parce qu’en fait ça a peu d’intérêt à être fait par des machines.

GD : Alors il est possible, au lieux de passer des centaines d’heures à soigner un patient, peut-être on a juste besoin d’un médecin, une minute, pour lui annoncer ce type de nouvelle. En tout cas moi je ne suis pas prêt à recevoir un mail qui dit que j’ai un cancer ou non. Donc c’est sur. Cela dit, est-ce que le contact humain est toujours aussi intéressant que dans ce cas là. Par exemple, il y a beaucoup de gens, il y a quelques années, qui trouvaient rébarbatifs d’utiliser une machine pour acheter un ticket de métro. Ils trouvaient que c’était mieux de discuter avec un agent de la RATP qui leur vendait un ticket de métro. Alors en fait quand on voit le type de contact humain qu’on a avec un agent de la RATP qui en général est derrière une vitre, moi c’est le genre de contact dont je peux me passer. Et surtout si je pense à la vie de cette personne qui passe essentiellement 8 heures par jour enfermée dans une cage à donner des tickets de métro, je me dis “si cette personne peut être remplacée par une machine, à la fois c’est mieux pour elle, et puis même c’est presque mieux pour moi”. C’est cette espèce de fausse interaction humaine, ou même l’interaction qu’on peut avoir avec un caissier ou une caissière au supermarché, c’est vrai que ça met un peu d’humanité, mais pas énormément d’humanité. En revanche, ce qui est vrai, c’est qu’il faut réfléchir au peu de contact qu’on a avec des personnes, à comment rendre ces contact de qualité. Pour beaucoup de contacts qu’on a dans un échange commercial, sont finalement des contacts assez pauvres. Par exemple, je préfère de loin envoyer un mail à une administration que passer 3 heures au téléphone à expliquer 30 fois mon problème à 30 personnes différentes parce que j’ai pas encore trouvé la bonne personne. Je me dis, au moins, si mon mail doit être forwardé, si on doit le faire suivre 30 fois, au moins je n’aurais pas à la retaper. Cette interaction au téléphone avec des administrations, elle est horrible. Si on peut la supprimer, même si on pense que c’est un contact humain donc on se dit que c’est bien a priori. En fait non, c’est bien que ce type d’interaction soit supprimé pour être remplacé par des choses plus riches.

N : Serge, tu as peut être un avis là-dessus, vu qu’en parallèle d’être informaticien, tu es romancier. Donc le fait de raconter des histoires à d’autres humains, est-ce que c’est comme le métier d’enseignant, ça ne sera jamais remplacé par des machines ?

SA : C’est une bonne question parce que là-dedans, il y a deux métiers en fait. Il y a deux actions. Il y a l’action d’écrire un roman. Et il y a l’action de le lire. Et donc si on se projette vraiment dans “où va l’avenir” et qu’on arrive à voir des machines capables d’écrire des romans qui soient, à la limite même de meilleure qualité, plus passionnants, plus intéressants, plus tout (meilleur entre guillemets parce ce que c’est compliqué d’arriver à classifier meilleur, mais meilleur que ce que ferait un écrivain) et bien premièrement, ça n’empêcherait pas le plaisir que moi je trouve à écrire. Le premier plaisir que j’ai c’est d’abord d’écrire et de me faire lire par des amis. En dehors de ça, ce truc là à mon avis, c’est pas quelques chose qui est négociable, c’est-à-dire qu’une personne peut toujours trouver du plaisir à écrire même s’il y a plein d’ordinateurs qui le font mieux qu’elle. Et j’ose espérer que mes amis ont plus de plaisir à lire ce que j’ai écrit que lire ce qu’a écrit un ordinateur. Donc de ce point de vue là, cette partie là, j’y crois un peu. Alors après, la question de savoir si un jour un ordinateur sera capable d’écrire mieux qu’un humain, je n’en sais rien. Je pense que c’est pas demain matin, quand on voit les difficultés qu’on a avec Google Translate ou des choses comme ça, qui ont fait énormément de progrès, mais on est encore assez loin. Des ordinateurs qui écrivent des textes, il y en a. Il y a des programmes qui arrivent à écrire des textes, c’est assez pathétique. Il y a des domaines où l’on se débrouille beaucoup mieux.

N : Ca permet d’être publié parfois par contre.

SA : Oui ça permet d’être publié.

N : D’être publié scientifiquement, je crois qu’il y a des ordinateurs qui ont réussi à faire des publications scientifiques.

SA : Non ça, c’est parce que le reviewing a pas fait son travail.

GD : Les mauvaises publications scientifiques, il y en a qui sont écrites par des ordinateurs mais aussi par des êtres humains. (rires)

SA : Là je pars du principe que j’écris des romans intéressants et que mes compétiteurs sont des ordinateurs qui écrivent aussi des romans intéressants.

GD : Cela dit, moi je vais vous révéler une chose, c’est qu’en fait les romans de Serge sont écrits par une machine. Alors pas entièrement mais, la manière dont Serge écrit, il écrit avec un traitement de texte, est grandement transformée par le fait qu’il écrive avec un traitement de texte. Il s’avère que je suis suffisamment vieux pour avoir écrit un texte à la machine à écrire. Et quand vous vous trompiez à la machine à écrire, il y avait une petit peinture blanche qu’on mettait sur le texte faux et il fallait attendre qu’elle sèche et on pouvait retaper dessus. Mais on ne pouvait pas le faire plus de deux fois ou trois fois. Et donc il faut penser que même Flaubert qui ré-écrivait énormément (il écrivait 8 ou 10 diversions du même texte, où il y avait des petits bouts, des flèches qui lui permettaient de rajouter un morceau de phrase etc. ) et bien le processus même d’écrire a été grandement transformé par les traitements de texte. Simplement par le fait qu’on peut essayer, on peut transformer le texte à l’infini, et d’ailleurs c’est pour cela des fois qu’on arrive pas à finir ce qu’on écrit, mais on peut écrire peut être 100 fois la même chose, simplement en déplaçant un adjectif, en se disant “non il est mieux là, non il est mieux là, non il est mieux là…” et finalement je le supprime.

N : Des proposition de synonymes, des meilleures formules…

SA : Il y a aussi autre chose. Quand on écrit, on écrit avec derrière soi, le web. Et ça, ça a changé complètement l’écriture et j’ai l’impression de temps en temps sur certains romans que je lis, de lire des passages de Wikipedia. Et j’imagine que c’est très tentant pour un écrivain. Vous êtes en train de raconter, je ne sais pas, vous allez vous balader du côté du métro Crimée et par exemple, et vous n’y connaissez pas grand chose. Donc vous allez sur Wikipedia, ou sur le Web, ou sur n’importe quoi, et puis vous allez trouver des tas de textes qui vont raconter des troquets sympathiques à côté du métro Crimée. Sur certains textes, j’ai l’impression de lire du Wikipedia. Je ne sais pas si c’est une fausse impression, mais des fois on a l’impression que c’est quand même très copié/collé.

GD : Wikipedia nous donne à tous, le bonheur d’être érudit. Alors souvent d’une fausse érudition puisqu’on citait Flaubert, c’est souvent une érudition à la Bouvard et Pécuchet. J’avais fait une conf à Rouen une fois où j’avais commencé d’une manière très très érudite en discutant une phrase de Montaigne que tout le monde cite, mais que tout le monde cite mal, et j’avais essayé de donner la bonne citation de Montaigne. J’avais dit exactement d’où ça sortait dans les essais et dans quelle édition etc. Et une demi-heure après, au cours de la conf, j’avais essayé de poser la question à mon auditoire, je leur avais dit : “mais à votre avis, d’où me vient mon érudition sur Montaigne ? Est-ce que vous pensez réellement que j’ai passé 20 ans de ma vie dans une bibliothèque à comparer différentes éditions de Montaigne, et les brouillons de ceci et de cela”. Et j’ai dit : “mais bien sûr que non, j’ai juste trouvé ça dans Wikipedia une demi-heure avant de préparer l’exposé”. Et ça, c’est très différent. J’aurais fait le même exposé il y a 50 ans, allez retrouver une citation dans les 800 pages des essais de Montaigne, je crois que ça m’aurait un peu fatigué. J’aurais abandonné tout de suite. Alors que là, juste en tapant la citation que je connaissais par coeur, je suis tombée sur le texte de Montaigne et je me suis aperçu que la citation était mauvaise, qu’elle était pas exacte, et qu’il y a une forme d’érudition que je retrouve dans beaucoup de textes que je lis. C’est à dire, tout d’un coup, par exemple mes amis qui travaillent sur le logiciel libre, sont devenus incollables sur l’histoire du droit d’auteur, de Beaumarchais etc. Bon je sais un peu d’où leur vient leur érudition.

N : Et j’ajouterais même que c’est aussi quelque chose qui a révolutionné il y a quelques années un peu plus le monde de la recherche. Moi je sais que j’ai fait une thèse après la création de Google Scholar, je n’imagine même pas comment on faisait avant en fait. Google Scholar, c’est Google pour les scientifiques, c’est pour chercher des publications, on peut chercher par auteur, on voit le nombre de citations etc., on peut télécharger les publications.

SA : Toi t’es matheux, mais moi je vois par exemple en histoire, la façon dont ça change est énorme. C’est à dire qu’il y a 50 ans, un historien, son fond de commerce, c’était de prendre sa valise et d’aller étudier un fond bibliothécaire à New York, à Rome, n’importe où. C’était ça son travail. Donc il allait et il désossait des fonds bibliothécaires et il écrivait  son petit truc. Maintenant c’est déjà relativement standard, il y a énormément de documents qui sont de matière première, de matière brute, qui sont disponibles sur Internet. Et dans 50 ans grosso modo, tout sera disponible, pratiquement numérisé. Et donc le métier va changer. C’est à dire qu’on pourra faire ce genre de recherches sans quitter son bureau.

N : Ne serait-ce que pour chercher du texte dans un livre. Parce qu’en fait c’est un enfer quand on retombe sur un livre papier qui n’est pas numérisé d’aller chercher un texte, on a plus l’habitude. Je vais revenir du coup sur le gros du débat du sujet, c’était la politique. Je vais faire un tout petit peu l’avocat du diable. Tu disais tout à l’heure que c’était un sujet qui n’était pas très débattu. Moi j’ai plutôt l’impression que le choix, il est déjà fait par certaines entreprises qui en fait ont décidé que la répartition des richesses, c’était à sens unique. Et en fait ce choix politique il est fait aujourd’hui dans la plupart des technologies qu’on utilise. Et j’ai l’impression de manière consciente.

GD : Alors c’est vrai que les inégalités ont beaucoup augmenté du fait de l’automatisation d’un certain nombre de tâches et on voit que les propriétaires des entreprises, je ne sais pas on peut citer Google, Apple, Facebook et Amazon si on veut, mais également d’autres entreprises comme Uber, Airb’n’b etc.

N : De toute façon, toute l’économie numérique aujourd’hui fonctionne sur ce même modèle.

GD : Oui mais on s’aperçoit qu’il y a des fortunes énormes qui sont construites. Donc ça veut dire qu’effectivement aujourd’hui, une grande partie de la richesses qui est créée par des machines, elle est accaparée par un petit nombre de gens qui sont en général des gens de talent. Mais leur talent ne justifie pas qu’ils soient aussi riches. Leur talent pourrait justifier qu’ils soient un peu plus riches peut être, mais certainement pas qu’ils soient 10 000 fois, 100 000 fois, 1 million de fois plus riche qu’un ouvrier ou qu’un chercheur. Et alors il faut se poser la question : pourquoi. Est-ce que c’est vraiment un choix pérenne qu’on a fait pour l’avenir, ou est-ce que c’est juste parce qu’on pense aujourd’hui avec des technologies du XXIème siècle, mais des systèmes politiques, des valeurs qui sont celles du XXème siècle. Donc par exemple, j’ai fait une fois une intervention, non pas à Rouen cette fois-ci mais à Caen, vous voyez que je voyage beaucoup, devant des lycéens et le thème de la conférence c’était le téléchargement légal et illégal. J’ai commencé par leur poser la question : “est ce que vous trouvez normal que Johnny, Maître Gims et Mylène Farmer (je suis désolé c’était les 3 qui  avaient eu le revenu le plus important à la Sacem cette année-là, c’était, il y a quelques années), est-ce que vous trouvez qu’il soit normal qu’ils soient aussi riches ? Est-ce qu’il est normal qu’ils gagnent des millions d’euros alors que certains musiciens, peut être moins talentueux, vivent avec quelques milliers d’euros par an”. J’ai posé cette question aux lycéens. Moi je m’attendais un petit peu à des lycéens idéalistes qui allaient  me répondre que non, qu’il faudrait que tout le monde gagne la même somme d’argent, ou je ne sais quoi. Mais pas du tout, pas du tout. Ils m’ont dit : “mais c’est incroyable, Maître Gims, il a un tel talent que c’est normal qu’il gagne 1000 fois ou 100 000 fois ce que gagne un musicien ordinaire”. Alors c’est pas des vieux qui ont vécu au XXème siècle principalement, c’était des jeunes qui étaient nés dans les années 2000. On voit que ces valeurs qui sont les nôtres, sont encore celles que quelqu’un qui a beaucoup de talent, il est normal qu’il ait un écart de salaire gigantesque avec le reste du monde. Cette idée, à mon avis, va au cours du XXIème siècle, un petit peu être relativisée. On s’aperçoit que pour les patrons, elle est déjà relativisée. C’est à dire on commence à se poser la question, quel est le salaire d’un patron comparé à un employé de son entreprise. C’est une bonne question mais il faut bien voir que les patrons sont des pauvres comparés aux footballeurs et aux chanteurs. Aujourd’hui on ne remet pas en cause les salaires des grands sportifs et des grands artistes et également des grands découvreurs, des grands ingénieurs, des grands innovateurs, mais je pense que cette question, on ne pourra pas y échapper au XXIème siècle. Ou alors on va aller vers un monde tellement inégalitaire qui risque d’il y avoir, je ne sais pas, des violences physiques, des révolutions. Une fois on avait demandé à Picasso pourquoi il était au parti communiste. Il avait répondu : “parce que je suis millionnaire et je veux le rester”. Je crois qu’un jour les Picasso, et les Johnny, vont devoir comprendre que le monde dans lequel on vit, ne peut pas fonctionner comme ça. Ils étaient un tout petit nombre au XXème siècle, mais il va nécessairement y avoir une re-définition de ça. On vit encore dans le monde du XXème siècle du point de vue politique et du point de vue des valeurs.

N : Et avant que ça vienne de la politique, est-ce que c’est pas aussi raisonner comme au XXème siècle finalement. Parce que si on prend un exemple qui est très contemporain, le bitcoin, ça marquait un peu une étape où justement on a mis en dur dans un code source, des idéologies politiques, dont une idée d’anti-inflation dans un code source. Du coup est-ce qu’on a vraiment besoin d’attendre de la politique ou c’est pas par des individus ici et là, et par l’utilisation de leurs logiciels qu’on va réussir à modifier cette répartition et ce système.

SA : Je pense que la situation est complexe et on va prendre un exemple très concret qui est les grandes plateformes du web qui, aujourd’hui, accaparent une partie de la richesse mondiale considérable et qui d’une certaine façon, se comportent un peu en oligopole parce qu’ils disposent des données que personne d’autre n’a, dont dispose personne d’autre, des moyens de calcul, de tout ça, et d’une certaine façon, de fait aujourd’hui, ils biaisent complètement toute concurrence commerciale. En tout cas à terme, la concurrence commerciale n’existe plus, et il y a aura quelques grandes oligopoles comme ça qui vont se partager tout le futur du Web avec tout ce que ça veut dire parce que c’est pas juste un truc d’informaticien le Web. Aujourd’hui le Web c’est là que vous choisissez votre hôtel, vous prenez votre transport, vous achetez vos bouquins etc. C’est tout ça, c’est tout le commerce qui est en jeux.

N : Mais personne n’est forcé d’utiliser Google, pour les citer, pour chercher son hôtel

SA : C’est plus complètement clair. C’est à dire que d’abord ils sont quand même très professionnels, ils offrent un service. Prenons Booking, ils vous offrent un service qui est incomparable et vous avez besoin d’un hôtel, vous avez soit le choix de vous emmerder pendant une demi-heure sur le Web, soit vous allez sur Booking, vous allez avoir à peu près accès à tous les hôtels qui sont dans l’endroit où vous allez, vous allez avoir des commentaires, tout ça est vachement pratique, il y a juste à cliquer, tout est bien etc. Donc il y a aussi le côté pratique et le côté informatif, ça rend un service. Les gens vont pas là-dessus juste parce qu’ils aiment pas les hôtels, ils vont là-dessus parce que c’est plus pratique que d’aller regarder dans tous les hôtels. Et on retrouve ça, on peut décliner. Donc la question maintenant c’est : “est-ce qu’on peut sortir de ce modèle là”. C’est un modèle, qui est un modèle d’une certaine façon de réseaux, où “plus vous avez de puissance, plus vous accaparez de clients; plus vous avez de clients, plus vous avez de puissance” etc. D’une certaine façon,est-ce qu’on a une chance de sortir de ce modèle là. La réponse est : surement mais la solution sera pas triviale d’accord. Première chose : est ce qu’on a besoin des gouvernements ? Je pense que oui, on a besoin des gouvernements. Si aujourd’hui, ces boites-là, par exemple, ne paient quasiment pas d’impôt en France, c’est pas moi qui décide des impôts. Demandez à tous les gens autour de vous, est ce que c’est normal que, je sais pas, Google, Amazon et Facebook ensembles en France payent moins d’impôt que Yellow Pages, les Pages Jaunes, les gens vont dire “non, c’est complètement débile”. Mais bon c’est pas vous qui décidez des impôts. C’est un truc qui doit être fait par les gouvernements. Donc ça c’est quelque chose qui doit être fondamentalement des choix politiques et des choix qui peuvent être faits que par les gouvernements et pas vous, c’est pas vous qui décidez des impôts. A la limite, même pas les gouvernements français, là on parle de l’Europe.

N : C’est ce qui allait me faire réagir : ce qu’on appelle “gouvernement” aujourd’hui sont très liés aux états qui sont des notions qui sont très liées à une position géographique. Ce qui est un réel non-sens par rapport à tous ces acteurs dont on parle.

SA : C’est un non-sens, mais c’est aujourd’hui, le degré dans lequel les impôts sont perçus, et les dépenses qui correspondent aux impôts sont réalisées. Donc on ne peut pas dire “non, je suis désolé, ces grosses boites sont internationales donc elles ne paieront pas d’impôt en France” parce que c’est en France qu’il faut payer les hôpitaux et les écoles et l’armée.

N : Alors justement ça me fait rebondir : est-ce que la description tout à l’heure de ce service de qualité etc, ça fait beaucoup penser à une description du service public finalement. Est-ce qu’un rôle de moteur de recherche, c’est pas un rôle de service public plutôt que d’une entreprise privée ?

GD : Alors Serge a évoqué un point qui est important, c’est celui d’un principe qu’en informatique, on appelle “le vainqueur remporte toute la mise”. Vous savez certainement, parce que vous l’avez vécu, que quand on est 8 à manger une pizza, on a moins de pizza que quand on est 4 à manger une pizza. Donc plus on est à manger la pizza, moins il y a de pizza. En informatique les choses marchent exactement selon le principe inverse. Plus vous êtes sur un réseau social, mieux c’est. C’est-à-dire, si vous faites un réseau social et vous êtes 4, ben c’est moins bien que si vous faites un réseau social et que vous êtes 8. Vous allez pouvoir échanger avec plus de personnes. Par exemple, la valeur d’un opérateur de téléphonie mobile, c’est-à-dire principalement d’un carnet d’abonnés, et bien elle ne croit pas linéairement avec le nombre d’abonnés, elle croît plus vite parce que, chaque abonné a un meilleur service plus il y a d’abonnés. Donc ça, ça veut dire que le mécanisme qu’on connaissait pour réguler l’économie de la pizza, qui était la concurrence, qui était de dire : “comme la pizza est un bien à partager, et bien, le mécanisme de la concurrence va faire qu’il y aura plusieurs pizzerias, et c’est la meilleure pizzeria qui va vendre plus de pizzas mais les autres vont quand même avoir une part de marché etc.”. Ce système de la concurrence il aboutit dans le cas des objets informatiques, à un monopole. C’est-à-dire, vous pouvez trouver aujourd’hui que le réseau Internet est mauvais, vous pouvez décider de faire un réseau parallèle, vous pouvez commencer à déployer de la fibre optique à travers Paris, sous l’océan etc., vous n’arriverez pas à dépasser Internet parce qu’Internet a déjà beaucoup d’ordinateurs qui sont connectés et donc Internet aura toujours une valeur supérieure à la votre. Donc on s’aperçoit que toute notre manière de penser l’économie en gros depuis le Moyen-Âge, qui était fondée sur la concurrence, et bien là, ne fonctionne plus tout à fait. Donc ça veut dire que nécessairement, il va y avoir d’autres idées, d’autres systèmes politiques, d’autres valeurs qui vont apparaître. Et encore une fois, je ne sais pas exactement par quel processus, et je ne sais pas exactement quelles valeurs vont émerger, c’est pas forcément des valeurs qui seront meilleures que celles qu’on a aujourd’hui, mais il y a vraiment un changement dans la nature même des objets économiques, dans la nature même des biens qui fait que les choses ne pourront pas rester dans l’état dans lequel on les connaît aujourd’hui. Juste un petit calcul que j’ai fait pour vous sur le rôle des états. Parce que quand je parlais de la sphère politique, je ne pensais pas uniquement au gouvernement d’un état particulier. Il y a une légende urbaine, je ne sais pas si c’est vrai ou si c’est faux mais ça n’est pas très grave, on a découpé en décembre 1789 le royaume de France à l’époque en départements. Il y a plus ou moins une légende qui veut qu’on ait choisi la taille des départements de manière à ce que de n’importe quel point on puisse faire l’aller/retour au chef-lieux, à cheval, en moins d’une journée. En fait il semble que ça soit plutôt faux, mais disons c’est pas grave, en fait la taille des départements correspond à peu près à ça. C’est-à-dire vous êtes en général à 50 kilomètres du chef-lieux, ou à 60, ou quelques chose comme ça. Bon pourquoi le cheval ? Parce que le cheval était le meilleur moyen, le moyen le plus rapide, à la fin du XVIIIème siècle, pour transporter un bit d’information d’un point A à un point B. Le bit d’information vous le mettiez sur le dos d’un cheval, ça pouvait être, ou bien, une pièce de monnaie, ou bien une lettre, ou bien même un messager qui allait répéter le message une fois arrivé au chef-lieux. Et puis vous lanciez le cheval au galop qui allait à 20 kilomètres-heure, et c’était bien comme ça. Aujourd’hui, le moyen  le plus rapide pour envoyer un bit d’information d’un point à un autre, c’est la fibre optique et donc le photon dans la fibre optique va un peu moins vite que dans le vide, il va seulement à 200 000 kilomètres par seconde. Et donc si on découpait aujourd’hui les départements selon le même algorithme que celui qu’on employait à la fin du XVIIIème siècle, et bien on s’apercevrait que le département dans lequel on vit ici, et je pense que ça concerne beaucoup des auditeurs, le calcul sera peu différent, il irait jusqu’à la planète Uranus. La Planète Uranus serait dans notre département, mais la planète Neptune serait dans la même région mais dans le département voisin. Donc ça veut dire que la taille des départements est quelque chose de tout à fait ridicule aujourd’hui. Toute l’idée politique qu’on avait eu au XXème que c’était bien de décentraliser, finalement, ça sert surtout à dupliquer d’une mairie d’arrondissement à l’autre des services qui font la même chose et qui ne se parlent pas. Ca veut dire qu’il y aura aussi nécessairement des émergences de pouvoirs mondiaux, par exemple il y a un pouvoir qui est faible, qui n’est pas très important, qui est celui de donner des noms de domaine sur le Web

N : Ils ne font pas parti aussi des gros qui ont un peu tous les pouvoirs très centralisés ?

GD : En tout cas, c’est une administration mondiale. C’est-à-dire, on ne peut pas imaginer que chaque pays distribue des adresses IP et des noms de domaine indépendamment des autres. Bon alors distribuer des adresses IP, des noms de domaine, c’est un peu sensible, c’est pas non plus un grand pouvoir, donc on est pas dans une entreprise qui accapare un pouvoir énorme mais on ne peut pas imaginer cette entreprise au niveau de l’Union Européenne avec ou sans Royaume-Uni, qui ne change rien à l’ordre de grandeur de l’Union Européenne car c’est un trop petit pays.

N : Mais alors justement sur cette logique de bit et de la taille jusqu’à Uranus… Autant on a le département et le département d’à côté où on devrait même plus parler du département d’à côté, on est tous dans le même département. Mais on a quand même une différence : c’est qu’on va avoir des communautés assez disjointes qui sont sur la même zone géographique. Ça rejoint ce que je faisais remarquer tout à l’heure où finalement, la géographie est peut être plus le moyen de regrouper les individus pour créer un gouvernement ou des règles.

SA : C’est vrai et c’est pour ça qu’il faut pas s’arrêter non plus aux gouvernements parce que ça n’est pas la bonne mesure et je pense qu’il faut les contre-pouvoirs de ces grandes entreprises du Web. Bon évidement j’ai commencé par dire les gouvernements parce que là c’est ce qui peut décider à court-terme. Mais les vrais contre-pouvoirs à mon avis se situent ailleurs. C’est dans un registre qui est un registre beaucoup plus politique au sens qu’il ne connaît pas forcément non plus de frontière d’état. Par exemple il y a une économie qui est ancienne, qui est pas quelque chose de nouveau et qui marche particulièrement bien en France et qui s’appelle l’économie sociale et solidaire. C’est une vieille idée, c’est l’idée qu’on est dans une collectivité avec des gens qui ont à peu près des besoins et des envies qu’ils vont partager et qu’ils vont mettre ensemble des ressources. Donc une alternative crédible à ce genre d’organisations, l’organisation actuelle qui est une organisation d’oligopole avec des sociétés qui font leur boulot (je veux dire moi j’ai rien contre le fait qu’on leur a mis un cadre dans lequel elles font de l’argent et dans ce cadre là, elles vendent des bons services et tout le monde est content et on les achète etc.) et bien si on veut s’organiser autrement, il y a d’autres façons de s’organiser. Il y a des résultats qui sont des résultats tangibles. On a vu par exemple des collectivités développer des logiciels libres. Internet aujourd’hui fonctionne majoritairement sur des logiciels libres, pas des trucs qui ont été développés par IBM ou Microsoft, par des logiciels qui ont été développés par la communauté des logiciels libres. On voit Wikipedia. Donc il y a des possibilités de s’organiser autrement. Alors évidemment c’est des espaces de liberté qu’il faut que les gens arrivent à acquérir mais il y a absolument aucune raison. C’est tout à fait possible qu’un état se mette à développer son propre moteur de recherche et puis son propre réseau social etc.

N : Il y a les chinois qui ont essayé plusieurs fois, même en France

SA : En France ça marchait plus ou moins bien, mais il y a les pays qui y sont arrivés. Il y a Baidu en Chine, en Russie aussi donc je suis pas certain que je serais plus confiant dans un moteur de recherche d’état comme Baidu que dans un moteur de recherche commercial comme Google, pour balancer les vrais noms. Par contre ce que je pense c’est que dans les zones de liberté qu’on veut conquérir, on peut le faire, mais il faut que les internautes, les associations se prennent un peu en charge. Et c’est possible.

GD : J’étais assez surpris dans une visite en Amérique Latine. Je discutais avec des informaticiens des données qui appartiennent aux élèves. Donc quand on fait de l’enseignement en ligne, les élèves laissent énormément de traces de leur présence, de leurs devoirs, de leurs notes, de leur assiduité, de leurs questions. Et donc j’insistais sur le fait qu’en France on était très sensible au fait que ces données ne soient pas gérées par des entreprises comme Amazon qui est un hébergeur de Cloud, un hébergeur d’espace de stockage extrêmement efficace etc.

N : Qui possède quasiment une majorité d’Internet aujourd’hui

GD : Tout à fait, donc je leur ai expliqué qu’on avait décidé en France que ces données devaient être sur un ordinateur qui appartenait à l’état et qui était situé sur le territoire de manière à éviter que ces données soient vendues. Et donc il y a un commerce potentiellement très lucratif à vendre des CV de gens qui sont directement issus de leur interaction en ligne. Donc on était très opposé à ça en France et on a développé par exemple dans la plateforme France Université Numérique,

cette idée de la souveraineté des données, que ces données sont trop sensibles pour être n’importe où. Et en fait j’étais très étonné, enfin pas c’est pas si étonnant quand on y réfléchit mais j’étais juste bête, et donc j’ai été très surpris du fait que mes collègues sud-américains, eux, l’idée de donner des données à l’état leur semblait monstrueuse. Ils disaient : “mais bien entendu il faut que ça soit des entreprises privées qui gardent ces données parce que l’état va utiliser ces données ensuite. Imaginez qu’il y a une dictature en France et l’état récupère ces données à ce moment là, l’état va savoir ou vous habitez, l’état va savoir…”. Donc cette idée qu’on a en Europe que l’état est le gentil et l’entreprise, c’est le méchant, et bien en Amérique Latine, ils pensent que l’entreprise c’est les méchants et que l’état c’est les très méchants. (rires)

R : Ils ont pas tout à fait la même histoire.

GD : Ils ont pas tout à fait la même histoire effectivement ça s’explique très bien par leur histoire. Mais cette manière qu’on a de penser, c’était très intéressant de voir que les sud-américains ne comprenaient rien de ce qu’on racontait. Ils disaient exactement l’inverse.

N : Il me semble qu’en France il y a quand même aussi des restrictions là-dessus. Je sais qu’il y a eu tout un débat sur une carte d’identité numérique, en gros ce que fait Facebook, ou Twitter Connect aujourd’hui qui devrait être un rôle de carte d’identité public. Il y a beaucoup de gens aujourd’hui qui se disent : “en effet c’est pas bien que ça soit Facebook” mais ça serait pas fou non plus que ça soit le gouvernement même en France.

SA : Il y a des pays, je crois le Danemark par exemple, où on donne systématiquement aux citoyens une identité numérique et un lieu de stockage officiel, public, protégé dans lequel ils peuvent mettre leurs pièces d’identité etc. Si vous avez suffisamment confiance dans l’état, c’est le meilleur endroit où vous pouvez le mettre.

N : Moi ça me parait pas délirant comme idée. Pour en revenir sur les histoires de gouvernements, on parlait tout à l’heure de l’ICANN qui gère les noms de domaine etc. Un des premiers exemples aussi de collaboration mondiale dont on a parlé il y a quelques semaines, enfin premier exemple je crois qu’il est venu après l’ICANN, c’est le Web aussi qui est une collaboration mondiale. Le Web a une particularité supplémentaire, et c’est pour ça que je voulais y venir, c’est qu’il n’a pas de chef non plus. C’est même une des premières défaites d’un Minitel qui avait un grand chef et qui n’a pas réussi à survivre par rapport à un Web qui lui avait pas de chef et était décentralisé. Et avec tout ce qui est économie du partage etc, si on passe sous silence que pour l’instant la plupart des économies de partage ont des grosses sociétés derrière qui prennent tout l’argent sur le côté, et c’est pas très dur d’imaginer donc ça va sans doute arriver un jour qu’il y ait des économies de logiciels libres qui gèrent le partage et qui en fait prennent pas vraiment de sous à côté. Est-ce que c’est pas aussi des gouvernements en fait, sans gouvernant qui vont devoir émerger pour répondre aussi à ces aspects de réseaux où on est de plus en plus connecté dans une forme de graphe sans vraiment avoir de pyramide avec une tête. Je ne sais pas si ça vous fait réagir ou pas.

SA : Je suis pas certain de comprendre mais c’est un peu compliqué. La question c’est que les phénomènes de réseaux dont on a déjà parlé et que Gilles a expliqué, font que “rich gets richer”. C’est-à-dire que plus tu es gros et plus tu deviens incontournable et plus tu as un rôle d’attraction etc. Donc la question c’est d’arriver à faire que ces associations, ces groupements qui possèdent tout le pouvoir, se comportent de façon humaine, se comportent de façon correcte si on veut, et ne soient pas uniquement des prédateurs. C’est un peu ça. Quand tu es dans une position comme un moteur de recherche dominant, pour pas donner de nom, et que tu lances un nouveau service, tu peux éliminer la compétition en t’arrangeant pour que la compétition de ton nouveau service n’apparaisse pas dans la première page du moteur de recherche. Donc c’est une distorsion de concurrence comme on en a rarement eu, mais c’est pas nouveau, on en a déjà eu. Mais c’est une distorsion de concurrence qui correspond en fait à tuer deux grandes idées. Premièrement, l’égalité des chances, la liberté du commerce d’une certaine façon, disparaît. Et, deuxièmement, ta liberté en tant que personne de choisir ce que tu veux et l’information que tu veux avoir, les produits que tu veux avoir etc disparaît aussi. Ça, il faut bien voir que c’est la chose qu’on vit en ce moment. Et on vit ça avec le Web et quand on transpose ça aux places de marché pour les téléphones, Apple store etc., ça devient encore pire. Parce qu’encore, sur le Web, n’importe qui peut aller, c’est encore un espace relativement libre. C’est déjà un peu discutable puisque la plupart des gens y accèdent maintenant à partir des moteurs de recherches, ou à partir des réseaux sociaux donc ils ont une vision complètement distordue de l’espace puisque la vision de l’espace que tu as, c’est essentiellement la classification que tu as dans le moteur de recherche ou ce qu’on te propose dans ton réseau social. Il faut voir qu’énormément de jeunes n’accèdent le Web plus que par Facebook. Et que pour beaucoup de gens, je vais pas balancer des noms, mais il y a des gens pour qui aller sur le Web c’est aller sur Google. Ils ne voient pas la différence. Si tu veux, là on est en train de parler d’une distorsion totale de l’espace qu’on te propose. Et alors quand tu passes après à ce machin là qui est un téléphone portable, c’est encore pire. Parce que si tu ne plais pas à Apple Store, tu n’es juste pas dedans. C’est ce genre de choses dont on parle, et la question c’est : “est-ce que les internautes, est-ce que les associations, est-ce que les mouvements comme le logiciel libre, est-ce que l’économie sociale et solidaire, est-ce que toute cette partie de la société qui a énormément de dynamisme, de créativité etc, est-ce qu’elle peut arriver à faire quelque chose pour contrebalancer cet énorme pouvoir qui d’une certaine façon est comme une espèce de vague de fond qui, si on ne fait pas attention, si on ne fait rien, fera qu’on va arriver dans une monde dans lequel l’information sera contrôlée par quelques entreprises.

GD : Alors je vais essayer d’être un peu plus optimiste.

SA : Je suis pas pessimiste, je crois fortement qu’il y a un énorme pouvoir des associations et des gens, si tu veux. Le pouvoir, je ne sais plus qui l’a dit tout à l’heure, c’est “tu peux partir”. C’est à dire que quand Instagram a mis des règles à la con, les gens sont partis par milliers, et Instagram a reculé. Donc je pense qu’il y a un pouvoir considérable. Il faut prendre en compte ce pouvoir.

R : Et puis des expériences comme Wikipedia

SA : Wikipedia, les logiciels libres..

R : Rendent hyper optimiste

SA : Je suis pas du tout pessimiste mais je pense qu’il faut agir.

GD : D’accord, c’était juste pour trouver une transition que j’avais dit ça. (rires) Donc j’ai fait un petit calcul pour vous. Je me suis demandé un jour pourquoi on élisait des présidents de la république, et comment on les élisait. D’abord, il faut savoir que ça n’a pas toujours existé. Avant il y avait des rois, il y avait des dictateurs.

N : A priori, depuis que c’est démocratique, l’élection en deux tours majoritaires, ça a l’air d’être assez vieux. On avait cherché à un époque mais..

GD : Les idées datent du XVIIIème siècle en gros. Et donc je me suis demandé pourquoi est-ce que l’administration, notre pays, fonctionnait comme ça. Alors il y a plusieurs raisons. Il y a la première, c’est que ceux qui ont mis en place ce système, donc ceux qui l’ont imaginé, ceux qui l’ont mis en place, Montesquieu, Sieyès, vous voyez toute mon érudition et vous devez savoir d’où elle vient…

SA : Ce mec là est informaticien, je le précise. (rires)

GD : Ces gens là avaient un sentiment très anti-démocratique. Ils n’appelaient pas ça une démocratie représentative, ils appelaient ça un régime représentatif et ils l’opposaient à la démocratie qui est ce qu’on appelle plus ou moins aujourd’hui la démocratie directe. Mais ce régime représentatif il a quand même un intérêt, c’est que si vous élisez, mettons tous les cinq ans, un président de la république parmi 32 candidats, alors j’ai juste pris 32 parce que ça simplifie les calculs.

N : C’est la somme minimum des candidats à la primaire de gauche et à la primaire de droite, je crois. (rires)

GD : Ca doit être quelque chose comme ça. Donc c’est un peu gros mais ça ne va pas changer les ordres de grandeur, vous pouvez prendre 20, vous pouvez prendre 10, c’est pareil. Donc en gros, 32, c’est 2 à la puissance 5 , et ça veut dire que vous transmettez au moment où vous mettez votre bulletin dans l’urne, 5 bits d’information. Donc si vous transmettez 5 bits d’information tous les 5 ans, et bien vous faite une petite division, vous vous apercevez que vous avez un débit d’information qui est de 1 bit par an. Alors en général, les informaticiens ne comptent pas les débits d’information en bit par an, ils le comptent en bit par seconde. Donc j’ai fait le calcul à nouveau, et en bit par seconde, ça fait à peu près 10^-7 bits par seconde, c’est à dire un 10 000 000ème de bit à chaque seconde). Juste pour avoir un ordre de grandeur, si vous avez chez vous une box, elle transmet de l’information, un milliard de milliard fois plus vite. Donc le début d’information de la démocratie représentative, il est de l’ordre de un milliardième de milliardième de ce que vous pouvez faire avec une box qui coute 19 euros. Donc c’est une vrai particularité des régimes représentatifs, c’est d’avoir des débits d’information d’un niveau qu’on a rarement vu dans l’histoire, que d’avoir des choses qui ont un débit aussi faible. Et donc on peut se demander pourquoi. Et la réponse c’est aussi qu’on a imaginé ces choses au XVIIIème siècle, un petit peu avant au Royaume-Uni. Mais quand on a imaginé ces choses, et bien organiser une élection générale au niveau de l’état tous les 5 ans, c’était déjà beaucoup de logistique, beaucoup d’organisation, et donc le prix, le coût du débit d’information était très élevé et donc on était obligé d’utiliser des débits aussi faibles. Moi je crois qu’on peut imaginer d’aller un peu au-delà de ces 10^-7 bit par seconde et ça, ça veut dire qu’on a une très grande liberté d’imaginer des institutions différentes. Au départ on a pas juste le choix entre faire comme les français qui élisent un président tous les 5 ans, et les suisses qui votent directement…

SA : ou les anglais qui font un référendum.

GD : …il y a une extrêmement grande diversité des solutions politiques qu’on peut imaginer une fois qu’on un débit d’information un peu plus grand. Et parmi les questions qu’on peut se poser, c’est quel est le rôle des personnes. On parlait de tous les métiers qui peuvent être remplacés par les ordinateurs et par des algorithmes, est-ce qu’on pourrait pas imaginer que le métier de représentant du peuple soit lui même remplacé par un algorithme. Je le propose pas exactement pour demain. Je pense que juste remplacer le maire d’une ville par un algorithme auquel les administrés pourraient envoyer des mails et puis qui ensuite prendrait la meilleure décision pour la ville, n’est pas un système qu’on peut imaginer pour demain. Mais ça veut dire que là aussi le maire d’une ville, le maire d’une petite ville, va pouvoir brasser une beaucoup plus grosse quantité d’information et va pouvoir recevoir beaucoup plus d’information de la part de ses concitoyens.

SA : Si je peux me permettre de t’interrompre, j’ai aussi un point de vue qui est assez important au niveau du fonctionnement de la ville. C’est pas juste le maire de la ville, c’est aussi le citoyen. Le citoyen de la ville, il y a 40 ans, avait énormément de difficulté à savoir ce qui se passait. C’est à dire que, qu’est ce qu’il fallait faire, il fallait qu’il essaie d’assister au conseil municipal, en général c’était compliqué, qu’il aille lire les comptes-rendus de conseils municipaux, c’est compliqué. Dans les villes bien gérées maintenant, le conseil municipal est en ligne, et il y a énormément d’open data qui font que le citoyen de base a une visibilité. Alors je dis pas tout le monde parce que les gens ils ont des gosses, ils ont des trucs à faire, je vise personne, c’est compliqué. Ils ont pas tous le temps de passer leurs soirées à éplucher les comptes de la mairie, mais il y en a qui peuvent le faire, et il y en a qui le font. Je te repasse la parole Gilles, mais juste ce point de vue là, c’est que peut être dans le cadre d’une meilleure démocratie, un des points importants c’est que le citoyen est beaucoup mieux informé. Et quand on regarde, par exemple, les printemps arabes même si ça s’est pas bien passé, ça a pas toujours été hyper idéal, l’effet majeur des nouvelles technologies dans les printemps arabes, est le fait que les citoyens étaient au courant de ce qui se passait, ce qui n’était pas le cas avant. Gilles, vas-y.

GD : J’ai à peu près terminé en fait.

N : Vous dites beaucoup de choses donc je vais juste essayer de rebondir. Je pense que dans les choses extrêmement intéressantes, c’était justement par rapport au système de vote. On a abandonné relativement rapidement la démocratie où on invitait tout le monde et puis où on disait “votez”. Et on est à une époque où on peut se permettre de  refaire de ça, de refaire participer tout le monde. Ca rejoint l’idée de dire “on est tous informé, on est capable de faire participer tout le monde”. Et l’autre aspect où il me semble qu’on a des solutions, je vais vers de l’optimisme aussi parce que le Web que je connais..

GD : Faut arrêter de traumatiser les gens avec des mauvaises idées. (rires)

N : le Web qui est un peu attaqué par ces plateformes entre autre mobiles, c’est un Web qui a un peu été pensé bordélique. Et je me demande si dans ce bordel, on a pas moyen de construire des choses qui sont aussi beaucoup plus efficaces. Quand je dis bordélique, c’est qu’une page web aujourd’hui, elle fait appel à 50 pages Web, services et Cie, à droite, à gauche, qui peuvent être indépendamment modifiés. Alors aujourd’hui, en effet, le Web c’est des entreprises, centralisées souvent, mais pas que, il y a aussi des logiciels libres etc. Et j’ai l’impression que dans cette décentralisation avec en plus la possibilité de participation de masse, on peut construire des choses qui seront beaucoup plus dures à expliquer comme aujourd’hui des algorithmes de machine learning sont extrêmement compliqués à détailler étape par étape, mais qui l’un dans l’autre, fonctionnent mieux. Parce qu’ils ont leur fonctionnement plus organique.

SA : C’est sympa, j’ai pas compris la question.

N : Ha pardon. (rires)

SA : Faut que je réponde quelque chose d’intelligent, j’ai l’habitude, je suis prof.

N : En gros, l’idée derrière si j’essaye de simplifier, j’ai pas autant de talent que vous là-dessus, c’est de se dire : est-ce qu’en construisant quelque chose de plus organique, c’est-à-dire où il y a beaucoup d’individus qui sont tous actifs, et où les données sont décentralisées, les logiciels sont un peu décentralisés, on peut pas construire quelque chose de finalement plus efficace, plus durable.

SA : Alors oui, maintenant j’ai compris. Tout à fait, d’ailleurs c’est ça qu’est l’idée du Web. C’est l’idée d’Internet au départ, faut revenir un peu en arrière.

N : C’est ce qu’on a rappelé il y a deux semaines, il y avait une notion d’édition à la base où chacun pouvait éditer ce qu’il partageait.

R : On a déjà fait une émission sur la différence entre Internet et le Web.

SA : C’est très bien donc les gens ont bien compris qu’au départ c’était un réseau de machines complètement indépendantes, et que c’est pour ça que ça fonctionnait, c’était une indépendance et la distribution des machines. Et dessus on a fait un réseau de contenus complètement indépendant et c’est ça qui a fonctionné et c’est ça qui a donné la richesse du Web d’une certaine façon. Il n’y a pas d’autorité, tout est décentralisé, tout est distribué, chacun est indépendant. Si on regarde du point de vue d’une démocratie, si on veut essayer de faire un parallèle un peu osé, c’est un peu la même chose. C’est-à-dire qu’on veut après passer au niveau des personnes mais on est aux machines, aux contenus. Maintenant on passe aux personnes, aux réseaux sociaux. Un réseau social c’est quoi ? C’est un groupe de personnes sans chef qui s’auto-organise, qui s’auto-informe, qui s’auto-construit. Alors ça, ça marche bien d’une certaine façon parce qu’on retrouve la puissance de la distribution, la puissance du parallélisme. On peut démontrer même formellement, donner des théorèmes pour montrer pourquoi ça marche mieux. Mais mis à part ça, d’un point de vue organisation humaine, c’est très riche. Par contre, quand on veut organiser la cité, il y a besoin quand même d’une certaine structuration. C’est pour ça que moi je crois beaucoup en toute la phase où les gens s’informent, les gens discutent, les gens créent, les gens co-construisent, co-produisent des idées etc. Mais il y a un moment donné où il faut quand même faire des choix et les choix doivent être politiques. Mais un choix politique avec des personnes mieux informées, c’est un meilleur choix politique qu’un choix politique avec des personnes comme c’est par exemple au parlement français votant la loi de renseignement sans rien comprendre du tout à ce qu’il y avait dedans.

GD : Un bon exemple d’apport de la structuration dans un espace plutôt anarchique, c’est les encyclopédies en ligne. C’est-à-dire si demain vous voulez partager des connaissances, je ne sais pas, sur l’algorithme d’unification, vous pouvez faire une page Web et la mettre sur sur votre site et personne ne va jamais la regarder. En revanche si vous essayez d’aller expliquer l’algorithme d’unification dans Wikipedia par exemple, ou dans une autre encyclopédie en ligne, mais là aussi, on s’aperçoit qu’il y a des situations un peu de monopoles qui s’installent, et bien vous avez une audience qui est bien sûr beaucoup plus importante puisque beaucoup de gens vont aller chercher des informations là-dedans. Donc effectivement, au départ, mais je pensais que Serge allait expliquer ça au départ, les bases de données avec des données extrêmement structurées et puis petit à petit, le Web a remplacé ça par des données moins structurées mais on s’aperçoit qu’il y a des efforts émergents, qui émergent de communautés qui elles-mêmes ne sont pas soumises à un dictateur, mais de communautés auto-organisées émergent souvent des données très structurées. Je veux dire, il n’y a rien de plus structuré que Wikipedia.

R : Bon ce qui est bien, c’est que vous avez répondu à une des questions, parce que je ne sais pas si on vous avait dit, mais les gens dans la chatroom ont le droit de poser des questions. Et donc ils posent des question et l’une d’elles était effectivement : “pourrait-on envisager une politique assistée par ordinateur”. Alors je sais pas si c’est vraiment assisté par ordinateur là ce qu’on dit puisque c’est plus informé finalement, c’est une politique mieux informée d’un côté comme de l’autre. Du coup comme on en est sur la politique, je me dis, cette question, c’est peut-être le moment de la poser : est-ce qu’il y aurait d’autres moments à être assisté par ordinateur pour faire des choix politiques.

SA : Alors il y a Antoinette Rouvroy qui est une philosophe que j’admire beaucoup qui pose ce genre de questions, sur une gouvernance par les algorithmes. Et elle pose en particulier la question suivante, alors c’est pas de la politique mais c’est très, très proche, c’est du droit :  les remises de peines. Vous avez des gens qui ont été condamnés, ils ont fait leur temps de prison. Enfin, ils ont pas fait leur temps de prison. Ils ont été condamnés à 5 ans de prison, ils ont fait 2 ans et demis. Et typiquement maintenant au bout de 2 ans et demi, on dit : “peut-être qu’on pourrait les libérer”. Alors là il faut peser, est-ce qu’il y a un risque de récidive etc. Et la question c’est : est-ce que vous confieriez cette tâche là à un algorithme. Et c’est une bonne question, est-ce qu’on ferait ce genre de chose. Première réaction, c’est si j’ai un algorithme qui se trompe moins ou que je peux mesurer comme étant meilleur qu’un juge ? Parce que les juges, encore une fois, il y a pleins de problèmes avec les juges. En particulier, on a montré aux Etats-Unis que suivant l’heure de la digestion, par exemple..

(rire)

SA : Non mais c’est vrai, c’est des êtres humains et s’ils viennent de manger, ils n’ont pas les mêmes réactions, c’est normal. Un ordinateur au moins il donnera le même résultat à 2h de l’après-midi qu’à 4h de l’après-midi. C’est con mais..

N : On est en train de vivre ça même sans aller sur la politique, on est en train de vivre ça avec les voitures autonomes où le grand débat du moment c’est une voiture qui a le choix entre écraser 5 passants ou suicider le passager, qu’est-ce qu’elle doit faire. Et si l’algorithme décide, forcément le choix sera mauvais. Si c’est l’humain qui fait au mieux et qui réagit en fait instinctivement sans trop savoir ce qu’il fait, on préfère.

SA : On pourra parler de ça. C’est un autre problème qui est très intéressant. Mais revenons à notre juge. Donc supposons qu’on ait un juge qui fasse moins d’erreur… ou un ordinateur qui fasse plutôt un meilleur score alors suivant une mesure, la mesure que vous voulez, précise et tout, est-ce que vous seriez content de déléguer ce travail extrêmement humain qui est une décision de justice de libérer ou non une personne, à un ordinateur. Alors moi j’ai essayé de m’en tirer en disant à Antoinette Rouvroy : “on va pas faire comme ça, on va faire des juges qui seront aidés par l’ordinateur”. Et elle a complètement écarté, à juste titre, ma proposition en disant : “mais non parce qu’un humain qui serait aidé par un ordinateur va laisser complètement l’ordinateur décider. C’est-à-dire que si l’ordinateur dit ‘je le libère pas’, il n’y a aucun humain qui va oser le faire parce que ça serait prendre un risque considérable, s’il y a une récidive, il sera responsable. Donc l’humain va se protéger complètement en disant : “je suis ce que fait l’ordinateur”. Donc voilà, c’est des questions comme ça qui vont se poser avec l’intelligence artificielle. Est-ce qu’on est d’accord pour laisser une responsabilité aussi importante à un ordinateur qui n’aura pas peut être l’empathie que pourrait avoir un juge, mais qui d’un autre côté se tromperait pas, ne serait pas influencé par sa digestion, est-ce qu’on le laisserait choisir ou pas.

GD : J’avais été assez surpris, assez choqué même, il y a quelques années quand j’avais assisté à un débat sur le meilleur moyen d’avoir la paix sociale, de ne pas avoir de délinquance, bien sûr dans les banlieues puisque c’est toujours là qu’il y a de la délinquance [d’un ton ironique]. Et le débat opposait deux personnes, l’une favorable à plus de prévention, l’autre favorable à plus de répression et chacun disait : “la prévention on sait que ça marche” et l’autre disait : “ben non, on sait que ça ne marche pas”. Puis en fait ce qui marchait c’était la répression, et puis la répression on sait que ça ne marche pas, etc. J’étais assez étonné parce que personne, a aucun moment, n’avait dit : “ben voilà, on a fait une expérience avec un groupe témoin, un groupe sur lequel on a fait de la répression, un groupe sur lequel on a fait de la prévention, et puis on a mesuré le nombre d’actes de délinquance et on a remarqué que, statistiquement, il y avait un groupe qui était plus délinquant que l’autre et donc on est arrivé à une conclusion scientifique sur ce sujet et là on imagine que les 2 protagonistes, les 2 débattants auraient du dire, enfin surtout l’un des deux : “je suis contraint de m’incliner devant des faits”. Et il y a énormément de décisions politiques qui sont prises comme ça. C’est-à-dire, vous voulez ouvrir un magasin le dimanche, vous voulez fermer la gare, vous voulez mettre un bus, vous voulez fermer une crèche, ouvrir une école etc. Il y a des gens qui ont des opinions qui sont : est-ce que ça va être comme-ci, est-ce que ça va être comme ça. Et finalement on prend la décision sans vraiment savoir quel va être l’impact. Et en général, l’impact on le mesure après, mais comme on ne sait pas ce qui se serait passé si on avait pris la décision inverse, on peut juste comparer le réel au virtuel. Et il me semble que dans la notion de politique assistée par ordinateur, il y a cette idée de possibilité de modéliser des phénomènes sociaux. Par exemple, les géographes ont pleins de modèles qui posent la question : qu’est-ce qui se passe si on met une gare, qu’est-ce qui se passe si on met un aéroport, est-ce que la population va croître, est-ce que la population va décroître, etc. Et en gros, leurs modèles se trompent. Donc aujourd’hui, on est encore dans le balbutiement, il y a de temps en temps des résultats qui sont surprenants. On arrive à comprendre des phénomènes urbains. Mais pour la plupart on est encore aux balbutiements de ce type de modélisations des phénomènes sociaux. Mais supposons qu’on fasse des progrès, il n’y a pas de raison qu’on en fasse pas, avec plus d’expériences et en comprenant mieux les modèles, il est possible que demain on sache répondre à la question : si on met une gare, si on ferme une ligne de train, si on ouvre une ligne de bus, voilà les effets que ça va avoir sur le paysage, la population etc. Et là si on est capable de le faire, à ce moment là, la décision politique pourra être beaucoup plus informée et elle devra être beaucoup moins sujette à l’opinion et beaucoup plus sujette à la connaissance. Et ça, je crois qu’il y a une possibilité ici d’une vraie évolution du politique parce que la décision qui est prise, qu’elle soit prise d’ailleurs par un élu, qu’elle soit prise par une assemblée de citoyens ou quoi, elle est quand même aujourd’hui très peu fondée sur les faits et très peu fondée sur des anticipations, et ces anticipations, si on a un jour des modèles informatiques qui permettent de modéliser ces phénomènes, les décisions pourront être beaucoup plus informées. Donc ça je pense que c’est une dimension importante de cette idée de politique assistée par ordinateur.

SA : Et tu as peut être raison dans le sens où le fait de déjà poser la question… C’est ça qui est intéressant, si on commence à poser la question en disant : est-ce que le choix d’un ordinateur sera aussi bon que le choix d’un être humain, ça demande déjà à formaliser la question. En particulier ça demande à poser déjà la question : ça veut dire quoi “meilleur”. C’est pas du tout évident de savoir si c’est meilleur.  Est-ce qu’on veut minimiser le nombre de récidives, est-ce qu’on compte 10 pour une récidive et .. parce que si on veut vraiment minimiser les récidives, il suffit de garder tout le monde en taule. Ca, ça marche bien, et il y a des gens qui proposent ça d’ailleurs. Donc la question c’est d’arriver à formaliser une fonction de coût. A partir du moment où on a formalisé une fonction de coût, on est déjà sur ce que tu dis, c’est-à-dire d’essayer de formaliser, de mieux étudier les phénomènes sociaux.

N : Formaliser une question de coût, c’est formaliser ce qui est bien et ce qui est pas bien.

SA : Oui je ne sais pas. C’est par exemple dire : s’il y a une récidive, je compte que j’ai perdu 10 points et si j’ai mis quelqu’un en liberté qui n’a pas fait de récidive, j’ai gagné 1 point. C’est complètement stupide mais au moins je peux comparer les deux risques sinon encore une fois, si je fais ça de façon naïve, la solution simple c’est de garder tout le monde en taule, y compris ceux qui n’ont rien fait.

N : Cette idéologie de politique selon la connaissance et en vérifiant ce qu’on propose, elle est beaucoup critiquée justement pour ça. C’est-à-dire que souvient il y a des débats politiques qui se portent plus sur les questions que sur les méthodes. Là récemment, ce fait de modélisation, il me semble qu’il y a des modélisations qui ont été faites sur la loi du travail, par exemple en France. Sauf qu’une des questions la loi du travail dans ses critiques, c’est : “est-ce que le but c’est de créer plus d’emplois ou est-ce que c’est de ne pas créer plus d’emplois précaires, quitte à laisser des gens au chômage”. Et en fait, c’est dans la question qu’est toute la problématique.

GD : Comme disait Serge, le fait qu’on pose la question est déjà un progrès.

SA : Le fait de formaliser le problème, c’est une question, tu as raison. C’est pas aussi évident que ça de répondre quelle est la bonne mesure. Moi je travaille en ce moment sur l’équité des algorithmes de mesure, ces fameux algorithmes de big-data, est-ce qu’ils sont justes ou pas. Quand tu essayes de mesurer l’équité, ça dépend ce que ça veut dire, ça dépend ce que tu veux dire. Est-ce que c’est juste de donner une bourse à un étudiant d’une minorité pour ré-équilibrer le nombre de personnes de cette minorité qui aura accès aux études. C’est juste d’un point de vue du groupe, mais c’est injuste d’un point de vue individuel. La notion même de choisir une politique, de choisir la définition d’équité, c’est déjà un problème politique.

R : Je me permet juste parce qu’il y a quelqu’un dans la chat-room qui pose la question à propos de l’économie, qui disait : “on laisse bien les algos gérer l’économie”. Je sais pas si c’est pas un peu exagéré de dire ça comme ça mais disons que l’économie a en tout cas une réputation de scientificité un tout petit peu plus élevée que la sociologie. Est-ce que c’est justifié ou pas, c’est une énorme question, je pense qu’on va recevoir bientôt quelqu’un sur l’économie qui pourra nous dire ce qu’il en pense. Il y a des gens qui prétendent que les économistes sont d’accords sur certains points, j’ai des gros doutes mais en tout cas sur l’économie, je sais pas si vous avez une position différente sur le fait de se faire assister effectivement par des modèles, est-ce qu’il y a des modèles qui semble suffisamment robustes, enfin après c’est pas votre boulot non plus mais..

GD : Disons, on peut critiquer les modèles tels qu’ils sont aujourd’hui, tels qu’ils seront demain. Là-dessus ça serait compliqué, il faudrait prendre des exemples, il y a des modèles qui marchent bien et des modèles qui marchent pas puis il y a des modèles qui expliquent pourquoi il y a des prévisions qui sont impossibles et ça, c’est aussi intéressant. Sur la question même du modèle, le fait qu’on cherche à modéliser est en soi bien et on comprend aussi, comme ça, certaines limitations des modèles. Par exemple, avant qu’on ait des modèles algorithmiques, on essayait de construire des théories qui expliquaient le monde. Par exemple Newton propose 3 équations qui expliquent les lois de Newton, qui expliquent la mécanique. Et ensuite, il y a une chose importante, c’est d’être capable de confronter les résultats de la théorie de Newton à des observations qu’on fait sur des éclipses, sur des pommes qui tombent des arbres etc. Et quand les observations et la théorie divergent, on se dit qu’il y a un problème avec la théorie et qu’il faut l’abandonner ou la changer de fond en comble. Avec les modèles algorithmiques, on a une possibilité d’avoir des théories beaucoup plus complexes. C’est-à-dire là où la théorie de Newton tenait en 3 lignes, enfin en 3 équations, on peut écrire aujourd’hui des modèles de phénomènes sociaux, des modèles de pleins de phénomènes, des phénomènes physiques aussi, qui sont extrêmement complexes et qui, du fait de leur complexité, dépendent de beaucoup de paramètres. Assez souvent, quand il y a un modèle qui ne correspond pas à la réalité, on se dit “mais il suffisait un peu de changer un paramètre” et hop, du coup ça correspond à la réalité. Ça veut dire

que cette vision qu’on avait un petit peu simple dans la lignée de Karl Popper de : “il y a une théorie, il y a des faits, il faut les comparer puis les faits peuvent réfuter la théorie”, on s’aperçoit qu’on a besoin aujourd’hui d’un nouveau Karl Popper. On a besoin aujourd’hui de penser la confrontation de faits qu’on observe avec des théories très complexes. Et l’économie me semble avoir tout à y gagner d’avoir des modèles plus complexes que les modèles qu’elle a aujourd’hui même s’il y a certains phénomènes qui sont simples, on peut les modéliser par des modèles simples. Mais il y a des modèles complexes, il y a beaucoup d’agents économiques par exemple, et qui méritent d’avoir des modèles complexes mais avec cette question de comment est-ce qu’on confronte un modèle complexe à la réalité et comment est-ce qu’on évite d’avoir suffisamment de paramètres pour qu’en changeant un paramètre, on arrive toujours à tout expliquer. Ça c’est une vraie question sur laquelle on a très peu de réponse aujourd’hui. C’est une question qui émerge en fait à peine aujourd’hui de l’analyse de la scientificité de ces modèles.

N : Qui plus est, une question, si je rebondis sur ce que disais Serge tout à l’heure, aujourd’hui il y a Google qui est soupçonné plutôt par Drumpf de promouvoir la campagne d’Hillary Clinton dans ses résultats. Ce sont des choses qui sont très dures à mesurer justement, de faire du reverse-engineering sur les algorithmes et d’essayer de voir des orientations de l’algorithme.

SA : C’est pas si compliqué. Ça dépend de quel algorithme. Il y a certains algorithmes, c’est compliqué de savoir ce qu’ils font, et de les mesurer. Dans les algorithmes de type “moteur de recherche”, parce que là c’est ce qu’accuse Drumpf, c’est finalement beaucoup plus simple parce qu’on a des quantités de données considérables et donc les statistiques permettent de le faire. Quand par exemple, la communauté Européenne s’est inquiétée de vérifier que le moteur de recherche Google biaisait les résultats en faveur de ses services par rapport à d’autres services, ça a pas été si compliqué que ça de le vérifier. C’est pas si difficile. Et d’une certaine façon, c’était un peu le secret de polichinelle, il y avait pleins de gens qui l’avaient mesuré. La question c’est : l’autorité pour faire ça. Moi personnellement, j’étais un grand fan de Google. J’ai des copains chez Google qui m’expliquait la théorie du mur : chez Google il y a un mur qui partage le moteur de recherche de toutes les autres activité de l’entreprise, et le moteur de recherche ne dépend pas des autres activités de l’entreprise. Et moi, c’est des potes, je les croyais, je suis naïf, je les ai cru. Et puis j’ai rencontré régulièrement des mecs qui me disaient : “non mais ça va pas, t’es complètement idiot, moi j’ai vu, moi je faisais un commerce comparatif sur Internet en Angleterre et le jour où Google a sorti le sien, mes pages sont passées du haut de la 1ere page au bas de la 1ère page, puis à la 2ème, puis à la 3ème. En 3 semaines j’avais disparu et j’ai fermé ma boite.”. Donc voilà, c’était un secret de polichinelle d’une certaine façon dans le sens où il y avait pleins de gens qui l’avaient vu. Quand vous avez une start-up et que vous regardez votre concurrent et que vous voyez votre page descendre dans le moteur de recherche et votre produit diminuer, vous le savez. Mais la question, c’était pas ça. La question c’est : est-ce qu’il y a une autorité qui est capable de dire que “c’est vrai”, de mesurer que c’est vrai. Donc statistiquement c’est mesurable parce qu’on est dans des grands chiffres, on est dans des grandes mesures. Le problèmes c’est pas la mesure, le problème c’est l’organisme responsable, l’organisme qui a une autorité pour mesurer ça. Et ça d’une certaine façon, il n’y en a pas.

N : Alors c’est parfait parce que ça va nous permettre de re-boucler sur le début, sur l’éducation, avant d’en arriver à une conclusion un peu “intelligence artificielle”. Du coup une autorité comme ça, il faudrait en fait qu’elle soit éduquée. Un des problèmes de créer ce genre d’autorité, c’est de réussir à faire comprendre ce qu’elle va faire et ensuite de la former de manière à ce qu’il y ait suffisamment de spécialistes à l’intérieur mais qui soient aussi capables d’être en lien avec le peuple, avec les autorités politiques pour faire comprendre. Et un autre élément, c’était plus là où était l’objet de ma question, je vais essayer de me raccourcir sinon Serge, à chaque fois, je pose des questions qui n’ont pas de point d’interrogation donc c’est pas un bon signe. Donc oui, l’autre élément que je trouve intéressant sur tout ce qui est dit là sur le fait de passer à la dernière page, c’est qu’aujourd’hui quand on est une grosse entreprise comme Facebook, comme un Google, ça peut être une personne derrière son ordinateur qui a accès au code source, qui peut, d’un choix volontaire ou non, en modifiant du code, avoir un impact politique, social, énorme. Volontaire ou non, c’est là où j’insistais. Est-ce que c’est le rôle des informaticiens, des développeurs, d’avoir ce rôle-là, politique, social, cet impact-là ? Oui, non ? Est-ce que ça doit le devenir ?

SA : Non mais c’est pas des informaticiens chez Amazon, chez Google, qui décident ça. C’est pas des informaticiens du tout. C’est des gens de marketing, c’est des gens de business, c’est pas des informaticiens. Les informaticiens, ils font ce qu’on leur dit de faire. C’est pas eux qui décident de la politique marketing de la boite. Donc c’est pas ça. La question primordiale c’est : qui a le pouvoir de vérifier, de contrôler. Ces grandes entreprises ont un pouvoir considérable. Et avec ce pouvoir considérable, doit arriver des responsabilités aussi importantes. Donc ils ont le pouvoir de déstabiliser les marchés, de fermer des boites, d’en créer d’autres etc.. Ils ont un pouvoir absolument considérable. Et donc légalement, ça parait raisonnable qu’ils aient aussi des responsabilités. La question c’est : comment leur imposer. Ca peut être, je sais pas moi, “Que Choisir”, je comprend pas pourquoi “Que Choisir” a pas un système de mesure de ce genre d’audience.

GD : Il y a une question qui est surprenante, c’est que Fox News par exemple, favorise beaucoup Drumpf par rapport à Clinton, mais personne n’a l’air de s’en plaindre parce que c’est un média d’opinions, un médium d’opinions et donc on considère assez normal que ça soit un médium partisan. Et on a l’impression en parlant de Google qu’on parle d’un service public. C’est-à-dire autant on admet qu’un journal ou une chaîne de télé puisse favoriser un candidat, autant on admettrait pas qu’un service public, comme par exemple le président d’un bureau de vote favorise un candidat plutôt qu’un autre. Il y a une neutralité qui est imposé aux services publics alors que les personnes privées, les entreprises, peuvent, pourraient en théorie, avoir des opinions politiques et favoriser un candidat plutôt qu’un autre. Mais là, on a l’impression que dans le cas de Google, c’est un problème et ça, ça veut dire qu’on ne pense plus tout à fait à Google comme à une entreprise privée qui peut avoir ses opinions et ses amis et ses ennemis mais comme un service public. Ca c’est quelque chose d’intéressant parce que c’est pas du tout un service public. Donc peut être quand une entreprise a suffisamment de pouvoir, a trop de pouvoir peut être, à ce moment là, il lui incombe des responsabilités que naguère on imaginait incomber aux services publics uniquement. Mais est-ce que Fow News n’a pas beaucoup de pouvoir aussi, c’est une question qu’on peut se poser.

R : Je vais continuer à ne pas être humble et parler de moi-même en bien mais ça me fait beaucoup penser à quelque chose, un état d’esprit qu’il y a à “Science et Vie Junior”. Je participe, je collabore à “Science et Vie Junior” et c’est assez amusant parce que “Science et Vie Junior” a une position relativement monopolistique sur la vulgarisation des sciences pour les ados. Globalement il y a quelques concurrents mais si on pense à un truc pour ado, c’est “Science et Vie Junior”. Et c’est assez amusant de voir qu’il y a cette politique là, il y a cette réflexion là. Le rédac’ chef, j’en ai déjà discuté avec lui, les maths sont évidemment pas la discipline qu’on a envie de mettre en avant parce que c’est  évidemment pas ce qui fait venir le plus de monde. Mais il considère qu’il faut en mettre, et c’est aussi tout intérêt bien calculé. Il faut que tous les gens puissent y trouver leur compte et dans “tous les gens”, il y a des gens qui sont intéressés par les maths. Ca m’y fait énormément penser ce que tu dis parce qu’à partir du moment où t’as une position de monopole, il faut te préoccuper de tout le monde. Et donc t’es d’une certaine manière contraint à adopter une politique presque de service public. Je dis pas que c’est un service public mais c’est quelque chose qui a à voir avec ça. C’est-à-dire que t’es obligé de donner des choses qui intéressent tout le monde.

SA : C’est une question que tu peux poser. La notion de moteur de recherche ,à partir du moment où le moteur de recherche en Europe est utilisé par plus de 90% de la population, est utilisé comme moyen d’accéder à toutes les connaissances, toutes les structures et tous les produits du Web, tu peux te poser la question de savoir. Evidement, c’est pas forcé que ça soit un service public mais est-ce qu’il ne devrait pas avoir des obligations du style service public.

N : Et comment on fait, alors là ça va être la question “avocat du diable”, pour faire cohabiter cette logique là, cette logique de service public, d’objectivité, avec la logique de personnalisation des résultats de recherche.

SA : C’est extrêmement compliqué. Et d’ailleurs c’est quand même très simple, si la fameuse neutralité dont on se pose des questions sur le moteur de recherche, quand tu es sur ton téléphone, elle n’existe plus. Il faut être conscient que quand tu utilises ton  moteur de recherche du téléphone, il n’y a plus de neutralité parce que essentiellement on considère que tu es localisé quelque part, que quand tu cherches quelque chose, tu cherches quelque chose dans ton environnement donc on recherche plus du tout neutre, on essaye de complètement personnaliser ça à ton environnement. C’est compliqué mais essentiellement c’est un ménage à 3. Il y a le monde avec toutes les structures qu’il offre, il y a l’individu avec ce qu’il cherche, ses besoins et il y a la boite, c’est-à-dire le moteur de recherche en tant qu’entité commerciale qui vend des trucs. Et bien il faut faire disparaître un des trois. C’est-à-dire qu’il faut que la décision soit basée uniquement sur ce que tu es toi, ce qui t’intéresse toi et ce que le monde offre. C’est ça qui t’intéresse. Quand tu cherches un produit, tu veux le produit qui te plait le plus, tu ne veux pas le produit sur lequel Google fait un maximum de profits. Alors la question, évidemment, c’est la question du fait que ce service est un service gratuit. Et c’est là qu’on est un peu dans l’aberration. C’est-à-dire que si le service est gratuit, il faut évidemment que Google fasse des profits dessus, d’accord. Donc s’il faut qu’il fasse des profits, la façon de faire des profits c’est de pousser ses propres produits. Il faut arriver à séparer et c’est pour ça que c’est compliqué dans l’esprit d’une entreprise. Je comprend bien que les gens de Google ait du mal parce qu’eux, c’est une boîte commerciale, il faut qu’ils fassent leurs profits et donc il faut qu’ils arrivent à séparer les profits qu’ils peuvent faire en balançant de la pub de façon neutre et les profits qu’ils peuvent faire en favorisant leurs propres services. C’est compliqué. Moi je ne leur jette pas la pierre. C’est pas à eux de faire le ménage. C’est aux états et à nous de faire le ménage.

N : Alors je vous propose de passer à l’intelligence artificielle, sinon on va jamais finir cette soirée. (rires) Surtout que je pense qu’on a des gros sujets là. On a que deux questions sur l’intelligence artificielle mais je pense qu’elles vont prendre du temps, je ne sais pas pourquoi. La première c’est au sujet du test de Turing au sens très large. Quand on fait l’épisode sur le deep-learning qui a ouvert la saison, donc on est content de la fermer justement en parlant de ça, on s’est rendu compte que le test de Turing, c’est un peu ce marronnier qu’on ramène, qui commençait à dire : “il faut qu’un ordinateur puisse berner un humain pour qu’il soit intelligent”. Puis quand il a réussi à berner un humain, on s’est rendu compte qu’il avait quand même l’air sacrément con en bernant un humain. Donc on s’est dit : il faut qu’il gagne aux échecs. Il a gagné aux échecs, il avait encore l’air bête. Il fallait qu’il puisse cuisiner, il a pu cuisiner, il avait encore l’air bête. Là il vient de gagner au go, il a pas encore l’air super malin-malin. Du coup, de plus en plus, des gens commencent à dire : “bon en fait la limite, au fur et à mesure qu’on va leur demander de faire des choses, ils vont y arriver”. La limite, on a l’impression, c’est qu’ils ne vont jamais d’eux-même, décider de faire des choses. Alors est-ce que c’est ça le vrai test de Turing de l’intelligence artificiel ou pas.

GD : Alors je vais commencer par la notion de masse et de poids.(rires) Donc quand on a une activité scientifique, quand on construit une théorie scientifique, on est obligé d’utiliser des mots que tout le monde utilise, comme des mots de “masse” et de “poids” qui existaient avant que les physiciens les utilisent. Donc on est amené cependant à leur donner des sens un peu précis et par exemple à distinguer la notion de masse et de poids. Puis il y a d’autres notions comme la notion de phlogistique qui disparaît, et puis il y a d’autres notions, comme la notion de quark qui apparaît, on trouve pas de mot, on avait pas de notion similaire avant. Et donc je suis toujours un petit peu embêté quand je vois des personnes discuter de l’intelligence et de la conscience des ordinateurs. J’ai un peu tendance à leur demander : “mais comment est-ce qu’on définit l’intelligence, et comment est-ce qu’on définit la conscience”. Et je suis doublement embêté quand je vois des collègues informaticiens qui ont l’air de considérer que tout le monde sait ce qu’est la conscience et que tout le monde sait ce qu’est l’intelligence. Et je crois que les travaux qui ont été cités sur le fait de jouer aux échecs, au go, de faire la cuisine, de traduire un texte, de berner un humain etc., nous montre que l’intelligence ou la conscience sont des concepts qui sont extrêmement flous et qui ont beaucoup de significations différentes et qu’il  importe de démêler. Donc on peut dire que l’intelligence, c’est de jouer au go, et donc dans ce cas là, les ordinateurs sont plus intelligents que nous. On peut dire que l’intelligence, c’est de berner un humain. Et je crois que c’est pas tellement ça en fait la chose importante dans le test de Turing. Le point sur lequel Turing veut insister, il me semble, si j’ai bien compris l’article, c’est sur le fait qu’il y a une chose qu’on entend de temps en temps qui consiste à dire : “oui l’ordinateur fait semblant de jouer au Go, il fait semblant par

exemple, d’avoir des émotions, fait semblant d’être fâché, fait semblant d’être amoureux etc., mais en fait, il l’est pas vraiment”. Et donc il y a cette idée qu’on peut faire semblant d’être intelligent et en fait on ne l’est pas vraiment parce qu’on simule. “Simule” dans tous les sens du terme, au sens de la simulation informatique mais aussi au sens de faire semblant. Le point sur lequel Turing veut attirer notre attention, c’est le fait qu’il n’y a pas vraiment de différence entre “être intelligent” et “avoir l’air intelligent”. Si on est capable de simuler l’intelligence, si on a un objet qui soit humain ou pas humain, qui a un comportement que de l’extérieur on juge intelligent, on a toutes les raisons de penser qu’il est intelligent. Et il y a un point de vue un peu matérialiste ici qu’il est important de comprendre dans le point de vue de Turing. On peut dire “oui mais en fait, c’est que des 0 et des 1 à l’intérieur de l’ordinateur, donc c’est pas vraiment de l’intelligence”. Mais là Turing ne dit pas ça, mais aujourd’hui on pourrait le dire d’avantage, c’est de dire : “oui mais dans mes neurones, c’est que de la dopamine et des influx électriques”. Et pourtant on fait semblant d’être intelligent, on arrive à simuler l’intelligence. Ben c’est ça être intelligent. Donc voilà une autre définition possible de ce qu’est l’intelligence. La conscience par exemple, si on prend la notion de Freud de conscience qui est la même notion que celle de Leibniz, c’est qu’on a une sensation consciente quand on a perçu quelque chose, une sensation ou disons un désir. Un désir est conscient quand on sait qu’on a ce désir. Et une perception est consciente quand on sait qu’on a cette perception. Mais on a aussi des perceptions inconscientes dont on ne sait pas qu’elles existent. Donc voilà une acception particulière du mot “conscient”. Et si on prend cette acception là, et bien les ordinateurs sont conscients. Je veux dire, il y a des ordinateurs qui sont capables de nous expliquer comment ils sont arrivés au résultat que 2 et 2 font 4 et donc ils nous expliquent qu’ils sont conscients du fait qu’ils ont fait un calcul. Ils sont capables de nous donner la trace du calcul, de nous donner la manière dont ils sont parvenus au résultat. Et puis des fois ils ne le sont pas. Exactement comme le cerveau, on peut plus ou moins comprendre pourquoi chacun des actes ne peut pas être conscient. Pourquoi il y a forcément un petit nombre, un certain nombre d’actes qui sont inconscients. Donc je crois qu’on ne peut pas discuter de cette question de l’intelligence, ni de la conscience sans commencer par préciser ce qu’on entend par là. Et plus on fait de recherches en intelligence artificielle, moins le mot conscience ou le mot intelligence est clair, et plus on est amené à le découper en plusieurs petites notions. Et sur chacune de ces notions, on progresse et c’est très bien. Mais peut être, l’intelligence, est-elle le phlogistique du XXIème siècle, c’est la notion dont on va devoir apprendre à se débarrasser si on veut penser clairement ces questions.

N : Et la notion de libre arbitre ?

SA : Alors je suis arrivé à la notion de libre arbitre à la fin parce que j’ai aucune réponse là-dessus. Mais par contre je vais rebondir sur un certain nombre de points. En particulier en revenir à ta question sur l’intention. Gilles a tourné un peu autour quand même. Alors premièrement, le test de Turing, c’est un test, avec tout le respect que je dois à Turing, qui est juste un test d’escroquerie. C’est comment un ordinateur peut escroquer un humain en lui faisant croire qu’il est humain. Donc on évacue ça. C’était, avec tout le respect que je dois à Turing, il y a très longtemps. On a fait beaucoup plus sur la réflexion autour de l’intelligence artificielle depuis Turing. En particulier, ce qui a beaucoup évolué depuis Turing, c’est l’idée qu’il n’y a pas une forme d’intelligence. C’est-à-dire qu’on peut dire : “reconnaître des chats, des chiens”, c’est une truc très compliqué et il y a des techniques pour faire ça. Jouer au jeu de go, c’est intelligent, et il y a des techniques pour faire ça. Donc quand on s’aperçoit, même d’un point de vue technique, les techniques qu’on développe, les techniques d’intelligence artificielle, c’est pas un algorithme, c’est tout une batterie de techniques qu’on a développé. Et d’une certaine façon, un être humain qui fait son apprentissage, on retombe sur le machine-learning et l’apprentissage. Un être humain apprend pleins de choses. Il apprend pas juste une tâche, il apprend pleins de machins. Je crois que tu utilisais la notion de découpage, en fait c’est ça qui est important. Dans la technique aussi il y a ce découpage. Il y a pas une solution à l’intelligence. Il y a toute une gamme de problèmes en fait. Et c’est ça l’informatique. L’informatique, si on vous donne un problème, vous trouvez une solution. Il y a toute une gamme de problèmes intelligents qu’on va apprendre à résoudre et sur lesquels on fait des progrès : la traduction, la reconnaissance de formes, le contrôle d’une bagnole etc. Tous ces trucs là, on apprend ça quand on est un être humain au cours de son adolescence et on continue plus tard. Une machine c’est pareil. Voilà, j’ai parlé du test de Turing, j’ai parlé du découpage. Je pense qu’on parle beaucoup trop de conscience. Il y a quelque chose qui, en tout cas moi, m’intéresse énormément, c’est l’inconscience, l’inconscient. Et en fait quand t’as parlé de Freud, Freud s’intéresse énormément à l’inconscient. Et d’une certaine façon, t’as l’air d’être très passionné par le machine-learning, mais le machine-learning c’est beaucoup de l’inconscient. Le machine-learning n’essaye pas de comprendre les achats que tu fais sur Internet de façon consciente. T’as fait pleins d’achats sur Internet, il s’aperçoit que t’achètes plutôt ça, ça et ça. Ça n’a rien de conscient, c’est à partir de tous les signaux que tu donnes, essayer de déterminer l’inconscient. Et donc d’une certaine façon, le machine-learning s’intéresse beaucoup plus à l’inconscient qu’au conscient. D’une certaine façon, les ordinateurs ont aussi appris à parler d’inconscient. Alors après on en arrive au sujet de départ qui était : est-ce qu’ils ont des intentions. Est-ce que les gens ont beaucoup d’intentions ? C’est pas si évident que ça comme réponse. Essentiellement, moi je vois : on m’a mis là, j’ai appris à aller à l’école, on m’a dit “ha bah t’es bon en maths, t’as qu’à aller en prépa”, je suis allé en prépa et j’ai fait toute ma petite vie. J’ai un boulot parce qu’il faut avoir un boulot et faut bouffer etc. Donc les intentions sont quand même pas si claires que ça d’accord. Est-ce que c’est l’intention qui distinguerait le fait qu’une machine serait intelligence, à partir du moment où elle a une intention ? Il faudrait d’abord me démontrer que la majorité des gens ont énormément d’intentions, c’est pas si clair que ça. Et je sais plus quelle était ta dernière question.

N : Je crois que c’était ça. Sur l’intention, la seule chose qu’on peut dire aujourd’hui, c’est qu’aujourd’hui c’est les humains qui demandent aux machines de faire des choses. A priori, quoi qu’en disant ça, je me rend compte que sur Internet, il y a souvent l’inverse qui arrive où il y a des machines qui nous demandent de remplir des choses.

R : Finalement la conclusion serait que pour arriver à faire une intelligence artificielle, appelons ça malgré tout comme ça, ça serait de réussir à faire un ordinateur qui est capable de faire des choses très irrationnelles. Quand tu dis “conscient, savoir ce qu’on veut etc”, je suis complètement d’accord et finalement ce qui caractérise peut être plus l’être humain c’est de faire des trucs auxquels on s’attend pas nécessairement mais pas n’importe quoi pour autant.

SA : Alors dans l’algorithmique, l’utilisation de non déterminisme, de l’aléatoire, c’est extrêmement puissant. C’est-à-dire qu’il y a énormément de problèmes qu’on ne sait résoudre qu’avec des algorithmes probabilistes. On ne sait pas les résoudre de façon déterministe. Donc c’est quelque chose qu’on utilise de façon très régulière. Après, il y a quelque chose qui est plus intéressant, c’est la différence qu’il pourrait y avoir entre  cet espèce de non déterminisme et la sérendipité par exemple. Ça moi c’est un sujet qui m’intéresse. J’aimerais bien comprendre un peu ce que c’est. C’est pas du hasard, c’est peut être lié à l’intuition mathématique. Comment on caractériserait l’intuition mathématique ? Mais je suis sur que Gilles va nous expliquer qu’un ordinateur pourrait simuler de l’intuition mathématique aussi.

N : Et aussi, pour rebondir sur les solutions politiques très logiques et technocratiques, le fait aussi qu’un humain a aucun problème à vivre avec des choses qui sont totalement incohérentes, illogiques, à commencer par “liberté, égalité, fraternité” par exemple. (rires)

GD : Il y a même pas besoin de mettre “fraternité”, déjà “liberté, égalité”… (rires) Il y a déjà une contradiction. Sur la notion d’intention, c’est à nouveau une notion dont on peut se poser la question : “qu’est-ce que ça veut dire”. Apparemment tout le monde autour de cette table sait ce que c’est que l’intention sauf moi.(rires)

SA : Non je te rejoins dans ton ignorance.

GD : Et donc, il y a une philosophe anglaise qui s’appelle Elizabeth Anscombe qui a essayé de comprendre ce qu’était l’intention et ce qu’elle nous propose, c’est de dire qu’on peut parler d’intention quand on a deux descriptions d’un même geste. Elle prend un exemple, elle dit : “il y a un geste qui consiste à empoisonner quelqu’un, et puis il y a un geste qui consiste, (alors c’est le même geste mais qu’on décrit d’une autre manière) qui consiste à ouvrir une petite fiole et verser dans son whisky, un liquide qui été précédemment contenu dans la fiole puis refermer la fiole et lui tendre son whisky avec un air innocent”. En fait, c’est deux fois le même acte qu’on a décrit, mais on l’a décrit avec des niveaux ou des degrés de précision différents. Et elle pose la question :  “quelle est l’intention de verser un liquide dans le verre de whisky d’une personne ?”. Et bien elle dit : “l’intention c’est de l’empoisonner”. Donc elle arrive à cette conclusion : quand on dit qu’une certaine action est une intention d’une autre action, c’est que c’est deux fois la même action mais qu’on les a décrites de manière différente et la manière la plus abstraite est considérée comme l’intention de la manière la plus concrète. Après, on peut itérer ça et dire : “voilà il y a un geste qui consiste à contracter les muscles du doigt, pencher le poignet vers la gauche etc”. Et quelle est l’intention de ça ? C’est de verser un liquide dans le verre de whisky. Et quelle est l’intention de ça ? C’est d’empoisonner cette personne. Donc on peut avoir comme ça des dizaines d’enchaînements. Si on prend cette notion d’intention, on s’aperçoit que les ordinateurs ont beaucoup plus d’intentions que nous. Par exemple, quand on prend un même programme qui peut être décrit de deux manières différentes : on peut le décrire dans un langage de programmation habituel mais ensuite on va le traduire dans un langage de plus bas niveau où une instruction du langage de haut niveau va correspondre à plusieurs instructions du langage de bas niveau. Mettons par exemple que dans le langage de haut niveau, on ait écrit “x == 1” et dans le langage de bas niveau, ça se traduit par, je sais pas quoi : “load immediat1; push pop; blablabla“. Et on peut dire “quelle est l’intention qu’il y a derrière chacune de ces instructions du langage de bas niveau ?” Et la réponse c’est : ce qu’on veut faire, c’est faire “x == 1“. C’est l’instruction qui se trouve dans le langage de haut niveau. Beaucoup plus que les humains, les ordis ont l’habitude de décrire les processus informatiques à différents niveaux  et donc, on peut leur prêter des intentions.

SA : Je sais pas, je vais me permettre d’interpréter ta questions. C’est pas ce que je veux dire. Ce que moi j’ai compris comme intention, c’est la chose suivante : moi j’ai une vision politique qui est que j’aimerais bien, c’est mon intention et si je devais faire des actions et si j’avais les moyens, je le ferais, j’aimerais bien que les gens aient à peu près tous de quoi manger. Donc j’ai une espèce de vision. Il y a d’autres gens qui pourrait avoir une autre vision qui est d’un autre être humain, qui va être comme vision : “je veux devenir la personne la plus riche du monde, je voudrais accaparer toutes les richesses, je voudrais devenir Bill Gates mais pas filer la moitié de mes thunes aux pauvres”. Donc ça, c’est une intention, Bill Gates c’est une intention qui est de dire, je vais interpréter Bill Gates : “je vais devenir très riche et quand je serais très riche, avec mon épouse, on va distribuer toute notre fortune aux pauvres”. Tu vois ça c’est des intentions. C’est-à-dire qu’il y a un but, quelque chose qui fait qu’on agit. La question que j’ai compris moi, c’est : quand j’ai écrit un algorithme, c’est un être humain qui lui a dit : “tu fais ça”. C’est-à-dire que quand on a fait du trading, l’humain sait peut être pas à quoi servait le trading mais il a dit : “le trading, c’est qu’il faut que tu échanges des actions le plus vite possible pour faire que mon portefeuille devienne le plus gros. Puis après l’algorithme s’est débrouillé puis ça a fait un crash. Donc le résultat c’était le crash mais l’intention, c’était l’intention d’un humain qui était de devenir le plus riche possible. Et la question qu’on peut se poser, c’est : “est-ce qu’un algorithme peut avoir une intention qui serait humaniste, qui serait de devenir le plus riche du monde ?”. Je sais pas.

GD : Alors humaniste, peut-être pas, mais devenir le plus riche du monde, oui.

SA : Mais ça serait un humain qui lui aurait donné ? Ou est-ce qu’on pourrait imaginer qu’il le trouve lui-même ?

GD : Alors ce qui est vrai, c’est que l’ordinateur peut pas jouir de sa fortune. Il peut juste la donner à un humain. Donc forcément, il peut pas avoir comme but de s’enrichir lui-même en tant qu’ordinateur ou en tant qu’algorithme. En revanche on pourrait dire que si la notion d’intention, c’est la notion de but, on pourrait dire qu’un ordinateur qui fait une multiplication a une intention qui est de trouver le produit de deux nombres.

SA : Mais que lui a donné un humain ou un autre ordinateur.

R : Je trouve qu’on en arrive à la question qui est aussi dans ce qu’on avait réfléchi à ce qu’un ordinateur potentiellement ne pourrait jamais faire, c’était : se poser une question, se poser un objectif, une question qui nous paraisse intéressante.

SA : T’as des algorithmes de flux de données où la question c’est de trouver quelque chose d’intéressant.

R : Oui mais c’est pas non plus se fixer un objectif. Alors attention c’est à mon tour mais c’est pas Wikipedia c’est parce que j’ai lu tout Poincaré (j’aime beaucoup citer Poincaré) qui fait bien la distinction entre la logique et les maths en disant : “la logique c’est qu’un enchaînement de tautologies, les mathématiques, il y a un discours derrière”. Il y a un sens, une intuition, des objectifs, et c’est bien ça qui distingue les mathématiques de la logique. Et je trouve que de la même façon, il y a une distinction à faire entre l’algorithme pur et puis effectivement son intention, ce qu’une personne a voulu, le but qu’on s’est fixé, la question qu’on s’est posée et où là ,est-ce que vraiment effectivement c’est propre à l’algorithme ou c’est l’humain qu’il y a derrière.

GD : Et on pourrait penser que les intentions très altruistes que Serge nous a décrites comme étant les siennes, c’est pour lui peut être une condition de survie parce que dans le milieu dans lequel il vit, s’il disait le contraire, il serait lynché ou c’est peut être juste une question de sélection naturelle qui a fait que ce type d’idées a survécu. C’est vrai Serge, quelle est la raison de ton intention humaniste ? (rires)

SA : Tu as complètement raison. On pourrait imaginer des algorithmes d’apprentissage qui évolueraient en fonction de leur environnement et qui finiraient par avoir des intentions qui seraient pas prévues, qui n’auraient pas été imaginées par leur concepteur. Ce qu’on vient d’arriver à faire, c’est quoi ? On vient d’arriver à faire exploser la seule raison qui nous semblait distinguer un algorithme d’un être humain. On est mal barré là. (rires)

N : Moi j’en étais même pas à l’idée de vision mais en effet, c’est extrêmement intéressant. Moi finalement sur l’intention, le truc qui s’en rapproche un peu plus, c’est ce qui différencie par exemple les algorithmes qui ont battu les humains aux échecs des algorithmes d’aujourd’hui de deep-learning en traitement d’image où il y en a un c’est de la brute force, donc c’est là où on se dit : il est un peu bêbête, il calcule vite mais il est un peu bêbête dans son coin, ou sur ces algorithmes dont on a parlé justement dans cet épisode sur le deep-learning, on lui donne un système de pensée et lui-même va se dire, alors bien sûr il le dit pas comme ça mais : “ok je vais aller me construire un détecteur d’oeil, un détecteur de contour, un détecteur de ceci… et je vais les combiner pour dire que quand j’ai deux yeux et un long cou, c’est une girafe”. Ce qui est assez amusant et c’est un peu ma dernière question, on est obligé maintenant de faire du reverse-engineering pour comprendre ce que font certains algorithmes de machine-learning. Finalement lui-même, il va aller construire ces manières de raisonner pour aller résoudre un problème donc il va aller mettre un peu plus d’intention personnelle, entre guillemet, qu’un algorithme déterministe au sens strict.

SA : Alors je serais un petit peu plus modéré sur ce qu’on sait faire aujourd’hui. C’est-à-dire qu’aujourd’hui, ce qu’on sait faire, c’est décrire tout un ensemble de possibilités, de choix, de stratégie et de laisser l’algorithme les essayer toutes, faire pleins d’essaies, et à partir de ça, de choisir celle qui marche. Donc c’est beaucoup moins créatif que ce qu’on peut croire. Il y a un exemple que j’adore qui est un robot qu’on entraîne en coupant une patte et qui apprend à marcher avec 4 pattes, avec 3 pattes, etc. C’est génial mais d’une certaine façon, on lui a donné avant toutes les stratégies possibles et imaginables et il les a analysées. Mais encore une fois, on fait des progrès considérables et on peut imaginer que dans les années qui viennent, je ne veux pas donner de date, je ne suis pas futurologue, on saura créer et éventuellement même imaginer de nouvelles stratégies. Mais c’est plus compliqué d’imaginer de nouvelles stratégies plutôt que d’essayer. Alors il y avait ce que t’avais dit au départ, c’est le truc de l’algorithme bestial qui joue aux échecs, d’essayer tout le plus vite possible, en étant quand même un peu plus intelligent que ce que tu dis puisqu’il coupait des branches, mais quand même, il essayait pleins de choses. Après, il y a les algorithmes un peu plus intelligents qui essayent des stratégies qui font des jeux et qui peuvent, dans un cadre assez limité qu’on leur a appris, trouver des nouveaux trucs. Ca nous a bluffé sur le go, c’est-à-dire qu’à un moment donné, la machine a fait un mouvement qu’aucun humain n’avait fait avant.

N : Et sur le go, ce qui est épatant si je ne me trompe pas, c’est qu’en plus, c’est un algorithme qui en fait regardait le jeu, entre guillemets, de manière globale, un peu comme une image, il regardait la configuration du jeu.

SA : C’est moins important. Ce qui est vraiment important c’est qu’il a essayé des stratégies avant même qu’elles aient été jouées. C’était un peu plus original. Mais encore une fois, c’était des stratégies qu’on lui avait apprise. Donc c’est quand même limité. On peut imaginer du machine-learning de plus en plus avancé où la machine véritablement inventera une nouvelle stratégie.

GD : Sur ces algorithmes multi-couches, on peut se poser la question : comment est-ce que notre oeil et notre cerveau font pour repérer des lignes droites ?. Parce que quand on voit un paysage ou qu’on voit un objet, s’il y a une ligne droite, on la repère tout de suite. En fait, il s’avère que juste derrière la rétine, dans les premières couches de traitement de l’image ou du signal par le cerveau, il y a un algorithme qui cherche à repérer les lignes droites et qui ensuite transmet à la couche d’au-dessus, une information relativement abstraite qui au lieu de dire : “voilà, telle cellule de la rétine a été impressionnée par un photon”, de dire “ben voilà, là il y a une ligne droite”. Et donc par exemple, quand on repère un carré, ben il y a une première étape qui est faite par un certain réseau de neurones dans le cerveau qui est de repérer les 4 segments. Ensuite, il y a un deuxième algorithme, une deuxième couche de neurones dans le cerveau, qui dit : “s’il y a 4 segments et qu’ils se touchent, c’est sans doute un carré à supposer qu’ils soient de même longueur et orthogonaux”. Dans les algorithmes de deep-learning, c’est-à-dire les algorithmes d’apprentissage multi-couches, on retrouve quelque chose qui est imité de ce qu’on sait depuis longtemps sur le cerveau : il y a plusieurs couches d’analyse et une image passe par plusieurs descriptions en passant d’une couche de réseaux de neurones à un autre. Mais je ne dirais pas pour autant qu’on a eu l’idée de repérer d’abord les droites dans l’image pour ensuite employer cette information. Il se peut que l’évolution ait doté la moitié des hommes de la faculté de repérer des lignes droites et l’autre moitié de repérer des lemniscates de Bernoulli, mais il s’avère

juste que dans l’environnement dans lequel ils vivaient, repérer des lignes droites était un peu plus utiles que repérer des lemniscates de Bernoulli, si bien que l’évolution, la sélection naturelle, n’a gardé que les premiers. Le fait que dans les algorithmes de machine-learning, l’algorithme invente la notion de droite, c’est pas parce qu’il a l’intention ou l’idée que les droites c’est bien ou c’est plus intéressant que les lemniscates de Bernoulli. C’est juste que c’est plus efficace pour arriver au but qu’il cherche à avoir, à réaliser. Donc je ne verrais pas ici une invention de l’algorithme. Il y a vraiment une adaptation de l’algorithme à reconnaître certaines formes donc le cou de la girafe puis de se dire s’il y a un cou, 4 pattes et 2 oreilles, ça doit être une girafe, bien qu’il ait d’autres animaux qui ressemblent à ça aussi. C’est plus quelque chose d’assez opérationnel : le fait de repérer le long cou d’une girafe, si le but c’est de repérer une girafe, on va s’apercevoir au fur et à mesure du calcul, de l’apprentissage, que c’est une bonne idée de repérer quelque chose qui ressemble à un cou.

SA : Mais quelle différence tu fais avec un algorithme évolutionniste par exemple. On essaye pleins de méthodes et qu’il y a celles qui réussissent et celles qui ne réussissent pas et petit à petit, on empile, on empile et on a fait pleins d’essaies et puis finalement l’évolution fait qu’il y en a un qui marche bien. Pourquoi tu reconnais pas ça comme une création, une invention. On a essayé pleins de trucs, il y en a qui ont merdé, il y en a qui ont réussi. C’est ça aussi l’invention. C’est essayer des choses et puis il y en a qui marchent.

GD : Tout à fait, sauf que c’est une invention qui est inconsciente, c’est-à-dire..

SA : C’est pas conscient oui.

GD : … jusqu’à ce qu’il y ait une imagerie médicale qui t’a appris que ton cerveau fonctionnait comme ça, tu ne le savais pas.

SA : Mais il l’a quand même inventé inconsciemment

GD : Tout à fait.

N : Bon ben du coup, je vais arriver sur la toute fin…

R : Non mais il y a vraiment une similarité entre l’apprentissage par algorithme et l’apprentissage humain, là-dessus, il y a clairement un truc. J’ai un exemple chez moi que vous avez vu, de comment elle se rend compte qu’une image est un chien et pas un chat. Enfin je comprend toujours pas comment elle fait mais…

SA : Elle est extrêmement en avance sur ce qu’on sait faire au point de vue algorithmique. La petite qu’on a vu tout à l’heure qui est extrêmement mignonne, elle a été capable, ou elle va être capable de reconnaître un chat d’un chien avec un nombre d’exemples très faibles alors que les algorithmes qu’on connaît aujourd’hui ont besoin d’un nombre massif d’exemples de chats et de chiens, de contre-exemples de machins pour arriver à le faire.

R : Mine de rien, la démarche est la même.

SA : J’en sais rien si elle est la même. Tout ce que je sais, c’est que le résultat est le même et que le sien est beaucoup plus efficace.

N : Il y a une notion qui est très peu utilisée justement dans ces algorithmes, c’est qu’ils n’utilisent que de l’image. Boson, elle a de l’odorat, elle a du toucher, elle a énormément d’autres informations.. Elle a de la 3D.. qui vont lui dire “ça c’est sans doute plus un chat”.

GD : Je sais pas si c’est que ça. Je pense qu’on est un peu obnubilé parce qu’on a appelé ça un réseau neuronal, on pense que c’est comme les neurones. On en sait rien. Moi mon avis, les réseaux neuronaux, avec tout le respect que je dois sur toute la recherche, sont très en retard de ce qu’elle est capable de faire pour reconnaître un chat d’un chien.

N : Ca, on en avait parlé au tout début de la saison justement , ça va me faire boucler parce que la dernière question, c’est exactement sur ça. Moi j’avais essayé de me renseigner auprès de chercheurs en neurosciences, ils m’ont dit : “non mais ça c’est de la rigolade. Maintenant on est très très loin de ce genre de modèles. Alors ils sont pas stupides, mais tout ce qu’on sait sur le cerveau est beaucoup, beaucoup plus complexe que ces réseaux là”.

SA : La quantité d’informations que t’échanges entre ton oeil et ton cerveau est presque du même ordre de grandeur que ce qui transite sur Internet donc on est en avance vachement. Mais il y a quand même beaucoup plus d’informations au niveau du cerveau.

N : Justement sur cet épisode de début de saison où on avait essayé de balayer le deep-learning en particulier, le machine-learning plus en général : je suis très content de recevoir des gens informaticiens mais finalement pas mal mathématiciens aussi parce que la réalisation finale, c’est une vraie différence entre ce qui est fait en machine-learning et ce qu’on peut faire dans le reste des sciences. En machine-learning, c’était ce qui m’avait même amusé sur un article de Google qui parlait de son algorithme de machine-learning, c’était qu’ils faisaient du reverse-engineering sur leur algorithme. C’est-à-dire que finalement on a des algos qui de plus en plus sont très bons à résoudre, mais on ne comprend pas. On en discutait il y a un an, un an et demi avec Nicolas Gizen sur la mécanique quantique où ils ont des équations qui marchent mais ils ont besoin d’une explication, et aujourd’hui j’ai l’impression qu’on va dans un monde où on va avoir de plus en plus de choses résolues mais de moins en moins de choses qu’on comprend. C’est grave ? Pas grave ? Pour les informaticiens-mathématiciens que vous êtes ?

SA : C’est à peu près le cas dans n’importe quel gros système informatique. Quand un gros système informatique avec des millions de lignes de code et de l’asynchronisme et des trucs comme ça, au bout d’un certain temps, tu n’arrives plus à vérifier tout ce qu’il fait. La combinatoire est telle que tu ne peux pas faire un raisonnement complet de tout ce qui se passe. Donc tu finis par prendre ça comme une boîte noire et étudier ça comme un phénomène physique. C’est un phénomène qui est d’une certaine façon, au-delà de ta compréhension. Mais encore une fois, sur le machine-learning, c’est un petit peu différent parce qu’il y a des travaux pour essayer de donner un peu plus d’explications. Il y a des gens qui bossent là-dessus. Essentiellement il faut arriver à expliquer ce qui se passe dans l’univers. Sur le deep-learning, sur différentes couches, c’est compliqué mais c’est pas rédhibitoire. C’est juste que c’est un domaine qu’on ne sait pas encore faire.

GD : Alors bizarrement, cette différence entre prédire et expliquer, est venue, il me semble, d’abord en mathématiques. Donc dès les années 70, on a utilisé des ordinateurs pour résoudre des problèmes mathématiques. Par exemple c’est le théorème des 4 couleurs qui a été résolu en 76 et la démonstration du théorème des 4 couleurs, c’est une démonstration par cas. C’est-à-dire, on a l’habitude de faire des démonstrations par cas, par exemple pour montrer que le carré d’un réel est toujours positif : on fait deux cas. Il y a le cas où le réel est positif et le cas où le réel est négatif, et dans les deux cas, le carré est positif. Donc on sait que dans tous les cas, c’est positif. Alors c’était la même démonstration qui était faite par un ordinateur mais au lieu d’avoir 2 cas, il y avait 1500 cas. Et dans chacun des 1500 cas, ça se divisait à nouveau en plusieurs milliers de cas. Il y a ici quelque chose qui va contre l’esprit scientifique puisqu’on s’est rendu compte que dans ces 1500 cas, la réponse était toujours la même et on a dit : “on est content, on sait maintenant que le théorème des 4 couleurs est vrai pour cette raison”.

SA : Ca veut dire que si tu prends n’importe quelle carte planaire, tu peux colorier la carte avec 4 couleurs en étant sur que 2 régions qui se touchent n’aient pas la même couleur.

GD : Oui ça c’était l’énoncé du théorème mais c’était plus la méthode qui m’intéressait…

SA : Je pense que c’était intéressant d’expliquer ce dont tu parles…

R : Oui parce que tous les auditeurs ne connaissent peut être pas…

GD : …oui tout à fait, tout à fait, les auditeurs peuvent regarder dans Wikipedia, c’est bien expliqué. (rires) Pourquoi ça allait contre l’esprit scientifique ? Parce que si on prend un dé et qu’on le lance 1500 fois, et que 1500 fois, il n’arrive jamais que la face 7 sorte, ben on va se dire qu’il y a peut être une raison, je veux dire, c’est la base même de la démarche scientifique de se dire qu’il y a une raison et qu’il faut la chercher. Peut être qu’il n’y a pas de face 7 sur le dé, c’est une bonne explication. Mais là on est complètement à l’inverse, on dit : “très bien, ça a marché 1500 fois, on a pas à chercher de raison pour laquelle ça a marché, il n’y a forcément une raison unique pour laquelle ça a marché, on est content de savoir que le théorème est vrai”. Au moment où cette démonstration est apparue, il y a eu un certain nombre de critiques qui ont dit : “c’est pas une vraie démonstration parce qu’elle nous dit que toute carte planaire est coloriable avec 4 couleurs mais elle ne nous dit pas pourquoi”. Et il y a ici une idée bizarre qui est apparue. Moi on m’avait appris à l’école qu’une démonstration ça servait à savoir que quelque chose était vrai et là tout d’un coup, on chargeait la démonstration d’une nouvelle fonction qui était de nous expliquer pourquoi. Et en fait, rétrospectivement, on s’aperçoit qu’avant le théorème des 4 couleurs, à peu près toutes les démonstrations  nous expliquaient pourquoi quelque chose était vrai en même temps qu’elles nous expliquaient qu’elle était vrai. Et là on s’est aperçu que c’était pas du tout la même chose. C’est-à-dire qu’il y a des cas où on sait que c’est vrai mais on ne sait pas pourquoi. Et à cette époque, on a dit : “bon c’est pas grave, bientôt on saura pourquoi, on va finir par trouver une autre démonstration”. Et puis là ça fait quand même bientôt 40 ans, non ça fait exactement 40 ans, et on a toujours pas trouvé d’explication. Et on peut se dire que peut être il n’y a pas d’explication. Il y a

même un théorème qui s’appelle le théorème de Gödel, qui nous apprend qu’il existe des énoncés extrêmement courts qui ont des démonstrations extrêmement longues. Enfin des énoncés pas forcément extrêmement courts mais la démonstration est très longue par rapport à la taille de l’énoncé. Et donc ce type de démonstration, il n’y a pas de raison de penser qu’il y a aussi une autre démonstration qui est plus explicative. Et alors ça, c’est une vrai prise de conscience du fait qu’il y a des démonstrations qui expliquent que, il y a des démonstrations qui expliquent pourquoi, enfin qui disent que et d’autres qui disent pourquoi. Et il y a aucune raison de penser que les secondes seules sont des démonstrations. Une fois qu’on avait pris conscience de ça, on s’est aperçu que c’était très présent dans de très nombreuses situations. Par exemple quand on calcule le temps qu’il va faire demain, pour prédire la météo, on utilise des centaines, des milliers de mesures de pressions, de températures etc, on vous dit que demain il va faire 17°C, et personne ne dit : “bon ok on sait qu’il va faire 17°C mais pourquoi est-ce qu’il va faire 17°C et non 16°C”. Bon en général on ne pose pas cette question. Bien entendu, comme tout le monde, ce que nous aimons, c’est comprendre pourquoi. Et on peut dire : “à quoi bon cette démonstration du théorème des 4 couleurs qui nous explique que quelque chose est vrai, qui nous dit que quelque chose est vrai sans nous expliquer pourquoi”. Cela dit, beaucoup de médicaments sont dans ce cas là aujourd’hui. On peut se dire que finalement, le rôle d’un biologiste, d’un pharmacien, d’un médecin qui fabriquent un médicament, c’est pas seulement d’essayer de comprendre pourquoi son patient est malade et pourquoi le médicament agit mais que si on sait que le médicament agit et on ne sait pas pourquoi, peut être c’est déjà pas si mal, au moins du point de vue du malade, ça peut être assez utile quand même.

SA : Oui mais il y a quand même des limites à ça. En particulier si on reprend déjà le théorème des 4 couleurs, quand ça a été fait dans les années 80, fin des années 70 je ne sais plus, moi j’ai connu des mathématiciens qui disaient : “je n’y crois pas. Alors, je n’y crois pas, pourquoi ? Peut être que dans votre connerie de programme il y a une erreur, moi je ne sais pas”. Et donc il y a une première question qui est pas seulement le résultat, mais la confiance qu’on peut avoir dans le résultat. Qui n’est pas quelque chose de nouveau dans les résultats mathématiques, même avant aussi, même avec des preuves, il y a toujours eu des questions de confiance, de théorèmes faux etc. C’est pas nouveaux.

N : Il y a des théorèmes qui sont tellement longs à re-démontrer ou à vérifier..

SA : Voilà, qu’il y a des erreurs qui restent. Mais là en l’occurence, c’était presque méthodologique. Moi j’ai des mathématiciens qui me disaient : “je ne crois pas dans un algorithme, dans un théorème qui a été démontré par un ordinateur”. Et ça a beaucoup évolué, bien plus tard, quand Georges Gonthier et son équipe sont arrivés à avoir une preuve qui puisse être vérifiée par un autre ordinateur. On sophistique un peu la démonstration. Donc je pense que de la même façon qu’il y a ça, il y a une question de confiance qu’on peut avoir dans ces résultats là. Donc pour le climat, c’est extrêmement vrai. Il y a plusieurs modèles pour calculer le climat. Ils ne sont pas tous d’accords entre eux. Ils sont à peu près tous d’accords, enfin pas à peu près, ils sont tous d’accords pour dire qu’il va y avoir un réchauffement climatique dans les années à venir, mais ils sont pas d’accords pour dire exactement le même truc. Sur la température de demain, ce qu’a dit Gilles, à la limite, d’une certaine façon, la meilleure confiance qu’on ait, c’est que plusieurs modèles mathématiques du climat donnent le même résultat. C’est quand même assez faible, on est pas dans des choses qui sont très mathématiquement prouvées. On a des modèles mathématiques approchés et ils disent tous que demain il va faire 17°C et d’ailleurs, il y a des fois, vous regardez Météo France et Yahoo Météo, ils ne donnent pas le même résultat. Donc il y a encore des divergences. Après ça, on peut se poser la question, d’une certaine façon, des informations sur lesquelles on base toute notre vie, sur lesquelles savoir si on a confiance ou pas dans les résultats. Et quand on parle de machine-learning, le fait qu’ils n’expliquent pas, il y a des cas ou ça n’est pas grave. Si le machine-learning fait un gros calcul pour me dire : “tu devrais regarder le prochain film de Woody Allen, tu vas vachement bien aimer”, je prend pas un risque considérable, au pire, je vais voir un navet et puis dans le meilleur des cas, ce qui est très probable, je vais voir un film qui me plait bien. Donc c’est pas grave. Mais il y a des cas où le fait qu’il n’y ait pas d’explication peut être relativement rédhibitoire parce que ces machines là, on est pas complètement certain du résultat.

R : Même si c’est pas nouveaux.

SA : Même si c’est pas nouveaux.

R : C’est pas que les machines, c’est les statistiques..

SA : Dans les statistiques, très souvent le problème, c’est les données de base qui peuvent être fausses.

GD : Je ferais une petite différence entre ces deux questions. Alors les deux sont vraies. Avec des preuves faites par ordinateur, je pense à la preuve originale du théorème des 4 couleurs, celle de 76, il est vrai qu’on perd deux choses à la fois : on perd à la fois l’explication et on perd à la fois la certitude.

SA : Qu’on avait pas avant parce qu’il y a toujours eu des preuves fausses.

GD : Oui ok, mais disons…

SA : Une preuve mathématique c’est vraiment quelque chose de complètement social. Une preuve mathématique est prouvée du point de vue social à partir du moment où un certain nombre de mathématiciens disent que c’est vrai.

GD : On est d’accord, mais cependant, ils le disent au nom d’un critère extérieur et quand on a une preuve qui est faite sur du papier, on peut relire la preuve soi-même, on peut chercher une erreur. Alors que pour une preuve qui était faite par un ordinateur, qui était à l’époque un des ordinateurs les plus puissants du monde, et que tout le monde n’avait pas dans sa cuisine, c’était beaucoup plus difficile de la refaire.

N : Alors on peut relire l’algorithme.

SA : Non tu pouvais pas, c’est trop gros. Mais maintenant tu peux demander à un autre algorithme de vérifier.

GD : Voilà. Mais c’est deux choses qui sont quand même un tout petit peu différentes. C’est-à-dire que la perte de l’explication et la perte de la confiance sont des choses qui sont pas forcément corrélées.

SA : Alors l’explication pour toi, c’est une question de taille ? Si c’est petit c’est une explication, si c’est gros, c’est plus une explication ?

GD : Non, pas pour moi. J’ai remarqué empiriquement que quand il y a eu des grosses preuves, les gens trouvaient qu’elles étaient moins explicatives.

SA : Donc c’est vraiment une question de taille. Pas pour toi, j’enlève le “pour toi”. [rires]

GD : Il semble que la taille joue un grand rôle dans le caractère explicatif ou non d’une démonstration. Cela dit, il y a des contre-exemples.

R : Pour une preuve mathématique, c’est clair qu’il y a un côté intuition, est-ce qu’on comprend pourquoi ça va passer. Pourquoi ça a de bonnes raisons de l’être, et puis après d’une certaine manière, on peut faire confiance à l’aspect technique, se dire que quelqu’un s’est pris la tête à vérifier tous les aspects techniques. Mais il y a un sens à passer par là, il y a un sens à essayer comme ça. La plupart des mathématiciens qui lisent des preuves, qui relisent des publications d’autres, disent à chaque fois : “en fait, en gros, je regarde l’énoncé, je regarde juste ce qui a été prouvé, soit-disant, je regarde comment moi je l’aurais prouvé, et puis après si ça passe effectivement par là, je regarde les détails techniques”.

SA : C’est complètement social. Et c’est pour ça que les ordinateurs mettent une différence importante, c’est que les ordinateurs peuvent sortir du phénomène social. C’est-à-dire qu’ils peuvent faire une preuve formelle qui soit vérifiée.

R : Mais qui pour le coup, ne soit pas du tout intuitive pour un être humain.

SA : Non ça sera vérifié par un ordinateur.

R : On est sur des preuves qui fonctionnent pas de la même façon. J’en reviens encore à Poincaré parce que j’adore citer Poincaré, qui dit voilà…

SA : Poincaré qui a fait des erreurs aussi.

R : Qui a fait des erreurs comme tout le monde, mais qui sait surprendre de faire des erreurs en disant : “c’est de la logique, on devrait pas faire d’erreur, et si c’est des tautologie, on devrait pas faire d’erreur”. Et qui dit : “si on se dit qu’une démonstration, c’est juste un enchaînement de raisonnements logiques purs, c’est comme un biologiste qui regarde cellule par cellule un éléphant et qui dit qu’il sait ce que c’est qu’un éléphant”. Je trouve que c’est complètement ça. C’est-à-dire que c’est une autre façon de regarder les choses qui fait qu’on a l’impression d’avoir compris. C’est pas les détails de l’algorithme, de comment il est fait.

SA : Alors là t’es en train de dire autre chose. C’est-à-dire qu’une preuve, c’est pas uniquement un phénomène social qui fait que quelqu’un va aller la vérifier et dire qu’il est d’accord, donc valider la preuve. C’est que c’est quelqu’un qui va s’en servir pour apprendre.

R : Pour coller ça à d’autres choses, faire des analogies.

SA : Le but c’est pas uniquement de dire : “c’est juste, c’est pas juste”. Le but c’est dire : “j’ai compris et je suis devenu plus intelligent parce que j’ai compris cette preuve”.

R : Oui, ça s’agrège à quelque chose d’autre.

SA : Mais c’est ça aussi la preuve.

GD : Si on revient à l’éléphant, il est vrai qu’il y a diverses manières de regarder un éléphant. Il y en a une qui est de regarder cellule par cellule effectivement, on comprend pas bien  la structure de l’éléphant. Et puis il y en a une autre qui est de regarder à un plus haut niveau, et puis on s’aperçoit que l’éléphant a 4 pattes, un cou et 2 oreilles, comme les girafes. Mais qu’est ce qui se passe si on a un ensemble de cellules qu’on peut regarder une par une mais qui n’a pas de forme ? Ni la forme d’un éléphant, ni la forme d’une girafe ? Ca peut arriver. Tous les amas de cellules ne sont pas ultimement structurés en un éléphant ou une girafe. La science, jusqu’à ce qu’on ait des outils de calcul qui permettaient d’appréhender des systèmes aussi complexes, avait tendance à dire : “c’est pas des systèmes intéressants. Ce qui est intéressant, c’est les éléphants, c’est les girafes, c’est pas les amas de cellules”. Mais peut être que les amas de cellules qu’on a négligés et qui ne sont pas structurés, on peut essayer d’en dire quelque chose. Et le calcul du temps qu’il fera demain, c’est typiquement ça. On ne peut pas expliquer pourquoi il va faire 17°C demain plutôt que 16°C par le fait que 17 est impair et 16 est pair. Il n’y a pas de propriété comme ça de la température de demain. C’est quelque chose qui est le produit, l’agrégation de tout un tas de phénomènes et peut être qu’il faut qu’on apprenne à vivre avec ça. Et c’est peut être ça aussi la transformation que l’informatique apporte sur les sciences : c’est de nous apprendre à vivre avec des théories complexes qu’on comprend pas mais qu’on arrive, parce qu’on des outils, à manipuler, on arrive à faire des prédictions.

SA : Je suis pas certain que je les comprenne pas. C’est-à-dire que si tu prends justement le climat, ça veut dire quoi ? Ca veut dire que le gens partent de modèles physiques plus ou moins détaillés, et à partir de ces modèles physiques plus ou moins détaillés, ils font des simulations à partir de positions de départ, positions initiales, ils font des simulations et ils regardent si ça marche. Après, évidemment, ils vont tuner leur système et d’une certain façon, la seule chose qu’on comprend pas très bien c’est ce tuning. C’est-à-dire dire : “j’ai mis tel paramètre à tant et tel paramètre à tant et à l’arrivée je m’aperçois que ça explique mieux le climat”. D’une certaine façon, il y a une explication. L’explication, c’est de dire : “j’ai décrit un système physique du mieux que j’ai pu et j’ai tuné les paramètres de façon à ce que ça représente le mieux possible le truc”. Alors si tu veux, c’est pas une explication aussi propre que ce qu’on faisait dans le temps, mais c’est aussi une explication.

GD : C’est une nouvelle forme d’explication.

SA : C’est une nouvelle forme d’explication, c’est ça.

N : Ok. Alors juste pour faire une synthèse. Alors j’achète pas mal la métaphore avec la biologie où c’est vrai que finalement en médecine, on a énormément, même une majorité je pense, de traitements qu’on prend pour efficaces et qu’on ne comprend pas. Du coup est-ce qu’on ne va pas aller vers construire une physique informatique où l’enjeu sera d’essayer de comprendre ces boîtes noires et de les modéliser de manière peut être plus simples.

GD : Alors il est possible qu’on aille vers une physique qu’on comprend de moins en moins. Et en fait les physiciens, de ce point de vue là, nous ont pas mal devancés au XXème siècle, en nous donnant des théories prédictives mais assez difficiles à comprendre. Bon, elles sont comme ça. Il y a une vraie question qui est : est-ce qu’on va continuer à aller dans cette direction et alors là, l’informatique pourrait nous aider. C’est-à-dire elle pourrait nous aider à faire des prédictions à partir de théories de plus en complexes et de moins en moins compréhensibles. C’est une voie qui mérite d’être explorée. C’est pas la voie qui nous semble la plus attrayante mais c’est peut être la voie qui va nous permettre de prédire certains phénomènes.

N: C’est peut être pas la plus attrayante mais c’est sans doute une des plus efficace.

GD : Mais c’est peut être une voie qui peut être très efficace. Et quand il y a des objectifs concrets comme par exemple, soigner un malade, on peut pas tellement la rejeter. Alors il y a aussi d’autres liens entre informatique et physique qui est que l’informatique nous aide aussi, par ses concepts cette fois-ci et pas tant par ses outils, à repenser certaines notions physiques d’une manière un peu différente. En particulier, une des notions essentielles en informatique, la notion d’information. On s’aperçoit aujourd’hui rétrospectivement que l’information est une notion physique. Si on remonte aux travaux de Boltzmann, de Brillouin, de Landauer, de Bennett, de physiciens plus récents comme Bekenstein par exemple, on s’aperçoit qu’il y a une lente émergence de la notion d’information en physique au cours de la fin du XIXème siècle et du XXème siècle. Et donc une question c’est : est-ce que là on a pas, avec l’émergence de cette notion d’information, une explication de phénomènes physiques qu’on arrivait pas à expliquer avec les notions de poids et de masse à une époque où on ne donnait pas une signification physique à la notion d’information. Donc ça c’est des questions qui sont très ouvertes. On ne sait pas du tout si prendre en compte la notion d’information en physique va nous permettre de mieux comprendre la physique ou pas, mais c’est une autre piste qui mérite d’être explorée. Ce qui est intéressant c’est que les 2 pistes vont complètement à l’inverse l’une de l’autre. Il y en a une qui nous dit : “c’est pas grave si on comprend moins parce qu’on a des ordinateurs”. Et il y en a une qui nous dit : “peut être les ordinateurs, et en particulier les concepts d’information qui vont avec, vont nous aider à mieux comprendre les phénomènes physiques”.

N : C’est très intéressant. Ca fait quand même un peu trembler parfois, comme disait Serge. Parce que là je suis sur un site à titre anecdotique, je ne sais pas si vous connaissez : “spurious correlation“, qui est le meilleur exemple pour dire que corrélation n’est pas causalité. Et sauf que dans un monde  où on a des algorithmes de plus en plus intelligents, mais où on comprend de moins en moins, on pourra nous dire : “ha, il y a de grandes chances que vous vous suicidiez parce que les Etats-Unis ont dépensé plus en science cette année”. Parce qu’on peut quand même prédire, malgré le fait qu’on ne comprend pas pourquoi. Donc c’est là où je rejoins les aspects un peu effrayants parfois de prévisions qu’on ne comprend pas du tout.

SA : Je pense pas que ça soit effrayant. Je pense juste que c’est aussi effrayant que le fait que t’aies un inconscient. T’as appris à vivre avec et ça t’empêche pas de vivre.

R : Faut pas éliminer le fait que potentiellement, ça peut aussi faire émerger, comme pour les vidéos où des machines finissent par faire émerger des concepts, que ça puisse faire émerger des concepts que nous même aurions eu du mal à trouver, et qui nous simplifient la description du monde. Enfin, en étant très très optimiste.

GD : Oui, le concept d’information est possiblement un exemple.

N : Ok, ben je crois qu’on est au bout. On a posé un peu toutes les questions de nos auditeurs. Donc on va passer juste au pitch. Ha ! La citation, j’en ai une de secours si jamais vous n’avez pas de citation. Je suis sur que vous allez avoir une citation, au moins avec toutes ces ballades dans Wikipedia (rires), vous devez bien avoir une citation sous la main.

SA : Je l’ai oublié, je ne la retrouve plus.

GD : Moi j’ai une citation que Queneau attribue à Turing. Donc je fais confiance à Queneau, je pense que c’est une citation de Turing mais en fait je n’en sais rien, je l’ai lu dans Queneau. Et donc Queneau fait dire à Turing : “seul un ordinateur peut apprécier un poème écrit par un autre ordinateur”. (rires)

R : C’est pas forcément vrai du coup.

GD : C’est ce que dit Queneau de ce que dit Turing.

R : Ouai mais Queneau c’était il y a .. !

N : Je te laisse pitcher la semaine prochaine et peut être que Serge en aura une autre parce que je crois..

R : Alors je pitch la semaine prochaine puisque finalement, il y a une émission la semaine prochaine. Alors attendez, en direct, je cherche.. Donc nous devions ne pas avoir d’émission la semaine prochaine. Il se trouve que, au dernier moment, le même invité de dernier moment que la semaine dernière, que l’année dernière pardon, Jean-Philippe Uzan, va revenir nous parler. Donc c’est lui qui est le détenteur de l’émission la plus longue puisqu’il a fait 3h30, 3h pardon, il a fait 3h.

N : Ca ne sera pas battu cette fois-ci.

R : Donc c’est visiblement pas aujourd’hui qu’on battra mais bon, c’est pas faut de bonne volonté des participants. Je crois qu’on est tous un peu épuisé, il fait chaud tout ça. Et ils sont deux, je pense que c’est plus difficile de battre le record à 2 bizarrement. Parce que lui, comme il était tout seul, bien rodé, il se relançait tout seul et il savait exactement tout ce qu’il voulait raconter. Bref. Donc il me dit qu’il viendra la semaine prochaine et que ça sera plus léger que la dernière fois. Donc je ne sais pas si ça veut dire que ça sera plus court, mais ça sera plus léger. Et donc il a dit que le thème serait : “musique, maths, physique, astrophysique, etc., j’amènerais de la musique avec un opéra”. Je ne sais pas exactement de quoi il va parler. Je sais que je l’ai entendu là-dessus une fois : il a fait une intervention à France Culture où il y avait toutes les chroniques qui étaient tenues par des scientifiques et lui avait tenu la chronique musicale des scientifiques. Il avait parlé effectivement de signaux qui étaient enregistrés qui venaient du fond diffus de l’univers ou des choses comme ça, qu’on transforme en musique et que ça l’intéressait beaucoup et qu’il parlait de choses comme ça. J’espère que je dis pas trop de bêtises, de toute façon il sera là la semaine prochaine pour me corriger. Donc la semaine prochaine, Jean-Philippe Uzan, pour une nouvelle émission qui sera peut être moins téléchargée que la précédente parce que le titre sera peut être un peu moins vendeur, mais quand même, ça devrait être aussi passionnant que la précédente sur “musique, maths, physique, astrophysique, etc.”.

N : On a une autre citation ou ?

SA : Non je ne l’ai pas retrouvé complètement mais je vais essayer quand même de la sortir. C’est une citation de T.S. Eliot. Donc moi je travaille sur l’information et les données et en fait, on s’aperçoit qu’il y a énormément de travail dans tous ces systèmes pour aller récupérer des données et trouver de l’information, construire de plus en plus de connaissances et T.S. Eliot parle de cette information et de ces connaissances et finit par dire : “but where is the wisdom”. Et c’est un peu dans tous ces systèmes là, il y a beaucoup d’information, de données, mais il y’a pas beaucoup de “wisdom”, de sagesse.

N : Ok. Très bonne conclusion à l’épisode. Merci beaucoup d’être venus, on était ravis. Il y aurait encore à en discuter pendant des heures mais déjà on va être impatients de lire le livre.

R : Vous pourriez revenir sur n’importe quel sujet, pendant à peu près le même temps, j’ai l’impression, si vous êtes d’accord..

SA : Sur l’éducation, je suis sur qu’on a envie de parler d’éducation.

R : Ha bah avec grand, grand plaisir.

N : On est impatient de lire le livre. Du coup on ne dit pas de date de sortie pour l’instant parce qu’on ne sait pas. Mais il y en aura un et on vous tiendra au courant dans Podcast Science. C’est ça, on en a parlé avant tout le monde ! Comment conclure cette émission ? Ben on peut dire déjà que vous allez perdre votre travail, vous allez être remplacé par une machine.

R : Mais c’est pas grave !

N : Que le monde va aller mieux parce qu’il y aura des algorithmes qui vont prévoir des choses mais on comprendra pas tout mais c’est pas grave. Et quoi d’autre ? Mais on aura plus de temps pour regarder des séries.

R : On aura plus qu’à boire des bières et regarder des séries, discuter entre potes, c’est pas mal.

N : Pour une conclusion à peine exagérée. Et sur ce, on se retrouve la semaine prochaine avec Jean-Philippe Uzan pour parler de pleins de choses encore avec une émission, pour sur, passionnante. Et puis d’ici là, que servir la science soit votre joie.