le temps des o4Jorillunes serge abileboul est chercheur à Inria et professeur à l'École normale supérieure de Paris-Saclay. Sa recherche porte sur la gestion de données, d'information et de connaissances. Membre de l'Académie des Sciences et de l'Académie Europae, du Conseil scientifique de la SIF, il a occupé la Chaire d'informatique au Collège de France (2011-2012) et la Chaire Franqui à l'Université de Namur (2012-2013). Il a été membre du Conseil National du Numérique (2013-2016). Et il a notamment obtenu le Grand Prix EADS de l'Académie des Sciences et le Milner Aw ard de la Royal Society. gilles dowek est chercheur à Inria et professeur à l'École normale supérieure de Paris-Saclay. Ses travaux portent sur la formalisation des mathématiques, les systèmes de traitement des démonstrations, la physique du calcul et la sûreté des systèmes aéronautiques et spatiaux. Il est membre du Conseil scientifique de la Société Informatique de France et de la Commission de réflexion sur l'Éthique de la Recherche en sciences et technologies du Numérique de l'alliance Allistene. Son livre, Les Métamorphoses du calcul (Le Pommier, 2007) a reçu le Grand Prix de Philosophie de l'Académie française. Relecture: Valérie Poge Mise en page: Ingrid Leroy ©Éditions Le Pommier, 2017 Tous droits réservés ISBN: 978-2-7465-1175-0 Éditions Le Pommier, 8, rue Férou, 75006, Paris www.editions-lepommier.fr temps le des nlg orillunes serge abüeboul et gilles dowek Remerciements Merci à Bertrand Braunschweig, Laurent Fribourg, Sophie Gamerman, Florence Hachez-Leroy, Marie Jung, Xavier de La Porte, Michel Puech et Michel Volle, pour leurs remarques très pertinentes sur une première version de ce texte. Merci aussi à Jean-Pierre Archambault, Gérard Berry, Maurice Nivat, et à de nombreux autres, pour des discussions souvent passionnées sur les sujets abordés dans ce livre. Sommaire Les algorithmes fascinent, les algorithmes inquiètent 6 Qu'est-ce qu'un algorithme? 10 Algorithmes, ordinateurs et programmes 25 À quoi servent les algorithmes 37 Ce que les algorithmes ne font pas 46 La pensée informatique 58 En finir avec le salariat 66 En finir avec le travail 76 En finir avec la propriété 87 Gouverner au temps des algorithmes 98 Un algorithme dans la cité 108 La responsabilité des algorithmes 116 Données personnelles et vie privée 125 Équité, transparence et diversité 138 Informatique et écologie 148 L'enseignement de l'informatique 156 L'humain augmenté 168 Un algorithme peut-il être intelligent? 177 Un algorithme peut-il être amoureux? 184 Le temps des choix 189 Références 191 Les algorithmes fascinent, les algorithmes inquiètent Les algorithmes sont devenus des ingrédients essentiels de nos vies professionnelles, de nos interactions sociales, de notre médecine, de notre industrie, de nos transports, de notre commerce, etc. Ils transforment les sciences exactes et les sciences humaines et contribuent ainsi à enrichir nos connaissances. Ils permettent à la technique de repousser sans cesse les limites du possible. Certains algorithmes, tels le système d'exploitation d'un téléphone, un système de gestion de bases de données ou un moteur de recherche, sont des objets gigantesques, auxquels des milliers de personnes contribuent. Ils sont parfois comparés à des cathédrales, tant ils tiennent de la même ambition, de la même déraison. 6 LES ALGORITHMES FASCINENT, LES ALGORITHMES INQUIÈTENT Avec les algorithmes, Homo sapiens semble avoir enfin construit un outil à la mesure de ses aspirations. Mais ces algorithmes inquiètent également. Le métier de facteur disparaît: ce sont les algorithmes qui détruisent des emplois. Une compagnie d'assurances indemnise la victime d'un accident: c'est un algorithme cynique qui calcule le montant de cette indemnité. La Bourse plonge: ce sont les algorithmes de trading qui sont responsables de ce krach. Les lois restreignent les libertés publiques: c'est l'algorithme du gouvernement qui nous espionne. Des algorithmes battent les humains aux échecs ou au go: ce sont ces algorithmes intelli gents qui bientôt nous gouverneront. Pourquoi rendons-nous les algorithmes responsables des maux qui nous affligent? Parce qu'ils bousculent nos habitudes? Sans doute. Mais aussi parce que nous acceptons souvent de les utiliser, en ignorant ce qu'ils sont réellement et comment ils fonctionnent. Nos fantasmes et nos angoisses sont les consé quences de cette ignorance. Nous craignons les algorithmes parce que nous les voyons comme des êtres mystérieux, dotés de pouvoirs surnaturels, voire d'intentions maléfiques. Pour nous libérer de cette pensée magique, pour séparer les espoirs légitimes des fantasmes puérils, les craintes justifiées des angoisses sans fondement, nous invitons la lectrice et le lecteur à une traversée de ce monde des algorithmes au cours de laquelle nous croiserons quelques-unes des grandes questions qui se posent à nous au temps des algorithmes: la transformation du travail, la disparition de la propriété, la protection de la vie privée, etc. 7 LE TEMPS DES ALGORITHMES Les algorithmes peuvent conduire au pire ou au meilleur, mais nous ne devons jamais oublier qu'ils n'ont, en eux-mêmes, aucune intention. Ils ont été conçus par des êtres humains. Ils sont ce que nous avons voulu qu'ils soient. 8 - Bonjour Robot, explique-moi ce qu'est un algorithme. - D'accord, mais je vais aussi devoir te parler du lien entre les algorithmes, les ordinateurs et les programmes. -Je sais. Quand nous avons trouvé un algorithme, nous l'écrivons sous forme de programme et nous n'avons plus qu'à demander à un ordinateur de travailler pour nous. -Tout à fait. - Et avec les algorithmes, tout est possible? - Non. Mais c'est peut-être ce qui les rend encore plus fascinants.