Gilles Dowek, Serge Abiteboul-Le temps des algorithmes-Le Pommier (2017)

Les algorithmes inquiètent

Les algorithmes sont devenus des ingrédients essentiels de nos vies professionnelles, de nos interactions sociales, de notre médecine, de notre industrie, de nos transports, de notre commerce, etc. Ils transforment les sciences exactes et les sciences humaines et contribuent ainsi à enrichir nos connaissances. Ils permettent à la technique de repousser sans cesse les limites du possible.

 

Certains algorithmes, tels le système d'exploitation d'un téléphone, un système de gestion de bases de données ou un moteur de recherche, sont des objets gigantesques, auxquels des milliers de personnes contribuent. Ils sont parfois comparés à des cathédrales, tant ils tiennent de la même ambition, de la même déraison.

[6]

Avec les algorithmes, Homo sapiens semble avoir enfin construit un outil à la mesure de ses aspirations.

 

Mais ces algorithmes inquiètent également. Le métier de facteur disparait : ce sont les algorithmes qui détruisent des emplois. Une compagnie d'assurances indemnise la victime d'un accident : c'est un algorithme cynique qui calcule le montant de cette indemnité. La Bourse plonge : ce sont les algorithmes de trading qui sont responsables de ce krach. Les lois restreignent les libertés publiques : c'est l'algorithme du gouvernement qui nous espionne. Des algorithmes battent les humains aux échecs ou au go : ce sont ces algorithmes intelligents qui bientôt nous gouverneront.

 

Pourquoi rendons-nous les algorithmes responsables des maux qui nous affligent ? Parce qu'ils bousculent nos habitudes ? Sans doute. Mais aussi parce que nous acceptons souvent de les utiliser, en ignorant ce qu'ils sont réellement et comment ils fonctionnent. Nos fantasmes et nos angoisses sont les conséquences de cette ignorance. Nous craignons les algorithmes parce que nous les voyons comme des êtres mystérieux, dotés de pouvoirs surnaturels, voire d'intentions maléfiques.

 

Pour nous libérer de cette pensée magique, pour séparer les espoirs légitimes des fantasmes puérils, les craintes justifiées des angoisses sans fondement, nous invitons la lectrice et le lecteur à une traversée de ce monde des algorithmes au cours de laquelle nous croiserons quelques-unes des grandes questions qui se posent à nous au temps des algorithmes : la transformation du travail, la disparition de la propriété, la protection de la vie privée, etc.

[7]

Les algorithmes peuvent conduire au pire ou au meilleur, mais nous ne devons jamais oublier qu'ils n'ont, en eux-mêmes, aucune intention. Ils ont été conçus par des êtres humains. Ils sont ce que nous avons voulu qu'ils soient.