De l’autre côté de la machine : Voyage au pays des algorithmes

Aurélie JEAN, De l’autre côté de la machine : Voyage au pays des algorithmes, De Facto, Paris, Éditions de l’Observatoire, 13 novembre 2019.

Aurélie Jean (1982 – ) est une scientifique numéricienne. Fondatrice et dirigeante de la société In Silico Veritas à New York, elle est spécialisée dans les algorithmes et la modélisation numérique.

Cet ouvrage est un essai de vulgarisation algorithmique. Il a été écrit à la demande de Gaspard Koenig, directeur de la collection « De Facto » et se lit comme un roman.

Les algorithmes sont largement des inconnus qui font peur. Ils font donc l’objet de critiques grandissantes. Cette méconnaissance n’empêche pas des débats de société de se déployer : comment fonctionnent-t-ils ? Qui sera responsable ? Ces « robots » vont-ils pas nous remplacer ?

Ce livre est conçu comme un « voyage » qui va emmener le lecteur de l’autre côté du mur opaque que constitue la connaissance des algorithmes, comme Alice va voir de l’autre côté du miroir. A travers le parcours de la talentueuse scientifique Aurélie Jean, nous entrons dans un monde virtuel fascinant et mal connu.

L’algorithme est un concept qui date d’Euclide (IIIe s. av. J.-C.) tandis que le terme lui même date du IXe s. ap. J.-C. en référence à Al-Khwarizmi. Très souvent associé au code informatique, l’algorithme n’est pas nécessairement lié à l’implémentation de celui-là.

Aurélie Jean nous aide à mieux comprendre ce que sont et ce que ne sont pas les algorithmes. Elle nous explique leurs développements, leurs utilités, dans tous les domaines (les sciences, la médecine, l’économie…).

L’auteure aborde également, avec franchise et transparence, les biais, ces chemins de raisonnement influencés — explicitement ou implicitement — par nos propres visions, nos perceptions ou nos jugements. Ces biais qui peuvent évidemment être lourds de conséquences, même s’ils sont involontaires.

Elle évoque les questions d’éthique qui l’ont amenée à ne pas publier certaines de ses recherches, et nous explique l’effet ELIZA : l’empathie, l’émotion qu’un humain peut ressentir envers un robot ou une machine.

« Le personnage central de ce voyage n’est pas l’algorithme, encore moins ma personne [l’auteure] … Le personnage clé de cette histoire, c’est le biais algorithmique. » (p. 197 198) Aurélie Jean cherche à transmettre une vision saine, apaisée et ajustée des algorithmes, de leurs limites et de leurs utilisations. Elle écrit pour pallier les nombreuses incompréhensions en matière d’algorithmique. L’ouvrage veut contribuer à la culture scientifique et au lien entre théorie et pratique. C’est pourquoi ce livre est une porte d’entrée pour une connaissance générale des algorithmes et veut approfondir la question : quels rapports les algorithmes entretiennent-ils avec notre liberté ?

L’auteure explique notamment — c’est le tiers de l’ouvrage qui nous intéresse davantage — que la notion de « biais algorithmique » provient de nos propres biais et de nos observations, lesquels peuvent induire la machine en erreur. Il faut donc garder un sens critique à l’égard de ces biais. D’autant plus que ceux ci résultent rarement d’une volonté du concepteur de l’algorithme de tromper son public. Il est très important d’en avoir conscience car l’utilisation d’un algorithme biaisé que l’on suppose objectif peut fortement influencer l’opinion. Cette problématique pose la question du manque de rétrocontrôle des concepteurs d’algorithmes sur leur création.

Aujourd’hui, les algorithmes font des suggestions de décisions, il y a donc un risque déterministe. Cependant, libre à chacun de refuser la suggestion qui lui est faite si sa conscience est éclairée. Au point de vue moral, le défi avec les algorithmes — qui sont un langage universel —, c’est que l’éthique qu’on leur applique doit être universelle.     

Par ailleurs, l’auteure défend sa méthode qui consiste à plonger dans le virtuel pour comprendre le réel. Les algorithmes font interface entre l’un et l’autre ; comprendre leurs fonctionnements, c’est pouvoir utiliser le virtuel comme clé de compréhension de notre monde. En faisant des algorithmes pour simuler la réalité, on peut mieux comprendre celle ci.

Ce livre nous a paru bien écrit. En tant qu’ouvrage de vulgarisation sur l’algorithmique, il fera œuvre utile. Les deux chapitres sur les biais nous ont paru plus intéressant. Néanmoins c’est une approche restrictive de la question éthique appliquée à ce domaine. Les risques de discrimination sont abordés au travers des biais mais quid des risques d’exclusion sociale ? La maîtrise des données est volontairement éludée — il est vrai que l’on en parle beaucoup depuis quelques années. La responsabilisation est effleurée et nul dilemme ou nul cas limite ne vient réellement nourrir la réflexion.

Ouvrage : https://www.editions-observatoire.com/content/De_lautre_c%C3%B4t%C3%A9_de_la_machine