Plaidoyer pour la loyauté des algorithmes

Les algorithmes font désormais partie de la vie quotidienne de chaque individu : hiérarchisation des résultats d'une recherche d'information sur Google (pagerank), sélection de l'information qui apparaît sur un mur Facebook (Edgerank), optimisation des déplacements, recommandations de produits, détection des pathologies. Nous ne sommes qu'au début d'un tel phénomène, nos vies devenant données et les modèles prédictifs s'appliquant à des champs de plus en plus nombreux. L'algorithmie pose des questions d'éthique pour plusieurs raisons. Tout d'abord, la technique même de l'algorithme peut aboutir à des discriminations interdites par la loi, de par la réintroduction du profilage, désormais sans nécessité d'identification préalable, par simple recoupement de données. Les risques d'enfermement des internautes dans une personnalisation des services en fonction de leurs goûts ou dans des sphères d'opinions supposées posent également problème. Ceci s'oppose au libre épanouissement de l'individu, et participe à une homogénéisation réductrice de l'information, en opposition au pluralisme culturel. L'utilisation massive des algorithmes développe aussi le risque d'une confiance excessive dans les choix préconisés par ces calculs, basés sur des postulats potentiellement faux ou approximatifs, mais susceptibles d'orienter les choix des individus sans que ceux-ci en aient véritablement conscience. Enfin, se pose la question du risque "solutionniste" d'une société qui encourage le recours systématique à des solutions algorithmiques masquant la complexité des enjeux socio-économiques qui requièrent d'autres types d'interventions. Face à cette situation, il est important de rechercher des pistes de réflexion, comme celle d'une régulation imposant la loyauté des algorithmes, ou encore à la mise en place de systèmes permettant de vérifier son opérationnalité, comme par exemple des agences de notation ou un corps d'experts en algorithmes (algorithmistes) mobilisables sur demande d'une autorité de régulation.