Des boîtes noires qui résistent aux lois sur la transparence
Au-delà des défis techniques, enquêter sur les algorithmes pour les journalistes, c’est se heurter à de nombreux obstacles juridiques, longs et parfois impossibles à lever. Entreprises privées comme administrations publiques gardent leurs « boîtes noires » décidément bien fermées.
« Les entreprises ne sont toujours pas prêtes à nous transmettre des algorithmes », assure Jessica Pidoux, chercheuse en humanités digitales à l’Ecole polytechnique fédérale de Lausanne (Suisse). Fascinée par l’analyse sociologique des techniques et les applications mobiles, elle découvre un brevet méconnu de Tinder. Ce brevet lui a permis d’en savoir plus sur la mécanique obscure de la populaire application. Si sa découverte a impulsé les travaux d’autres journalistes, notamment de Judith Duportail autrice de l’enquête L’Amour sous algorithme*, et leur a permis d’enquêter sur les ‘’boites noires’’ d’entreprises privées, obtenir ces codes relève souvent de l’impossible. « La loi protège les intérêts économiques des entreprises privées », se désole la chercheuse. Cette loi, une directive de l’Union Européenne (2016/943) sur la protection des savoir-faire et des informations commerciales (secret d’affaires) non divulgués, contre l’obtention l’utilisation et la divulgation illicite. Ce régime juridique va être renforcé le 30 juillet 2018 par loi n° 2018-670.
Cette nouvelle disposition détermine clairement la nature du « secret des affaires », évoqué par les entreprises pour ne pas transmettre des documents. La loi répond tout comme la directive à l’objectif de préserver la confidentialité d’informations des entreprises qui ne peuvent pas bénéficier de la protection du droit de la propriété intellectuelle (droits des brevets, des marques, dessins et modèles et droit d’auteur), et qui sont néanmoins importants pour maintenir leur compétitivité. On comprend aisément que ce sont deux dispositifs puissants de protection des entreprises qui rendent l’accès aux algorithmes impossible. Pour celle qui a fait des sites de rencontre en ligne son terrain de recherche, « quand une entreprise privée vous évoque la propriété intellectuelle pour ne pas transmettre des algorithmes, vous ne pouvez pas demander plus ». « On ignore comment les données des entreprises fonctionnent ou sont utilisées. Et le cadre légal de ce genre d’acteur n’oblige en rien à divulguer ces données« , renchérit Bastien Le Querrec, membre de la Quadrature du net, une association qui œuvre pour un Internet libre, décentralisé et émancipateur. Et tenter donc de percer le mystère de ces boîtes noires de façon illégale, par le piratage informatique par exemple, est « un délit fortement punit par le code pénal », ajoute-t-il.
Les algorithmes publics bien aussi opaques
Du côté des administrations publiques, l’opacité est aussi tenace, bien que la législation les oblige en théorie à dévoiler leurs algorithmes. Depuis 2016, la loi pour une République Numérique, dite « Lemaire », contraint les administrations publiques à plus de transparence. Elles doivent ainsi publier sur internet leurs principaux documents, y compris leurs codes sources et bases de données. Grâce au décret publié en Juillet 2020, les citoyens sont à présent en droit de réclamer des informations sur les algorithmes des administrations qui régissent leur quotidien, de l’établissement des factures de gaz, à l’attribution des places en crèches en passant par l’orientation des étudiants via Parcoursup. Des avancées qui sont le résultat de nombreuses batailles juridiques que mènent depuis 2015 des associations comme le Droit des lycéens ou l’Union nationale des étudiants de France(Unef) pour le principe de transparence des algorithmes publics.
Pour autant, les administrations publiques ne se conforment pas toujours aux dispositions légales. « Elles opposent parfois un refus implicite, c’est-à-dire un silence total. Parfois elles précisent le motif du refus », explique Xavier Berne, journaliste pour le site d’actualités et d’enquête Next Inpact. L’enquêteur a dû abandonner une dizaine d’enquêtes au cours de sa carrière parce que peinant pas à obtenir des algorithmes ou des documents administratifs. Selon lui, il existe pléthore de dérogations et motifs qui permettent aux établissements publics de justifier leurs refus de communiquer des documents administratifs parmi lesquels des algorithmes. Pour lui, obtenir des codes est une bataille juridique et médiatique à mener au quotidien « et il faut en parler et réussir à ce que cela soit un levier supplémentaire pour la transparence ».
Cette bataille juridique, les hommes des médias semblent la mener tout seul. « Et pourtant la Commission d’accès aux documents administratifs (Cada) est en principe un allié », lance Xavier Berne. « Si l’administration refuse de transmettre un document, la Cada est le premier recours avant d’engager un bras de fer devant les tribunaux ». L’institution après sa saisine a théoriquement un mois pour rendre son avis. Mais même l’autorité administrative indépendante peine à faire sauter les verrous et accuse un retard chronique. Dans le dernier rapport d’activité de la Cada détaillant l’année 2019, Marc Dandelot, le président d’alors de la commission, pointe notamment l’inadaptation des administrations à répondre à ses demandes. Les retards dans le traitement des dossiers par la Cada sont ainsi devenus monnaie courante. « Quand je saisissais la Cada je savais qu’entre le moment où j’envoyais mon mail et le jour je recevrai mon avis il pouvait s’écouler un an », confie Xavier Berne. Celui-ci dénonce également des « avis [de la Cada, NDLR] timorés, pas forcément favorables à la transparence ». Et même si la Cada donne un avis favorable, ce n’est généralement pas le bout du tunnel, puisqu’il faut attendre ensuite que l’administration transmette les documents. « Les avis de la Cada n’obligent en rien les administrations », renchérit Bastien Le Querrec, de la Quadrature du Net. « Mais vous pouvez toujours entreprendre une bataille juridique en déposant un recours devant le tribunal administratif », ajoute-t-il.
Retards chroniques
Ce bras de fer, l’Unef (l’Union nationale des étudiants de France) l’a mené jusqu’au bout et s’en souvient encore très bien. En juin 2019, le syndicat saisit le tribunal administratif pour manque de transparence dans le dispositif d’affectation de Parcoursup. Après un premier rejet, la requête s’est retrouvée devant le Conseil d’Etat pour « question prioritaire de constitutionnalité », puis devant le Conseil constitutionnel. L’association obtient en partie que les établissements d’enseignement supérieur publient leurs critères de sélection, et notamment les traitements algorithmiques utilisés pour classer les candidatures. « Après un an de bataille qui nous a valu les services de trois avocats, nous avons obtenu que les universités nous transmettent leurs algorithmes sous forme de rapports. Mais dans les faits, nous n’en avons reçu que six », se désole Benjamin Peutevynck, responsable des questions universitaires au sein de l’Unef. Là encore, les administrations traînent des pieds. « Certaines universités se rapprochent des algorithmes mais ne nous font pas parvenir des informations permettant d’identifier les critères utilisés ». Pour lui, « c’est le cadre légal qui permet aux administrations de déroger à la loi ».
« Le maître-mot aujourd’hui, c’est l’opacité », lance Bastien Le Querrec. Il constate aussi que les établissements publics opposent un refus à transmettre leurs données. Cependant il reconnaît que, pour elles aussi, il y a des contraintes. « les administrations n’ont parfois pas connaissance des algorithmes qu’elles utilisent. Ce sont leurs prestataires qui détiennent ces informations ». Il s’avère donc impossible pour ces administrations de divulguer quelque donnée dans ce cas. « Il faut sensibiliser au sein des administrations sur le cadre juridique applicable », propose l’enquêteur Xavier Berne. »Il existe un décalage entre les politiques de confidentialité, les algorithmes et ceux et qui les contrôlent, affirme la chercheuse Jessica Pidoux. « Il est impératif de montrer l’impact de l’intelligence artificielle, des algorithmes sur nos vies pour que les gens ne soient plus passifs ».
*Judith Duportail, L’Amour sous algorithme, Editions Goutte d’Or, 2019, 232 pages, 17€.
Rachidath Sarre Koto
Crédits photo : Rachidath Sarre Koto
