En décodant les codes, Algorithm Watch fait de l’investigation tout un programme
À la croisée des genres entre ONG et média de niche, l’organisation Algorithm Watch s’est imposée dans le champ de l’enquête algorithmique. Un modèle hybride et novateur grâce auquel la structure met à nu les processus de décisions automatisées et révèle leurs biais.
Les algorithmes sont perfectibles et l’ONG allemande Algorithm Watch tend bien à le démontrer. À la frontière entre militantisme et journalisme l’organisation met à l’agenda politique et médiatique ces questions démocratiques nouvelles.
Fondée en 2016, Algorithm Watch oeuvre en deux sens distincts : “proposer des solutions aux décideurs en charge des politiques publiques” et “mettre en lumière les processus de décisions automatisées qui ont un impact sur la société ”. C’est dans ce dernier domaine, consacré à l’investigation, que le journaliste Nicolas Kayser-Bril travaille. Ce datajournaliste s’est imposé en quelques années comme une référence dans l’étude des algorithmes. Il participe à la création, dans les années 2010, du défunt site Owni (un média en ligne indépendant dédié à la culture web), puis co-fonde Journalism++ , un réseau européen de datajournalistes. Ce n’est donc pas un hasard quand, il y a trois ans, ce polyglotte, rejoint l’équipe d’Algorithm Watch. Les articles publiés par Nicolas Kayser-Bril passent à la loupe les algorithmes et exposent au public à la fois leurs angles morts et leurs dérives inégalitaires. Ainsi, l’organisation a pu enquêter sur des sujets insolites tels que les biais linguistiques de Google Translate ou encore la reconnaissance faciale dans les stades de football italiens.
Un jeune média au glorieux palmarès
L’ONG Algorithm Watch a développé ses propres capacités d’enquête et d’analyse au point de devancer les rédactions traditionnelles. Ainsi, elle parvient à médiatiser ces questions numériques et à s’imposer comme un média de niche. “Nous partageons parfois nos articles avec des médias partenaires ou des journalistes. L’objectif est toujours de maximiser la visibilité d’une information car notre mission est de faire la lumière sur les processus de décision automatisée en Europe”, ajoute Nicolas Kayser-Bril. Le projet Openschufa, en 2018, est l’un des exemples de cette collaboration. Pour ce faire, Algorithm Watch a réalisé un travail conjoint avec l’Open Knowledge Foundation Germany, en partenariat avec de grands quotidiens nationaux allemands comme le Spiegel et le Bayerische Rundfunk. Ce dossier a permis de mettre en évidence l’existence d’un score utilisé dans l’attribution des prêts bancaires par la société allemande de crédits Schufa. En dépit de ces multiples liens avec le monde des médias, Algorithm Watch n’a pas pour vocation de former les journalistes à ce type d’enquêtes. En revanche, l’ONG inspire de par sa méthodologie et les sujets qu’elle aborde. C’est pour ces raisons que certaines rédactions les reprennent. Ainsi, le média Maldita vient de publier son propre dossier sur les biais linguistiques de Google Translate, inspiré de celui d’Algorithm Watch, mais dans sa version espagnole.
Algorithm Watch collabore aussi avec des journalistes indépendants comme Alexandre Léchenet, data-journaliste depuis dix ans. Pour l’organisation, il s’est penché sur l’attribution des places dans les garderies publiques en France. « Mon travail était assez sommaire en terme d’informatique. Je me suis débrouillé tout seul pour comprendre les ressorts techniques. Je me suis davantage focalisé sur la perception de l’algorithme par les élus que sur son réel fonctionnement, donc c’était classiquement avec des interviews et de la documentation”, explique ce dernier. Son confrère Nicolas Kayser-Bril abonde : “il n’y a pas de formation qui soit nécessaire pour comprendre la plupart des méthodologies utilisées dans ce domaine. La seule chose c’est d’avoir un bon esprit critique face au nombres et cela devrait faire partie du bagage commun à l’ensemble des journalistes”.
Mais lorsqu’il s’agit de se questionner sur les algorithmes, leur élaboration et leurs conséquences sur la société, l’intention journalistique ne suffit pas. Accéder au coeur de l’algorithme reste laborieux, même pour un journaliste chevronné, et nécessite souvent une aide extérieure. C’est donc naturellement que la journaliste indépendante Judith Duportail s’est tournée vers Algorithm Watch lorsqu’elle a voulu décrypter l’algorithme d’Instagram. Une véritable coopération entre la jeune femme et Nicolas Kayser-Bril a alors vu le jour et a permis de co-signer une investigation d’envergure en juin dernier dans Mediapart, intitulée “Sur Instagram, la prime secrète à la nudité”.
“[Judith Duportail] avait le sentiment que les photos [classiques] qu’elle postait sur Instagram étaient beaucoup moins visibles que lorsqu’elle était en maillot de bain […]. Nous avons donc mis en place une méthodologie qui nous a permis de vérifier cette hypothèse. Nous avons ensuite travaillé avec le développeur informatique pour construire l’outil qui nous a permis d’utiliser des dons de données. Des utilisateurs ont installé un plug-in sur leur navigateur grâce auquel, nous avons pu prouver qu’il y avait une prime à la nudité. L’autre partie consistait à interviewer les professionnels d’Instagram, leur demander ce qu’ils en pensaient, passer en revue les différents brevets déposés“. Elle est le fruit d’un travail complexe entre une statisticienne, Kira Schacht, un développeur, Édouard Richard et les journalistes. “Il faut avoir de bonnes compétences dans la gestion de projets. Surtout avec d’autres corps de métiers, la clé c’est d’avoir une bonne relation”, développe Nicolas Kayser-Bril.
Un modèle hybride entre militantisme et journalisme
La naissance de telles enquêtes n’est pas due au hasard mais paraît intimement liée au modèle novateur et hybride proposé par Algorithm Watch. Avec ses deux pôles ultra spécialisés, nombre de professions se côtoient, dans une seule et même structure. Un environnement unique composé au total de 15 employés aux fonctions diverses : développeurs, journalistes, experts en politiques publiques, chercheurs, chefs de projets… Bien loin d’une rédaction journalistique classique.
Économiquement, l’ONG se distingue des autres entreprises de presse. Ses revenus ne proviennent ni des abonnements de ses lecteurs ni de ceux de la publicité mais de donations. L’ONG peut ainsi se passer de “faire du clic” dans l’optique de se consacrer aux enquêtes sur les algorithmes. Elle n’a pas non plus à se plier aux attentes d’un lectorat.“ Nous sommes financés quasiment exclusivement par des fondations, précise Nicolas Kayser-Bril. Mais nous avons un budget dédié au journalisme. Par ailleurs, on obtient régulièrement des subventions d’autres fondations pour mener des enquêtes particulières.” Ce fut notamment le cas de l’enquête avec Judith Duportail pour laquelle les journalistes ont reçu des financements de l’European Data Journalism Network à hauteur de 10 000 euros (montants bruts hors taxes). “ Cette somme a permis de rémunérer les journalistes, statisticienne et développeur, qui ont participé au projet”, explique Nicolas Kayser-Bril.
Pourtant certaines questions sous-tendent ce nouveau type de journalisme : même si cette nouvelle forme d’indépendance fait rêver plus d’une rédaction, elle soulève des questions de déontologie. Comment se défaire totalement du biais militant que comporte l’ONG ? Le journaliste ne risque-t-il pas de voir sa ligne éditoriale sujette à ces pressions ?
Pour Nicolas Kayser-Bril, “ce financement philanthropique permet d’être indépendant. Nous n’accepterions aucun financement qui restreindrait notre liberté éditoriale”. Selon lui sa mission journalistique est réellement “distincte de la partie défense d’intérêts (advocacy) [et donc militante]”.
Ces interrogations ont aussi traversé l’esprit d’Alexandre Léchenet et de Judith Duportail. “Concernant les risques de conflits d’intérêts, je pense que, le plus important, c’est la transparence. On sait par qui est financée Algorithm Watch de manière claire, c’est écrit sur le site, cela permet au moins aux gens de savoir lire en connaissance de cause” développe Alexandre Léchenet.
Judith Duportail, elle, admet une certaine orientation du contenu : “Avec Nicolas Kayser-Bril, nous sommes en train de remplir un dossier pour une nouvelle bourse, donc nous regardons les critères de l’ONG en question. C’est elle qui décide de notre angle donc on essaye de coller à leurs attentes pour avoir un financement. C’est une forme de mainmise éditoriale. Dans un monde idéal, il faudrait qu’il y ait des cellules “investigation algorithmes” dans tous les médias de France, parce que ça a un impact sur absolument tous les domaines de notre vie.”
Un nouveau média pour un nouveau type d’enquêtes
Fort d’un “financement à six chiffres” issu de fondations (budget total de l’ONG en 2017) et d’une équipe pluridisciplinaire, l’ONG a pu enquêter sur ces sujets long, fastidieux et onéreux. “Produire ces enquêtes est coûteux, même si les compétence nécessaires sont assez similaires à celles mobilisées en datajournalisme, cela peut prendre plus de temps et être plus complexe”, reconnaît Nicolas Kayser-Bril. Effectivement, certaines investigations peuvent atteindre des sommes astronomiques, inabordables pour un grand nombre de médias. À titre d’exemple, Propublica, ONG elle aussi financée grâce au mécénat – a déboursé au total 300 000 euros pour sa seule enquête sur les conséquences du cyclone Katrina. Pas étonnant que les rédactions traditionnelles n’aient pas toujours les moyens (budget, ressources humaines) exigées pour ce type d’investigations, ni l’engouement.
“Le fonds Google d’innovation pour la presse finance et arrose un peu toutes les rédactions de France. Cela n’encourage pas [les journalistes] à aller enquêter sur les modes de fonctionnement des GAFAM ”, déclare Judith Duportail. Nicolas Kayser-Bril dresse le même constat, ”les entreprises qui ont le plus d’influence sur notre société via leurs algorithmes, on les connaît : Facebook, Amazon, Apple… Sociétés face auxquelles les médias sont dans une situation de dépendance absolue. Ils n’ont aucun intérêt à se fâcher avec Google ou Facebook donc je ne pense pas qu’on va voir ce genre de compétences fleurir dans la plupart des rédactions”.
Les journalistes disposent à l’heure actuelle de peu d’options : ne pas se saisir de ces sujets d’enquête ou collaborer avec des ONG en pointe, financées par de généreux philanthropes. Cette collaboration mutuelle paraît fructueuse : d’un côté, les journalistes bénéficient de l’appui humain et parfois même financier des ONG; de l’autre, les ONG disposent d’une nouvelle aura et mettent ces sujets oubliés à l’agenda médiatique. La transparence est primordiale pour gagner la confiance du public.
Noa Thomas et Marie Montels
