Esclaves de l'algorithme

Paul Currion

Chroniqueur pour IRIN 

L'ouvrage le plus célèbre de Muhammad ibn Musa al-Khuwarzmi, esprit universel du IXe siècle, s'ouvre ainsi : « Lorsque je me suis penché sur ce que les gens attendent généralement du calcul, j'ai découvert que c’était toujours un nombre. » Un millénaire plus tard, le calcul occupe une place importante dans nos vies. Heureusement, Al-Khuwarzmi a donné son nom à un concept mathématique simple permettant de satisfaire ce besoin : l'algorithme.

 

Un algorithme n'est qu'un ensemble d'instructions détaillées permettant d'accomplir une tâche. Par exemple, ma recette du Plumpy'Nut Surprise est l'algorithme que j'ai suivi lorsque j'ai invité Jan Egeland à dîner. (Jan, si tu lis ces lignes, j'espère que tu te sens mieux.) Pourtant, les algorithmes sont plus puissants qu'on pourrait d'abord le penser. Le moteur de recherche Google ? Il repose sur des algorithmes. Les conseils de lecture d'Amazon ? Ils reposent sur des algorithmes. Le fil d'actualité Facebook ? Je vous laisse deviner.
 

Nos vies en ligne ne sont pas les seules à être lourdement influencées par les algorithmes : ils ont également un impact considérable (et croissant) sur le marché boursier, le maintien de l'ordre, les contrôles migratoires, et même sur nos vies sexuelles. Peut-être est-il sacrilège de le suggérer, mais Beyoncé a tort : ce ne sont pas les femmes qui dirigent le monde, ce sont les algorithmes. Cela inquiète bien des gens, et devrait vous inquiéter aussi, car ces algorithmes ne sont pas simplement puissants - ils sont également opaques.
 

De plus en plus d'éléments tendent à prouver qu'il est problématique de s'en remettre aux algorithmes pour prendre des décisions du fait de leur subjectivité inhérente. Personne ne sait comment fonctionnent les algorithmes cités plus haut, à l'exception d'une poignée de personnes travaillant pour les organismes qui les développent. Parfois, même eux l'ignorent ; avec l'apprentissage automatique, ces algorithmes évoluent de plus en plus souvent d'une manière difficile à prévoir. Comment l'expliquer, et quelles en sont les implications pour le secteur de l'aide ?

 

En 2011, l'investisseur Marc Andreessen a rédigé un article intitulé Why Software Is Eating The World, dans lequel il faisait valoir le fait - largement accepté - que « les éditeurs de logiciels s'apprêtent à prendre le contrôle de larges pans de l'économie ».  Le secteur de l'aide n'est pas à l'abri ; les organisations d'aide humanitaire suivent la tendance dans des domaines tels que la  santé et l'éducation, qui ont déjà été conquis par le numérique, mais l'impact le plus important et le plus immédiat devrait toucher aux transferts monétaires.
 

Même là où de l'argent est distribué physiquement, de tels transferts sont rendus possibles par les technologies de l'information ; et à l'avenir la plupart des distributions d'espèces ne se feront plus de manière physique, mais par téléphone portable ou carte bancaire. Cela s'inscrit dans le contexte plus large d'une révolution des technologies de la finance, et les données tirées des transferts monétaires seront d'un grand intérêt étant donné que les données sont le nouveau pétrole. Les réfugiés syriens représentent déjà un nouveau segment de marché pour les prestataires de services financiers.
 

Les distributions d'espèces sont donc essentiellement des distributions numériques, et être conquis par le numérique revient à être conquis par les éditeurs de logiciels. Si les organisations d'aide humanitaire commencent à être remplacées par des éditeurs de logiciels, ces enjeux seront traités non plus par des professionnels de l'aide humanitaire, mais par des informaticiens. C'est là le cœur du problème ; comme l'exprime Pedro Domingos dans son ouvrage récent The Master Algorithm :  « en informatique, un problème n'est pas véritablement résolu tant qu'il n'est pas résolu de manière efficace ».
 

Dans ce cas de figure, l'humanitarisme algorithmique reposera sur un logiciel qui décidera des bénéficiaires de l'aide et évaluera s'ils font bon usage de l'aide reçue - le tout dans un souci d'efficacité. Cependant, et quoiqu'en pensent les bailleurs de fonds, l'« efficacité » n'est pas un principe humanitaire fondamental.

 

L'avenir algorithmique va également de pair avec une automatisation à tout va – les véhicules sans chauffeur, par exemple, dépendent d'algorithmes – dont on attend qu'elle s'accompagne d'une destruction d'emplois d'une ampleur inédite. Dans une vaine tentative de rendre cette suprématie du numérique moins terrifiante, d'aucuns avancent que l'automatisation est moins susceptible d'affecter les métiers fondés sur les rapports humains, tels que le soin aux personnes âgées ou aux malades. On pourrait croire que le travail humanitaire appartient à cette catégorie, mais à présent que le secteur de l'aide s'est adapté à un environnement en mutation, il se préoccupe moins de rapports humains que de transactions.
 

Dans l'idéal, l'économie humanitaire est rationnelle et fondée sur la solidarité. C'est pourquoi Médecins sans frontières tâche de se maintenir sur le terrain bien après que tout le monde soit parti, pas simplement pour fournir des soins médicaux, mais également pour pouvoir témoigner et servir de porte-parole. Pour qu'il y ait solidarité il faut nécessairement des rapports humains, or l'automatisation menace d'ébranler ce fondement en accélérant la transition de l'économie humanitaire d'un modèle relationnel à un modèle transactionnel.

Un modèle transactionnel ne repose pas sur la solidarité : il repose sur des contrats. La solidarité implique une certaine confiance ; les contrats témoignent d'un manque de confiance. Dès lors, le modèle transactionnel doit reposer sur des standards techniques, des indicateurs clés de performance et des cadres logiques - lesquels sont souhaitables, mais insuffisants pour satisfaire l'impératif humanitaire, qui risque d'être balayé.
 

Algorithmes et automatisation finiront par dématérialiser l'aide humanitaire. Les organisations d'aide humanitaire sont déjà confrontées aux implications de l'effondrement de certains aspects de la programmation humanitaire (la distribution d'aide alimentaire, par exemple) avec la généralisation de la distribution d'espèces. Ce n'est pas nécessairement une mauvaise chose, sachant les problèmes que peut causer la distribution alimentaire, mais ce qui la remplace est un cocktail potentiellement explosif de capitalisme de plateforme, de  capitalisme de surveillance, et de  capitalisme de catastrophe.

 

Karl Marx l'avait prédit, en offrant une vision claire de l'état final du capitalisme bourgeois dans son Manifeste du parti communiste : « Tout ce qui était solide et stable est ébranlé, tout ce qui était sacré est profané ; et les hommes sont forcés, enfin, d'envisager leurs conditions d'existence et leurs relations réciproques avec des yeux dégrisés ». Les jeunes adorent Marx, pas simplement pour sa barbe de hipster mais également pour sa vision apocalyptique : nos organisations seront ébranlées, nos principes profanés, et nous serons forcés d'envisager notre relation avec les personnes auxquelles nous prétendons venir en aide avec des yeux dégrisés.

 

Il n'y a aucune fatalité à ce que l'humanitarisme algorithmique soit apocalyptique pour le secteur humanitaire, il faut simplement que nous nous attachions à garantir que nos algorithmes reflètent nos valeurs. En d'autres termes, plutôt que de se faire doubler par les éditeurs de logiciels, il nous faudra peut-être devenir nous-mêmes des éditeurs de logiciels – sans quoi, à cause de notre manque de connaissances en informatique, le codage sera laissé à l'imagination débordante de l'hackaton.

 

Et cela pourrait donner lieu à quelque chose de bien pire que de simples applications mobiles totalement ratées, survendues et sous-performantes ; cela pourrait donner lieu à un humanitarisme creux, dont l'humanité fondamentale aurait été bradée par la machine.

pc/bp/ag-xq/amz 

Photo de couverture: Byron Mayfield [CC BY-SA 3.0 ou GFDL], Wikimedia Commons