Citoyens taisez-vous ! Les algorithmes parlent à votre place [Vidéos]

Publié par

 

« Révolution numérique », objectif « 100 % de services publics dématérialisés à horizon 2022 » : l’ambitieux programme du gouvernement quant à la transformation de l’administration inquiète car il s’impose très rapidement à l’insu des agents et des publics. La dématérialisation trouve d’ailleurs une place de choix dans le rapport Delevoye sur la proposition actuelle de réforme des retraites qui préconise qu’« en 2025, 100 % des démarches relatives à la retraite seront réalisables en ligne ».

 

Les craintes de la dématérialisation des relations administratives sont probablement amplifiées par l’importance prise par la thématique du non-recours aux droits et aux services au cours de la dernière période.

 

Certains perçoivent la dématérialisation comme un « facilitateur » de l’accès aux droits et aux services, pour d’autres, au contraire, elle est « génératrice » ou « activatrice » de difficultés. C’est en particulier le cas pour les personnes dont l’équilibre de vie passe par la bonne réception de leurs droits.

 

Les relations administratives dématérialisées peuvent situer les personnes d’un côté ou de l’autre des frontières de l’intégration et de l’exclusion. Ainsi, des publics entiers pourraient sortir définitivement des dispositifs sociaux avec des effets imprévisibles certainement très lourds.

 

 

Éliminer les relations humaines

Les alertes ne manquent pourtant pas sur les conséquences sociales d’une dématérialisation totale. On s’inquiète aussi des ravages de l’illectronisme qui concernerait 13 millions de personnes dans notre pays soit un Français sur 5. Aujourd’hui en France, 4 millions de personnes âgées de 60 ans et plus sont aussi en situation d’exclusion numérique.

 

Mais la révolution est en marche : elle élimine les relations humaines dans les relations avec les administrations et les services publics. Pourtant, « l’informatisation de la société » faisait déjà débat lorsque Simon Nora et Alain Minc remirent leur rapport au président de la République à la fin des années 1970. Les changements radicaux amenés par les TIC (à l’époque) avaient donné lieu à un grand nombre de commentaires sur la modification de nos rapports sociaux. Ce débat semble désormais oublié.

 

Incontestablement l’accès à un équipement informatique et à un réseau Internet est un vrai enjeu, tout comme l’est également l’autonomie numérique. Ces aspects cruciaux sont, selon les pays, plus ou moins bien maîtrisés.

 


 

Time : 11 mn 03 / [1]

 

La révolution numérique expliquée par Michel Chevalet à propos du futur de l’informatique en 1970 (Archive INA).

 


 

Infrastructures numériques inégales

La Corée du Sud caracole en tête avec près de 80 % des connexions Internet haut-débit par la fibre optique. La France (13,7 %), l’Allemagne (2,6 %) et pire la Grande-Bretagne (1,5 %) sont très loin derrière d’autres pays européens qui, de la Lituanie (72,1 %), Espagne (51,8 %) et Norvège (45,6 %), se placent dans le peloton de tête.

 

En 2015, la France est en 13ᵉ position pour l’offre de services dématérialisés, le nombre d’utilisateurs, le recours aux formulaires pré-remplis et l’ouverture des données. Si la stratégie Europe 2020 fait du haut-débit un outil principal d’inclusion sociale, l’objectif est loin d’être atteint.

 

 

Femme âgée

En France, 4 millions de personnes âgées de 60 ans et plus sont en situation d’exclusion numérique. Ici, André Bourgin 85 ans visite le cyber-salon de thé du foyer du Romarin de Clapiers, novembre 2004. Dominique Faget/AFP

 

 

En Grande-Bretagne, dernier de la classe en Europe, la diffusion de la fibre optique s’est imposée dans la campagne électorale du 12 décembre 2019. Boris Johnson avait promis de connecter tous les foyers. Les travaillistes le lui rappellent à la faveur des législatives anticipées en s’engageant à fournir la fibre optique gratuitement à tous les foyers et à toutes les entreprises d’ici 2030. Une reprise en main par l’État des infrastructures nécessaires, une « nationalisation d’Internet », viendrait créer un droit : le droit au haut-débit.

 

 

Des algorithmes comme seuls référents

Les inquiétudes répétées à l’envi sur la « fracture numérique » sont essentielles et légitimes. Cependant, elles sont locales et à courte vue. En effet, elles paraissent bien pâles au regard de ce qui se passe ailleurs en Europe.

 

Dans d’autres pays, l’entrée du numérique dans le fonctionnement des administrations et des services publics porte essentiellement sur le développement d’algorithmes permettant d’orienter les moyens. C’est là certainement que se niche la révolution numérique, pour la simple raison que l’accès aux prestations ne dépend plus seulement de règles préétablies (les critères d’éligibilité et les conditions d’accès) mais de systèmes de prédiction dans la détermination des personnes qui ont besoin d’aide.

 

Dans ce cas le fonctionnement démocratique est probablement impacté. On peut modifier sinon éliminer l’expression des attentes et des désaccords en remplaçant les guichets par des bornes, même si elles présentent des avantages pour les usagers, mais surtout les algorithmes peuvent évacuer les notions de droit et d’ayant-droit pour les remplacer par la notion d’assujetti.

 

En effet, les prédictions attendues des algorithmes imposent aux individus ce que l’arbitraire informatique retient de leurs comportements passés.

 


 

Time : 2 mn 59 / [2]

 

L’économiste Daniel Cohen, « Comment travaillerons-nous en 2049 ? » (L’Obs).

 


 

Ainsi, en France le secteur des assurances a déjà mis en œuvre ce principe puisque les algorithmes sélectionnent les clients les moins à risque (la « sélection adverse »).

 

Les administrations et les services publics seront-ils longtemps à l’écart ? On peut en douter. La numérisation des données administratives modifie en profondeur les contours de l’action publique.

 

La mission Etalab de la Direction interministérielle du numérique de l’État a pour objectif, fixé par décret le 30 octobre 2019, de coordonner les actions des administrations de l’État pour faciliter la diffusion et la réutilisation de leurs informations publiques.

 

Un « Guide des algorithmes publics » a émergé de cette initiative, destiné à l’ensemble des administrations et organisations chargées d’une mission de service public. Les types d’usages des algorithmes dans les administrations sont tournés vers l’amélioration des fonctionnements : « Attribuer des droits, calculer des montants selon des règles prédéfinies » ; « Prédire une situation ou un risque en analysant des données »…

 

Mais jusqu’où ira-t-on, en particulier quand il s’agit aussi d’« Aider à la décision des usagers » ? Car dans cet engrenage, la prédiction des comportements nous fait perdre un droit essentiel : celui de savoir et de choisir qui sait quoi de notre vie et de notre avenir.

 

 

Le marché des comportements futurs

La situation britannique est particulièrement intéressante car elle permet de comprendre « le coup d’après » de la révolution numérique. Sa description ne relève pas d’une dystopie. C’est la transformation en cours d’un État qui se rétrécit et se renforce simultanément, à la fois en se faisant l’auxiliaire de la logique propre du marché et en se rabattant sur des questions de sécurité. Soit l’État qui correspond au « capitalisme de la surveillance » décrit par Shoshana Zuboff à partir des États-Unis. Cette nouvelle forme de capitalisme traduit l’expérience humaine en données comportementales afin de produire des prédictions qui sont ensuite revendues sur le marché des comportements futurs, y compris pour les services sous autorité régalienne, comme la police et la justice.

 

Le social n’est pas en reste. Récemment, une enquête de The Gardian révélait que 140 des 408 collectivités locales du Royaume-Uni ont développé des systèmes de prédiction à destination des travailleurs sociaux. Et de citer le cas de Bristol :

 

« L’ordinateur IBM ronronne jour et nuit pendant qu’un algorithme parcourt les données relatives à la vie de 170 000 habitants de Bristol. Ces informations sont communiquées par la police, le NHS le [service de santé public], le ministère de l’Emploi et des Retraites et les autorités locales. Emploi, problèmes d’alcool, de drogue, de santé mentale, infractions, incivilités, absences scolaires, grossesses précoces et violence domestique, tout y est. »

 

Comme l’explique l’article, la municipalité « se sert de ces prévisions pour guider ses agents sur le terrain » et déployer l’aide publique dans tel ou tel quartier de la ville.

 

Cependant, les algorithmes sont loin d’être fiables et peuvent exprimer les préjugés de leur concepteur. Ainsi, le quotidien britannique rapporte le cas du district de North Tyneside dans le nord-est de l’Angleterre. Les autorités ont mis fin à un contrat d’un opérateur privé parce que l’algorithme identifiait à tort certains habitants comme des fraudeurs potentiels, ce qui provoquait un retard dans le versement de leurs aides sociales.

 

 

Algorithmes discriminatoires et racistes

Les algorithmes sont aussi à l’origine de traitements injustes ou discriminatoires dans d’autres domaines, comme celui de la santé. Une étude publiée dans Science en octobre 2019 conclut que l’algorithme en usage dans les hôpitaux américains pour attribuer des prestations de santé est moins susceptible de faire bénéficier les Noirs que les Blancs des programmes destinés à améliorer les soins de patients présentant des besoins médicaux complexes.

 

Cet algorithme à partir duquel hôpitaux et assureurs gèrent les soins de près de 200 millions de personnes chaque année aux États-Unis, est construit de telle façon que les Noirs doivent être plus malades que les Blancs pour obtenir une aide supplémentaire.

 

En attendant la mise en place d’autorités de contrôle des algorithmes et de la régulation d’un Internet encore largement opaque, « la Tech » peut être perméable au racisme systémique qui conditionne depuis toujours aux États-Unis l’accès aux programmes d’aides.

 


 

Time : 1 h 28 mn / [3]

 

Romain Badaourd, le désenchantement de l’Internet, Université de Nantes.

 


 

L’avènement du crédit social

Dans d’autres pays, le capitalisme de la surveillance est au service d’un État autoritaire. Depuis 2014, la Chine recourt aux algorithmes pour mettre en place un système de « crédit social » fondé sur la notation, à partir de différentes sources, des comportements.

 

A cette fin, des masses colossales d’informations sont moissonnées sur les individus mais aussi les administrations et les entreprises. Le programme-cadre du gouvernement chinois est de mettre en place d’ici 2020 une « société de l’intégrité » englobe l’économique, le politique et le civisme.

 

Fondé sur la transparence (forcée) et l’utilisation politique de la réputation (naming and shaming or praising), le système de crédit social est – comme l’explique Pierre Sel, un outil disciplinaire permettant de récompenser ou de punir en fonction du respect des lois et des règlements.

 


 

Time : 4 mn 39 / [4]

 

Avec le « crédit social », la Chine classe les « bons » et les « mauvais » citoyens (France 24, mai 2019).

 


 

La Russie prend le même chemin depuis l’adoption en première lecture par la Douma, en septembre 2019, du projet de loi du gouvernement de créer une base centrale d’informations sur chaque citoyen.

 

La plupart des ministères, la Caisse de retraite ou des organismes comme l’Agence du transport maritime et fluvial sont mis à contribution. Dans les deux pays, cette surveillance est justifiée par le même argument : lutter plus efficacement contre la fraude dans tous les domaines, améliorer la politique socio-économique de l’État et fluidifier le versement des allocations de tous types et l’accès aux différents services.

 

 

Oppression, répression

Pour les citoyens, cet accès est pourtant fortement contraint, dépendant de la notation de leurs conduites au quotidien. C’est ce que rapportait dans son édition du 30 octobre 2018 le mensuel économique Hongkongais Shunpo Monthly :

 

« Cet été, le jeune Rao venait de réussir le concours d’entrée à un prestigieux établissement d’enseignement supérieur de Pékin, et la famille était en liesse. Mais un seul coup de fil de l’université a douché leur enthousiasme : comme le nom du père était porté sur une liste des « personnes sans crédit » [à la suite d’un retard dans un remboursement bancaire, ndlr], l’établissement ne pouvait accepter le fils. »

 

Au service d’un système automatique qui ouvre et ferme les droits, les algorithmes non seulement permettent un contrôle social mais sont aussi des outils de répression. Un rapport publié par l’Associated Press en février 2019 indique jusqu’à 17,5 millions d’achats de billets bloqués en 2018 en Chine pour des « délits de crédit social » tels qu’impôts ou amendes impayés. Parallèlement, près de 5,5 millions d’autres voyageurs potentiels se sont vu interdire l’achat de billets de train, selon un rapport annuel du Centre national d’information sur le crédit public. On compte jusqu’à 138 personnes ayant été empêchées de quitter le pays.

 

Dans le cas chinois, le système de crédit social vient également palier le problème historique et structurel du pays : la faiblesse et la corruption des administrations locales.

 

 

Le contrôle de l’espace public

Dans l’escalade des risques pour la démocratie, le numérique alimente de nouvelles étapes. Il contribue par exemple à l’éviction de l’espace public des sans domicile fixe, parfois avec des intentions louables. A New York, la municipalité tente de résoudre par le numérique les regroupements de sans-abri. Elle a équipé plus de 18 000 de ses employés d’applications spéciales pour smartphone afin de permettre de noter l’emplacement des quelques 4 000 sans-abri qui campent – (soit 5 % des 79 000 sans-abri recensés)- et de connaître instantanément les disponibilités d’hébergements dans les secteurs.

 

San Francisco et Seattle ont opté pour la même technologie, mais très différemment. Les applications à disposition de la population qui se charge d’informer les autorités de la présence de « noyaux de SDF » dans leur quartier, rapidement évacués par la police. Ces snitch apps (« applis pour mouchards ») payées par les municipalités participent à la gentrification des quartiers.

 

 

Twite

 

 

Vers « nouveau fossé numérique »

Au-delà, le problème principal de dématérialisation « tous azimuts » réside dans le phénomène de désocialisation qui s’opère au sein de nos espaces collectifs.

 

Sortir du tout connecté et de la surveillance généralisée nécessite de s’organiser, de désobéir et de résister aux contraintes du tout numérique : ne pas faire pucer ses brebis ou garder des agences ouvertes pour recevoir le public…

 

Reste que ceux qui peuvent vraiment se passer des tablettes et autres écrans demeurent des privilégiés, un phénomène témoignant d’un « nouveau fossé numérique », mais à l’envers.

 

Les enfants des startupers de la Silicon Valley ne sont-ils pas encouragés à abandonner le numérique pour plus d’interaction humaine tandis que ceux des plus pauvres sont vissés aux écrans ?

 

Les relations humaines constituent-elles un nouveau luxe à atteindre ? Soit une nouvelle facette de cette « postmodernité » que certains – peut-être les mêmes – ont connue, par exemple en reprenant le vélo pour se passer de la bagnole.

 


 

PC - 1

Les interactions humaines sont réduites au minimum au sein des administrations et services aux usagers (ici Pôle Emploi, Paris, 2016) – Jacques Demarthon / AFP

 


 

Source :

https://theconversation.com/citoyens-taisez-vous-les-algorithmes-parlent-a-votre-place-128649

 

Article :

Philippe Warin, directeur de recherche CNRS, Sciences Po Grenoble / The Conversation France

Publié sous Licence Creative Commons.

 

Vidéo :

[1] Michel Chevalet explique le futur de l’informatique en 1970 | Archive INA – Ina Culte / YouTube

[2] Comment travaillerons-nous en 2049 ? Les prédictions inquiétantes de l’économiste Daniel Cohen – L’Obs / YouTube

[3] Romain Badouard – Le désenchantement de l’internet. Désinformation, rumeur et propagande – UnivNantes / YouTube

[4] Avec le « crédit social », la Chine classe les « bons » et les « mauvais » citoyens – FRANCE 24 / YouTube

4 commentaires

  1. La numérisation des services entre dans le projet du nouvel ordre mondial que le sieur Sarkozy et autres Attali considèrent inéluctable(voir vidéo ci-dessous) :

    Pour savoir connaître à quoi ressemblerait ce nouvel ordre mondial prôné par ses promoteurs (tous riches et influents), il faudrait lire l’histoire de Big Brother.
    Big Brother est un personnage du roman d’anticipation « 1984 » de l’écrivain anglais Georges Orwell. Ce roman est devenu le symbole de l’État autoritaire et de la perte des droits individuels de la population et sa mise sous surveillance continue.
    Avec le progrès de la technologie, ce concept Big Brother est devenu réalité et ce, à l’insu de la population mondiale(1).
    Passer sa vie à travailler(quand il y a du travail), boire et manger, se divertir, dormir et à la fin mourir.
    C’est cela le conditionnement auquel la majorité des peuples ont été soumis par le Nouvel Ordre Mondial.
    Vivre comme des esclaves dont les maîtres se trouvent à la tête de la pyramide. Et qu’est-ce que font les esclaves ? Servir leurs maîtres qui se sont octroyé 80% des richesses mondiales.
    » Si vous croyez que le monde ressemblera un jour à celui de Big Brother, détrompez-vous… Vous êtes en plein dedans ! »
    Alex Türk, président de la CNIL (Commission nationale de l’informatique et des libertés de France, autorité administrative indépendante française)
    (1) Voir article :
    https://www.opinion-internationale.com/2016/06/02/la-surveillance-de-masse-parangon-de-la-connectivite-tous-azimuts_44460.html

    Aimé par 1 personne

Répondre

Choisissez une méthode de connexion pour poster votre commentaire:

Logo WordPress.com

Vous commentez à l’aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l’aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l’aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l’aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.