Les technologies de surveillance des populations développées en Chine début 2000 trouvent un écho de plus en plus favorable dans les pays occidentaux. Sous couvert de rendre les villes plus sûres, elles restreignent les libertés individuelles.
Désolé, votre crédit social est insuffisant pour ce poste. » Recalée d'emblée, avant même de pouvoir présenter sa candidature. Anna a accumulé trop de mauvais points pour être une employée enviable : elle a fumé dans le train, laissé des miettes de son sandwich dans le métro, fraudé le parcmètre, et, pire que tout, répandu de fausses rumeurs sur les réseaux. Son compte de confiance personnel est débiteur. Placée sur la liste noire des citoyens et mise au pilori, elle ne peut prétendre à aucun emploi public, ne peut pas souscrire de crédit, voit ses services sociaux réduits, n'a plus accès aux hôpitaux les mieux cotés et est interdite de transport en commun. Pire : ses proches sont avertis de sa mise au ban, et un message alerte ceux qui tentent de joindre son numéro. S'ils entrent en contact, leur crédit social sera lui aussi débité. Parti de Chine fin 2001, ce système de contrôle et de punition numérique s'est répandu sur tous les continents en dépit du droit international garantissant la protection de la vie privée, la présomption d'innocence et la liberté d'association et de circulation. Au départ, c'est un projet économique : l'empire du Milieu fait son entrée à l'Organisation mondiale du commerce. Ses entreprises doivent être notées, comme elles le sont en Occident pour faciliter et sécuriser les échanges. Elle s'inspire pour cela des techniques de scoring bancaire.
En 2008, la crise des subprimes convainc Pékin qu'il faut élaborer un système plus efficace permettant d'évaluer le risque associé aux personnes, et plus seulement aux ménages, à qui le système financier est susceptible de faire confiance. Comme les produits destinés à l'exportation, le système de notation est alors frappé d'un made in China. « Le nouveau système a marié sans complexe la notation économique des personnes et leur évaluation morale, selon un principe manichéen considérant qu'un emprunteur qui rembourse ses prêts est une bonne personne », explique le chercheur Emmanuel Dubois de Prisque, dans une note rédigée pour l'Institut Thomas More. Le crédit social est né.
D'outil pragmatique, le scoring chinois devient outil de gouvernance global. Il fait alors la synthèse de deux courants de pensée traditionnels : le légisme doublement millénaire qui a fait du châtiment et des récompenses le fondement de la gouvernance du premier empereur Qin Shi Huang. Et le confucianisme insistant sur les rites et l'éducation comme fondements de la vertu et de la conduite correcte des citoyens. Très tôt, la surveillance mutuelle de la population s'impose : au sein des Baojia, les premières organisations de contrôle nées au IIIe siècle avant J.-C., les fautes commises par un seul sont dénoncées aux autorités et engagent la collectivité dans son ensemble.
Un milliard de caméras
Après la Seconde Guerre mondiale, le Parti communiste, qui a pris le pouvoir, remet à jour cette antique ambition du contrôle social. Les comités de quartiers surveillent et dénoncent les mauvais éléments de la société chinoise. Mais, avec l'explosion du secteur privé à la fin du XXe siècle, l'outil perd de son efficacité et le pourvoir de contrôle du Parti s'effrite. « Le crédit social arrive à point pour rétablir un équilibre social récompensant la vertu de chacun, distingué selon son niveau d'intégrité, dans un contexte d'économie de marché qui fait naître des fortunes rapides responsables de l'explosion des distinctions sociales héritées de l'idéologie communiste », explique Emmanuel Dubois de Prisque. La technologie lui a donné une nouvelle dimension.
En 2021, échapper à Big Brother est mission quasi impossible en Chine. Avec la mise en application du système de crédit social, le nombre de caméras de surveillance a largement dépassé l'ambition des comités de quartier : le pays en comptait autour de 350 millions en 2018. Trois ans plus tard, elles sont quasiment 1 milliard installées dans les rues, les gares, les bus, les taxis, sur le casque de policiers, ou dans les airs, équipant des drones… soit autant que sur toute la planète. Sur les 20 villes les plus surveillées au monde, 18 sont alors chinoises, selon la société britannique Comparitech.
Intelligence artificielle
Avec la crise sanitaire, cet arsenal technologique s'est doté d'intelligence. Sous prétexte de lutter contre l'épidémie de coronavirus, la plupart des caméras installées sont capables de reconnaissance faciale et comportementale. Elles peuvent identifier les personnes sous leur masque, ou de dos, grâce à leur démarche. Elles analysent les attitudes suspectes et grâce à leur capacité de détection thermique, repère les changements de température corporelle, signe de tension potentiellement criminelle. Pour asseoir ce totalitarisme numérique, Pékin s'est offert le concours des licornes chinoises : Baidu (Google chinois), Alibaba (Amazon chinois), Tencent (Facebook chinois) et Xiomi (Apple chinois). « Ces BATX sont des collaborateurs du système de Xi Jinping », explique le sinologue Alain Wang, dans le documentaire « Tous surveillés : 7 milliards de suspects ». Elles y sont contraintes : toute entreprise de plus de 50 personnes doit compter un membre du Parti communiste.
Outre ces mastodontes, Pékin a pu également compter sur un bataillon de start-up de l'intelligence artificielle - dont six des plus importantes sociétés mondiales du secteur - jugées si performantes qu'une trentaine a été épinglée par Washington en raison de leurs algorithmes qui ont contribué à la répression contre les Ouïgours. Parmi elles figure la très puissante SenseTime. Avec trois autres jeunes pousses créées entre 2011 et 2015 - Megvii, Yitu et CloudWalk - elle s'est octroyé la moitié du marché chinois de la reconnaissance faciale. En particulier grâce à une application qui fait fureur : le Face Payment, entré en application chez KFC ou les supermarchés Lotus à l'aube des années 2020.
Au service du Parti
Son algorithme, baptisé « DeepID », est réputé infaillible : grâce à 240 points servant de marqueurs, il donne à chaque visage une identité aussi distincte qu'une empreinte digitale. L'entreprise dit pouvoir ainsi reconnaître une personne parmi 100 millions. Elle dispose de moyens considérables pour s'étendre, et pas seulement en Chine : en 2018, seulement quatre ans après sa création, elle a levé 1,2 milliard de dollars auprès de trois mastodontes asiatiques : le japonais SoftBank, le singapourien Temasek et le chinois Alibaba.
Son aura magnétise autant qu'elle effraie le monde. Fondée à Hong Kong par deux talents de la robotique et de l'informatique formés dans les meilleures universités de la planète, elle compte plus de 700 clients et partenaires dont de plus en plus d'entreprises internationales. Difficile de résister à la multitude de services d'intelligence artificielle qu'elle propose pour « redéfinir la vie humaine telle que nous la connaissons », selon son slogan. Reconnaissance de texte, d'image, d'objet, de visage, analyse vidéo, analyse d'imagerie médicale, capture à distance, système de pilotage automatique… L'entreprise est sur tous les fronts. Pour nourrir ses algorithmes d'apprentissage profond, elle a bénéficié d'un accès gouvernemental aux bases de données de 1,4 milliard de citoyens chinois. Sa progression est si fulgurante qu'elle entend faire de sa technologie un standard mondial pour la reconnaissance d'image.
Le reste du monde le laissera-t-il faire ? Aucune démocratie ne devrait résister à ce raz-de-marée, selon l'institut de prospective Futuribles. Dans son rapport baptisé « Vigie », 24 experts ont imaginé des scenarios d'avenir probable en examinant les tendances actuelles et l'évolution de signaux faibles. « A l'horizon de 2040, les libertés individuelles sont étroitement encadrées. Dans ce futur proche, la collecte massive de données personnelles et la surveillance des individus sont considérées comme les garanties d'un intérêt général recentré autour des notions de bien-être physique et sanitaire, de protection de l'environnement, et de bonne gestion des fonds publics », prédisent-ils.
Pour souscrire une assurance-vie, on doit par exemple se doter de capteurs physiques qui enregistrent le détail de notre quotidien : temps de sommeil, de sport, alimentation, consommation d'alcool… « Plusieurs Etats, ainsi que certaines grosses entreprises, adoptent une version adaptée du système de crédit social chinois. Les scores qu'ils attribuent aux individus permettent d'orienter leurs comportements, afin que chacun soit 'un bon citoyen', selon des critères définis par les autorités ou par des conférences de consensus », poursuivent les experts. Ceux qui refusent ces injonctions doivent payer pour protéger leur vie privée, ou renoncer à certains lieux et services.
Pack « ville sûre » à vendre
Les démocraties ont un argument choc pour faire accepter ce contrôle massif de données à leurs citoyens : il doit rendre la ville plus sûre et plus pratique. Belgrade a récemment passé le pas en concluant un partenariat global de « ville sûre » avec le groupe chinois Huawei au terme duquel près de 8.000 caméras à reconnaissance faciale vont être installées dans les lieux les plus populaires de la cité. Lorsque le projet a été dévoilé en 2019, l'ancien ministre serbe de l'Intérieur, Nebojsa Stefanovic, avait déclaré qu'il permettrait « de tout savoir du déplacement d'un suspect ».
La polémique soulevée par ce nouvel oeil de Moscou dans l'ancienne république de Yougoslavie se répète un peu partout dans le monde, alors que des dizaines de pays installent déjà une technologie de surveillance dans le cadre de « package smart city » fourni par des sociétés chinoises telles que Alibaba, ZTE Corporation, Zhejiang DahuaTechnology, ou Hangzhou Hikvision Digital Technology. « Leur but n'est pas seulement économique : sous couvert de gains d'efficacité grâce à des technologies qui automatisent les opérations urbaines, elles exportent aussi les valeurs politiques du Parti », dénonce l'ONG Human Rights Watch. Selon le cabinet de conseil américain RWR Advisory, un total de 144 contrats de ville sûre et intelligente impliquant des fournisseurs chinois aurait été signé entre 2009 et 2021.
Comentários