L'ancien sous-traitant du renseignement Edward Snowden a longtemps averti que la collecte de données extensive—chaque photo, achat, message et mouvement—pourrait être alimentée dans des systèmes algorithmiques qui déterminent l'avenir d'une personne.

Des rapports récents confirment que ce scénario n'est plus hypothétique : dans la République populaire de Chine, des systèmes "cérébraux" à l'échelle de la ville relient déjà la vidéosurveillance, la reconnaissance faciale, les dossiers de voyage et d'autres données à des mécanismes d'application.

Des experts notent que certains gouvernements occidentaux et entreprises technologiques déploient maintenant des composants de la même architecture, soulevant des questions sur ce qui est importé et comment cela pourrait évoluer.

Dans les principaux centres urbains de la Chine, les gouvernements locaux ont créé des systèmes intégrés qui surveillent les mouvements, le comportement et la conformité des citoyens aux règles réglementaires.

Ces systèmes assignent des individus à des catégories de risque ; un manquement déclenche des conséquences, telles qu'un voyage restreint ou une exclusion des services.

Un rapport indique que ce modèle est "maintenant observé de près par les régulateurs, les gouvernements et les entreprises privées en Europe et en Amérique du Nord".

Pendant ce temps, les avertissements de Snowden sont devenus de plus en plus précis.

Il a déclaré : "Les institutions brûlent la foi du public en elles au moment précis de l'histoire où nous avons développé la capacité de les remplacer par des algorithmes".

La préoccupation actuelle est moins de savoir si la technologie pourrait exister, mais plutôt combien elle peut être exportée ou adaptée par des gouvernements de sociétés libres sans éroder les libertés civiles.

Un régulateur occidental a récemment signalé un programme pilote qui utilise des vérifications d'identité biométriques, des données de voyage et du contenu sur les réseaux sociaux pour attribuer des "scores de confiance" pour accéder aux services gouvernementaux.

Bien que les autorités aient présenté cela comme une prévention de la fraude et une protection de l'identité, les critiques avertissent que la logique fait écho au modèle "score et sanction" de la Chine.

Les groupes de défense des libertés civiles soutiennent que la réplication d'une telle architecture dans les démocraties nécessite un débat public complet et de la transparence.

Le contexte plus large est que la surveillance n'a pas cessé d'expansion depuis les révélations de Snowden en 2013.

Une organisation de défense a noté que la collecte de renseignements en vertu des lois sur le renseignement étranger a été renouvelée et, à certains égards, étendue cette année.

Cela suggère que l'appétit gouvernemental pour le contrôle basé sur les données reste fort des deux côtés du spectre politique.

Pour les sociétés démocratiques, le défi est évident : comment exploiter les technologies émergentes—IA, biométrie, dossiers intégrés—tout en préservant l'autonomie individuelle, la responsabilité et le jugement humain.

L'avertissement de Snowden se déroule maintenant non comme une possibilité lointaine, mais comme un cas d'étude.

La question pour les décideurs est de savoir s'ils vont répliquer l'architecture de contrôle—ou orienter consciemment vers une architecture d'autonomisation.

Le prochain mouvement pourrait décider quel avenir ces systèmes serviront.