Les Jeux Olympiques vont-ils ouvrir l'ère de la surveillance de masse ? La vidéosurveillance algorithmique (VSA) jouera en tout cas un rôle primordial pendant l'événement, à Paris et dans les villes organisatrices. Et pour cause. Dopée à l'intelligence artificielle, cette technologie connecte les modèles intelligents du machine learning au système de caméras, par le biais de logiciels intégrés.

Dans les lieux publics qui seront fréquentés pendant les JO, cette technologie doit ainsi permettre, selon la Commission Nationale de l'Informatique et des Libertés (CNIL), de faire une analyse automatique des images. Elle « améliore » les logiciels de vidéosurveillance sur des caméras déjà installées. Dans quel contexte la VSA sera-t-elle utilisée pendant les JO ? Elle le sera dans huit situations précises, indique la CNIL, dont, les départs de feux, les mouvements de foule ou encore les objets abandonnés. Une fois détectés, une alerte sera alors envoyée aux postes de sécurité, qui décideront de prendre une mesure ou non.

Premier Etat européen à légaliser la technologie

C'est à l'occasion d'un débat parlementaire en mars 2023 sur la loi JO, en présence du Ministre de l'Intérieur (aujourd'hui démissionnaire), Gérald Darmanin, que certains députés ont présenté la vidéosurveillance algorithmique comme étant la solution à la question sécuritaire. En adoptant cette loi, la France a été le premier Etat membre de l'UE à légaliser la vidéosurveillance algorithmique. Depuis, deux premiers arrêtés ont été pris par la préfecture de police pour autoriser l'emploi de la VSA lors du concert de Depeche Mode le 5 mars et d'un match de basket le 20 afin de commencer les expérimentations.

La sénatrice Agnès Canayer a par ailleurs déclaré lors de sa présentation du rapport « Gagner la médaille d'or de la sécurisation des jeux Olympiques et Paralympiques de 2024 », que ces derniers seraient un « grand terrain de jeu pour expérimenter la VSA ».

Des biais discriminatoires qui inquiètent

Quentin Berenne est le cofondateur de Wintics, l'une des quatre entreprises à avoir remporté le contrat à 4 millions d'euros, lancé par le Ministère de l'intérieur pour développer la technologie de la VSA. Il compare le fonctionnement du logiciel à des « ombres chinoises » et assure que les caméras ne repèrent que la silhouette et la forme des individus ou des objets.

Lire aussiWintics réduit les flux de véhicules qui engorgent les villes

Pourtant, Katia Roux, chargée de plaidoyer Libertés au sein de l'ONG Amnesty international rappelle que ces technologies « ne sont pas neutres ». Les données, les choix des situations rentrés dans les algorithmes « sont l'œuvre de professionnels empreints de biais, et cela créait inconsciemment ou pas des situations discriminatoires. ». Ainsi, certaines catégories de personnes seraient davantage visées par leur situation, tels que les sans-abris, les manifestants, les personnes en situation de handicap, un musicien dans la rue...

« Qui va définir ce qui est la norme ? Une personne en situation de handicap, avec une manière de se déplacer ou une gestuelle différente va-t-elle être détectée par l'algorithme comme une personne ayant un comportement anormal ? », alerte Katia Roux à Amnesty International France.

La CNIL précise néanmoins qu'une analyse humaine sera faite afin de déterminer si une intervention est nécessaire. Ainsi, si cela est justifié, des signalements seront envoyés à la police nationale, qui interpellera le plus rapidement possible.

Lire aussi« Les géants de l'intelligence artificielle s'intéressent moins aux biais sexistes et racistes qu'à la course à la performance » (Margaret Mitchell, Hugging Face)

Une technologie non optimale pour le 26 juillet

Par ailleurs, la réelle efficacité de ces technologies est remise en cause. En effet, en avril dernier, le sénat a publié un rapport dans le cadre d'une mission de suivi, expliquant que le dispositif de VSA ne sera pas optimal pour les Jeux Olympiques 2024 et que les objectifs fixés en matière de sécurité ne pourront pas être entièrement atteints. De nouveaux moyens seront donc déployés afin de compenser ces défaillances.

A cela s'ajoute le fait que le dispositif sera maintenu jusqu'à mars 2025, notamment pour pouvoir mener à bout l'expérimentation, et en tirer des conclusions. Katia Roux parle ici d'une « réelle volonté d'élargir la portée dans le temps et dans l'espace de l'application de ce dispositif. » Elle alerte également sur le continuum de l'avancée des technologies en France. Différentes étapes ont été franchies ces dernières années : les caméras, les drônes, désormais les couches algorithmiques... En 2013, 60.000 caméras étaient installées dans les rues de France. Aujourd'hui il en existe plus de 90.000 selon un rapport sur la vidéosurveillance rendu par les députés Philippe Gosselin (LR) et Philippe Latombe (Modem) en 2023. Et c'est sans compter les caméras présentes dans les commerces, banques, parkings qui ne font qu'augmenter depuis les attentats de 2015 qui ont touchés le sol français.

Face aux diverses inquiétudes et mises en garde, la CNIL se veut pour autant rassurante. Ce dispositif n'a aucunement vocation à être utilisé après les JO et seule une loi permettrait de le prolonger. La CNIL invite à ce que l'adoption d'un tel texte se fasse lors d'un « débat démocratique ».