Le roman 1984 écrit par George Orwell dépeint un futur dystopique où chaque mouvement des citoyens est attentivement surveillé par le gouvernement, où la classe politique ne cherche plus à contrôler les actions des individus, mais à dompter leur esprit même. À l’époque de sa publication, ce livre servait d’avertissement contre les régimes autoritaires, en faisant référence à l’Union des républiques socialistes soviétiques. Aujourd’hui il, résonne avec des régimes politiques qu’on peut trouver dans des pays comme la Chine. Toutefois, pour plusieurs, l’idée qu’en 2023 le spectre de cette réalité sombre puisse hanter les pays considérés comme des bastions de la démocratie est inconcevable.  Mais, avec la prolifération des technologies de reconnaissance faciale, il y a un vrai risque que ce cauchemar devienne une réalité et, malheureusement, il semble que plusieurs de nos représentants ignorent complètement les conséquences néfastes qui peuvent survenir à cause de l’utilisation de cette technologie.

Par exemple, au Royaume-Uni, le couronnement du roi actuel, Charles, en mai 2023, a semblé être le moment idéal pour la police métropolitaine de mettre à l’épreuve ces nouveaux outils, marquant ainsi la plus grande opération de reconnaissance faciale de l’histoire du pays. De plus, en août de la même année, le gouvernement britannique a annoncé son souhait d’étendre l’utilisation de cette technologie pour soutenir le travail de la police et d’autres organismes chargés du maintien de l’ordre.

Mais en quoi consiste ces outils permettant la reconnaissance faciale? 

« Facial Recognition Technology (FRT) involves the use of cameras (often CCTV cameras) to capture digital images of individuals’ facial features, and the automated processing of these images to identify, authenticate or categorise people. The technology extracts biometric facial data, creates a digital signature of the identified face, stores it and searches records in a database or a watchlist to find a match »

Malheureusement, il semble que ces outils ne sont pas utilisés uniquement par les forces d’ordre et les autres organisations gouvernementales, mais ils sont déjà très répandus même parmi les entités privées. Par exemple, l’entreprise anglaise Frasers Group qui s’occupe de la distribution des articles de sport, utilise cette technologie dans 27 de leurs magasins. Des caméras «intelligentes» de ce type sont également présentes dans 35 supermarchés appartenant à la chaîne alimentaire Co-op. 

Il est très important de tenir compte du fait que la technologie de reconnaissance faciale est très intrusive et ne respecte pas le droit à la vie privée des citoyens. Elle peut également porter atteinte à d’autres droits considérés jusqu’à récemment (semble-t-il) comme fondamentaux, tels que le droit à l’association, le droit à la liberté d’opinion, à la liberté d’expression et le droit à la réunion pacifique. De plus, de nombreux chercheurs ont démontré que cette technologie est discriminatoire, étant basée sur des biais humains, et qu’elle présente un risque réel de générer des erreurs pouvant conduire à des accusations injustifiées.

Mais étant donné l’importance de ces enjeux liés aux caméras permettant la reconnaissance faciale, il est certain que les politiciens britanniques ont pris connaissance de ce problème et tentent de le résoudre, n’est-ce pas ? Il semble que non. En effet, selon un sondage réalisé par Privacy International (PI): 

«   70% of MPs do not know if FRT has been used in their constituency […] 

A quarter of MPs incorrectly believe that there is a UK law regulating the use of FRT […] 

Over a third of MPs know that FRT threatens human rights […] 

[S]ome MP respondents from a range of political parties did express well-founded concerns about the technology. »

Heureusement, l’Union européenne tente d’encadrer l’utilisation des caméras de vidéosurveillance intelligentes en élaborant un Règlement établissant des règles harmonisées concernant l’intelligence artificielle qui vise à :

« · veiller à ce que les systèmes d’IA mis sur le marché de l’Union et utilisés soient sûrs et respectent la législation en vigueur en matière de droits fondamentaux et les valeurs de l’Union;

· garantir la sécurité juridique pour faciliter les investissements et l’innovation dans le domaine de l’IA;

· renforcer la gouvernance et l’application effective de la législation existante en matière de droits fondamentaux et des exigences de sécurité applicables aux systèmes d’IA;

· faciliter le développement d’un marché unique pour des applications d’IA légales, sûres et dignes de confiance, et empêcher la fragmentation du marché »

Pour ce faire, on voit qu’au premier paragraphe de l’art. 5 de ce possible Règlement, le législateur européenne propose l’interdiction de : 

« (c) la mise sur le marché, la mise en service ou l’utilisation, par les pouvoirs publics ou pour leur compte, de systèmes d’IA destinés à évaluer ou à établir un classement de la fiabilité de personnes physiques au cours d’une période donnée en fonction de leur comportement social ou de caractéristiques personnelles ou de personnalité connues ou prédites, la note sociale conduisant à l’une ou l’autre des situations suivantes, ou aux deux:

i) le traitement préjudiciable ou défavorable de certaines personnes physiques ou de groupes entiers de personnes physiques dans des contextes sociaux dissociés du contexte dans lequel les données ont été générées ou collectées à l’origine;

ii)le traitement préjudiciable ou défavorable de certaines personnes physiques ou de groupes entiers de personnes physiques, qui est injustifié ou disproportionné par rapport à leur comportement social ou à la gravité de celui-ci;

(d) l’utilisation de systèmes d’identification biométrique à distance «en temps réel» dans des espaces accessibles au public à des fins répressives, sauf si et dans la mesure où cette utilisation est strictement nécessaire eu égard à l’un des objectifs suivants:

i) la recherche ciblée de victimes potentielles spécifiques de la criminalité, notamment d’enfants disparus;

ii) la prévention d’une menace spécifique, substantielle et imminente pour la vie ou la sécurité physique des personnes physiques ou la prévention d’une attaque terroriste;

iii) la détection, la localisation, l’identification ou les poursuites à l’encontre de l’auteur ou du suspect d’une infraction pénale visée à l’article 2, paragraphe 2, de la décision-cadre 2002/584/JAI du Conseil 62 et punissable dans l’État membre concerné d’une peine ou d’une mesure de sûreté privatives de liberté d’une durée maximale d’au moins trois ans, déterminées par le droit de cet État membre »

Évidemment, même si ce règlement est adopté dans sa forme actuelle, il ne liera pas le Royaume-Uni. Cependant, il pourrait servir de source d’inspiration pour le législateur britannique, qui devrait accorder une attention accrue à la prolifération des technologies de reconnaissance faciale s’il souhaite éviter d’ouvrir la porte au plus sombre cauchemar orwellien.