À New York, la police triche avec la reconnaissance faciale pour arrêter des suspects

Un rapport souligne le manque d’encadrement imposé aux logiciels utilisés par la police.

Ce mardi 14 mai, les personnes élues de la ville de San Francisco ont été les premières aux États-Unis à interdire à leur police d’utiliser des dispositifs de reconnaissance faciale afin de retrouver des criminel·les. Voté à une large majorité, ce véto vise à empêcher une technologie jugée «dangereuse et oppressive» par les édiles.

Il semblerait que ces élu·es aient eu le nez creux, car si de nombreuses forces de police utilisent déjà cette technologie, des témoignages émergent déjà qui pointent la mauvaise utilisation qui en est faite.

En principe, le fonctionnement d’un logiciel de reconnaissance faciale se déroule simplement. Une personne suspecte est surprise par une caméra de surveillance. La police soumet son image au logiciel, qui va fouiller dans les archives pour identifier des visages similaires.

Lorsque le 28 avril 2017 un homme est filmé en train de voler quelques bières dans une supérette de New York, le New York Police Department (NYPD) soumet son visage à l’algorithme. La photo, floue et pixelisée, ne donne aucun résultat. L’histoire devrait s’arrêter là.

Woody Harrelson (ou presque)

Et l’histoire aurait pu s’arrêter là, si un policier n’avait pas remarqué une ressemblance entre le suspect et l’acteur Woody Harrelson. Il décide donc de fournir une photo du comédien au logiciel. La recherche donne plusieurs résultats. La police identifie l’homme, qui est finalement arrêté.

La police new-yorkaise n’a pas nié cette histoire, qui se trouve relatée dans un rapport du Centre sur la vie privée et la technologie de l’université de droit de Georgetown. Pour Clare Garvie, l’autrice du rapport, «dans une investigation criminelle, les enjeux sont trop élevés pour que des données manipulées ou fausses entrent en ligne de compte».

D’autant que l’épisode Woody Harrelson n’est pas un cas isolé. Les exemples se multiplient. Les images sont parfois retouchées pour modifier les expressions faciales: afin d’augmenter les chances de résultats, les forces de l’ordre n’hésitent pas, en la retouchant, à fermer la bouche d’un homme qui était ouverte sur la photo qui est en leur possession. Dans d’autres cas, des yeux ouverts sont rajoutés, un visage dont on ne voit que la moitié est completé grâce à l’effet mirroir, etc.

Pire encore, au moins six services de police dans le pays (mais pas celui de New York) autorisent la reconnaissance faciale fondée sur des portraits-robots, c’est-à-dire des croquis approximatifs des individus suspectés.

Si le NYPD assure que la technologie ne sert qu’en tant qu’outil d’enquête et que personne n’a jamais été condamné en se fondant uniquement sur les résultats obtenu par le logiciel, ce rapport illustre à quel point l’usage d’algorithmes par la police est encore sous-encadré, alors même qu’ils se propagent rapidement.

Au-delà des risques évidents d’arrestations à tort, cela signifie que la police peut soumetre les photos de son choix à la machine, sans garde-fous. Car, même si il est célèbre, Woody Harrelson reste un citoyen comme les autres. La police a donc pu suivre à la trace une personne alors qu’aucun soupçon ne pesait sur elle.

Une atteinte aux libertés dont il est à craindre qu’elle fasse à nouveau parler d’elle car certaines villes des États-Unis, dont Chicago et Detroit, se sont dotées d’un système nommé DataWorks Plus. Ce logiciel de reconnaissance faciale fonctionne sur le flux live des caméras, qui peut donc identifier un visage en temps réel. Des prototypes de systèmes simimaires sont testés à New York et à Orlando.

Source: Korii