« L’IA se trompe et il fait 2 jours de prison » : cette erreur de reconnaissance faciale qui terrorise New York et ruine la vie d’un innocent

Trevis Williams, un habitant de Brooklyn, a récemment vécu une expérience traumatisante qui soulève des questions cruciales sur l’utilisation de l’intelligence artificielle dans le système judiciaire. Williams a été faussement accusé d’un crime à la suite d’une erreur de reconnaissance faciale, ce qui l’a conduit à passer deux jours en prison. Cette affaire soulève de nombreuses interrogations sur la fiabilité de ces technologies et les procédures policières qui en découlent. Alors que la reconnaissance faciale est de plus en plus utilisée par les forces de l’ordre, des erreurs comme celle-ci mettent en lumière les dangers potentiels de ces outils lorsqu’ils ne sont pas accompagnés de contrôles rigoureux.

Les circonstances de l’arrestation

En avril dernier, Trevis Williams a été arrêté de manière inattendue par la police du métro de New York. Les forces de l’ordre l’ont accusé d’être impliqué dans une affaire d’exhibition dans un immeuble de Manhattan, situé à une vingtaine de kilomètres de son domicile. Cependant, les descriptions physiques fournies par la victime divergeaient considérablement de celles de Williams. Le suspect était décrit comme mesurant 1,68 mètre et pesant 73 kg, tandis que Williams mesure 1,88 mètre et pèse 104 kg.

La confusion est née d’une image de mauvaise qualité extraite d’une caméra de surveillance, qui a été analysée par un logiciel de reconnaissance faciale. Malgré les incohérences évidentes, la technologie a proposé le nom de Williams parmi plusieurs correspondances. Une fois son profil retenu par les enquêteurs, il a été présenté à la victime, qui l’a identifié comme le coupable, malgré les preuves du contraire.

« Ils appellent, vous répondez, et ils raccrochent » : le robocalling, fléau téléphonique qui rend fou des millions de Français chaque jour

Erreurs et témoignages biaisés

Le jour de l'incident, la victime avait signalé la présence suspecte d'un livreur dans le couloir de son immeuble. Ce dernier, aperçu dans un miroir avec ses parties génitales exposées, avait pris la fuite après que la victime ait crié. Pourtant, au moment des faits, les relevés téléphoniques ont prouvé que Williams était à Marine Park, Brooklyn, et non à Manhattan. Il revenait de son travail dans le Connecticut, où il s'occupait d'adultes autistes.

Malgré ces éléments, Williams a été détenu pendant plus de deux jours avant que les charges ne soient abandonnées en juillet. Il souligne que cette expérience a eu des conséquences durables sur sa vie. "En un instant, votre vie peut basculer", a-t-il déclaré. Son cas n'est pas isolé ; d'autres personnes ont également été arrêtées à tort en raison d'erreurs similaires, souvent des personnes de couleur.

« Cet avion soulève des craintes » : le mystère de l’appareil RAT55 à Area 51 inquiète les citoyens américains

« Une enquête policière basique aurait pu éviter cette injustice. »

L'absence de garde-fous

Dans d'autres villes américaines, l'utilisation de la reconnaissance faciale est encadrée par des règles strictes. Par exemple, à Detroit, elle ne peut être utilisée sans preuves supplémentaires telles que des empreintes digitales ou des tests ADN. En revanche, New York n'impose pas de telles restrictions. Le NYPD affirme que la reconnaissance faciale n'est qu'un outil parmi d'autres, mais des avocats comme Diane Akerman contestent cette affirmation.

« Cet objet pourrait être extraterrestre » : les scientifiques de Harvard défient les États-Unis et sèment la panique

La Legal Aid Society, qui a représenté Williams, a demandé une enquête sur les pratiques du NYPD, affirmant que ces incidents ne sont que la partie visible d'un problème plus vaste. L'organisation accuse également la police de contourner les restrictions en collaborant avec d'autres agences pour utiliser la reconnaissance faciale de manière détournée.

Conséquences pour Trevis Williams

Pour Trevis Williams, les répercussions de cette arrestation erronée vont bien au-delà de l'incarcération. Il préparait un concours pour devenir agent pénitentiaire à Rikers Island, mais son arrestation a interrompu la procédure. Aujourd'hui, il souffre de crises d'angoisse suite à cette expérience traumatisante. Bien que l'affaire ait été classée sans suite, aucune autre personne n'a été inculpée. Cette situation souligne les risques associés à une technologie vendue comme infaillible, mais qui, en réalité, peut entraîner des erreurs aux conséquences dévastatrices pour les individus.

À la lumière de cette affaire, la confiance dans les technologies de reconnaissance faciale est mise à mal. Ces outils, tout en promettant efficacité et rapidité, peuvent engendrer des erreurs graves lorsqu'ils sont employés sans précautions suffisantes. Comment garantir que ces technologies soient utilisées de manière éthique et responsable, tout en protégeant les droits fondamentaux des individus ?