Robert Williams
Detroit, MI
Détenu 30 heures après qu’une reconnaissance faciale a rapproché son permis expiré d’images de surveillance. Il n’était que la 9e meilleure correspondance. Un accord de juin 2024 impose à la police de Detroit d’auditer tous les dossiers depuis 2017.
Lacune mise en évidence
Sortie d’un seul algorithme traitée comme une identification. Aucun mécanisme pour faire apparaître qu’il n’était que la 9e meilleure correspondance. Les enquêteurs n’ont jamais vu le classement de confiance.
Réponse Public Safety
Le raisonnement en ensemble sur plusieurs modèles aurait montré un consensus faible, déclenchant automatiquement des exigences d’investigation supplémentaires avant toute action d’arrestation.