Robert Williams
Detroit, MI
30 Stunden inhaftiert, nachdem die Gesichtserkennung seinen abgelaufenen Führerschein mit Überwachungsaufnahmen abglich. Er war nur der 9.-beste Treffer. Im Juni 2024 verlangt ein Vergleich, dass Detroit PD alle Fälle seit 2017 prüft.
Aufgedeckte Lücke
Einzelalgorithmus-Ausgabe als Identifikation behandelt. Kein Mechanismus, um zu zeigen, dass er nur der 9.-beste Treffer war. Menschliche Ermittler sahen nie die Konfidenz-Rangliste.
Public Safety-Lösung
Ensemble-Reasoning über mehrere Modelle hätte schwachen Konsens gezeigt und automatisch zusätzliche Ermittlungsanforderungen ausgelöst, bevor Verhaftungsmaßnahmen ergriffen werden.