Ein deutsches Amtsgericht hat einen Haftbefehl abgelehnt, der sich vor allem auf einen Treffer einer KI-gestützten Gesichtserkennung stützte. Nach Ansicht der Richter reichen algorithmisch erzeugte Ergebnisse allein nicht für eine Inhaftierung aus. Im konkreten Fall ging es um einen mutmaßlichen Ladendieb, der über das Gesichtserkennungssystem des Bundeskriminalamts identifiziert worden war.

Kritisiert wurden die mangelnde Transparenz hinsichtlich der Software, darunter fehlende Angaben zu Algorithmen, Trainingsdaten und möglichen Fehlerquoten. Das Gericht warf den Ermittlern zudem vor, sich zu stark auf künstliche Intelligenz zu verlassen und dabei traditionelle Beweismittel wie Zeugenaussagen, DNA-Spuren oder Gutachten zu vernachlässigen. Die Entscheidung könnte die Verwertung der Ergebnisse solcher KI-Systeme künftig maßgeblich beeinflussen.