Zwischen Effizienz und Recht auf Fairness: Wie algorithmische Polizeiarbeit Diskriminierung verstärken kann

Zusammenfassung Der Einsatz Künstlicher Intelligenz (KI) in der Polizeiarbeit verspricht Effizienzsteigerung und vermeintlich präzisere Kriminalitätsvorhersagen, birgt jedoch erhebliche Risiken für Diskriminierung und soziale Ungerechtigkeit. Ein zentrales Problem ist, dass KI-Modelle auf historischen Daten basieren, die bereits durch strukturelle Vorurteile geprägt sind. Dies führt zu selbstverstärkenden Rückkopplungsschleifen. Am Beispiel von Predictive Policing, das zur Vorhersage von Straftaten und potenziellen Straftätern eingesetzt wird, kann gezeigt werden, dass es zu diskriminierenden Klassifizierungen kommt. Auch Gesichtserkennungstechnologien weisen hohe Fehlerquoten, u. a. bei nicht-weißen Bevölkerungsgruppen, auf. Eine fehlende Transparenz der algorithmischen Entscheidungen und mangelnde Kontrollmechanismen verschärfen das Problem weiter. Die rechtlichen und ethischen Implikationen dieser Entwicklungen werfen Fragen zur Verhältnismäßigkeit sowie zu Grundrechten auf. Der Beitrag untersucht, wie algorithmische Verzerrungen (Biases) bestehende gesellschaftliche Ungleichheiten verstärken und diskutiert verschiedene Lösungsansätze zur Minimierung von Diskriminierung durch KI in der Polizeiarbeit. Betont wird die Notwendigkeit einer evidenzbasierten Gestaltung von KI-gestützter Polizeiarbeit, um einer Legitimierung diskriminierender Praktiken entgegenzuwirken und die Balance zwischen Sicherheit und Fairness zu wahren.