Herausforderungen für die Arbeit der Polizei durch den Einsatz von KI auf Täter:innenseite – technische und kriminologische Erkenntnisse am Beispiel großer Sprachmodelle

Zusammenfassung Der Beitrag beleuchtet die Herausforderungen für die Polizeiarbeit durch den Missbrauch großer Sprachmodelle auf Täter:innenseite. Ausgangspunkt ist eine explorative Untersuchung an der Deutschen Hochschule der Polizei, bei der Studierende im Rahmen von Fallstudien Sprachmodelle gezielt manipulierten, um sie hypothetisch zur Unterstützung krimineller Handlungen einsetzen zu können. Die Ergebnisse zeigen, dass Schutzmechanismen in Sprachmodellen vielfach umgangen werden können und dass Täter:innen dadurch Zugang zu spezifischem kriminellen Know-how erhalten, ohne selbst über tiefgehende Fachkenntnisse verfügen zu müssen. Neben den technischen Aspekten wird die kriminologische Bedeutung der Anwendungsfälle erläutert, um die Potenziale zur Eskalation digitaler Kriminalität einordnen zu können. Für Polizeihochschulen ergibt sich daraus die Notwendigkeit, den ethischen und rechtlichen Umgang mit KI ebenso wie technische Kompetenzen in Curricula zu integrieren. Nur so lassen sich zukünftige Polizeiführungskräfte angemessen auf die Gefahren und Chancen durch KI-gestützte Technologien vorbereiten.