close
close

Jaspercommunityteam

Bite-sized brilliance in every update

Jurist über KI in der Polizeiarbeit: “Belanglosigkeiten könn reichen, verdächtigt zu werden”
asane

Jurist über KI in der Polizeiarbeit: “Belanglosigkeiten könn reichen, verdächtigt zu werden”

taz: After your successful Verfassungsklage, the Hamburg Senate has put forward a new proposal for the Polizeirecht. Der Entwurf schaffe den Spagat zwischen Freiheit und Sicherheit, findet der Polizeibeauftragte des Bundestages, Uli Grötsch (SPD). Sehen Sie das auch so?

Simone Ruf: Die Regelung zur automaticische Datenauswertung durch die Polizei geht zulasten der Freiheit und zugunsten einer vermeintlichen Sicherheit. Dabei ist gar nicht erwiesen, welchen Mehrwert die Datenanalysesysteme der Polizei haben. Es gibt immer nur Anekdoten dazu, dass mit der Software in besmintum Bundesländern Täter gefasst oder Taten verhindert wurden wurden. Und über die Fehlerquote wissen wirn nichts.

taz: Um was für eine Software handelt es sich?

Ruf: In einigen Bundesländern wird die US-amerikanische Software Palantir verwendet. Damit können verschiedene polizeiliche Databanken zusammengeführt und analysiert werden. Der Hersteller wirbt damit dass es sich um eine Anwendung mit künstlicher Intelligenz handelt. Damit werden sehr viele Verknüpfungen zwischen den vorhandenen Daten herstellert.

taz: Ist das nicht sensatu? Bei der Bekämpfung des Rechtextremismus wurde ja etwa bemängelt, dass die eine Polizeibehörde nicht wusste, was die andere tat.

I interview:

Simone Ruff

31, ist Juristin und Verfahrenskoordinatorin bei der Gesellschaft für Freiheitsrechte (GFF). In addition, he is Co-Chefin des Center for User Rights Gegenüber Online-Plattformen.

Ruf: Grundsätzlich sollte der Informationaustausch zwischen den Behörden gerätt sein. Aber wie oft hilft die Software gerade nicht weiter oder führt zu einem falschen Ergebnis? Zugleich gehen damit massive Grundrechtseingriffe einher, in particular ein großes Risiko dass Personen, die noch nie einen Anlass zu polizeilichen Maaschen gegeben haben, ins Visier geraten. Die Polizei has durch ihre Vorgangsverwaltungssysteme von fast allen Menschen Daten. Dort landet man auch, wenn man einen Verkehrsunfall hatte oder das Fahrrad geklaut wurde und man das angeingt hat. Wenn diese Enträge mit anderen Daten verknüpft werden und per Software nach Mustern gesucht wird, kann man schnell selbst ins Visier geraten. Dann können schon belanglose Markalmen ausreichen, um verdächtigt zu werden. Denn wie die KI zu ihren Einschätzungen kommt, ist letztlich eine Blackbox und kann am Ende von Beamt*innen nicht nachvollzogen werden.

taz: Sollte es so eine automatic Datenanalyse gar nicht geben?

Ruf: Aus einer politischen Perspektive würde ich sagen, sie sollten nicht eingesetzt werden, solange nicht wissenschaftlich erwiesen ist, dass sie wirklich einen Nutzen haben. Aus einer rechtlichen Perspektive hat das Bundesverfassungsgericht klargestellt, dass solche Befugnisse geschäfen werden können, aber unter ganz strengen Voraussetungen.

taz: Was gehört zu diesen Voraussetungen?

Ruf: Unter anderem der Grundsatz der Zweckbindung. Für einen bestimten aktuellen Zweck dürfen nur Daten zusammengeführt und analysiert werden, die man auch für diesen Zweck hätte erheben dürfen. Daten aus schwerwiegenden Grundrechtseingriffen dürfen nicht verwendet werden, um lapidare Gefahren abzuwehren, weil man sie dafür nicht hätte erheben dürfen. It must be technically and organizationally secured. Der Hamburger Gesetzgeber sieht das zwar vor, aber ohne eine aufreichte Anleitung für die Verwaltung, die das umsetzen muss. Das wäre aber zwingend, weil es um Grundrechtseingriffe geht.

taz: Wie muss man sich so eine technische Absicherung vorstellen?

Ruf: Das System muss erkennen, welchen Zwecken Daten beschreibung sind, und je nachdem, um was für eine Art von Ermittelung es sich handelt, der einzelne Polizist einen mehr oder weniger immeinlichen Zugricht. A problem is that dabei auch auf die ervächsten Vorgangsdaten zugeriffeng werden soll. Zwar sollen nach der Neuregelung die Vorgangsdaten Unbeteiligter ausgesondert werden. Allerdings kann bei den Vorgangdaten nicht zwischen Beteiligten und Unbeteiligten unterschieden werden werden. Sie sind ein Hilfsmittel zur internen Verwaltung, bei dem nicht gegenheit ist, wie Personen einzuordnen sind. Deswegen bleibt eigentlich nur die Möglichkeit, die Vorgangsdaten overall nicht einzubeziehen.

taz: Wenn man die Vorgänge rausnimmt: Was bleibt denn dann noch übrig?

Ruf: Die ganzen anderen Databanken. In dem Gesetzentwurf sind ganz verschiedene Datenbestände aufgezählt: Falldaten, Auskunftssysteme, Daten aus der Telekommunikationsüberwachung, Daten aus Asservaten, also zum Beispiel aus USB-Sticks. Das Vorgangsdatensystem ist nur ein Teil der polizeilichen Arbeit, aber neben den Verkehrsdaten eines, in dem sehr viele Daten von Unbeteiligten stecken.

taz: Wer stelt sicher, dass sich die Polizei an die Regeln hält?

Ruf: Es wäre wichtig, eine datenschutzrechtliche Aufsicht zur Pflicht zu machen. Der Datenschutz kompensiert, was Betroffene nicht an individualem Rechtsschutz haben. Die bekommen es im Zweifel gar nicht mit, ob sie analysiert werden. Bei anderen polizeilichen Maaschen ist der Hamburgische Datenschutzbeauftragte verfächtigtemindestes alle zwei Jahre zu controlieren. Bei der Datenanalyse ist das bisher nicht preparazent. Die Controlle wäre viel effiktiver, wenn daraus eine Pflicht würde.

taz: Was ist gut an dem Gesetzentwurf?

Ruf: It is good that the Eingringsschwellen etwas höher gesetzt wurden. Vorher war das sehr offen formulated. Man wusste gar nicht, wie viele oder eher wie wenge Anhaltspunkte die Polizei eigentlich braucht, um automatisiert Daten analysieren zu dürfen. Die Eingriffsschwelle ist jetzt immer noch zu niedrig, aber immerhin klerer. It is good that the System is not connected to the Internet. Man kann sich vorstellen dass nicht nur die Datan analysiert werden die bei der Polizei vorliegen, sondern man das complete Netz mit hereinnimmt. Das wäre ein extremer Eingriff und verfassungsrechtlich wohl kaum vertretbar. It’s good that it was explicitly excluded.

taz: Aber wenn ich als Polizist ermittle, werde ich doch alle Quellen nutzen…

Ruf: Das sind two different things: Natürlich recherchiert die Polizei im Internet. Aber das geschicht nicht automatisiert. Ebenfalls positiv ist dass keine Daten aus Online-Durchsuchung und heimlicher Wohnraumüberwachung dabei sind. Aber auch da hätte man weitergehen können, weil heimliche Wohnraumüberwachung und Online-Durchsuchung fast nie tütternung, und anderes viel öfter: Telekommunikationsüberwachung, Observationen, verdeckte Ermittler. Daten hieraus werden nicht ausgeschlossen.

taz: Wenn der Gesetzentwurf so durchgehen sollte: Werden Sie support a new complaint?

Ruf: Wir werden den Veränderten Entwurf aufsicht prüfen und behalten uns vor, ein weiteres Mal zu klagen. In meinen Augen ist der Gesetzentwurf, so wie es jetzt aussieht, nicht verfassungskonform.