[ziesell]

Palantir-Polizeisoftware: Hessen hält höchstgerichtliche Vorgaben wohl nicht ein

Im Februar erklärte Karlsruhe die hessischen Vorschriften für Big-Data-Software bei der Polizei für verfassungswidrig. Das überarbeitete Gesetz ist nicht viel besser.



Die Gesellschaft für Freiheitsrechte (GFF) wird gegen die Novelle des Gesetzes für den Einsatz von Big-Data-Software durch die Polizei in Hessen Verfassungsbeschwerde beim Bundesverfassungsgericht einreichen. Dies kündigte Simone Ruf von der Bürgerrechtsorganisation am Donnerstag auf dem 37. Chaos Communication Congress (37C3) in Hamburg an.

Die Karlsruher Richter hatten den ursprünglichen einschlägigen Passus im hessischen Gesetz über die öffentliche Sicherheit und Ordnung (HSOG) im Februar für verfassungswidrig erklärt. Sie gaben dem Landesgesetzgeber bis September Zeit zum Nachbessern. Doch die GFF geht davon aus, dass auch der zweite Anlauf nicht mit den höchstgerichtlichen Vorgaben vereinbar ist.

Die hessische Polizei arbeitet auf Basis der Gesetzesklausel vor allem mit dem System Hessendata, das auf der Analysesoftware Gotham der umstrittenen US-Firma Palantir basiert. Die Befugnisse für die Ermittler in Hessen ließen – genauso wie die gleichzeitig für nichtig erklärten einschlägigen Vorschriften in Hamburg – die automatisierte Verarbeitung unbegrenzter Datenbestände mithilfe rechtlich unbegrenzter Methoden zu, rügte das Verfassungsgericht.

"Sie erlauben der Polizei so, mit einem Klick umfassende Profile von Personen, Gruppen und Milieus zu erstellen und auch zahlreiche rechtlich unbeteiligte Personen weiteren polizeilichen Maßnahmen zu unterziehen, die in irgendeinem Zusammenhang Daten hinterlassen haben, deren automatisierte Auswertung die Polizei auf die falsche Spur zu ihnen gebracht hat."

Mit Systemen wie denen von Palantir werde der "heilige Gral" der auch im Datenschutzrecht für die Polizei verankerten Zweckbindung "voll umgangen", führte der GFF-Anwalt Jürgen Bering die in dem Urteil dargelegten Bedenken der Karlsruher Richter auf der Hackerkonferenz aus.

Eigentlich dürften etwa Daten, die Ermittler bei einer Telekommunikationsüberwachung zur Verfolgung einer schweren Straftat erhoben haben, nicht für ein Verfahren wegen Sachbeschädigung gegen den gleichen Verdächtigen verwendet werden.

Hessendata: Unbeteiligte weiter erfasst

Bei Hessendata & Co. flössen aber selbst Informationen aus den sehr breit angelegten Systemen zur Vorgangsbearbeitung meist ohne Kennzeichnung und ungeschwärzt in große Datentöpfe ein, sagte Bering. Eingeschlossen würden so neben Zeugen und anderen indirekten Verfahrensbeteiligten etwa auch Personen, die Auskunft über gespeicherte Informationen begehren, bei einer Verkehrskontrolle erfasst werden oder etwa eine Diebstahlsanzeige stellen.

Das Verfassungsgericht fordere hier zumindest ausreichende Vorschriften zur Kennzeichnung der Daten, weiß Bering. Die Polizei solle nicht für jede Sachbeschädigung auf Informationen zugreifen dürfen, die etwa bei einer Wohnraumdurchsuchung gefunden worden seien. Nur so werde auch die als nötig erachtete effektive Kontrolle möglich. Die gesetzlichen Auflagen müssten zudem normenklar ohne undurchsichtige Verweise auf andere Regeln und bestimmt sein.

Trotz der deutlichen, von der GFF erstrittenen Hinweise erfüllt das reformierte hessische Polizeigesetz die Anforderungen aus Karlsruhe Bering zufolge teils nicht. Kennzeichnungs- und Kontrollpflichten etwa blieben schwammig, die Grundrechte nicht ausreichend geschützt und zu viel der Eigenverantwortung der Behörden überlassen.

Die Vorgangsdaten seien zwar raus, trotzdem würden Informationen über Unbeteiligte weiter erfasst, brachte Ruf ein weiteres Beispiel. Die Verwertung von Daten aus Funkzellenabfragen, die zahlreiche Handy-Nutzer erfassen, werde nur für einen von drei Straftatbeständen ausgeschlossen.

Wer Kleber kauft, ist verdächtig

Die neue hessische Klausel greife zudem sogar bei "Vorfeld-Straftaten" wie der potenziellen Bildung einer kriminellen Vereinigung oder Drogendelikten, auch wenn noch niemand verletzt worden sei, kritisiert Ruf. So lasse sich Hessendata vermutlich schon einsetzen, "wenn sich eine Person Klebstoff kauft" und so in den Verdacht von Klimaaktivismus geraten könnte.

"Riesige Datenmengen" inklusive Informationen aus Social Media und Registern dürften weiter einbezogen werden. Abgleichschritte habe der Gesetzgeber nicht begrenzt, obwohl er hier eigentlich einer Diskriminierung vorgreifen müsste.

Dies gehe stark auch in Richtung Künstliche Intelligenz (KI) und voraussagende Polizeiarbeit ("Predictive Policing"). Zumindest werde eine "Vorprogrammierung durch selbstlernende Systeme nicht ausgeschlossen".

Mit Gotham habe sich die Polizei einen Panzer gekauft, um zum Bäcker zu fahren, monierte Bering grundsätzlich. Oft werde solche Software nur als einfache Suchfunktion genutzt. Hessen habe dafür zwar nur einen symbolischen Cent bezahlt, Nordrhein-Westfalen (NRW) aber schon eine Million Euro. Die Implementierungskosten für die dortige Polizei sind zudem drastisch angestiegen. Die Verfassungsbeschwerde der GFF gegen die Gotham-Gesetzesgrundlage in NRW ist noch anhängig.

Die neue hessische Koalition aus CDU und SPD wolle künftig Hessendata sogar mit "IP-, Maut- und sonstigen Verkehrsüberwachungsdaten" füttern, empörte sich Constanze Kurz vom Chaos Computer Club (CCC), die vom Bundesverfassungsgericht in dem Fall als Sachverständige gehört worden war. Dies sei dreist, da gerade die Mautdaten lange für "sakrosankt" erklärt worden seien.

Generell fliege die "schattig" gebliebene Multi-Millionen-Firma Palantir mit ihrer "gebrauchsfertigen Analyseplattform" mit hoher Grundrechtsrelevanz im Gegensatz etwa zu Microsoft oder Apple noch weitgehend unter dem Radar der öffentlichen Aufmerksamkeit. Das Problem betreffe letztlich aber auch andere Polizeiausrüster.

Kooperation mit Palantir & Co. beenden

Das Bayerische Landeskriminalamt erteilte Palantir 2022 in einem europaweiten Vergabeverfahren den Zuschlag für eine ''verfahrensübergreifende Recherche- und Analyseplattform'' (VeRA), die ebenfalls auf Gotham beruht. Die Bundesregierung will von der Option, sich an dem abgeschlossenen Mantelvertrag zu beteiligen, vorerst keinen Gebrauch machen.

Die schwarz-rote Regierung im Land Berlin wolle VeRA dagegen einführen, berichtete Kurz auf Basis einer Umfrage. Hamburg habe noch keine Entscheidung über ein dafür benötigtes neues Gesetz getroffen. Baden-Württemberg und Thüringen hätten gleichlautend ein allgemeines Interesse an einschlägigen Formen digitaler Datenverarbeitung geäußert, Schleswig-Holstein, Mecklenburg-Vorpommern und Niedersachsen keine derzeitigen Vorhaben benannt.

Kurz appellierte an die Politik und die Verwaltung, die derzeit oft geübte Praxis zu beenden, polizeiliche Datenanalysen an kommerzielle Anbieter auszulagern. Behörden begäben sich sonst in "krasse Abhängigkeit" von Firmen wie Palantir, die auch vor Klagen gegen eigene Kunden nicht zurückschreckten.

Eine höhere Transparenz solcher Systeme sei zudem die Minimalbedingung für die nötige Aufsicht und Evaluation. Anwender müssten sich ferner fragen, was die Anbieter sonst noch machten. Amnesty International etwa habe bei Palantir vielfach zu bedenken gegeben, dass das Unternehmen menschenrechtliche Standards nicht einhalte.

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]