Wie gefährlich ist Palantir wirklich? Prof. Dr. Dennis-Kenji Kipker im Gespräch bei ZDF heute live

Dennis-Kenji Kipker: Schon im vergangenen Herbst habe ich im Innenausschuss vom Bundestag vor den rechtlichen Schwierigkeiten und faktischen Herausforderungen beim Einsatz automatisierter und KI-gestützter Software zur Massendatenauswertung gewarnt, als das #Sicherheitspaket der #Bundesregierung verabschiedet werden sollte.

Zurzeit werden durch die amtierende Bundesregierung ähnliche Ansätze geprüft. So soll ein Gesetzespaket Bundeskriminalamt und Bundespolizei zukünftig ermöglichen, Personen anhand biometrischer Daten im Internet zu identifizieren, lokalisieren und sogenannte „Tat-Täter Zusammenhänge“ zu erschließen. Überdies soll die Befugnis geschaffen werden, Big Data einzusetzen, indem verschiedene Datenbestände technisch zusammengeführt und mittels KI automatisiert analysiert werden.

Für ZDF heute live habe ich im Gespräch mit dem hessischen Innenminister Roman Poseck die verfassungsrechtlichen, datenschutz- und cybersecuritybezogenen Herausforderungen dargestellt, die mit Data Mining verbunden sind. Dabei kann man natürlich argumentieren, dass den Sicherheitsbehörden ein neues Tool zur Verfügung gestellt wird, das neue Ermittlungsmöglichkeiten schafft und dadurch die Daten-Ausgangsbasis verbessert.

In einem Rechtsstaat jedoch kommt es nicht allein auf die Geeignetheit einer Maßnahme an, sondern auch auf deren Verhältnismäßigkeit. Wie ich in meinem Gutachten für den Bundestag schon im letzten Jahr ausgeführt habe, besteht das Risiko, dass mit der biometrischen Massendatenauswertung die sicherheitsbehördliche Datenerhebung von der Ausnahme zum Regelfall wird. Und die Relevanz für unsere digitalen Grundrechte ist enorm, da sich heutzutage kaum jemand noch Social Media und dem Internet entziehen kann, will er am gesellschaftlichen und beruflichen Leben teilhaben – Datenaskese gibt es de facto nicht.

Das hätte zur Folge, dass mit einer entsprechenden Gesetzesänderung die personenbezogenen Daten von Millionen deutscher Bürger:innen anlasslos erhoben, analysiert und ausgeleitet werden können – allesamt Datensätze, die nie für die sicherheitsbehördliche Datenauswertung online gestellt wurden. Zugleich ist die Funktionsweise der Algorithmen entsprechender Software oft undurchsichtig. Wesentliche Gewährleistungen unserer informationellen Selbstbestimmung würden ausgehebelt, indem die KI-Datenanalyse von uns unbemerkt stattfindet. Wo wir einerseits immer deutlicher über digitale Souveränität sprechen, setzen wir für die automatisierte Datenanalyse von Millionen Bürgerdaten auf nicht-europäische Software.

Und der vielleicht entscheidendste Punkt zuletzt: In der rechtspolitischen Argumentation wird es oft so dargestellt, als ob es keine andere Möglichkeit als die automatisierte Datenanalyse gäbe. Dem jedoch ist nicht so. Insbesondere seit dem 11. September 2001 wurden massive zusätzliche sicherheitsbehördliche Datenanalysebefugnisse eingeführt, die in den letzten 20 Jahren im Nachrichtendienst- und Polizeirecht sowie in der Strafprozessordnung fortlaufend ergänzt wurden. Weitaus sinnvoller wäre es daher, zunächst im Sinne der Überwachungsgesamtrechnung zu prüfen, was bereits genutzt wird und was im Einzelfall technisch notwendig ist, um die öffentliche Sicherheit in Deutschland zu verbessern.