SKA: Datenanalyse und maschinelle Entscheidungsprozesse bei der Freien und Hansestadt Hamburg

Maschinen übernehmen in der Freien und Hansestadt Hamburg immer mehr Aufgaben und Entscheidungen anstelle von Behördenmitarbeiterinnen und -bearbeitern. Bei der Frage nach der Kontrolle der Maschinen durch Menschen belässt es der Senat jedoch bei blumigen, wenig verbindlichen Aussagen.

13. August 2019

 Schriftliche Kleine Anfrage
des Abgeordneten Stephan Jersch (DIE LINKE) vom 05.08.2019
und Antwort des Senats
- Drucksache 21/17960 -

Betr.:    Datenanalyse und maschinelle Entscheidungsprozesse bei der Freien und Hansestadt Hamburg

Daten sind das neue Gold. Gleichzeitig sind Daten ein Handelsgut mit hohem Gefahrenpotential: Nicht erst seit diversen Missachtungen des Datenschutzes bei Global Playern der Social Media, den kriminellen Machenschaften von Cambridge Analytica und dem Hype um so genannte Prediction Engines, die mittels vorhandener Daten Kundenwünsche vorhersagen, ist klar, dass dieser Umgang mit Daten den sozialen Zusammenhalt und die Demokratie bedroht.

Insbesondere Algorithmen, denen eine 'künstliche Intelligenz' angedichtet wird, erhalten immer mehr Macht über Entscheidungen oder Einschätzungen zukünftigen Verhaltens. Analysen von Big Data ermöglichen es zudem, dass Bürgerinnen und Bürger bis tief in ihre Privatsphäre zum Objekt privatwirtschaftlicher und staatlicher Begierden werden.

Vor diesem Hintergrund frage ich den Senat:

Der Senat verfolgt die Strategie, die positiven Chancen und Möglichkeiten der Digitalisierung für alle Hamburgerinnen und Hamburger und ihre verschiedenen Lebensbereiche und damit auch für die Verwaltung, nutzbar zu machen und mitzugestalten.

Im Zuge dessen setzt der Senat bei der Erfüllung seiner Aufgaben und entsprechend der Grundsätze der Verhältnismäßigkeit und der Gesetzmäßigkeit auch auf moderne, computergestützte Technologien und Methoden der elektronischen Datenverarbeitung. Für den Senat hat der Aspekt der Datensicherheit in allen Schritten der Verarbeitung dabei hohe Priorität.

Die Beantwortung der nachstehenden Fragen legt folgendes Begriffsverständnis zugrunde:

Software, deren Funktion und Aufgabe die reine Darstellung oder Analyse von Daten, Fakten oder Tatsachen ist, d.h. jedwede Software, die Bearbeiterinnen und Bearbeiter lediglich über Sachverhalte informiert, wird von der Fragestellung nicht umfasst. Relevant im Sinne der Fragestellung ist es, ob eine Entscheidung unmittelbar durch Software erfolgt oder zumindest menschlichen Bearbeiterinnen oder Bearbeitern vorgeschlagen wird.

Dies vorausgeschickt, beantwortet der Senat die Fragen wie folgt.

1. Setzen Behörden der FHH bzw. nachgeordneten Stellen auf Datenanalyse spezialisierte Software ein beziehungsweise haben diese eingesetzt?
Wenn ja:
a. Welche und in welchem Zeitraum jeweils?
b. Auf welche Datenbestände hat oder hatte die Software jeweils Zugriff?
c. War der Datenschutzbeauftragte bei der Projektbeschreibung und Evaluation der jeweiligen Software mit einbezogen worden?
   i. Wenn ja: In welcher Form und wie hat der Datenschutzbeauftragte jeweils Stellung genommen?
  ii. Wenn nein, warum nicht?
d. Von welchen Firmen stammt/e die Software jeweils, wie hoch waren die jeweiligen Anschaffungskosten und wie hoch sind/waren die jeweiligen laufenden Kosten?
e. Welche Rechte an der jeweiligen Software wurden mit der Anschaffung durch die FHH erworben?
f. Welche unter a. genannte Software ist proprietär und welche OpenSource?
g. Wurden beim Entscheidungsprozess zu den proprietären Anwendungen auch OpenSource-Alternativen evaluiert?
   i. Wenn nein: Warum nicht?
Wenn nein:
h. Ist beabsichtigt, derartige Software einzusetzen?
   i. Wenn ja: Wo und ab wann?

Siehe Anlage 1 sowie Vorbemerkung.

2. Ist oder war in Behörden der FHH beziehungsweise ihnen nachgeordneten Stellen Software im Einsatz, deren Ausführung dazu führen kann oder konnte, dass eine maschinelle Entscheidung durch die Software erfolgt oder eine solche den Bearbeiterinnen oder Bearbeitern vorgeschlagen wird?
Wenn ja:
a. Welche Software ist/war dies und wo wird/wurde diese jeweils eingesetzt? Bitte unter Angabe des maschinellen bzw. maschinell unterstützen Entscheidungsprozesses aufführen.
b. Welche Schritte sind/waren bei den durch die vorgenannten Anwendungen unterstützten Entscheidungs­prozessen auszuführen, um die jeweilige Entscheidung zu finalisieren?
c. Von welchen Firmen stammt/e die Software, wie hoch waren Anschaffungskosten und hoch sind/waren die laufenden Kosten?
d. Welche Rechte wurden mit der Anschaffung durch die FHH an der Software erworben?
e. Welche unter a. genannte Software ist proprietär und welche OpenSource?
f. Wurden beim Entscheidungsprozess zu den proprietären Anwendungen auch OpenSource-Alternativen evaluiert?
   i. Wenn nein: Warum nicht?
Wenn nein:
g. Ist beabsichtigt, derartige Software einzuführen?
   i. Wenn ja: Wann, wo und für welche konkreten Entscheidungsprozesse?

Siehe Anlage 2.

3. Gibt es für die FHH und ihre Behörden Richtlinien, Grundsätze oder dergleichen für maschinelle Entscheidungen beziehungsweise maschinell unterstützte Entscheidungsprozesse?
a. Wenn ja: Wo sind diese einsehbar und seit wann gibt es diese?
b. Wenn nein: Ist beabsichtigt, solche Regularien zu erstellen und wann sollen diese gegebenenfalls in Kraft treten?

Im Kontext maschineller Entscheidungen bzw. maschinell unterstützter Entscheidungsprozesse sind klare Regelwerke unverzichtbare Bestandteile eines rechtssicheren und effizienten Verfahrens. Diesbezüglich unterzieht der Senat alle Prozesse im Sinne der Fragestellung einer kontinuierlichen und kritischen Prüfung. Zudem beteiligt sich der Senat bei der Erfüllung seiner Aufgaben an diesbezüglichen Entscheidungsfindungsprozessen auf nationaler und supranationaler Ebene. Im Übrigen siehe Drs. 21/16288 zu rechtsstaatlichen Grenzen automatisierter Entscheidungsprozesse sowie Vorbemerkung.