Debatte: Einsatz von KI-Systemen in der öffentlichen Verwaltung

Transparenz und Nachvollziehbarkeit beim Einsatz von KI-Systemen in der öffentlichen Verwaltung der Freien und Hansestadt Hamburg stärken. So der Titel eines Antrags der Senatsfraktionen in der Sitzung am 24. April. Für die Linksfraktion nahm Stephan Jersch Stellung.

Transparenz und Nachvollziehbarkeit beim Einsatz von KI-Systemen in der öffentlichen Verwaltung der Freien und Hansestadt Hamburg stärken - Antrag der SPD- und GRÜNEN Fraktion - Hier als PDF in der Drucksache 22/14821

Transparenz und Nachvollziehbarkeit beim Einsatz von KI-Systemen in der öffentlichen Verwaltung der Freien und Hansestadt Hamburg stärken - Chancenorientierte Nutzung von künstlicher Intelligenz: ein zukunftsweisender Ansatz für die Verwaltung Hamburgs

Die Rede im Wortlaut:

Stephan Jersch DIE LINKE:

Herr Präsident, meine Damen und Herren! Es ist
jetzt tatsächlich etwas vorhanden, was man als
künstliche Intelligenz begreifen kann. Es lernt, es
hat Algorithmen, auf denen es das tut, und es
geht deutlich über das hinaus, was bisher immer
als solches bezeichnet worden ist – beim Kollegen
Kappe habe ich das Gefühl, er ist jetzt noch nicht
weit darüber hinaus –, es geht deutlich über große
Excel-Tabellen hinaus, die jeder sich selbst als Ent-
scheidungsbaum zusammenstellen kann. Deshalb
ist tatsächlich Handeln erforderlich, und das, was
in der EU aufgegriffen worden ist, war richtig und
wichtig, aber der Erfolg ist durchaus durchwachsen.

Genauso durchwachsen sehen wir diesen Antrag
hier. Kollegin Botzenhart hat gesagt, der Antrag
werde nicht alle Antworten liefern. Wir haben ein
paar Fragen mehr dazu, und deswegen werden wir
uns am Ende bei diesem Antrag enthalten. Auch
wenn die Gefahren grundsätzlich richtig beschrie-
ben sind, fehlt doch ein systemischer Handlungsan-
satz. Das hätte man, gerade wenn es um die öffent-
liche Verwaltung geht, vielleicht ein bisschen aus-
führlicher machen können. Tatsächlich gute Punkte
sind das Algorithmenregister – aber es darf nicht
nur eine Beschreibung enthalten, sondern der Code
muss als Open Source dann auch für die Fachleute
vorhanden sein –, die permanente Folgenabschät-
zung – eine sehr gute Idee – und die Kennzeich-
nungs- und Informationspflicht.

Was uns fehlt, ist aber eine klare Aussage zu den
Zuständigkeiten: Wie soll das tatsächlich umgesetzt
werden? Wo ist der Datenschutzbeauftragte hier
eingeordnet? Wie sind die Mechanismen zu den Er-
gebnissen der permanenten Folgeabschätzung, die
fachliche Stärkung der Personalräte? Schließlich
geht es um ihre Arbeitsumwelt; sie müssen selbst
beurteilen können, was da Sache ist. Letztlich geht
es auch um die Definition der Datentransparenz,
mit der die KI gefüttert worden ist – die Daten
müssen vollständig veröffentlicht sein und zur Ver-
fügung stehen, wenn natürlich auch anonymisiert,
und nicht nur beschrieben werden.
(Vereinzelter Beifall bei der LINKEN)

Von daher sehen wir uns in der Lage – auch wenn
der Ansatz gut ist –, das zumindest mit einer Ent-
haltung zu bedenken, denn wenn der Senat losge-
lassen wird, kommt meist nichts Vollständiges da-
bei heraus. – Danke.
(Beifall bei der LINKE)