Dr. Juliane Hundert – Risiken beim Einsatz Künstlicher Intelligenz in der Verwaltung – Sachsen; 2.300 Verstöße festgestellt
Risiken beim Einsatz Künstlicher Intelligenz in der Verwaltung
Risiken beim Einsatz Künstlicher Intelligenz in der Verwaltung Dr. Juliane Hundert Sächsische Datenschutz- und Transparenzbeauftragte (SDTB)1 Foto: ronaldbonss.com Üblicherweise beginnt ein Text über Künstliche Intelligenz (KI) mit der Beschreibung dessen, was man darunter versteht. Das fällt mir als Juristin gar nicht so leicht, denn ich habe weder Informatik studiert und könnte Ihnen gut erklären, wie große Sprachmodelle funktionieren, noch habe ich Medizin studiert, um Ihnen mit wenigen Worten beschreiben zu können, wie wir unsere natürliche Intelligenz einsetzen. Beides bräuchte es aber, um ein umfassendes Bild von KI und menschlicher Intelligenz zu zeichnen. Als Datenschützerin werden von mir gleichwohl Antworten verlangt, nämlich dazu, ob und wie KI eingesetzt werden darf, z. B. bei öffentlichen Stellen wie Kommunen oder anderen Behörden. Diesen Fragen werde ich hier nachgehen, aber ich muss Sie gleich vorwarnen: Wie bei allen anderen Juristinnen und Juristen auch wird sich in den Antworten ein »Es kommt darauf an.« finden. I. Anspruch und Wirklichkeit KI kommt in verschiedenen Techniken und Ansätzen daher und ist für die unterschiedlichsten Aufgaben geeignet. In der Verwaltung ist vor allem die sog. generative KI interessant. Die (großen) Sprachmodelle, sog. Large Language Models, erzeugen nach bestimmten Eingaben oder Fragen (sog. Prompts) überzeugende Texte, Zusammenfassungen oder Schluss- folgerungen. Bekannte Vertreter sind ChatGPT, Gemini oder Perplexity AI. Ich werde im Folgenden nur auf solche Sprachmodelle eingehen, weil es diese Modelle sind, die mittlerweile eine Vielzahl von Menschen oder Unternehmen nutzen und auf die auch Entscheidungsträgerinnen und -träger in der Verwaltung große Hoffnungen setzen, insbesondere was Effektivität und Personaleinsparungen angeht. Ob KI diese Erwartungen erfüllen kann, ist fraglich. Ich jedenfalls hatte neulich eine eher ernüchternde Erfahrung gemacht: Ein Kollege schickte mir die Antwort eines Chatbots auf die Frage »Warum hat die Sächsische Datenschutzbeauftragte so viele schlechte Google- Bewertungen?« Die Antwort lautete zusammengefasst, dass der Grund 1 Die Autorin wurde am 21. Dezember 2021 vom Sächsischen Landtag für eine Amtszeit von sechs Jahren zur Sächsischen Datenschutzbeauftragten gewählt. Seit Anfang 2023 hat sie auch die Aufgabe der Sächsischen Transparenzbeauftragten nach dem Sächsischen Transparenzgesetz inne. In ihrer Behörde sind 41 Bedienstete beschäftigt, die – bislang ohne den Einsatz von KI – jährlich über 1.600 Beschwerden und Kontrollanregungen von Bürgerinnen und Bürgern bearbeiten, rund 900 Beratungsanfragen beantworten und über 1.000 Datenpannenmeldungen entgegennehmen. vor allem in der strengen Kontrolle und den Regelungen liege, die sie bei der Nutzung von Webseiten-Datenanalysen und Tracking-Diensten wie Google Analytics angewendet hat. In der umfassenden Kontrolle von rund 30.000 Webseiten in Sachsen seien dabei etwa 2.300 Verstöße fest- gestellt worden und die Webseitenbetreibenden aufgefordert worden, ihre Tracking-Methoden zu überarbeiten. Das Vorgehen der SDTB sei zwar rechtlich notwendig, führe jedoch zu einem überwiegend negati- ven Echo in der Öffentlichkeit. Datenschutz sei ein heikles Thema, das oft auf Widerstand bei den Betroffenen stößt, insbesondere wenn er als einschränkend wahrgenommen wird. Ich wollte den Kollegen aufmuntern. Er hatte hunderten Betreiberin- nen und Betreibern von Webseiten in vielen Stunden Einzelberatung geholfen, die bestehenden Datenschutzprobleme auf ihren Webseiten zu beheben, ohne ihnen gleich ein Bußgeld aufzubrummen, und fragte eine KI: »Warum gab es in letzter Zeit so viele gute Google-Bewertungen für die Sächsische Datenschutzbeauftragte?« Die Antwort war durchaus aufmunternd: »Die hohe Anzahl positiver Google-Bewertungen für die Sächsische Datenschutzbeauftragte ist höchstwahrscheinlich auf eine kürzlich durchgeführte groß angelegte Kontrolle zurückzuführen, bei der Tausende von Website-Betreibern in Sachsen auf Datenschutzverstöße im Zusammenhang mit Google Analytics aufmerksam gemacht wurden. Diese Aktion scheint bei vielen Bürgern und Website-Nutzern, die Wert auf Datenschutz legen, großen Anklang gefunden zu haben. Die positiven Bewertungen sind demnach eher eine Reaktion auf die proaktive Durch- setzung des Datenschutzes durch die Behörde als auf typische Kunden- diensterfahrungen.« Ich möchte an dieser Stelle zunächst eines klarstellen: Meine Kollegin- nen und Kollegen prüfen unabhängig die Einhaltung des Datenschutzes bei den Verantwortlichen in Sachsen. Sie tun dies mit großem Fleiß und Aufwand. Die Wahrung des Rechts auf informationelle Selbstbestim- mung ist unser Leitbild. Leider sind schlechte bis vernichtende Google- Bewertungen von Behörden an der Tagesordnung, davon bleibt auch meine Behörde nicht verschont. Aber was können wir mit dem Ergebnis der KI anfangen? Wir haben einen Hinweis darauf, dass meine Behörde eine größere Kontrolle von sächsi- schen Webseiten vorgenommen hat und wo dabei datenschutzrechtliche Probleme aufgetreten sind. Dieses Ergebnis können wir verifizieren. Es gab dazu eine Reihe von Medienveröffentlichungen. Nicht richtig ist aller- dings, dass es in der letzten Zeit viele gute Google-Bewertungen gegeben hat. Das Sprachmodell hat dies in seiner Antwort aber vorausgesetzt. Der Grund für diese in Teilen unbrauchbare Antwort liegt in der Funk tionsweise der KI, die Katharina Zweig in ihrem Buch »Weiß die KI, dass sie nichts weiß?« gut erklärt: Das Sprachmodell »erstellt für jeden mögli- chen Input eine Wahrscheinlichkeitstabelle für alle Wörter, die im System bekannt sind. Das ist sein Output.«2 Das Ergebnis des Sprachmodells bestehe daher nicht aus Wissen, sondern beruht auf Wahrscheinlichkei- ten. Es wurde mit großen Datenmengen trainiert und erkennt Muster. Die Ausgabe der Ergebnisse bzw. Vorhersage der Wahrscheinlichkeiten wird durch Gewichtung und Backpropagation, einer Art Rückmeldung, sowie durch Worteinbettung, verfeinert. Kurz und mit Katharina Zweig gesagt: 2 S. 40. Sachsenlandkurier 03|26 Künstliche Intelligenz 163
...