[5.2.2019] Das Thema künstliche Intelligenz ist in der Politik angekommen – bislang gibt es aber nur vereinzelt konkrete Anwendungen. Anhand von vier Szenarien zeigt das Kompetenzzentrum Öffentliche IT auf, wie der KI-Einsatz in der Verwaltung der Zukunft aussehen kann.

Willkommen im Jahr 2030. Inzwischen ist es zehn Jahre her, dass die Killeranwendung FindeFiffi den Einsatz von künstlicher Intelligenz (KI) in der öffentlichen Verwaltung revolutioniert hat. Damals, im September 2020, wurde der Haustierfindedienst im Portalverbund freigeschaltet. Finanziert aus der Hundesteuer erlaubte FindeFiffi, entlaufene Haustiere auch dann mit hoher Wahrscheinlichkeit wiederzufinden, wenn sie vorab keinen teuren GPS-Sender angeheftet bekommen hatten. Möglich wurde dies durch eine Verknüpfung von Sensor-, Verwaltungs- und Social-Media-Daten und deren intelligente Auswertung anhand verhaltenswissenschaftlicher Modelle. Die Auswirkungen waren enorm: Der Zuspruch der Bevölkerung für die neuen Möglichkeiten schien grenzenlos. Durch diesen Rückenwind konnten grundlegende politische Weichenstellungen vorgenommen werden, die eine breite Anwendung von KI-Lösungen in allen Lebensbereichen ermöglichten und unterstützten.
Auch in der Wirtschaft herrscht seitdem Goldgräberstimmung. Die Gewinnchancen sind für eine Vielzahl kleiner und großer Anbieter aus dem In- und Ausland so enorm, dass sich alle Anbieter freiwillig höchsten Qualitäts- und Sicherheitsansprüchen verpflichten. In der Verwaltung des Jahres 2030 werden so zuverlässige KI-Systeme eingesetzt, dass sensible Entscheidungen – etwa über öffentliche Aufträge – längst nicht mehr den Menschen überlassen werden.

Fabelhafte Welt oder lediglich Spuren von KI?

So könnte sie aussehen, die künstlich intelligente Verwaltung im Jahr 2030. Diese „Fabelhafte Welt der KI“ hat sich in einem Foresight-Prozess des Kompetenzzentrums Öffentliche IT (ÖFIT) am Fraunhofer-Institut für Offene Kommunikationssysteme FOKUS als eines von vier möglichen, in den Grundannahmen konsistenten Zukunftsszenarien erwiesen.
Die Zukunft der Verwaltungs-KI könnte aber auch ganz anders aussehen und nur „Spuren von KI“ enthalten. In einem solchen Szenario wurde zwar durchaus versucht, die Chancen der KI zu nutzen. So wurde eine umfassende Dateninfrastruktur geschaffen, durch welche die Datenverfügbarkeit gewährleistet werden konnte. Allerdings wurde es versäumt, hinreichend hohe Qualitätsstandards der KI-Systeme zu gewährleisten. Auch die wirtschaftliche Dynamik blieb mangels Fachkräften und angesichts marktbeherrschender Oligopole weitgehend aus. Frühe Unfälle und eine stagnierende Forschung führten zu dramatisch nachlassender Akzeptanz und geringer politischer Priorität. Entsprechend finden in dieser Zukunft KI-Systeme innerhalb und außerhalb der Verwaltung nur punktuell Einsatz.

Retter in der Not oder Staats-KI

Was aber, wenn dem Staat kaum noch Gestaltungsmöglichkeiten verbleiben? Im Szenario „KI, Retter aus der Not geboren“ versiegen die Steuereinnahmen infolge einer Wirtschaftskrise. Um seine Aufgaben überhaupt noch wahrnehmen zu können, braucht der öffentliche Sektor in allen Bereichen KI-Lösungen, durch die sich Aufgaben weitgehend automatisieren lassen. Da für eigene Forschungsarbeiten und aufwendige Anpassungen kaum finanzielle Mittel zur Verfügung stehen, bedient sich der öffentliche Sektor bei den von internationalen Oligopolen angebotenen Lösungen von der Stange. Dadurch werden zwar wesentliche Qualitätsmerkmale sichergestellt, die fehlende Anpassung führt jedoch zu einer Vielzahl unsachgemäßer Entscheidungen. Die Verantwortung für solche Fehler werden auf die einzelnen Verwaltungsorganisationen und von dort auf die einzelnen Sachbearbeiter verlagert. Obwohl überhaupt keine Zeit bleibt, die Empfehlungen der KI-Systeme zu überprüfen und so faktisch die Maschinen entscheiden, liegt die Verantwortung bei den Angestellten. Dennoch findet die KI breite Akzeptanz, weil einfache Widerspruchsverfahren Fehler korrigieren helfen und die Abhängigkeit von den Systemen längst keine Exit-Option mehr zulässt.
Wem dieses Zukunftsbild zu dystopisch erscheint, der fühlt sich möglicherweise im Szenario „StaaKI – Die Staats-KI“ besser aufgehoben. In diesem Zukunftsbild hat der Staat früh die strategische Bedeutung der neuen Technologie erkannt und die Entwicklung an sich gezogen. Während in Wirtschaft und Gesellschaft aufgrund hoher Datenschutzbestimmungen und anderer Auflagen künstliche Intelligenz kaum eine Rolle spielt, wird der KI-Einsatz in der öffentlichen Verwaltung kontinuierlich ausgebaut. Intensive staatliche Forschung erlaubt eine gezielte Feinjustierung der Systeme, was dank positiver Diskriminierung bestimmter Bevölkerungsgruppen zur effektiven Umsetzung politischer Ziele führt. Durch die langsame Ausweitung der Anwendungsfelder wird sichergestellt, dass immer häufiger qualitativ hochwertige KI-Systeme in allen öffentlichen Bereichen eingesetzt werden und menschliche Entscheidungen punktuell durch maschinelle ersetzt werden können.

Vielfältiger politischer Gestaltungsbedarf

Die vier Szenarien zeigen nicht nur, wie unterschiedlich der KI-Einsatz in der öffentlichen Verwaltung der Zukunft aussehen kann, sie erlauben zugleich eine Analyse der Voraussetzungen sowie eine Diskussion der Folgen verschiedener Entwicklungen. Dabei wird schnell deutlich, dass es keineswegs selbstverständlich ist, dass KI-Systeme Einzug in die öffentliche Verwaltung halten werden. Vier Aspekte stechen besonders hervor, ohne die ein Einsatz kaum vorstellbar ist: Zum einen lassen sich die gegenwärtig oftmals eingesetzten Systeme ohne eine hinreichende Datenverfügbarkeit nicht trainieren, zum anderen ist die Akzeptanz aller Beteiligten unerlässlich, um eine schnelle und effiziente Verbreitung von KI zu ermöglichen. Darüber hinaus ist die Qualität der KI-Systeme sowohl hinsichtlich der IT-Sicherheit als auch hinsichtlich des qualitativ hochwertigen Funktionierens eine Grundvoraussetzung, und es braucht Anwendungs- und Entwicklungskompetenzen auf allen Ebenen.
Bereits diese vier Voraussetzungen zeigen den vielfältigen politischen Gestaltungsbedarf auf. Damit KI in der öffentlichen Verwaltung eine wichtige Rolle spielen kann, müssen nicht nur die Datenschutz-, Akzeptanz- , Sicherheits- und Qualitäts- sowie die Kompetenzfragen überzeugend beantwortet werden, auch für die konkrete Ausgestaltung der Mensch-Maschine-Interaktion stellen sich im öffentlichen Sektor zentrale Fragen. Bleiben Systeme auf die Entscheidungsunterstützung beschränkt, müssen die Beschäftigten in der Lage sein, die Empfehlungen zu hinterfragen. Findet KI als reines Rationalisierungsinstrument Anwendung, fehlen die hierfür notwendigen Ressourcen. Auch könnten Dienstleistungen, die nicht von KI-Systemen unterstützt werden können, dadurch vernachlässigt werden. Die Frage nach dem KI-Einsatz wird so auch stark zu einer Frage der Personalpolitik und -entwicklung in der öffentlichen Verwaltung. Davor gilt es allerdings die Frage zu beantworten, wie viel KI wir in welchen Bereichen überhaupt wollen.

Mike Weber arbeitet und forscht am Kompetenzzentrum Öffentliche IT am Fraunhofer-Institut für Offene Kommunikationssysteme FOKUS.

http://www.oeffentliche-it.de/publikationen
Dieser Beitrag ist in der Ausgabe Februar 2019 von Kommune21 im Schwerpunkt Künstliche Intelligenz erschienen. Hier können Sie ein Exemplar bestellen oder die Zeitschrift abonnieren. (Deep Link)

Stichwörter: Politik, künstliche Intelligenz (KI), Automatisierung

Bildquelle: Kompetenzzentrum Öffentliche IT/Zeichnung: Heyko Stöber