Freitag, 18. April 2025

Künstliche IntelligenzVier Zukunftsszenarien

[05.02.2019] Das Thema künstliche Intelligenz ist in der Politik angekommen – bislang gibt es aber nur vereinzelt konkrete Anwendungen. Anhand von vier Szenarien zeigt das Kompetenzzentrum Öffentliche IT auf, wie der KI-Einsatz in der Verwaltung der Zukunft aussehen kann.
Szenario Staats-KI: Qualitativ hochwertige KI-Systeme in allen öffentlichen Bereichen.

Szenario Staats-KI: Qualitativ hochwertige KI-Systeme in allen öffentlichen Bereichen.

(Bildquelle: Kompetenzzentrum Öffentliche IT/Zeichnung: Heyko Stöber)

Willkommen im Jahr 2030. Inzwischen ist es zehn Jahre her, dass die Killeranwendung FindeFiffi den Einsatz von künstlicher Intelligenz (KI) in der öffentlichen Verwaltung revolutioniert hat. Damals, im September 2020, wurde der Haustierfindedienst im Portalverbund freigeschaltet. Finanziert aus der Hundesteuer erlaubte FindeFiffi, entlaufene Haustiere auch dann mit hoher Wahrscheinlichkeit wiederzufinden, wenn sie vorab keinen teuren GPS-Sender angeheftet bekommen hatten. Möglich wurde dies durch eine Verknüpfung von Sensor-, Verwaltungs- und Social-Media-Daten und deren intelligente Auswertung anhand verhaltenswissenschaftlicher Modelle. Die Auswirkungen waren enorm: Der Zuspruch der Bevölkerung für die neuen Möglichkeiten schien grenzenlos. Durch diesen Rückenwind konnten grundlegende politische Weichenstellungen vorgenommen werden, die eine breite Anwendung von KI-Lösungen in allen Lebensbereichen ermöglichten und unterstützten.
Auch in der Wirtschaft herrscht seitdem Goldgräberstimmung. Die Gewinnchancen sind für eine Vielzahl kleiner und großer Anbieter aus dem In- und Ausland so enorm, dass sich alle Anbieter freiwillig höchsten Qualitäts- und Sicherheitsansprüchen verpflichten. In der Verwaltung des Jahres 2030 werden so zuverlässige KI-Systeme eingesetzt, dass sensible Entscheidungen – etwa über öffentliche Aufträge – längst nicht mehr den Menschen überlassen werden.

Fabelhafte Welt oder lediglich Spuren von KI?

So könnte sie aussehen, die künstlich intelligente Verwaltung im Jahr 2030. Diese „Fabelhafte Welt der KI“ hat sich in einem Foresight-Prozess des Kompetenzzentrums Öffentliche IT (ÖFIT) am Fraunhofer-Institut für Offene Kommunikationssysteme FOKUS als eines von vier möglichen, in den Grundannahmen konsistenten Zukunftsszenarien erwiesen.
Die Zukunft der Verwaltungs-KI könnte aber auch ganz anders aussehen und nur „Spuren von KI“ enthalten. In einem solchen Szenario wurde zwar durchaus versucht, die Chancen der KI zu nutzen. So wurde eine umfassende Dateninfrastruktur geschaffen, durch welche die Datenverfügbarkeit gewährleistet werden konnte. Allerdings wurde es versäumt, hinreichend hohe Qualitätsstandards der KI-Systeme zu gewährleisten. Auch die wirtschaftliche Dynamik blieb mangels Fachkräften und angesichts marktbeherrschender Oligopole weitgehend aus. Frühe Unfälle und eine stagnierende Forschung führten zu dramatisch nachlassender Akzeptanz und geringer politischer Priorität. Entsprechend finden in dieser Zukunft KI-Systeme innerhalb und außerhalb der Verwaltung nur punktuell Einsatz.

Retter in der Not oder Staats-KI

Was aber, wenn dem Staat kaum noch Gestaltungsmöglichkeiten verbleiben? Im Szenario „KI, Retter aus der Not geboren“ versiegen die Steuereinnahmen infolge einer Wirtschaftskrise. Um seine Aufgaben überhaupt noch wahrnehmen zu können, braucht der öffentliche Sektor in allen Bereichen KI-Lösungen, durch die sich Aufgaben weitgehend automatisieren lassen. Da für eigene Forschungsarbeiten und aufwendige Anpassungen kaum finanzielle Mittel zur Verfügung stehen, bedient sich der öffentliche Sektor bei den von internationalen Oligopolen angebotenen Lösungen von der Stange. Dadurch werden zwar wesentliche Qualitätsmerkmale sichergestellt, die fehlende Anpassung führt jedoch zu einer Vielzahl unsachgemäßer Entscheidungen. Die Verantwortung für solche Fehler werden auf die einzelnen Verwaltungsorganisationen und von dort auf die einzelnen Sachbearbeiter verlagert. Obwohl überhaupt keine Zeit bleibt, die Empfehlungen der KI-Systeme zu überprüfen und so faktisch die Maschinen entscheiden, liegt die Verantwortung bei den Angestellten. Dennoch findet die KI breite Akzeptanz, weil einfache Widerspruchsverfahren Fehler korrigieren helfen und die Abhängigkeit von den Systemen längst keine Exit-Option mehr zulässt.
Wem dieses Zukunftsbild zu dystopisch erscheint, der fühlt sich möglicherweise im Szenario „StaaKI – Die Staats-KI“ besser aufgehoben. In diesem Zukunftsbild hat der Staat früh die strategische Bedeutung der neuen Technologie erkannt und die Entwicklung an sich gezogen. Während in Wirtschaft und Gesellschaft aufgrund hoher Datenschutzbestimmungen und anderer Auflagen künstliche Intelligenz kaum eine Rolle spielt, wird der KI-Einsatz in der öffentlichen Verwaltung kontinuierlich ausgebaut. Intensive staatliche Forschung erlaubt eine gezielte Feinjustierung der Systeme, was dank positiver Diskriminierung bestimmter Bevölkerungsgruppen zur effektiven Umsetzung politischer Ziele führt. Durch die langsame Ausweitung der Anwendungsfelder wird sichergestellt, dass immer häufiger qualitativ hochwertige KI-Systeme in allen öffentlichen Bereichen eingesetzt werden und menschliche Entscheidungen punktuell durch maschinelle ersetzt werden können.

Vielfältiger politischer Gestaltungsbedarf

Die vier Szenarien zeigen nicht nur, wie unterschiedlich der KI-Einsatz in der öffentlichen Verwaltung der Zukunft aussehen kann, sie erlauben zugleich eine Analyse der Voraussetzungen sowie eine Diskussion der Folgen verschiedener Entwicklungen. Dabei wird schnell deutlich, dass es keineswegs selbstverständlich ist, dass KI-Systeme Einzug in die öffentliche Verwaltung halten werden. Vier Aspekte stechen besonders hervor, ohne die ein Einsatz kaum vorstellbar ist: Zum einen lassen sich die gegenwärtig oftmals eingesetzten Systeme ohne eine hinreichende Datenverfügbarkeit nicht trainieren, zum anderen ist die Akzeptanz aller Beteiligten unerlässlich, um eine schnelle und effiziente Verbreitung von KI zu ermöglichen. Darüber hinaus ist die Qualität der KI-Systeme sowohl hinsichtlich der IT-Sicherheit als auch hinsichtlich des qualitativ hochwertigen Funktionierens eine Grundvoraussetzung, und es braucht Anwendungs- und Entwicklungskompetenzen auf allen Ebenen.
Bereits diese vier Voraussetzungen zeigen den vielfältigen politischen Gestaltungsbedarf auf. Damit KI in der öffentlichen Verwaltung eine wichtige Rolle spielen kann, müssen nicht nur die Datenschutz-, Akzeptanz- , Sicherheits- und Qualitäts- sowie die Kompetenzfragen überzeugend beantwortet werden, auch für die konkrete Ausgestaltung der Mensch-Maschine-Interaktion stellen sich im öffentlichen Sektor zentrale Fragen. Bleiben Systeme auf die Entscheidungsunterstützung beschränkt, müssen die Beschäftigten in der Lage sein, die Empfehlungen zu hinterfragen. Findet KI als reines Rationalisierungsinstrument Anwendung, fehlen die hierfür notwendigen Ressourcen. Auch könnten Dienstleistungen, die nicht von KI-Systemen unterstützt werden können, dadurch vernachlässigt werden. Die Frage nach dem KI-Einsatz wird so auch stark zu einer Frage der Personalpolitik und -entwicklung in der öffentlichen Verwaltung. Davor gilt es allerdings die Frage zu beantworten, wie viel KI wir in welchen Bereichen überhaupt wollen.

Mike Weber arbeitet und forscht am Kompetenzzentrum Öffentliche IT am Fraunhofer-Institut für Offene Kommunikationssysteme FOKUS.




Anzeige

Weitere Meldungen und Beiträge aus dem Bereich: Politik
Screenshot des Deckblatts der Ahauser Digitalisierungsstrategie.

Ahaus: Digitalisierungsstrategie verabschiedet

[15.04.2025] Ahaus soll zu einer modernen, digitalen Stadt werden, in der neue Technologien und digitale Verwaltungsservices das Leben der Menschen einfacher machen. Als Leitfaden dient der Kommune ihre neue Digitalisierungsstrategie. mehr...

Porträt er Ministerin für Arbeit, Soziales, Transformation und Digitalisierung des Landes Rheinland-Pfalz, Dörte Schall.

Rheinland-Pfalz: Digitale Transformation geht nur gemeinsam

[15.04.2025] Die zweite landesweite Digitalisierungsveranstaltung in Koblenz zeigt, dass Rheinland-Pfalz beim OZG-Umsetzungsstand deutliche Fortschritte macht. Rund die Hälfte der zentralen OZG-Leistungen ist angebunden. Ziel bleibt die vollständige Ende-zu-Ende-Digitalisierung. mehr...

Screenshot des Deckblatts des gemeinsamen Jahresberichts der FITKO und des IT-Planungsrats für 2024.

IT-Planungsrat / FITKO: Gemeinsamer Jahresbericht für 2024

[14.04.2025] Im gemeinsamen Jahresbericht für 2024 berichten der IT-Planungsrat und die Föderale IT-Kooperation (FITKO) über ihre Tätigkeiten und Erfolge. Erstmals kommen auch die Gremien, Arbeits- und Projektgruppen zu Wort. mehr...

Vektorgrafik. Mehrere Personen fügen Puzzleteile zusammen.
bericht

Kooperationen: Die Renaissance einläuten

[11.04.2025] Neben einer konsequenten Digitalisierung kann die Stärkung der interkommunalen Zusammenarbeit das Fundament bieten, um die kommunale Aufgabenerfüllung auch in Zeiten des Fachkräftemangels zu sichern. Das leistet auch einen Beitrag gegen Staatsverdrossenheit. mehr...

Blick vom Spreeufer auf das Reichstagsgebäude.

Koalitionsvertrag: Digitalministerium soll kommen

[10.04.2025] Union und SPD haben sich auf einen Koalitionsvertrag verständigt. Kommunen und Verbände begrüßen das geplante Digitalministerium, sehen Fortschritte beim Bürokratieabbau und fordern eine zügige Umsetzung zentraler Vorhaben. mehr...

Cover Zukunftsradar 2024

DStGB/iit: Zukunftsradar Digitale Kommune 2024

[10.04.2025] Der neue DStGB-Zukunftsradar liegt vor. Die Studie belegt: Kommunen sehen eine besser abgestimmte föderale IT-Infrastruktur und eine gemeinsame Cybersicherheitsstrategie als zentrale Voraussetzungen für die weitere Verwaltungsdigitalisierung. mehr...

Rudolf Schleyer, den Vorstandsvorsitzenden der AKDB
interview

Interview: Digital Only als Ziel

[08.04.2025] Wie der Stand der Digitalisierung in der Kommunalverwaltung ist und welche Erwartungen die kommunalen IT-Dienstleister an die neue Bundesregierung haben, darüber sprachen wir mit Rudolf Schleyer, dem Vorstandsvorsitzenden der AKDB. mehr...

IT-Beauftrage von Augsburg, München und Nürnberg

Positionspapier: Verwaltung effizient gestalten

[07.04.2025] München, Augsburg und Nürnberg haben ein gemeinsames Positionspapier zu kommunalen Cloudregistern der FITKO zugeleitet. Die bayerischen Städte sehen die Registermodernisierung und zentrale IT-Lösungen als notwendige Schritte zur Sicherung der Verwaltungseffizienz. mehr...

Niedersachsen: Pakt für Kommunalinvestitionen

[25.03.2025] Die niedersächsische Landesregierung stellt den Kommunen 640 Millionen Euro aus dem Jahresüberschuss 2024 zur Verfügung. Mit dem neuen Kommunalinvestitionsprogramm sollen Städte, Gemeinden und Kreise gezielt entlastet werden – ohne Eigenanteil und mit flexibler Mittelverwendung. mehr...

Cover des D21 Digital-Index 2024/25

D21-Digital-Index: Digitale Resilienz als Schlüssel

[10.03.2025] Alljährlich liefert D21 mit ihrem Digital-Index ein umfassendes Lagebild zum Digitalisierungsgrad in Deutschland. Nun hat die Initiative ihre Studie für 2024/25 vorgelegt. Demnach verändern digitale Technologien Gesellschaft und Wirtschaft tiefgreifend – die Auswirkungen auf Wirtschaft und Arbeit werden aber weitgehend unterschätzt. mehr...

Vektorgrafik, die ein Team zeigt, das Puzzleteile zusammenfügt.

Beckum: d-NRW-Beitritt beschlossen

[03.03.2025] Um Zeit und Aufwand bei der Ausweitung ihrer digitalen Verwaltungsservices zu sparen, tritt die Stadt Beckum der d-NRW bei. Als Trägerin der rechtsfähigen Anstalt des öffentlichen Rechts wird sie unter anderem von einer ausschreibungsfreien Nachnutzung von OZG-Leistungen profitieren. mehr...

muenchen_neues_rathaus

München: Fortschreibung der Digitalisierungsstrategie

[13.02.2025] Der Münchner Stadtrat hat die fünfte Fortschreibung der Digitalisierungsstrategie der bayerischen Landeshauptstadt beschlossen. Sie beinhaltet unter anderem den Aufbau eines Kompetenzschwerpunkts für User Experience sowie eine neue Formulierung des strategischen Prinzips der nutzerzentrierten Gestaltung. mehr...

OZG: „Aufenthalt“ erreicht alle Milestones

[07.02.2025] Das maßgeblich vom Land Brandenburg vorangetriebene OZG-Projekt „Aufenthalt“ hat alle Vorgaben des OZG-Verwaltungsabkommens erfüllt. Inzwischen nutzen über 270 Ausländerbehörden die digitalen Dienste, weitere 170 befinden sich im Roll-out. Die Weiterentwicklung läuft kontinuierlich. mehr...

Porträt Dr. Daniela Dylakiewicz

Sachsen: Neue CIO für den Freistaat

[07.02.2025] Daniela Dylakiewicz ist neue CIO des Freistaats Sachsen. Um die digitale Verwaltungstransformation voranzutreiben, strebt sie eine enge Zusammenarbeit mit den Kommunen des Landes an. mehr...

Diagramm zur räumlichen, fachlichen und funktionalen Bündelung von Verwaltungsaufgaben.

Deutscher Landkreistag: Aufgabenbündelung ja, Verfassungsänderung nein

[06.02.2025] Der vom Normenkontrollrat vorgebrachte Vorschlag einer stärkeren Bündelung staatlicher Aufgaben wird vom Deutschen Landkreistag unterstützt. Der kommunale Spitzenverband warnt aber auch vor zentralistischen Strukturen und lehnt vorgeschlagene Verfassungsänderungen ab. mehr...