The Agentic State mit Manuel Kilian: Per KI-Agent zur besseren Bürokratie?

00:00:00: Das sieht man ja jetzt schon, Leute nutzen KI-Systeme um Anträge zu stellen.

00:00:05: Vielleicht Widerspruch gegen den Bescheid einzulegen

00:00:07: usw.,

00:00:08: das heißt da entsteht auch einfach Handlungsdruck für die Verwaltung.

00:00:11: Faktisch wie läuft es gerade ab?

00:00:14: Menschen mehr Geld, die sich ein Abo leisten können von JetGPT oder von Claude haben einen Abo und können das dann sozusagen nutzen um einfacher mit der Verwaltung zu interagieren.

00:00:24: Das schafft ja auch eine Ungleichheit in der Gesellschaft weil was ist mit denen die keinen Zugriff haben auf diese Technologie?

00:00:30: Und deswegen ist es auch eine strategische Frage für Staaten, um vielleicht jetzt zu sagen.

00:00:35: Es gibt einen zentralen Bürgeragenten, den stellen wir zur Verfügung und denen müssen dann noch alle nutzen.

00:00:50: Hallo und herzlich willkommen zu einer neuen Ausgabe von Radio CityLab der ersten im Jahr.

00:00:58: Es ist das Jahr der Agentin, der KI-Agentin genauer gesagt.

00:01:03: Irgendwann Ende letzten Jahres hat künstliche Intelligenz für die, die genauer aufgepasst haben.

00:01:09: Ein noch mal ganz neues Level erreicht und viele haben inzwischen ihr Eigen-Erfahrungen gesammelt mit Tools wie Cloud Code oder Open Claw oder ähnlichen Systemen, die agentische Eigenschaften haben.

00:01:22: Solche Systeme können nicht mehr, wie man das früher von zum Beispiel ChatGPT kennt einzelne Antworten auf Fragen geben sondern sie arbeiten sich durch komplexe, durch mehrstufige Arbeitsprozesse in hoher Qualität und weitgehend Autonom.

00:01:37: Das führt gerade zu enormen Disruptionen, etwa in der Digitalbranche aber auch in anderen Bereichen werden die Veränderungen spürbar.

00:01:46: Was bedeutet diese Entwicklung für Staat und Verwaltung?

00:01:51: Das fragt ein umfassendes Papier vom Global Gaphtech Center Berlin und der Weltbank das im Oktober letzten Jahres unter dem Titel The Agentic State erschienen ist – und dass in der Community für Einiges Aufsehen gesorgt hat!

00:02:05: Auf über hundert Seiten wird in dem Papier nachgezeichnet, wie ein Staat unter den Bedingungen agentischer KI funktionieren könnte.

00:02:13: Welche Chancen aber auch welche Risiken entstehen wenn das Verwaltungshandeln mit den Möglichkeiten agentischer KI konfrontiert ist und was sind die Voraussetzungen damit die Verwaltung diese Transformation meistern kann?

00:02:26: Darüber spreche ich heute mit einem der Autoren des Papiers mit Manuel Kilian.

00:02:31: Manuel ist Geschäftsführer des Global GavTech Center.

00:02:34: Hier in Berlin war zuvor auch Gavtech Unternehmer, ich freue mich dass du hier bist.

00:02:39: hallo Manuel.

00:02:39: Hallo

00:02:40: Ben vielen Dank für die Einladung.

00:02:42: Ja wir haben dein Papier auch im CityLab mit großem Interesse gelesen.

00:02:46: Ich darf verraten du warst doch schon mal bei uns beim Team zu Besuch um das intern zu diskutieren.

00:02:50: Das war ein so interessantes Gespräch das wir gesagt haben Wir führen es jetzt im Podcast nochmal weiter.

00:02:56: Vielleicht kannst Du aber mal für diejenigen die das Paper noch nicht kennen mal in ein paar wenigen Sätzen die Kernbotschaft zusammenfassen, worum geht's da und was war eigentlich die Intention dieses Paper zu schreiben?

00:03:10: Ja so erstmal muss ich mich entschuldigen weil das sind in der Tat über hundert Seiten.

00:03:13: Und wir haben nicht damit gerechnet dass es in der Vielzahl gelesen wird.

00:03:18: Weil wie du sagst das ja letzten Oktober publiziert.

00:03:23: Es gab sozusagen auch eine Version eins Punkt Null, ne vorhergehende Version davon.

00:03:28: Die haben wir schon im Mai publiziert, also ziemlich genau vor einem Jahr und das war eigentlich eher für uns so ein Spielball um mit den Themen auseinander zu setzen.

00:03:37: Und wir haben irgendwann gemerkt eben dass das Thema Agentsche KI sehr wichtig wird und haben dann versucht eben zu applizieren was bedeutet es eigentlich für den Staat?

00:03:47: Und was uns eben wichtiger war nicht nur zu sagen Agentschi KI verändert den Staat weil das ist irgendwie dann intellektuell auch unterkomplex.

00:03:56: Und was wir uns schon sehr genau angeschaut haben und das kann man dann auch in dem Papier so wiederfinden, dass wir uns verschiedene Bereiche staatlichen Handels angeschauden haben.

00:04:05: Also zum Beispiel die Erbringung von öffentlichen Diensten wie wird sie sich verändern durch Agentschakai?

00:04:11: oder wie verändert sich die öffentliche Beschaffung?

00:04:14: Oder wie verändert sich das Thema Compliance?

00:04:18: Und da immer sehr genaue Arbeit oder versucht haben, genau zu arbeiten und genau zu verstehen.

00:04:23: Wo stehen wir gerade heute?

00:04:25: Was für Dynamiken bringt Agentsche KI rein?

00:04:27: Wie kann man daraus alternative positive Zukunft bauen?

00:04:32: Das habe ich auch ganz bewusst schon damit auseinandergesetzt, wie alles besser werden könnte Genau, und haben das sozusagen einmal durchdekliniert.

00:04:39: Und wir haben es durchdelkliniert durch verschiedene Bereiche staatlichen Handels.

00:04:43: Sechs Stück an der Zahl haben wir uns davor genommen und wir haben aber auch geguckt was denn so zu sagen?

00:04:47: So ein bisschen die heute einer Zwiebel, die noch drum herumliegen also in was für einem Kontextmuster stattfinden?

00:04:56: Was brauche ich für eine Governance?

00:04:57: Brauche ich drumherum?

00:04:57: Was brauch ich für Cyber Security drum herum?

00:04:59: Was brauchen eigentlich für einen Technology Stack drum herum?

00:05:02: Was für eine Organisation muss ich drumherum bauen?

00:05:05: Und das ist sozusagen das Paper in Gänze, was dann in Summe zwölf Kapitel sind.

00:05:09: In diesen zwölfen Kapiteln schauen wir uns eben diese verschiedenen Bereiche an.

00:05:12: Ja...

00:05:14: ...was mir aufgefallen war, du sagst jetzt die erste Version sogar schon im Mai erschienen.

00:05:19: Das Papier kam früh Also insbesondere für ein Papier dass sich mit einer technologischen Disruption im öffentlichen Sektor auseinandersetzt.

00:05:31: Ich weiß noch, dass ich überrascht war als ich das sah.

00:05:33: Ich hab dann erst die zweite Version aus dem Oktober gesehen und irgendwie so gedacht ... Mit so einem Papier hätte ich frühestens in zwei Jahren gerechnet sozusagen.

00:05:44: Tatsächlich gibt es auch in dem Papier eine gewisse Trinklichkeit.

00:05:47: So Achtung hier passiert was?

00:05:48: Es muss jetzt schnell gehen!

00:05:50: Die vielleicht auch im Spannungsverhältnis steht zu den Warnungen, dass wir behutsamen und verantwortungsvoll vorgehen müssen beim KI-Einsatz.

00:06:01: Warum ist Geschwindigkeit jetzt wichtig in euren Augen?

00:06:05: Wenn man anschaut, wie Technologie diffundiert das in Staat und Verwaltung den letzten dreißigvierzig Jahren.

00:06:13: Dann ist mein Eindruck, dass Technologie ganz oft Staaten eher so geschehen ist.

00:06:17: Dass Staaten oder Verwaltungen passiv Konsumenten von Technologie geworden sind.

00:06:25: Ich sehe da eine große Herausforderung mit einem Problem wenn es um agentische KI geht Und das kennen wir alle, diesen lapidaren Vergleich.

00:06:33: Wie lange braucht es bis in der Technologie?

00:06:35: Hundert Millionen Menschen erreicht.

00:06:37: Beim Telefon waren's achtzig Jahre bei GEPT war uns drei Monate.

00:06:40: Das heißt die technologische Entwicklung passiert ja schon mit einer ungehörigen großen Geschwindigkeit.

00:06:46: und was uns extrem wichtig war bei diesem Papier war Wissen aufzubauen für alle in der Verwaltung, die sich damit auseinandersetzen wollen um in eine Position zu kommen dass ihnen Technologie nicht einfach passiert, sondern dass sie auch das Wissen haben um aktiv die Leitblanken zu setzen wie diese Technologie eingesetzt werden soll im öffentlichen Sektor und in Regierung.

00:07:11: Und deswegen haben wir gesagt, wir schreiben es genau jetzt.

00:07:13: Wir schreiben's auch in dieser inhaltlichen Tiefe genau jetzt und damit auch eine Debatte loszutreten, um sich viele Menschen in vielen Verwaltungen rund um den Globus aktiv mit dem Thema auseinandersetzen und damit eben auch ganz aktiv die weitere Entwicklung von der Technologie treiben können.

00:07:28: Das muss man vielleicht nochmal ergänzen.

00:07:30: das ist keine sozusagen deutsche Initiative sondern wirklich eine internationale oder eine globale kann man sagen?

00:07:36: Ja genau, dezidiert global richtig also.

00:07:40: Wir haben das ja in einer Gruppe von fünf Autoren geschrieben, wir haben es aber auch in Mitwirkungen von über zwanzig mehrheitlich aktiven Digitalministern oder CDO-CTOs geschrieben.

00:07:52: Die kommen also.

00:07:53: der ukrainische stellvertretende Ministerpräsident war dabei, der CTO von Australien war dabei und der Cto von UK war dabei.

00:08:02: Der Staatsminister für Digitales aus Brasilien war mit dabei.

00:08:06: Es war uns wirklich wichtig zu sagen, das geht jetzt nicht nur ein Land an.

00:08:10: Sondern es ist was Globales und ... Wir brauchen den Austausch zwischen Regierung.

00:08:15: Wir haben keine Zeit mehr, dass jedes Land fünf mal sechs Mal die gleichen Fehler macht, sondern aufgrund der Geschwindigkeit der Entwicklung der Technologie müssen Regierungen gut voneinander lernen können.

00:08:27: Deswegen haben wir's von Tag eins als globale Initiative gedacht.

00:08:33: Mhm.

00:08:34: Gehen wir mal ein bisschen ... rein in das Thema.

00:08:39: Verwaltung ist ja erst mal recht vielseitig, hast du so was einem Beispiel, dass du nutzt um jemanden der nicht so in der Materie ist die Potenziale von agentischer KI zu erklären?

00:08:48: Also wie öffnest Du auf der Party des Gesprächs dazu oder?

00:08:54: Da werde ich nicht mehr eingeladen auf Partys und davon sprechen!

00:08:57: Also ich glaube, das ist was uns als Endkonsumenten auch bei privaten Diensten sehr irgendwie greifbar.

00:09:05: Es ist natürlich ... Beispiel, ich muss heute oder vielleicht in einigen Monaten oder Jahren nicht mehr selber einen Flug buchen sondern ich kann meinem Karriagent sagen bitte buch mir diesen Flug oder such diese Jacke im Internet und kauf sie dann direkt.

00:09:19: Das heißt, ich habe sozusagen einen Willen oder ich verbalisiere, ich hätte gerne etwas Die Jacke finden, kann sie kaufen und mit meiner Kreditkarte bezahlen.

00:09:30: Das heißt ich hab sozusagen zwischen Willen- und Ausführungen eines Services das was ich aktuell noch als Nutzer machen muss.

00:09:38: Das kann ein KI-Agent übernehmen.

00:09:40: Und das kann man so applizieren auch auf den Bereich der öffentliche Leistung.

00:09:45: Das heisst es vielleicht perspektivisch nicht mehr ich selber Elterngeld beantragen muss sondern dass sich mein Bürgeragent sagt Ich hätte gerne das Elterengeld und dann läuft er los.

00:09:53: sozusagen macht das für mich.

00:09:56: Das ist einfach der Reflex und man fällt immer rein in dieses Szenario, weil es halt einfach für uns als Konsumenten so ein ganz klares Szenarios ... Was ich persönlich viel interessanter finde, ich komme aber auch aus dem Bereich öffentliches Beschaffungswesen.

00:10:11: Du hast gesagt, ich war GavTech Unternehmer.

00:10:12: genau da habe ich gegründet.

00:10:14: Es gibt die Möglichkeit, sieht man schon im privatwirtschaftlichen Bereich über Agenten sozusagen automatisiert Einkaufsverhandlungen laufen zu lassen Und jeder, der sich mal mit dem öffentlichen Beschaffungswesen auseinandergesetzt hat weiß es langwierig.

00:10:29: Es bereitet viele Kopfschmerzen ist das nicht immer effizient und da kann man einen KI-Agent sehr gut einsetzen.

00:10:36: oder vielleicht noch ein anderen Bereich den kenne ich sozusagen auch als Unternehmer von früher des Thema Compliance.

00:10:42: oder wie muss ich so zu sagen auch nachweisen dass ich immer als Unternehmen recht schaffen bin.

00:10:48: Nehmen wir das Beispiel, die ist GVO-Konformität.

00:10:52: Das ist für mich als Unternehmen immer eine große... Wichtige, aber trotzdem auch eine große Aufgabe zu gucken.

00:10:59: ist wirklich alles immer im Einklang mit der DSGVO.

00:11:02: Und da gibt es mittlerweile KI-Agenten die ich in meinem System installieren kann, die dann sozusagen schauen bin ich DSGFO konform oder nutze ich irgendwo personenbezogene Daten wo ich vielleicht gar nicht weiß dass ich sie nutze und weiss mich dann sozusagen darauf hin.

00:11:16: Das heißt das sind drei Beispiele Bürgerservices der agentische Einkauf oder die agenzielle Beschaffungswesen und im Bereich Compliance, was ja faktisch eigentlich immer in Interaktion ist zwischen Unternehmen und zwischen Staat.

00:11:30: Ja das sind so drei Cases, die ich extrem spannend finde.

00:11:32: Genau also du hast es jetzt eben schon angedeutet euer Paper ist so aufgebaut dass sie einmal sechs sogenannte Implementierungsschichten also Anwendungsbereiche von KI-Agenten im öffentlichen Sektor, das du jetzt drei von genannt Und da nochmal sechs Enablement-Layers, heißt nicht glaube ich also sozusagen sechs Ebenen der Rahmenbedingungen oder Voraussetzungen die erfüllt sein müssen damit

00:11:57: es funktioniert.

00:11:57: Da gucken

00:11:58: wir später noch mal drauf.

00:11:59: vielleicht bleiben wir nochmal bei den Implementierungsschichten.

00:12:02: Ich habe dir vorhin schon gesagt Wir werden nicht auf alles eingehen können und deswegen auch hier nochmal Die Ermutigung an alle dieses Papier auch selber zu lesen wenn sie das hören ist lohnt sich.

00:12:11: Jetzt kann ich aber der Vollständigkeit halber.

00:12:13: Also drei hast du jetzt genannt, nämlich die Bürgerdienste, die Beschaffung und die Compliance.

00:12:17: Die anderen drei wären die Workflows innerhalb der Verwaltung dann das ganze Thema Policymaking also Politikgestaltungen Gesetzgebung vielleicht auch und Krisenreaktion und Kommunikation alles interessante interessante Fälle.

00:12:34: Du hast Vorhin im Vorgespräch erwähnt, dass gerade dieser Bereich der Politikgestaltung jetzt ganz aktiv bei.

00:12:42: wo war es in welcher Regierung?

00:12:46: Du hast erwähnte Japan jetzt was macht.

00:12:50: Ja, Japan hat interessanterweise komplett unser Papier übersetzt Also diese Unterzeiten und hat es dann auf einer Parteikonvention sozusagen verabschiedet, als eine Leitlinie um den agentischen Staat in Japan zu bauen.

00:13:06: Das heißt das ging sozusagen aus einer politischen Diskussion heraus.

00:13:10: wo sie jetzt aber genau anfangen?

00:13:12: In welchem Teilbereich ... das kann ich noch nicht sagen.

00:13:15: Nee, dann war's das andere Beispiel du hast noch ein zweites Freund genannt.

00:13:18: Musst

00:13:21: du mir kurz Zeit geben?

00:13:22: Sollts mir gleich wieder ein.

00:13:23: Genau, gleich noch mal drauf zurückkommen.

00:13:27: Gut bei den Bürgerdiensten haben wir glaube ich eine Vorstellung wie das aussehen kann.

00:13:31: was gesagt?

00:13:32: okay ich möchte elterngeld beantragen ich schicke meinen Agenten los.

00:13:36: dann wäre es auch denkbar dass dieser Agent dann vielleicht auf einen Verwaltungsagenten trifft, der sozusagen verwaltungsintern diese Workflows irgendwie koordiniert oder dem Bürgeragent sagt.

00:13:48: Dass diese Daten brauche ich von dir, sie vielleicht auch überprüft ist das valide Authentifizierung übernimmt also dass es eigentlich ja ein Phänomen was beide Seiten, also Staat und Bürger in der eine oder anderen Weise betrifft Wobei der Teil, der auf Bürgerseite liegt ja ein bisschen außerhalb der Kontrolle der Verwaltung ist.

00:14:08: Das sieht man jetzt schon.

00:14:09: Leute nutzen KI-Systeme um Anträge zu stellen vielleicht Widerspruch gegen Bescheid einzulegen und so weiter.

00:14:17: das heißt da entsteht ja auch einfach Handlungsdruck für die Verwaltung.

00:14:20: Ja, total.

00:14:20: Aber ich finde das auch eine extrem interessante Frage und genau deswegen glauben wir dass das Papier zu der jetzigen Zeit wichtig ist weil ich könnte ja auch als Staat sagen Ich gebe einen zentralen Bürgeragenten heraus und den dürfen alle frei und kostenlos nutzen.

00:14:35: Weil ich meine faktisch wie läuft es gerade ab?

00:14:38: Menschen mehr Geld die sich ein Abo leisten können von JetGPT oder von Claude, haben einen Abo und können das dann sozusagen nutzen um einfacher mit der Verwaltung zu interagieren.

00:14:48: Weil sie halt wie du sagst zum Beispiel einen Widerspruch KI basiert schreiben können.

00:14:53: Das schafft ja auch eine Ungleichheit in der Gesellschaft weil was ist mit denen die keinen Zugriff haben auf diese Technologie?

00:14:59: Und deswegen ist es noch eine strategische Frage für Staaten.

00:15:03: Vielleicht jetzt zu sagen, es gibt einen zentralen Bürgeragenten, den stellen wir zur Verfügung und denen müssen dann auch alle nutzen.

00:15:10: So wie aktuell wenn jemand ein Service nutzen will zum Bürgeramt gehen muss.

00:15:15: Das ist ja auch ein gleicher Zugang sozusagen.

00:15:19: oder ich sage zum Beispiel als Staat Ich will gar nicht das kommerzielle KIA-Agenten auf meine Dienste zugreifen können weil ich will diesen Interaktionspunkt mit meinem Bürger am Ende des Tages selber haben Weil das eine hoheitliche Aufgabe ist auch da als Staat präsent zu sein.

00:15:33: Wenn wir den Staat nur noch erleben durch JGPT, ich mach's jetzt einmal sehr plastisch.

00:15:38: Dann kann das schon sein, dass es auch zu einem großen Komfort führt?

00:15:42: Aber was macht das dann mit der Qualität an der Demokratie, wenn ich den Staat gar nicht mehr aktiv erlebe sondern nur noch durch den Interface einer KI?

00:15:50: Ja!

00:15:50: Diese Fragen auf die habe ich keine Antwort, aber es ist so extrem wichtig dass wir uns jetzt diese Fragen stellen und jetzt damit auseinandersetzen.

00:15:57: Und eben halt nicht in so einen Automatismus rutschen und dann in zwei drei Jahren sagen, hätten wir besser darüber nachgedacht?

00:16:02: Ja

00:16:03: das ganze interessant habe ich neulich ein Text gelesen vom britischen gds also government digital service Die ja zum Beispiel sehr viel Kompetenz im UX-Writing haben.

00:16:15: Wie formuliere ich auf einer Verwaltungswebseite ein Text so, dass Bürger den Gut verstehen und die jetzt an ihren Analytics sehen?

00:16:21: Die Bürger gehen gar nicht mehr auf die Webseite sondern sie schicken ChatGPT auf die Website.

00:16:26: Und ChatGBt wählt aber nach einem nicht unbedingt transparenten Kriterien dann irgendwie nimmt sich da so Fragmente raus.

00:16:32: Das ist auch nicht immer richtig.

00:16:33: das heißt die müssen jetzt schon wieder eher gucken, wie optimieren sie ihre Webseiten auf diese generativen Agenten so dass die dann auch möglichst richtige Antworten.

00:16:42: zu liefern, weil also die Bürger im Zweifel mit den Füßen abstimmen und sagen das ist mir zu nervig da auf die Webseite zu gehen.

00:16:49: Also man muss sich dazu ohnehin verhalten.

00:16:51: ich glaube das begegnet einem immer wieder in dieser Diskussion um agentische KI dass es passiert gerade einfach und so ein Aussitzen davon oder auch nur einen gestalten zur eigenen Bedingung ist nur begrenzt möglich?

00:17:04: Naja genau aber ich glaube halt dass dieses Gestalten zu dem einen Bedingungen bedeutet oder das setzt voraus dass ich mich mit der Technologie auseinandersetze was ich aktiv gestalten kann, ausweite.

00:17:14: Ich glaube aber ... wenn ich mich deminziere und sage wildes nicht, dann sorgt das nicht dafür dass nichts passiert sondern wird es zu meinen Ungunsten gestaltet.

00:17:22: Das heißt, du hast ja vorhin zu Anfangs gesagt in der Geschwindigkeit oder der Dringlichkeit die ist schon da, aber zeigt gleich muss man uns natürlich auch verantwortungsbewusst machen.

00:17:33: Wir kriegen sie über nur verantwortungst bewusst hin, wenn wir uns möglichst tief und viel damit auseinandersetzen Und dann wird es immer wieder Probleme geben, da werden Fehler passieren.

00:17:43: Wir werden mit riesigen Leben müssen aber wir werden das besser handeln können wenn wir uns aktiver damit auseinandersetzen können.

00:17:49: und vielleicht noch wenn ich nur eine kurze Sache sagen kann weil das erklärt vielleicht auch nochmal warum wir das aufgesplittet haben in diese verschiedenen Anwendungs-Layers.

00:17:59: Das ist ja gerade noch ein anderen genannt Krisenreaktion.

00:18:01: Krisen Reaktion ist ja... Wenn man sich anschaut wie der Vorfall einer Krise ist Low Frequency oder Low Volume High Impact Event.

00:18:13: Krisen im Moment nicht so, aber grundsätzlich finden ja selten statt.

00:18:16: Aber wenn sie stattfinden dann haben Sie halt einen hohen Einfluss auf unser Leben.

00:18:21: Das ist ja was ganz anderes als Workflows im Staat.

00:18:26: Also mal Baugenehmigung würde ich sagen sind relativ gering auf der Krisenskala.

00:18:33: Aber sie passieren sozusagen Hochvolumik und So kann man auch verschiedene Vorgänge im Staat einordnen und kriegt daraus auch einen Gefühl, wie ich KIA-Genten einsetzen kann.

00:18:45: Und grundsätzlich, was ich schon gemerkt habe – da sind wir jetzt nochmal ein Stück weiter als in unserem Gedanken im Oktober – die hochvolumigen niedrig risikopbehafteten Dinge, die ich automatisieren kann mit KIA Genten.

00:19:00: Das sind eigentlich die interessanten Felder, die man sich angucken kann Und es sind ganz oft die langweiligen Dinge, die im Inneren des Staats ablaufen.

00:19:07: Also zum Beispiel die Baugenehmigung und ich glaube dass wir da eben auch stärker uns mit auseinandersetzen müssen was wir automatisieren können wie wir das automatiseren können und uns sozusagen nicht mit den Fällen aufhalten die dann ethische Fragenstellungen auch beinhalten.

00:19:24: wo man noch zu Recht sagen kann Da will ich nicht dass ein KI-Agent entscheidet aber eben uns eher auf die etwas trögeren Fälle aus einem auf die fokussieren, weil ich glaube da ist wirklich auch kurzfristig viel zu holen.

00:19:37: Genau!

00:19:37: Die etwas drögeren Fälle betrifft auf jeden Fall diesen Bereich der Compliance also das was wir eben auch als Bürokratie kennen.

00:19:46: Der Staat macht Vorgaben zum Beispiel für Unternehmen und Bürger aber zum Teil auch für eigene Verwaltung und verbringt dann viel Zeit damit, das zu überprüfen dass diese Vorschriften eingehalten werden.

00:19:58: Da entstehen also Nachweispflichten, da entstehen Prüfschleifen.

00:20:03: Das ist oft noch ein sehr manueller

00:20:05: Prozess

00:20:09: Und da auch in deinen Augen glaube ich wäre wirklich viel Effizienzgewinn rauszuholen wenn man sagt na gut Ich kann sowohl als Unternehmen zum Beispiel einen KI-Agenten damit beauftragen, meine Lieferkette zu dokumentieren.

00:20:23: Als auch umgekehrt verwaltungsseitig die Kontrolle dieser Unternehmens eigentlich auslagern und dann vor allem deutlich beschleunigen.

00:20:30: Das heißt es vergeht nicht so viel Zeit zwischen dem Event unter Überprüfung sondern das passiert mehr oder weniger in Echtzeit?

00:20:37: Genau also vielleicht ein noch einfacheres Beispiel als Lieferkettenbetriebsprüfungen.

00:20:42: jedes Unternehmen kennt das.

00:20:43: irgendwann kommt eine Betriebsprüfe Prüfung.

00:20:45: ich habe mir selber gegründet Irgendwann kam dann eine Betriebsprüfung, doberweise genau dann als ich mein Unternehmen auch zum Glück erfolgreich verkauft habe.

00:20:53: Aber das ist ja sozusagen ein Event, das findet einmal statt und prüftrückwirkend war ich da ... hab ich mich im Sinne der Vorschriften verhalten oder nicht?

00:21:04: Ich will als Unternehmer eigentlich dass mir jemand die ganze Zeit sagen kann Halt ich gerade alle Vorgaben ein oder nicht und sozusagen nicht rückblickend erst nach ein paar Jahren.

00:21:14: Und selbst wenn ich nach dem besten Gewissen und Wissen immer versuche alles einzuhalten, kann es ja trotzdem sein dass sich manchmal Sachen übersehen.

00:21:23: Da gibt es halt technische Möglichkeiten.

00:21:24: oder kann man da noch Szenarien aufbauen das man sagt Ich würde bei mir in meinem Unternehmen sozusagen einen einen staatlich geprüften KI-Agenten laufen lassen.

00:21:32: Der hat Zugriff auf meine Finanzkennzahlen, der Zugriffs auf die Personaldaten und er kann die ganze Zeit sozusagen immer sagen bin ich compliant also halte ich die Vorgaben ein oder nicht und meldet dann aber nur an das Finanzamt zum Beispiel zurück ja alles in Ordnung oder kann da noch sagen so oh hier ist gerade was nicht in Ordnungen?

00:21:50: Da können mir auch mal eine gelbe Ampel geben und sagen guck mal da rennst du potenziell in eine Nicht-Einhaltung einer Vorgabe ein.

00:21:57: Und damit kann ich sozusagen den Mechanismus von dem Prüfungen einmal umdrehen, weil Prüfung bislang ist ja immer retrospektiv, es ist einmalig und damit kann Prüfung aufbauen, die die ganze Zeit durchläuft und mir sozusagen auch vorwärtsdenkend Hinweise gibt.

00:22:14: Hier potenziell läufst du in eine Nichteinhaltung rein.

00:22:18: Und dieses Umdrehen von was in den Retrospektiven, von was einmal stattfindet zu etwas vorausschauenden, was die ganzezeit stattfindets.

00:22:27: Das ist so ne Mechanik, die wir ganz oft sehen wenn man agentische KI einmal durchdenkt durch staatliches Handeln Und es hat natürlich auch eine höhere Qualität.

00:22:37: Es hat für mich eine Qualität als Unternehmer, das hat eine hohe Qualität für den Staat.

00:22:42: und schlussendlich haben wir vorhin schon kurz darüber gesprochen dieses Thema Regulierung, dass ja teilweise auch sehr kritisch gesehen wird.

00:22:49: also ich kann damit ja auch schon erreichen, dass was faktisch gerade nicht gut funktioniert an der Regulierung nämlich, dass sich mit menschlichen Prozessen nicht mehr hinterherkomme und deswegen so ein bisschen in den Reflex auch kommen zu sagen soll dann müssen wir deregulieren Ja, auch komplexe Regulierung wieder exekutierbar macht mit Hilfe von KI-Agenten.

00:23:10: Und mir die Deregulierung eigentlich sparen kann weil ich es ermögliche so wie wir die Regulierungen aufgebaut haben in ihrer ganzen Komplexität überhaupt erst wieder beherrschbar und abbildbar zu machen mithilfe von KI Agenten.

00:23:24: Wir kommen nachher noch mal auch auf solche Themen wie Datenschutz zu sprechen, aber weil es an der Stelle gerade schön passt und weil sich vielleicht auch einige Hörner jetzt schon gefragt haben was unterscheidet eigentlich real-time compliance von totaler Überwachung sozusagen.

00:23:38: Inwiefern haben solche Überlegungen auch für euch in dem Paper eine Rolle gespielt?

00:23:45: Man läuft ja zwangsläufig eigentlich, wenn man das soweit in diese Spannungsfelder hinein.

00:23:51: Weil die KI-Agenten natürlich einfach besser werden je mehr Daten sie haben und gleichzeitig will ihnen aber vielleicht nicht alle geben wollen.

00:23:59: Also irgendwann mussten wir da einen Strich machen sonst wären es nicht hundert Seiten geworden mit dem Papier sondern zweihundert.

00:24:07: Klar ist es ein Risiko, weil klar gebe ich damit potenziell einem Staat mehr Möglichkeiten auch zu überprüfen.

00:24:15: Ich hab deswegen aber gerade bei dem Thema Betriebsprüfung ganz bewusst gesagt, nehmt das Beispiel einen KI-Agent, staatlich geprüfte IKI-Aigent Open Source gestellt und ich kann dem Source Code genau nachprüfen was dieser Agent zählt oder nicht sehen und was meldet er dem Staat zurück?

00:24:33: Vielleicht gibt es uns auch die Möglichkeit damit, das Risiko von Überwachung zu minimieren.

00:24:39: Weil ich dann ganz klar sehen kann was kann der KI-Agent weitergeben?

00:24:42: Was kann er nicht weiter geben?

00:24:44: und wenn er sozusagen aus meinen Betriebsnaten nur rauslesen kann, Firma XYZ ist sozusagen hält alle Vorschriften ein oder nicht und jetzt nicht mehr raus lesen kann Dann kann ich es ja da auch sozusagen schaffen, dass ich die Privatsphäre erhöhen kann.

00:25:01: Was halt glaube ich wichtig ist komplett für das Vertrauen von Bürgern und Unternehmen, ist, dass sich als Staat die Eagenten, die ich nutze, Open Source-Stelle oder alle Einsehberes was machen, wie viel funktionieren sie?

00:25:11: Was können die ... Was für Zugriffsmöglichkeiten haben Sie?

00:25:14: Ja!

00:25:16: Und dass ich gleichzeitig auf Seite also zum Beispiel als Unternehmen oder so eben Kontrolle über meine eigene Infrastruktur oder was auch immer der Einsätze entsprechend auch.

00:25:25: berücksichtige.

00:25:29: Bisschen anderes Thema, die Ukraine ist eine Vorreiter-Nation bei der Einführung von KI-Agenten und auch sehr eng an eurer Initiative beteiligt.

00:25:39: Die Ukraine hat ja insgesamt eine ziemlich spektakuläre Entwicklung im Bereich i government gemacht das glaube ich in den letzten fünf sechs Jahren von Platz hundert zwei im UN Ranking auf Platz fünf in die Höhe geschossen Haben jetzt kürzlich eben eine Roadmap aufbauend auf eurem Papier veröffentlicht, auch auf derselben Webseite agenticstate.org.

00:26:02: richtigen Implementierungsplan.

00:26:05: Wie kam es eigentlich zu dieser Zusammenarbeit und wie erklärst du dir das ausgerechnet die Ukraine hier so weit vorne ist?

00:26:13: Also erst mal finde ich es wichtig, dass du sagst das diese Entwicklung der Ukraine schon fünf bis sechs Jahre alt ist.

00:26:17: Das ist einmal zurückgerechnet vor dem furchtbaren Angriffskrieg der Russen.

00:26:24: richtig genau und das ist auch ganz wichtig immer wieder zu sagen was in der Ukraine passiert ist nicht eine Reaktion auf den Krieg sondern wurde davor begonnen.

00:26:32: Und klar ist aber auch, dass die Digitalisierung der Verwaltung an vielen Stellen beschleunigt hat weil es gab oft dann keine Möglichkeit für die ukrainische Bevölkerung physisch Verwaltungsleistung zuzugreifen.

00:26:44: Das heißt, es musste digital funktionieren.

00:26:46: Wenn das funktionieren muss, dann funktionieren die Dinge auch manchmal besser.

00:26:51: Da haben wir ja auch gesehen in verschiedenen Ländern über die Corona-Krise und da gehen plötzlich Sachen, die sonst nicht gehen.

00:26:57: Aber das ist sozusagen ein wichtiger Punkt.

00:26:59: Und richtig ist auch, dass sie erst vor kurzer Zeit damit angefangen haben eine große Geschwindigkeit bei der Verwaltungstigitalisierung aufzunehmen was Ihnen jetzt ermöglicht, auf einer sehr modernen Technologiebasis diesen Schritt zu machen von dem digitalen Staat zum agentischen Staat.

00:27:17: Also sowohl Michaelov Fedorov, der damals Digitalminister, jetzt Verteidigungsminister spricht ja auch sehr aktiv vom agentischem Staat.

00:27:27: nachdem wir den Begriff eingeführt haben wird es nicht sagen dass er sich davon inspirieren lassen hat.

00:27:32: aber das ist trotzdem schön, dass die Regierung aufgegriffen hat.

00:27:38: Und deswegen ist es sozusagen der Ukraine auch Karle gut möglich aus der Geschwindigkeit, die sie aufgenommen haben.

00:27:44: Jetzt auf einer eben sehr modernen Technologie Basis von einem digitalen Staat weiterzudenken in einen agentischen Staat.

00:27:51: Das ist für ein Digitalisierungsvorreiter wie Estland gerade etwas schwieriger weil die würde ich sagen so den den Peak ihrer Geschwindigkeiten vielleicht ein paar Jahre davor hatten.

00:28:01: Und jetzt glaube ich selber erst auch noch mal gucken müssen, was an unserer Technologie ist denn überhaupt kompatibel mit agentischem System?

00:28:07: Was müssen wir weiterbauen?

00:28:09: Genau und deswegen ist die Ukraine halt gerade interessant.

00:28:11: Weil sie Right Place, right Time jetzt einfach mit einer hohen Geschwindigkeit die neuen Technologien also die KI-Agenten sich zu eigen machen können.

00:28:22: Noch ganz kurz zuletzt wie es zu diesem Papier gekommen zu dieser Implementierungsroadmap.

00:28:27: Wir haben immer gesagt, auch mit dem Papier letzten Oktober wer a sagt muss auch b sagen.

00:28:33: Wir haben einmal sozusagen eine Vision dafür geliefert was agentisch KI machen kann.

00:28:39: aber das ist jetzt nicht unser Anspruch da aufzuhören sondern wir wollen auch verstehen und wollen aufzeigen wie Länder jetzt das konkret in die Tat umsetzen können.

00:28:47: Und da sind wir natürlich sehr glücklich, dass wir über die Kontakte mit den ukrainischen Regierungen dazugekommen sind.

00:28:53: Dass sie gemeinsam mit uns diese Implementierungsroadmap geschrieben haben und eben einmal durchdekliniert haben, diese zwölf verschiedenen Layers, die wir aufgebaut haben.

00:29:02: Was machen Sie da?

00:29:03: Wie haben Sie das aufgebaut?

00:29:04: Warum sieht es aus?

00:29:06: Und dann ist das ganz bewusst auch so geschrieben, dass man einerseits verstehen kann was hat die Ukraine gemacht?

00:29:10: aber wir gehen auch immer einen Schritt zurück und sagen was sind die dahinterliegenden Fragen damit auch andere Länder verstehen können.

00:29:17: Das ist die Frage, die sich die Ukraine gestellt hat und so haben sie es gelöst.

00:29:21: Vielleicht muss ich das für mich als Land aber anders beantworten diese Frage.

00:29:25: Weil ansonsten weiß man was ein anderes Land gemacht hat.

00:29:30: Du kriegst eine Bedienungsanleitung oder du weißt gar nicht für welche Spiel im Prinzip.

00:29:36: Immer diesen Schritt zurückzumachen diesen Modus der Reflektion in anderen Ländern in Gang zu bringen.

00:29:42: Zu sagen, wenn die Ukraine das so gemacht hat und bei denen gelten die Kriterien, dann passt es für uns nicht.

00:29:49: Dann muss ich vielleicht so ändern.

00:29:51: Das zeigt dieses Peer-Learning was ganz Interessantes.

00:29:54: Und das wollten wir halt genau hinkriegen mit dem

00:29:56: Papier.".

00:29:58: Da gibt's diese App, die heißt DIAR.

00:30:00: Und gilt auch so als die erste agentische App eines Staates oder.

00:30:05: ich weiß nicht ob das jetzt Marketing ist aber...

00:30:07: Ja ausdrücklich muss man auch fairerweise sagen.

00:30:08: Also

00:30:09: genau!

00:30:09: Das sind sozusagen diese zentrale ukrainische App für Bürgerleistungen.

00:30:13: So habe ich es verstanden.

00:30:14: Kannst du das erklären was dieser App macht und was daran agentisch ist?

00:30:18: Oder so gelabelt wird?

00:30:19: Ja, es ist relativ einfach.

00:30:23: Die Ukraine haben ein zentrales Interface geschaffen mit dem ich auf meine ganzen Verwaltungsleistungen zugreifen kann.

00:30:29: So wie

00:30:30: die Deutschland-App?

00:30:31: So wie bald dann auch die Deutschland App... Was die Ukrainer gemacht haben was wichtig ist damit so etwas funktioniert.

00:30:37: sie haben natürlich im Backend alle Services angeschlossen.

00:30:40: das heißt ich kann da jetzt mein Auto abmelden Ich kann Bußgelder bezahlen Ich kann meine Einkommenssteuer nachweise irgendwie wenn ich sie verloren habe nochmal neu beantragen.

00:30:50: und damit das aber sozusagen durch eine App funktioniert muss ja im Hintergrund alles miteinander vernetzt sein.

00:30:55: Das heißt, ich brauche halt ein zentrale Register, ich brauch ein System dass Daten austauschen kann zwischen den zentralen Registern usw.

00:31:01: und sofort.

00:31:03: Also jeder der sich mit Software und IT auseinandergesetzt hat weiß glaube das Interface als App, ist relativ einfach.

00:31:10: Aber was im Hintergrund passiert?

00:31:12: Das ist das, was wichtig und aufwendig ist.

00:31:15: Und das haben die Ukraine sehr gut gemacht.

00:31:19: Als sie es schon als Grundlage haben, ist es relativ einfach sozusagen jetzt dieses Interface zwischen Bürger- und der App zu nutzen, um da agentische Leistungen reinzubringen.

00:31:30: Wie sieht's dann im Prinzip aus?

00:31:32: Also ich kann mittlerweile Speech to Text, ich kann reinsprechen Ich hätte gerne mein Einkommensnachweis.

00:31:40: Und dann kann der KI-Agent das sozusagen übersetzen in ... ich such jetzt für dich innerhalb der App, welcher Dienst erlaubt es mir, Einkommennachweise neu zu erzeugen und kann diesen Befehl auch ausführen.

00:31:55: Aber da ist halt ganz viel davor passiert was den letzten Schritt extrem einfach macht?

00:32:03: Ja

00:32:04: Ein relativ kurzer

00:32:05: Zeit.

00:32:06: Ja, natürlich also allergrößten Respekt.

00:32:08: wie Sie das gemacht haben ist extrem beeindruckend.

00:32:11: aber sie können es nur weil sie halt sechs Jahre extrem gute schnelle tiefgreifende Vorarbeit gemacht haben.

00:32:19: Das ist schon sehr interessant.

00:32:20: dieses in der Entwicklungszusammenarbeit nennt man das ja Leapfrogging also das Überspringen von Entwicklungsphasen und das Beispiel jetzt auch Estland was ja immer noch so besonders im Deutschland als Vorzeigenation der Digitalisierung wahrgenommen wird.

00:32:33: Soll ich dir dann Lustige Anekdote dazu erzählen?

00:32:36: Wir haben ja schon uns ein anderer Mal darüber ausgetauscht.

00:32:41: Was machen eigentlich digitale erfolgreiche Staaten und was sind so die dahinterliegenden Faktoren?

00:32:46: Es ist tatsächlich so, dass viele Staaten von denen diese erfolgreich digitalisieren ... Für den war Digitalisierung nicht ein Selbstzweck, sondern es war immer das Ziel zu etwas größerem.

00:32:55: Ja!

00:32:55: Und Estland zum Beispiel nach der Unabhängigkeit von der Sowjetunion, hat sie die Möglichkeit von Finnland analoge Telefone zu bekommen.

00:33:06: Und der damalige sehr, sehr junge estnischen Ministerpräsidenter gesagt, nee es will ich nicht weil ich kann kein modernes neues Land aufbauen auf Grundlage von Legacy-Technologie.

00:33:16: und gesagt so nix mache ich nicht und wir leapfroggen sozusagen direkt rein in Mobiltelefone.

00:33:22: Das heißt da hast du halt auch dieses Element des Leapfrogging allerdings halt dreißig Jahre vor der Ukraine.

00:33:29: Aber interessant, und wenn man das sozusagen so einmal ... Man kann es auch anwenden auf andere Länder.

00:33:34: Das geht jetzt zu weit.

00:33:34: aber eigentlich sieht man ganz oft dass Länder die sich erfolgreich digitalisieren einmal diesen Liebfrogging Moment haben Und auch die Digitalisierung also Teil von etwas größerem ist eigentlich Teil von der Staatsmodernisierung und dann Mittel zum Zweck ist und du dann auch erst die Geschwindigkeit und Den politischen Willen dahinter kriegst, dass man das mit vollem Einsatz macht.

00:33:58: Ich möchte das jetzt nicht die Analogie zu unserem Glasfaser ausbauen.

00:34:01: Ich habe es gerade

00:34:02: schon an deinem Gesicht gesehen, dass

00:34:04: wir jetzt wirklich zu weit sind.

00:34:05: aber interessant finde ich doch an den Überspringen von Entwicklungsphasen das ja auch.

00:34:10: ich weiß nicht ob das in Deutschland schon so realisiert wird.

00:34:13: vielleicht weißt du du arbeitest ja auch viel mit deutschen Verwaltungen zusammen dass wir in der deutschen Digitalisierung also Ziele verfolgen, das Stichwort Online-Zugangsgesetz und so weiter.

00:34:23: Wo man sich jetzt sehr ernsthaft fragen muss ob die nicht eigentlich hinfällig sind?

00:34:26: Und es gleichzeitig aber mehr Jahrespläne gibt wo den Leuten wie wir immer gerne gewarnt haben gesagt haben macht keine mehr jahres Pläne.

00:34:33: Aber gut.

00:34:36: Also Das erfordert jetzt ja auch, wie das bei so einer Disruption ist.

00:34:40: So eine sehr ehrliche Anerkennung von okay.

00:34:43: also eigentlich diese Sachen die wir uns vor zehn Jahren vorgenommen haben, die müssen wir jetzt gar nicht mehr zu Ende machen.

00:34:49: Schade dass wir sie nicht so gut hinbekommen haben.

00:34:51: aber eigentlich wäre es vielleicht auch sinnvoller jetzt nochmal von vorne anzufangen.

00:34:54: oder wie siehst du das?

00:34:56: Ja das ist ein extrem interessante Diskussion und Frage auf die ich keine Antwort habe.

00:35:01: Ich glaube da ist diagentische KI schon neue Möglichkeiten mit sich bringt, Dinge komplett anders zu machen.

00:35:08: Und es kann ein Vorteil sein, wenn man noch nicht so viel Legacy IT hat oder festgefahrene Prozesse und auch einen Texteck der zehn Jahre alt ist vielleicht, sondern wenn ich auf einem Weißenblatt Papier beginnen kann ... Ich glaube das ist für Deutschland eine Chance sein kann.

00:35:27: Das komplette Thema Fachverfahren sind ja einigermaßen simple ... Computerprogramme speziell für die Verwaltung.

00:35:36: Lass das mal so durchgehen, mit dem einigermaßen simpel.

00:35:39: Ja also es sind ja schon würde ich sagen diese High-Volume Low-Complexity einfach mit ganz klaren Regeln...

00:35:46: Du hast natürlich recht!

00:35:46: Das sind meistens Datenbanken und eine Eingabemastik.

00:35:50: Wir haben in Deutschland extrem hohe komplexe Fahrverfahrenslandschaften.

00:35:54: da würde ich schon darauf wetten dass die in fünf Jahren komplett anders aussieht.

00:35:58: Und dass der Staat vielleicht auch wieder Dinge selber machen kann, die jetzt an Dienstleister ausgegliedert ist.

00:36:03: Das ist natürlich eine Chance.

00:36:05: Es ist für Deutschland die größte Chance, ich würde nicht sagen ... Ich schaue mit großem Interesse auf die Erschwellenländer oder Entwicklungsländer, weil sie, glaube ich, eine ganz große und interessante Möglichkeit haben in Situationen rein zu Leapfrocken.

00:36:21: Genau.

00:36:21: Weil die einfach wenig Legacy-HIT haben und auch was sozusagen Analogeprozesse betrifft.

00:36:29: Vielleicht noch nicht die Komplexität haben, in einer gewachsenen Bürokratie wie Deutschland eine ist, eben haben.

00:36:36: Jetzt sind wir schon mitten reingerutscht in diese Ebene der Enablement-Layers

00:36:41: also der

00:36:41: sozusagen sechs Schichten die ihr da beschreibt von Voraussetzungen und Rahmenbedingungen damit diese Transformation zum agentischen Staat gelingen kann.

00:36:52: auch hier wenn ich über alles spreche aber ich kann sie einmal kurz nennen es geht um Governance es geht Um Daten und Datenschutz Es geht um technische Infrastruktur, um IT Sicherheit und Resilienz um Finanzen natürlich und letztlich auch um Personalführung, Kultur.

00:37:10: Kürzlich wurde der Stanford AI Index veröffentlicht, macht so ein Institut aus Stanford jedes Jahr.

00:37:17: Und darin gibt es einen Überblick über Notable AI Model Releases also die bemerkenswerten KI-Modelle, die im Jahr twenty fünfundzwanzig veröffentlich wurden Fünfzig davon aus den USA, dreißig aus China und eines aus der EU.

00:37:35: Aus Frankreich.

00:37:38: Jetzt gibt's ja im Moment hier eine große Diskussion über technologische Souveränität.

00:37:44: Und jetzt sieht es so aus als ob die Technologien, die man zumindest für die modernen Agenten benutzt, im Moment nicht in Europa erfunden werden.

00:37:52: Geht das überhaupt Agentic State auf souveräna-Technologiebasis?

00:37:58: Jetzt könnten wir noch mal ein Podcast eine Stunde lang machen zu dem Thema, was bedeutet eigentlich digitale Souveränität?

00:38:04: Also Fakt ist gerade wenn man sich stand jetzt die Technologie anschaut.

00:38:06: Die großen Modellanbieter kommen aus Amerika und das sind auch die, die gängigerweise genutzt werden.

00:38:13: Ich kann dir aber überhaupt nicht sagen ob das auch die Modelle sind, die wir in einem Jahr nutzen.

00:38:17: Also diese Multi-Purpose-Modelle, die großen Modelle sei es von Open Air oder von Kloat Die haben den Vorteil, dass sie wahnsinnig viele Sachen noch einigermaßen gut können.

00:38:28: Das macht es ja auch für uns als private Nutzer so komfortabel.

00:38:33: Wenn ich jetzt einen KI-Agenten brauche der wirklich nur immer prüft Baugenehmigung ist die Eingereichte der Antrag für eine Genehmigung komplett mit meinem Baurecht.

00:38:51: das ist ein relativ enges Feld von dem, was der Agent machen kann und können muss.

00:38:57: Da kann ich mir schon vorstellen dass wir in Zukunft spezialisierte Modelle haben, die auch eigentlich trainiert sind und da brauche ich vielleicht die riesigen Modelle von amerikanischen Herstellern gar nicht mehr sondern kann dann perspektivisch auch Opensource-Modelle nutzen, die nicht so leistungsfähig sind.

00:39:11: aber sie brauchen diese Leistungspfähigkeit an den Punkt gar nicht.

00:39:19: Und auch das kann ich wieder nicht beantworten.

00:39:21: Wir stehen irgendwo an dieser Wegstrecke oder in einem Wegzweig zwischen, replizieren wir die olikopolistischen Marktstrukturen, die wir im Cloud-Bereich gesehen haben wo es eine wenige amerikanische Hyperscaler gibt den Cloudmarkt Dominion und replizierend wird das sozusagen jetzt auch in dem Bereich für große Sprachmodelle.

00:39:43: Das ist ein seines Szenario dass aus verschiedenen Gründen mich nicht gut finde.

00:39:49: Oder sind wir so kurz vor den Early Days of the Internet, wo ja zu Beginn des Internets mit freien Protokollen und offenen Protokollen ist eigentlich eine sehr demokratisierte Technologie war.

00:40:01: Das würde ich mir wünschen.

00:40:02: Es würde mich nicht nur für Deutschland wünscht, das würde ich auch für ganz viele Entwicklungs- und Schwellenländer wünschten die einfach nicht das Geld haben kommerziell Modelle einzukaufen.

00:40:11: aber wenn wir perspektivisch da hinkommen dass es halt Open Source Modelle gibt die alle benutzen können wäre das definitiv halt eine Möglichkeit und ein Weg, dass ich die Abhängigkeit von kommerziellen Anbietern natürlich reduziere.

00:40:26: Dass ich vielleicht Modelle habe, die jetzt nicht super Performance sind aber für den Task, den ich gerade brauche absolut ausreichend sind.

00:40:35: Und ich da natürlich dann digitale Souveränität ganz anders denken kann weil ich da nicht in der Abhängkeit komme, weil ne Open Source-Modell im Zweifelsfall niemand gehört also ich keine Lizenz dafür brauchst zu nutzen.

00:40:47: Aber gut mein was wird es sein erstes oder zweiteres?

00:40:50: also ich glaube wir müssen mal irgendwie dafür planen auch dass das erster ist.

00:40:53: vielleicht wird der gibt es dann aber auch möglichkeiten.

00:40:57: Geschickter Modell anbieter zu nutzen und halt die auch austauschbar zu machen.

00:41:03: ganz tief drin sage ich natürlich weiteres als so einfach eine vielzahl von open source modellen die hinreichend gut funktionieren damit man ganz ganz viele tolle Sachen machen kann.

00:41:12: Wer glaube ich ein Innovationsschub für die gesamte Menschheit, die nicht extrem interessant finde.

00:41:17: Genau

00:41:17: also ich hätte eigentlich schon noch Hoffnung denn es gibt genau durchaus leistungsfähige Open Source Modelle sind vielleicht nicht ganz auf dem Level dann immer der kommerziellen Frontiermodell aber das muss eben für so einen spezifischen Anwendungsfall vielleicht auch gar nicht immer sein.

00:41:33: Für eine Verwaltung sind ja vielleicht andere... Dinge wichtig.

00:41:36: Es gibt auch eine Diskussion darüber, ob man nicht eigentlich eher so symbolische KI-Systeme, die eben stärker regelbasiert arbeiten also nicht mit näherungswerten und Wahrscheinlichkeiten denn wir wollen ja wissen ist die Baugenehmigung ist genehmigt oder verpnicht und nicht zu siebenundneinzig Prozent vielleicht genehmigte oder so?

00:41:54: Also wer durchaus denkbar das eigentlich?

00:41:56: Staat und Verwaltung sagen wir brauchen auch ne ganz eigene Form von KI die sich vielleicht noch entwickeln muss und vielleicht ist das auch eine Chance in dieser Nische, gerade für Europa was zu tun.

00:42:09: Nimmst du da Aktivität wahr?

00:42:11: Gibt es Staaten die nicht nur Rechenzentren bauen sondern die sagen wir wollen eigentlich perspektivisch eigene KI-Modelle entwickeln, trainieren vielleicht auf unsere Anwendungsfälle, auf unsere Gesetzeslage zum Beispiel?

00:42:23: Ja also ich glaube dass so wie ich die Diskussion noch gerade wahrnehme wenigen hochkapitalisierten Unternehmen aus amerika die die großen modelle gerade zur verfügung stellen.

00:42:33: Die wollen natürlich, dass die ganze welt glaubt das ist nur so ginge und es nur so kapitalintensiv der einzige richtige weg ist um gute modelle aufzubauen Und das schreckt natürlich ab und das ist natürlich aus deren sicht das beste was passieren kann weil dann Ja kommt dadurch keine konkurrenz zustande.

00:42:53: Ich glaube aber auch, dass wir in der Zukunft ... Also ich hoffe, dass andere Modelle sehen werden.

00:43:00: Spezialisierter-Modelle, die dann bei ganz vielen Nutzungen ausreichend sind.

00:43:05: Aktuell ist es ja so mit den großen performanten Sprachmodellen ein bisschen, als ob ich mit der Schrotflinte auf dem Spatzen schieße.

00:43:12: Macht keinen Sinn!

00:43:15: Und wo die dann herkommen?

00:43:16: Wo die zur Verfügung gestellt werden?

00:43:19: Also ich war vor ... ... einigen Wochen bei dem Global AI-Summit in Indien.

00:43:24: Ich will nicht sagen, dass es aus Indien kommt aber natürlich hat ein Land wie Indien extrem hohes Interesse daran... ... das seinen Anwendungen in einzelnen Industriezweichen so gestaltet werden,... ...dass sie da auch mit eigenen Modellen zu arbeiten können um Teil der Wertschöpfung im Land zu halten.

00:43:43: Deswegen also Indian hat ja auch sozusagen eine große Anzahl von fähigen Programmierern.

00:43:49: Ob's daherkommt Ob es aus Deutschland kommt, oder schlussendlich dann auch nicht das Modell so entscheidend ist.

00:43:55: Sondern vielleicht auch die Daten, die ich habe und in vielen Industriezeugen in Deutschland haben wir ja sehr tiefe und sehr qualitativ hochwertige Daten über die Produktion was wie gesagt für mich wahnsinnig schwierig zu sagen.

00:44:07: Entscheidend glaube ich, dass wir jetzt halt nicht den Kopf in den Sand stecken und in so eine Paralyse verfallen aufgrund von den Stanford Zahlen, die du gerade genannt hast um zu sagen, oh Gott, wir hängen hinterher!

00:44:18: Wir können das gar nicht irgendwie noch aufholen sondern deswegen sehr, sehr aktiv anfangen Wege zu finden.

00:44:26: Die vielleicht auch smarter sind als das eine große Modell zu bauen was dann alles können soll.

00:44:36: Ja jetzt kommen wir langsam schon auf die Zielgeraden dieses Gesprächs.

00:44:39: da darf ich jetzt auch noch die etwas schwierigeren Fragen stellen...

00:44:43: ...die du denn enterweise bis zum Ende aufrufen

00:44:44: musst?

00:44:45: Genau und die du jetzt auch nicht mehr beantworten musst.

00:44:47: aber also Demokratie ist ein bisschen auf dem Rückzug gerade global.

00:44:54: Das ist zumindest eine Diagnose, die viele teilen und autoritäre Politik ist auf dem Vormarsch.

00:45:02: Es kann ich verstehen dass man sagt ja so was wie diese Verwaltungssysteme, die wir hier still an sind erstmal Werkzeuge, die kann man natürlich gut oder weniger gut einsetzen.

00:45:14: Hast du dir mal Gedanken gemacht darüber, ob es da trotzdem vielleicht Inherente bei es gibt?

00:45:19: Es ist leichter für ein autoritäres System diesen Übergang zu gestalten als für eine Demokratie zum Beispiel.

00:45:27: Also erstmal ich glaube die gute Nachricht dass wir führen dieses Gespräch kurz nach den Wahlen in Ungarn.

00:45:32: Ja.

00:45:34: Wo kann man jetzt irgendwie viel Kaffeesatzleserei betreiben?

00:45:40: aber ich finde das ist schon noch ein schönes Signal dafür die ein demokratisches System ja doch einen großen Wert hat.

00:45:48: Dass eine Gesellschaft so wichtig ist, dass sie sich mit einer Zweidrittelmehrheit dazu entscheidet, dass das das richtige System ist?

00:45:57: Ich würde es glaube ich gar nicht immer so runterbrechen auf Demokratie oder Autokratie sondern ich würd's glaub' ich mal zu formulieren und sagen am Ende des Tages will der Bürger ein Staat, der funktioniert Anekdotische Evidenz.

00:46:16: Mein Vertrauen in den Staat sinkt oder steigt mit den täglichen Interaktionspunkten, die ich habe und wenn sie gut funktionieren... Wenn Sie aufgrund von Technologie gut funktionierend dann gewinne ich Vertrauen im Staat.

00:46:31: Beispiel Singapur mit den Arbeiten wir natürlich auch eng zusammen.

00:46:34: Ersingerbohr ist auch keine Demokratie im jetzt eng gefassten klassischen Sinne.

00:46:39: Die deutliche Bevölkerung ist trotzdem sehr zufrieden und hat ein großes Vertrauen in den Staat.

00:46:45: Ja, ähm... Estland aber genauso ja?

00:46:48: Also ähm, Estland ist eine Demokratie und da ist das Vertrauen auch groß.

00:46:53: Das heißt ich glaube unabhängig von der Staatsform ...demokratie oder Autokratie es muss doch immer darum geben dass ich am Ende des Tages schaffe einen effizientem guten Staat aufzubauen, dem ich als Bürger vertrauen kann.

00:47:11: Und ganz viel davon läuft glaube ich unter diesem Ebenen der Staatsform und unabhängig davon habe ich alle vier Jahre mal wehlen darf oder nicht.

00:47:18: und ich glaube ein Fehler den wir in Deutschland nicht machen dürfen ist uns darauf zurück sozusagen zu sagen so ja aber wir sind eine Demokratie und damit sozusagen auch moralisch zu überhöhen und auch ein bisschen die Scheulklappen aufzusetzen und uns nicht zu vergleich mit anderen Ländern wenn es um die grundsätzlichen staatlichen Aufgaben geht.

00:47:38: Beispiel Qatar hat eine vollautomatisierte KI-basierte Baugenehmigung, da kriege ich einen Bauantrag nach hundertzwanzig Minuten zurück.

00:47:47: Da würde ich sagen ja das ist keine Demokratie und man kann zu Recht sozusagen dieses politische System dort kritisieren.

00:47:53: aber diese grundsätzliche Aufgabe, die der Staat macht, die er gut macht an dem müssen wir uns messen.

00:48:02: Das finde ich wichtig, dass voneinander zu trennen.

00:48:05: Demokratie oder nicht Demokratie ist eine wichtige Debatte.

00:48:08: Aber es befreit uns nicht davon ein Staat und digitalen Staaten aufzubauen, der einen möglichst hohes Vertrauen von Bürgern in diesen Staat fördert.

00:48:17: Da haben wir ne extrem lange Hausaufgabenliste ... Und viele Dinge, die wir da abbilden können, die faktisch jetzt erst mal nichts mit demokratischen Rechten zu tun haben.

00:48:28: Ich würde sagen, eine Baugenehmigung ist relativ weit weg entfernt davon.

00:48:32: Und manchmal habe ich das Gefühl, verfallen wir dann sozusagen in Modus zu sagen eben ja aber wir sind eine Demokratie und ich glaube es gibt aber ganz viele Sachen und ganz viele Herausforderungen und Probleme die wir in der Verwaltung im Staat haben in Deutschland, die relativ weit weg sind von einer Demokratie.

00:48:48: wenn wir uns darauf konzentrieren würden wäre es im ersten Schritt schon mal extrem gut.

00:48:53: Das kann ich nachvollziehen, so war es auch gar nicht gemeint.

00:48:56: Ich habe mich etwas in Rage geredet und alles gut.

00:48:58: Ich glaube jetzt nicht dass wir sind eine Demokratie, eine Begründung dafür sein sollte zum Beispiel keine Innovation oder keine Digitalisierung zu machen.

00:49:08: Mein Gedanke war eher du auch manchmal Sorge hast das diese Werkzeuge in den Händen von autoritären Regierungen nochmal sehr viel mächtiger und vielleicht auch ein unguter Artmächtiger sein können, aber das ist jetzt wirklich auch eine spekulative Frage.

00:49:24: Ja

00:49:26: ich glaube jedes Werkzeug dass es in einer autokratischen Regierung hat wird sie nutzen wenn sie es nutzen kann und will.

00:49:33: also das haben wir bei den wir bemerken das bei den sozialen Medien Wir merken das Bei anderen Bereichen der Cybersicherheit bei dem Mitlesen von Kommunikation.

00:49:43: Ich glaube da ist auch Argentische KI nicht davor gefeiert.

00:49:46: Das ist glaube ich ein Automatismus.

00:49:48: werden einen ein Regime etwas schlecht, das will für seine Bürger dann wird es die Möglichkeiten ausnutzen.

00:49:53: Ja deswegen ja und deswegen ist es aber glaube ich so wichtig dass man auch eben aufzeigt, dass ähm Argentische KI oder ein argentischer KI im demokratischen Sinne gut gebaut werden kann und sicher gebaut werden können und im Sinne der Bürger gebaut werden.

00:50:05: Ähm

00:50:08: eine weitere Debatte zum Thema Übergang ähm Implementierung Übergang ins KI-Zeitalter ähm da gibt es mitunter die Kritik zu sagen So was wie dieses agentic state das ist ein technischer eine technische lösung.

00:50:23: aber die probleme liegen eigentlich tiefer und es ist ne diskussion die kenne ich auch schon so aus vorherigen digitalisierungs schüben dass man immer sagt müssten wir nicht eigentlich erst mal die reform also die organisation reformieren und es gibt diese alten.

00:50:36: das hat schon einen riesen lang bad mit dem schlechter Digitalisierter Prozess ist dann immer noch schlecht.

00:50:45: Ich mag diesen Aussage auch nicht so richtig, weil ich denke, man muss das schon ineinander verschränkt denken.

00:50:52: Der technologische Schritt ist vielleicht der Schritt in dem man den Prozess anfasst aber es ist ein bisschen quatschig zu sagen lasst uns erst mal nur den Prozess oder die Organisation aufräumen.

00:51:02: Trotzdem ist es eine valide Kritik zu sagen wenn man Technologie auf eine dysfunktionale Organisation wirft wird sie dadurch nicht besser Oder?

00:51:10: Ja.

00:51:12: Punkt!

00:51:13: Aber würde das umgekehrt dann heißen, es müssen eigentlich erst mal Dinge auf ne anderen als auf einer technischen Ebene jetzt angepackt werden bevor wir uns an die Technik machen?

00:51:25: und was wäre das?

00:51:27: Naja ich glaube ist ja nicht diese Binäre.

00:51:30: aber ich glaube wenn ich anfange KI-Agenten einzusetzen, dann setzt es voraus dass ich die Prozesse, die Arbeitsabläufe in der Verwaltung sehr genau kenne.

00:51:37: Wenn ich mir die genaue anschaue und dann eben sage Teilschritte davon, kann ich automatisieren mit KI-Agenten.

00:51:43: Dann komme ich glaube ich automatisch in der Diskussion, brauche ich die wirklich?

00:51:47: Sind es die besten Teilsschritte?

00:51:48: Kann ich das nicht auch anders machen?

00:51:49: Und dann kann sich das glaube ich sehr gut gegenseitig befruchten.

00:51:54: Weil darüber dass ich eine technische Möglichkeit habe nochmal Dinge ganz anders zu automatisierend als noch vor einigen Jahren wünsche wie ich mir und hoffe ich, dass wir auch einen konstruktiven Dialog oder eine Debatte da reinkriegen.

00:52:09: Wie können wir denn auch die Dinge, wenn wir sie jetzt einmal sozusagen neu bauen können mit Hilfe KI-Agenten dann auch produktiver oder effizienter gestalten?

00:52:20: Aber ich glaube es ist einfacher, wenn man sozusagen einmal neue Dinge auf einem weißen Platt Papier aufbaut was man ja bei den KI-Agents zum gewissen Punkt macht und in diesem Sinne merkt, da haben wir einen menschlichen Prozess in Effizienzen reingebaut.

00:52:34: Und wenn wir ihn jetzt sowieso identifizieren können wir diese Indifizienzen doch bitte rausnehmen.

00:52:41: Zumindest auf Bundesebene gab es jetzt auch im letzten Jahr und auch weiterhin Aktivität zum Thema KI-Agenten, ich hatte bei unserem letztem Gespräch den Eindruck dass du trotzdem ein bisschen skeptisch bist wie was die Rahmenbedingungen in Deutschland angeht ob wir das gut hinkriegen.

00:52:58: weil sie aber nicht wirklich das richtig erinnere.

00:53:00: machen wir doch zum Abschluss mal Blick in die Glaskugel Und ich verdonnere dir jetzt etwas Optimismus und du sagst mal, warum es diesmal besser läuft als die letzten zwanzig Jahre bei der Verwaltungsdigitalisierung.

00:53:13: Und wo wir in zehn Jahren in Deutschland stehen können wenn euer Plan Realität wird?

00:53:21: Also ich glaube was ein großer strategischer Vorteil ist für Deutschland das je genauer ich ein fachliches Umfeld kenne indem ein KI-Agent arbeiten soll.

00:53:33: je genauer ich das beschreiben kann und je klarer auch die Regeln sind, die dieses Umfeld hat, desto besser kann der KI-Agent da funktionieren.

00:53:40: Und wir sind in Deutschland dafür bekannt dass wir Sachen bis in die letzte Ableitung durchdenken eine hohe Fachlichkeiten in verschiedenen Politikbereichen haben.

00:53:51: Das wäre bisher oft eine Herausforderung für Digitalisierung oder für Entbürokratisierung und es kann jetzt aber auch zu einem großen Vorteil werden.

00:54:00: Ich würde da noch mal ganz Klar sagen, die Antwort auf komplexe Regulierungen in einer Genschenwelt muss nicht Deregulierung sein sondern kann exekutierbare Regulierung.

00:54:14: Also eines der positiven Beispielen für das Bundesministerium für Digitalisierung und Staatsmodernisierung auch ausgezeichnet wurde ist H-II-Genehmigungsplattform, also eine KI basierte Plattform mit der komplexe Wasserstoffinfrastruktur genehmigt werden kann.

00:54:33: Da könnte ich jetzt natürlich sagen so ja die Regulierung ist extrem komplex.

00:54:37: aber jetzt kann ich sozusagen sagen ich kann neunzig Prozent der dafür benötigten Ressourcen eindampfen weil ich mit KI-Agenten arbeiten kann.

00:54:46: Der hat sich an der Regulierungen nichts getan und ich habe es geschafft diese Regulieren exekutierbar zu machen.

00:54:52: Das ist, glaube ich, ein strategischer Vorteil als für Deutschland.

00:54:56: Natürlich haben wir diese Komplexität aber wie gesagt diese Komlexität und viele Regeln und viele Fortschriften können eben auch für KI-Agenten die Rahmen und Leitblanken geben um genau in einem Korridor zu arbeiten.

00:55:12: Genau deswegen bin ich an dieser Stelle optimistisch und Thema Leapfrogging Being willing and able nenne ich das manchmal.

00:55:22: Also, ich glaube dass wir schon auch in großen Teilen der Politik gemerkt haben Wir müssen es jetzt wirklich machen.

00:55:29: Das heißt the willingness ist da und being able.

00:55:34: Ich erlebe schon, dass mit dem neuen Minister Mit einem neuen Ministerium Mit Organisation wie Deiner lieber Ben Wie eigentlich schon noch ein sehr großes Know-how Mittlerhaberlei im Deutschland aufgebaut haben um sozusagen jetzt diese neue Technologie für uns auch gut nutzen zu können.

00:55:53: Alles unter der Prämisse, dass wir nicht den Fehler machen, den wir beim Online-Zugangsgesetz gemacht haben und das wird mit Parallelentwicklung anfangen.

00:56:00: Wir müssen wirklich jetzt schaffen eine Betriebsumgebung für KI Systeme zu bauen die wir einmal bauen und die nicht jedes Bundesland und jede Bundeseinrichtung und jede Kommune neu baut.

00:56:13: Das ist wirklich wichtig.

00:56:14: wenn wir das hinkriegen!

00:56:16: Wenn wir das hinkriegen, den Föderalismus an dieser Stelle zu verstehen als ein kleinster gemeinsamer Nenner und nicht als größter einzelnder Nenna.

00:56:24: Weil so war die Auslegung des Föeralismus beim Online-Zugangsgesetz dann bin ich sehr optimistisch.

00:56:32: Und am Ende des Tages mit einem Optimismus muss man sich auch immer verdienen also man muss auch aktiv daran arbeiten damit zu wird und da nehme ich mich selbst in die Pflicht einen kleinen Anteil daran zu leisten

00:56:44: Deine Worte in den Ohren der Entscheidungsträger in Deutschland.

00:56:49: Das klingt gut, etwas Optimismus können wir glaube ich alle gebrauchen.

00:56:53: Ich danke dir lieber Manuel für dieses Gespräch.

00:56:56: Wer mehr über das erwähnte Dokument wissen will sollte es einfach lesen.

00:57:01: Es gibt es kostenfrei auf der Webseite agenticstate.org Dort auch die erwähnte Roadmap, die die Ukraine veröffentlicht hat.

00:57:11: Und ich glaube ihr habt auch einen Newsletter oder zumindest ein Angebot wie man da ab to date bleiben kann eine LinkedIn Präsenz der man folgen kann.

00:57:19: also da gibt es immer wieder auch mal Veranstaltungen oder Hinweise was so passiert.

00:57:25: Genau vielen Dank auf jeden Fall dass du Zeit genommen hast für das Gespräch.

00:57:27: Vielen dank und Spaß gemacht!

00:57:29: Wie immer danke ich der Technologiestiftung Berlin und der Berliner Senatskanzlei Das City Lab Berlin und damit auch diesen Podcast unterstützen.

00:57:38: Ich freue mich, dass ihr heute zuhört habt und wir versprechen wieder ein etwas höhere Frequenz.

00:57:43: die letzten drei Monate gab es nämlich keine Folge.

00:57:45: das wird jetzt wieder besser.

00:57:47: Danke fürs Zuhören.

00:57:48: bleibt uns treu bis zum nächsten mal Tschüss!