Interview Gibt es keine geschlossenen KI-Syste- me ohne Schnittstelle nach außen? Natürlich gibt es On-Premise-KI, die speziell auf eine Fragestellung trainiert ist. Darin stecken aber zu- sätzlicher Aufwand und zusätzliche Kosten. Der Vorteil allerdings ist, dass man eine gut trainierte Open- Source-KI dann fünf, sechs Jahre un- verändert nutzen kann, ohne jedes einer kompletten Integration kann ich kontrollieren, welche Daten in die KI gelangen, und das Ergebnis nochmal qualitätssichern. Und ge- nau das verlangt der AI Act. Welche IT-Häuser beschäftigen sich schon mit KI? Bei allen großen öffentlichen IT- Dienstleistern laufen KI-Projekte, KI-Maschinen bereitzustellen. Über govdigital gibt es bereits den An- satz, den kleineren Häusern die Re- chenkapazität der großen zur Verfü- gung zu stellen. Ich gehe davon aus, dass wir für On-Premise-Rechnen in den nächsten Jahren eine ähnlich gute Lösung finden werden wie bei den großen Hyperscalern. Die Frage des Trainings und Fütterns einer KI ist dann gelöst, wenn wir „Wir benötigen Rechenzentren, die in der Lage sind, große KI-Maschinen bereitzustellen.“ Mal bei technischen Veränderungen mitgehen zu müssen, die einem die großen Hersteller auferlegen. Wir sollten hier in Deutschland auch nochmal grundsätzlich über den Datenschutz nachdenken. Ich halte den AI Act für sehr gelungen, weil er sich im Wesentlichen auf die Ri- sikobetrachtung bezieht. Die Frage ist aber, will man immer vom ma- ximalen Risiko ausgehen oder lässt sich das – gerade bei On-Premise- Systemen – auch herunterstufen? die vor allem der Bildung von Know-how dienen und um die Technik in den Griff zu kriegen. Mo- mentan sind auch die großen inter- nationalen Beratungsunternehmen auf Kooperationen aus. Wenn es später einmal um Umsetzung und Technik geht, wären die für mich nicht die idealen Partner. Stattdes- sen würde ich eher kleine, wendige, technologieorientierte Unterneh- men wählen, vielleicht Start-ups, die eine Speziallösung entwickeln. Sind die Kommunen schon bereit für Welche Rolle spielt Ihre Firma? Künstliche Intelligenz? Aufgrund der Gepflogenheiten im öffentlichen Bereich müssen wir viele Dinge On-Premise gestal- ten und damit sind automatisch die Rechenzentren der meisten Städte raus, weil das zu teuer ist. Das können nur die öffentlichen IT-Dienstleister. Hinzu kommt, dass die meisten KI-Lösungen für den öffentlichen Bereich angepasst werden müssen. Das lohnt sich nur, wenn es Einer für Viele macht. Und drittens benötigen wir eine Inte- gration in die Fachanwendungen. Text rein, Text raus, wie bei Open AI – das reicht nicht aus. Erst bei Wir wollen KI-Lösungen in exis- tierende Anwendungen integrieren und stehen mit vielen kommunalen Anbietern im Gespräch, die dabei Unterstützung benötigen. Zudem verfügen wir über das gesamte Know-how, um eine KI zu trai- nieren und On-Premise laufen zu lassen. Außerdem entwickeln wir selbst KI-Lösungen wie das erwähn- te Notfall-Planspiel. Wie sollten sich die öffentlichen IT- Dienstleister also aufstellen? Zunächst benötigen wir Rechen- zentren, die in der Lage sind, große einen Dienst haben, der die Daten so pseudonymisieren kann, dass die Datenschutz-Grundverordnung (DSGVO) eingehalten wird. Dies ist schon absehbar. Der dritte Punkt, die Integration in Fachverfahren, stellt allerdings wirklich ein Pro- blem dar, wenn man bedenkt, wie viele Juristen und Datenschützer dabei mitreden wollen und der Dynamik ihren Schwung nehmen. Wäre in den Kommunen also mehr Wagemut nötig? Mehr Fehlerkultur. Ich würde mich freuen, wenn man die weni- gen Risiken einer souveränen KI, wie ich sie in unserem Whitepaper beschreibe, auch mal ignorieren würde, um voranzukommen. Bis- lang war jedes noch so kleine Risiko ein Showstopper in der Verwaltung. Interview: Helmut Merschmann Link-Tipp Das Whitepaper „KI in der Daseinsvor- sorge – Optionen für eine souveräne KI- Nutzung in der öffentlichen Verwaltung“ zum Download: • https://gov-ki.de/SichereKI www.kommune21.de Kommune21 · 09/2024 9