Rathausdialog zum Thema KI: Mehr Chancen als Risiken beim Einsatz

© Stadt Wolfenbüttel

Stadtrat Kai Kratschmer führte als Moderator durch das Thema und freute sich mit Professor Dr. Sarah Rachut, TU Braunschweig, Juniorprofessorin für Öffentliches Recht, Recht der Digitalisierung und Hochschulrecht, Professor Dr. Carsten Meyer, Ostfalia Hochschule für angewandte Wissenschaften Wolfenbüttel, Professor für Künstliche Intelligenz, Jörg Winterhoff, Digital Institut des Mittelstands, Co-Founder, Experte der digitalen Transformation und business-zentrierter künstlicher Intelligenz sowie André Koschützke, fme AG Braunschweig, Deputy Director and Manager & Consulting Services für den Public Sector, vier hochkarätige Experten begrüßen zu können.

„Die große Hoffnung, die ganz viele und auch wir in diese Technik stecken und die Sorgen, die ganz viele andere haben, sind so vielfältig und groß, dass wir das Thema auf keinen Fall erschöpfend an diesem einen Abend abhandeln können“, machte Kai Kratschmer einleitend deutlich. Aber, was versteht man eigentlich unter künstlicher Intelligenz? „Tatsächlich ist es gar nicht so leicht, den Begriff zu definieren und es gibt auch keine allgemein anerkannte Definition. Wikipedia spricht von der Automatisierung intelligenten Verhaltens. Das trifft es so etwas. Man muss wissen, dass der Begriff 1956 auf einer Konferenz entstanden ist. Und seitdem hat es sehr, sehr viele Entwicklungen gegeben. Teilgebiete wurden entwickelt, zum Beispiel maschinelles Lernen. Und die jetzigen Erfolge gehen wiederum auf ein Teilgebiet davon zurück. Das nennt sich Deep Learning. Ich spreche immer davon, dass KI eigentlich ein Handwerkskasten ist, in dem ganz viele verschiedene Werkzeuge drin sind. So gibt es in diesem Handwerkskasten KI auch ganz viele Ansätze. Und damit werden viele verschiedene Probleme gelöst, für die ein Mensch, wenn er sie dann lösen würde, Intelligenz bräuchte. Das ist so ein bisschen die Umschreibung. Vielleicht, also eins wird daran schon klar, es gibt nicht die KI. Man redet immer von 'die KI, als wäre das ein Wesen, was vielleicht auch noch so denkt wie Menschen. Das ist mit Sicherheit nicht der Fall“, erklärte Professor Dr. Carsten Meyer. Obwohl KI seine Anfänge in den 1950er Jahren hatte, kommt es erst jetzt zum „Hype“. Dies liege zum einen an einer besseren Datengrundlage und zum anderen an besserer Hardware. „Und dann haben sich die Väter, die der heutigen Entwicklung zugrunde liegen, jahrzehntelang bemüht und haben versucht zu analysieren, was läuft da nicht gut. Und haben die Verfahren verbessert“, so Professor Dr. Meyer.

Professor Dr. Sarah Rachut warf einen Blick auf die Chancen, die die Nutzung von KI bietet. „Ich kann mir ganz persönliche Arbeitsschritte abnehmen lassen. Egal ob das im privaten Bereich ist oder ob das im beruflichen Bereich ist. Und das öffnet natürlich die Tür für Effizienzgewinne. Wir können aber natürlich grundsätzlich mit dem, was künstliche Intelligenz uns ermöglicht, aus ganz ganz großen Daten Muster erkennen, die wir bisher überhaupt nicht erkennen können, noch ganz viele andere Potenziale heben.“, so die Professorin.

© Stadt Wolfenbüttel

Jörg Winterhoff konnte ein Beispiel aus der Praxis dazu beitragen. „Wir haben mit einem Autohaus zusammengearbeitet und deren Herausforderung war es, wenn der Kunde das Auto reinbringt und da funktioniert irgendwas nicht, dann wissen normalerweise die Mechaniker sehr, sehr schnell, was gemacht werden muss, sie dürfen aber nicht anfangen zu reparieren, weil der Hersteller sagt, ihr kriegt von uns nur die entsprechende Vergütung, Garantie und so weiter, wenn ihr nach unseren Herstellervorgaben repariert und jetzt haben wir so einen großen Topf mit irgendwie 500 PDFs und jetzt müssen die Mechaniker erstmal gucken, welches dieser PDFs ist denn eigentlich die richtige Reparaturanleitung, nach der reparieren muss. Hier haben wir eine KI programmiert, die letztlich diese 500 PDFs durchsuchen kann und diese KI bekommt einfach nur das Fehlerbild und kann innerhalb von wenigen Sekunden sagen, in den drei Dokumenten ist die Wahrscheinlichkeit sehr, sehr hoch, dass ihr die Lösung findet, oder dass das die richtige Reparaturvorgabe ist. Und das hatte drei Effekte. Kunden haben das Auto schneller wiederbekommen, weil die schneller anfangen konnten zu reparieren, der Geschäftsführer hat sich gefreut, weil er weniger Personalkosten hatte, weil die mussten nicht eine Stunde nach diesem Zeug suchen und ganz, ganz wichtig und das vergessen viele, die Mitarbeiterzufriedenheit ist gestiegen, weil ein Mechaniker möchte einen Schraubenschlüssel in der Hand haben, und hat keine Lust am Computer irgendwas zu durchsuchen und da ist die Mitarbeiterzufriedenheit massiv gestiegen.“

KI-Nutzung kann also zur Arbeitsentlastung beitragen – aber vielleicht auch für neue Belastungen sorgen? „Also ja zu beiden. Wenn die KI sich niemandem entlasten würde, dann würde sich keiner damit beschäftigen, dann würde es keiner einführen. Es sorgt aber auch dafür, dass neue Belastungen, zumindest neue Herausforderungen auch mit der Einführung von KI in Organisationen, Verwaltungen natürlich auch kommen, aber grundsätzlich hat KI ein enormes Entlastungspotenzial, vor allem in Routineaufgaben, Rechnungsprüfungen, Terminkoordination, die Bearbeitung von Bauanträgen beispielsweise“, unterstrich André Koschützke. Er warnt aber auch: „Grundsätzlich kann man das Ergebnis von KI aktuell nicht zu 100 Prozent vertrauen. KI halluziniert, das heißt, wenn KI Antworten nicht finden kann in der Datengrundlage, die sie hat, dichtet sie Antworten auch hinzu und das ist die größte Herausforderung bei KI aktuell in der Anwendung, denn wir müssen die Ergebnisse von KI kritisch hinterfragen, kritisch hinterdenken.“

„Wir leben im Rechtsstaat und wir haben Regeln und wir haben sogar auch Regeln für künstliche Intelligenz“, ergänzte Professor Dr. Sarah Rachut, „beim Thema künstliche Intelligenz sind aus meiner Sicht gerade zwei Punkte rechtlich sehr wichtig. Das eine ist das ganze Thema Datenschutz. Das heißt, wenn ich personenbezogene Daten verarbeite und es liegt nun mal eine Verarbeitung vor, wenn ich personenbezogene Daten da eingebe, dann brauche ich irgendwie eine Rechtsgrundlage dafür. Und wenn ich die nicht habe, dann darf ich das halt einfach nicht. Der zweite Punkt, Wir haben auf europäischer Ebene eine Regulierung, die KI-Verordnung, den AI-Act und der folgt zwei Prinzipien. Das eine ist das Thema Menschenzentrierung. Das heißt, KI-Einsatzszenarien werden immer aus der menschlichen Perspektive betrachtet. Und das zweite ist der risikobasierte Ansatz, den die KI-Verordnung verfolgt. Das heißt, die verschiedenen Einsatzszenarien, die werden klassifiziert und wir haben bestimmte KI-Einsatzszenarien, die sind von vornherein verboten, die dürfen nicht stattfinden. Dazu zählt zum Beispiel die komplette biometrische Überwachung der Bevölkerung oder ähnliches. Dann haben wir eine Stufe unten drunter, die sogenannten Hochrisiko-Einsatzszenarien. Da ist man zu dem Schluss gekommen, ja, KI kann sinnvoll sein, aber ehrlicherweise geht das eben mit sehr großen Risiken für die betroffenen Bürgerinnen und Bürger einher. Und in diesen Hochrisikobereichen, wo wir den KI-Einsatz nicht vollkommen ausschließen wollen, da gelten dann eben nach der KI-Verordnung umfassende Regelungen. Wir müssen sicherstellen, dass beim Menschen immer die Letztentscheidung liegt und wir müssen alle Risiken, die wir so identifizieren können, eben reduzieren. Das gibt die KI-Verordnung vor. Und dann darüberhinausgehend gibt es eben noch KI-Anwendungsszenarien mit einem geringen, minimalen Risiko.“

Sich mit dem Thema künstliche Intelligenz zu beschäftigen, sei keine Option, sondern eine Zukunftsaufgabe, bestätigte daher auch André Koschützke. Der richtige Umgang mit KI müsse geschult werden – und zwar so früh wie möglich. „Und da bin ich ein großer Fan von KI schon in der Grundschule zu schulen. Nicht im großen Stil, aber zumindest so ein Nebenfach, wo man sagen kann, okay, da bringen wir die die Jungschülerinnen schon so langsam in die Technik, in KI rein, aber auch darüber hinaus. KI wird auch das Bildungswesen enorm reformieren“, meint Koschützke.

Jörg Winterhoff lobt die Stadt, dass sie sich schon längst mit dem Thema KI beschäftige. Er wies aber auch darauf hin, dass es hier auch ein gewisses Durchhaltevermögen – auch wenn man einmal an einer Stelle scheitere - bedürfe. Für Professor Dr. Sarah Rachut sei es wichtig, dass Kommunen als Bollwerke der Demokratie, die menschliche Sichtweise auch bei der Nutzung von KI nicht verlieren und KI-Entscheidungen auch anzweifeln und überdenken. Einen verantwortungsbewussten Einsatz wünscht sich auch Professor Dr. Carsten Meyer. „KI-Technologie ersetzt nicht den Menschen, sie ergänzt“, betonte er. André Koschützke war noch einen Aspekt als Wolfenbütteler Bürger ein: dass man die technologischen Möglichkeiten mit KI natürlich im Blick habe, aber auch die prozessualen.

Die komplette Diskussionsrunde gibt es auch als Podcast aus der Reihe „Neues aus dem Rathaus“. Den Podcast gibt es auf folgenden Kanälen:

• Podcast bei Apple: Neues aus dem Rathaus
• Podcast bei Spotify: Neues aus dem Rathaus
• Podcast auf Youtube: Neues aus dem Rathaus

Kontakt