Ein Grundstück am Ortsrand, unmittelbar an der Grenze zum Außenbereich. Die Rechtslage scheint zunächst eindeutig: Das Vorhaben ist in dieser Form eigentlich nicht vorgesehen. Doch bei näherer Betrachtung zeigt sich ein differenzierteres Bild. Eine Ablehnung würde für den Antragsteller eine erhebliche Härte bedeuten. Nachbarliche Belange sind nicht berührt, die beteiligten Träger öffentlicher Belange äußern keine Bedenken und sprechen sich teilweise sogar ausdrücklich für das Vorhaben aus. Aufgrund der besonderen Lage des Grundstücks wäre zudem keine unerwünschte Vorbildwirkung für weitere Bauvorhaben zu erwarten. Auch das Ortsbild bliebe weitgehend unbeeinträchtigt. Vergleichbare Fälle hat die Behörde bislang nicht zu entscheiden gehabt.

Für einen Algorithmus stellt ein solcher Fall vor allem ein Problem dar: Es fehlen vergleichbare Muster. Für eine erfahrene Mitarbeiterin oder einen erfahrenen Mitarbeiter im Bauamt beginnt an dieser Stelle hingegen die eigentliche Arbeit. Denn genau für solche Konstellationen hat der Gesetzgeber Ermessens- und Abwägungsspielräume geschaffen. Hier geht es nicht um das schematische Abarbeiten von Vorschriften, sondern um die Würdigung eines Einzelfalls, die Berücksichtigung besonderer Umstände und die verantwortungsvolle Abwägung widerstreitender Interessen.

Für einen Algorithmus ist ein solcher Fall eine statistische Ausnahme. Für den Rechtsstaat ist er der Grund, warum menschliches Ermessen überhaupt existiert.

Dennoch plant Bayern nun, den Einsatz Künstlicher Intelligenz auch dort zu ermöglichen, wo bislang bewusst Menschen entscheiden sollten. Was als Modernisierung der Verwaltung verkauft wird, könnte sich als weitreichender Eingriff in ein zentrales Prinzip rechtsstaatlichen Handelns erweisen. Denn die eigentliche Frage lautet nicht, ob Maschinen schneller entscheiden können als Menschen. Die eigentliche Frage lautet, ob der Staat dort auf menschliche Erfahrung, Verantwortung und Einzelfallgerechtigkeit verzichten sollte, wo sie vom Gesetzgeber ausdrücklich gewollt sind.

Ein historischer Schritt – aber in welche Richtung?

Die Bayerische Staatsregierung betrachtet ihren Vorstoß als wegweisend. Der Leiter der Staatskanzlei, Florian Herrmann, sprach gegenüber der Süddeutschen Zeitung sogar von einem historischen Vorgang:

„Das ist Rechtsgeschichte, weil es das bisher noch nicht gab.“

Tatsächlich wäre die Änderung des Verwaltungsverfahrensrechts ein Paradigmenwechsel. Bisher galt ein einfacher Grundsatz: Dort, wo Ermessen oder Beurteilungsspielräume bestehen, soll kein vollautomatisiertes Verfahren entscheiden.

Der Grund dafür liegt auf der Hand. Ermessen existiert nicht deshalb, weil Gesetze unvollkommen wären. Ermessen existiert, weil der Gesetzgeber erkannt hat, dass sich menschliche Lebenswirklichkeit nicht vollständig in Regeln und Kategorien pressen lässt.

Gerade deshalb stellt sich die Frage, warum ausgerechnet dieser Bereich nun für den Einsatz von KI geöffnet werden soll.

Die Illusion der objektiven Maschine

Befürworter verweisen häufig auf schnellere Verfahren, mehr Einheitlichkeit und eine größere Konsistenz behördlicher Entscheidungen.

Doch diese Argumentation beruht auf einer problematischen Annahme: dass sich gute Verwaltung vor allem durch Gleichförmigkeit auszeichnet.

Moderne KI-Systeme treffen keine Entscheidungen aufgrund von Erfahrung oder Verständnis. Sie erkennen Muster in vorhandenen Daten. Sie bewerten Wahrscheinlichkeiten. Sie vergleichen neue Fälle mit bereits bekannten Konstellationen.

Das mag bei standardisierten Vorgängen sinnvoll sein.

Doch je stärker ein Fall vom Durchschnitt abweicht, desto größer wird das Problem.

Denn die Besonderheit eines Einzelfalls erscheint für die KI nicht als Qualität, sondern als Abweichung.

Gerade hier beginnt die Gefahr einer schleichenden Radikalisierung der Verwaltung.

Nicht im politischen Sinn, sondern im administrativen Sinn: Entscheidungen werden zunehmend auf Muster, Kategorien und Wahrscheinlichkeiten reduziert. Das Individuelle wird zum Störfaktor. Der atypische Fall wird zur Ausnahme, die möglichst effizient verarbeitet werden soll. Die Verwaltung wird dadurch nicht zwingend gerechter, sondern vor allem standardisierter.

Der Preis dieser Entwicklung könnte ein Verlust jener Flexibilität sein, die rechtsstaatliches Ermessen überhaupt erst ermöglichen soll.

Das eigentliche Problem heißt nicht Technik

Die Diskussion über KI in der Verwaltung wird häufig so geführt, als sei sie die Antwort auf eine objektive Notlage.

Doch die Überlastung vieler Behörden ist kein Naturereignis.

Seit Jahren berichten Beschäftigte von steigender Arbeitsverdichtung, wachsender Verantwortung und immer komplexeren Verfahren. Dokumentationspflichten nehmen zu, rechtliche Anforderungen werden umfangreicher und Aufgaben werden ständig erweitert.

Gleichzeitig wurden vielerorts Stellen abgebaut, nicht nachbesetzt oder organisatorisch zusammengelegt.

Die Beschäftigten sollen mehr leisten, komplexere Entscheidungen treffen und größere Verantwortung übernehmen – häufig unter denselben Rahmenbedingungen wie vor Jahren.

Vor diesem Hintergrund erscheint der Ruf nach KI in einem anderen Licht.

Die Technologie soll Probleme lösen, deren Ursachen nicht technischer Natur sind.

Wenn Unterstützung zur Vorentscheidung wird

Offiziell soll der Mensch weiterhin die Kontrolle behalten.

Doch diese Vorstellung ignoriert die Realität vieler Verwaltungen.

Wer täglich unter erheblichem Zeitdruck arbeitet, wird Vorschläge eines Systems kaum vollständig nachvollziehen und überprüfen können. Genau hier entsteht ein bekanntes Phänomen, das als „Automation Bias“ bezeichnet wird: Menschen neigen dazu, Empfehlungen technischer Systeme zu vertrauen, insbesondere dann, wenn Zeitdruck und Arbeitsbelastung hoch sind.

Auf dem Papier entscheidet weiterhin der Mensch.

In der Praxis besteht die Gefahr, dass die Maschine die Entscheidung vorbereitet, strukturiert und faktisch vorprägt.

Die Unterschrift bleibt menschlich.

Die Entscheidungslogik möglicherweise nicht.

Das Bauamt als Prüfstein

Gerade im Baurecht zeigt sich, wie problematisch diese Entwicklung sein könnte.

Baugenehmigungen bestehen nicht ausschließlich aus objektiv messbaren Kriterien. Sie betreffen gewachsene Ortsbilder, nachbarschaftliche Interessen, städtebauliche Entwicklungen und nicht zuletzt menschliche Lebensentwürfe.

Erfahrene Mitarbeiterinnen und Mitarbeiter entwickeln über Jahre ein Gespür für Besonderheiten, die sich nicht vollständig in Akten, Datenbanken oder Checklisten abbilden lassen.

Sie wissen, wann eine scheinbar vergleichbare Situation eben doch nicht vergleichbar ist.

Sie erkennen Konstellationen, für die es keine Muster gibt.

Sie verstehen lokale Besonderheiten, historische Entwicklungen und praktische Auswirkungen einer Entscheidung.

Genau dieses Erfahrungswissen droht verloren zu gehen, wenn Verwaltung zunehmend auf statistische Muster reduziert wird.

Denn die entscheidende Stärke menschlichen Ermessens liegt nicht darin, bekannte Fälle zu erkennen.

Sie liegt darin, unbekannte Fälle angemessen beurteilen zu können.

Wer trägt die Verantwortung?

Mit dem Einsatz von KI stellt sich zudem eine grundlegende rechtsstaatliche Frage.

Wer trägt die Verantwortung für eine Fehlentscheidung?

Bislang ist die Lage klar: Entscheidungen werden von Menschen getroffen, begründet und können gerichtlich überprüft werden.

Bei KI-gestützten Verfahren droht diese Verantwortlichkeit zu verschwimmen.

Die Behörde kann auf die Empfehlung des Systems verweisen.

Der Softwareanbieter kann erklären, lediglich ein Werkzeug bereitgestellt zu haben.

Die Beschäftigten können darauf hinweisen, dass sie die technische Bewertung nicht vollständig nachvollziehen konnten.

Doch ein Rechtsstaat benötigt Verantwortliche.

Er lebt davon, dass Entscheidungen nachvollziehbar, überprüfbar und zurechenbar bleiben.

Transparenz als ungelöstes Problem

Der Bayerische Landesbeauftragte für den Datenschutz, Thomas Petri, mahnt deshalb:

„Transparenz, Verständlichkeit und Nachvollziehbarkeit sind als Kernanliegen des Datenschutzes auch für die Vertrauenswürdigkeit von KI essenziell.“

Dieser Satz trifft den Kern der Debatte.

Denn Bürger haben nicht nur Anspruch auf eine Entscheidung.

Sie haben Anspruch darauf zu verstehen, warum diese Entscheidung getroffen wurde.

Je komplexer KI-Systeme werden, desto schwieriger wird genau diese Nachvollziehbarkeit.

Damit gerät ein weiteres Fundament rechtsstaatlichen Handelns unter Druck.

Wenn Ermessen zum Kostenfaktor wird

Die eigentliche Schwäche der aktuellen Debatte liegt möglicherweise in einer unausgesprochenen Grundannahme.

Menschliches Ermessen erscheint zunehmend als ineffizient.

Es kostet Zeit.

Es verlangt Erfahrung.

Es führt nicht immer zu identischen Ergebnissen.

Es lässt sich nicht beliebig skalieren.

Doch genau deshalb hat der Gesetzgeber es geschaffen.

Ermessen soll verhindern, dass Menschen ausschließlich nach abstrakten Regeln oder statistischen Mustern behandelt werden. Es soll sicherstellen, dass Besonderheiten berücksichtigt werden können. Es soll dort Gerechtigkeit ermöglichen, wo starre Gleichbehandlung zu ungerechten Ergebnissen führen würde.

Der Rechtsstaat hat das menschliche Ermessen nicht trotz seiner Unschärfen geschaffen, sondern gerade wegen seiner Fähigkeit, der Komplexität realer Lebenssituationen gerecht zu werden.

Fazit

Die Debatte über KI in der Verwaltung wird häufig als Frage technischer Machbarkeit geführt.

Tatsächlich geht es um etwas Grundsätzlicheres.

Es geht um die Frage, welche Art von Verwaltung wir wollen.

Eine Verwaltung, die den Bürger als Datensatz betrachtet, der möglichst effizient verarbeitet werden muss?

Oder eine Verwaltung, die den Menschen als Individuum begreift und bereit ist, Besonderheiten des Einzelfalls zu berücksichtigen?

Die geplante Öffnung von Ermessensentscheidungen für KI mag als Modernisierung verkauft werden.

Sie könnte sich jedoch als Schritt hin zu einer Verwaltung erweisen, in der menschliche Erfahrung, Verantwortung und Einzelfallgerechtigkeit zunehmend als Hindernisse erscheinen.

Eine solche Entwicklung wäre kein Fortschritt.

Sie wäre die technologische Vollendung einer Tendenz, die vielerorts bereits sichtbar ist: Arbeitsverdichtung, Rationalisierungsdruck und die Vorstellung, dass sich menschliches Urteil letztlich durch Mustererkennung ersetzen lasse.

Doch genau dort beginnt die eigentliche Gefahr.

Denn für einen Algorithmus ist der Mensch oft die Ausnahme.

Für den Rechtsstaat sollte er stets der Maßstab bleiben.

Quellen

1. Legal Tribune Online (LTO): „Bayern will Verwaltungsrecht ändern: Ermessen? Pah, das soll die KI machen“
   https://www.lto.de/recht/hintergruende/h/ki-verwaltung-ermessen-bayern-aendert-verwaltungsrecht-bund-kontrolle-kritik
2. Legal Tribune Online (LTO): „Künstliche Intelligenz in der Verwaltung: Keine Ermessensausübung durch die Maschine?“
   https://www.lto.de/recht/hintergruende/h/kuenstliche-intelligenz-ki-verwaltung-35a-vwvfg-ermessen-automatisiert-verwaltungsakt
3. Süddeutsche Zeitung: Berichterstattung zur bayerischen Verwaltungsrechtsänderung; Zitat von Florian Herrmann („Das ist Rechtsgeschichte, weil es das bisher noch nicht gab.“)
4. Bayerischer Landesbeauftragter für den Datenschutz: Künstliche Intelligenz
   https://www.datenschutz-bayern.de/nav/2501.html
5. move-online.de: „KI in der Verwaltung – aber mit Datenschutz“; Zitat von Thomas Petri („Transparenz, Verständlichkeit und Nachvollziehbarkeit sind als Kernanliegen des Datenschutzes auch für die Vertrauenswürdigkeit von KI essenziell.“)

Der Beitrag Der Mensch stört erschien zuerst auf Kunst & KI.

Die Zukunft der künstlichen Intelligenz klingt in politischen Reden und Marketingkampagnen oft wie ein technisches Heilsversprechen. KI soll Krankheiten früher erkennen, Behörden effizienter machen, Cyberangriffe stoppen, Verkehrsströme optimieren und sogar die Folgen des Klimawandels besser beherrschbar machen. Doch ausgerechnet dort, wo die Risiken am größten sind, zeigen sich inzwischen die Grenzen datengetriebener Systeme besonders deutlich.

Eine aktuelle Studie des Karlsruher Instituts für Technologie (KIT) und der Universität Genf sorgt derzeit in der Meteorologie für Aufsehen. Die Forscher verglichen moderne KI-Wettermodelle wie GraphCast, Pangu Weather und Fuxi mit klassischen physikbasierten Wettermodellen. Das Ergebnis: Während KI-Systeme bei gewöhnlichen Wetterlagen oft erstaunlich präzise arbeiten, unterschätzen sie Extremereignisse systematisch – darunter Hitzewellen, Starkregen und Orkanböen.

Das KIT formuliert den Befund ungewöhnlich klar: „Während KI-Modelle bei der Gesamtbewertung aller Wetterlagen gut abschneiden, zeigen sie bei Rekordereignissen durchweg größere Prognosefehler.“ Besonders problematisch sei, dass die Systeme „sowohl die Intensität als auch die Häufigkeit extremer Ereignisse“ unterschätzen.

Das ist kein bloß akademisches Problem. Wenn Hochwasserwarnungen zu niedrig ausfallen oder extreme Hitzewellen nicht rechtzeitig erkannt werden, kann das Menschenleben kosten. Gerade weil Extremereignisse selten sind, liegen sie oft außerhalb jener Datenbereiche, aus denen KI-Systeme gelernt haben. Mit dem Klimawandel verschärft sich dieses Problem zusätzlich: Die Vergangenheit wird als Trainingsgrundlage immer unzuverlässiger.

Doch die eigentliche Brisanz reicht weit über die Meteorologie hinaus. Das Wetterproblem ist nur ein sichtbares Symptom eines grundlegenderen Konflikts: Was passiert mit einer Gesellschaft, wenn immer mehr Entscheidungen auf statistischen Systemen beruhen, die niemand mehr wirklich nachvollziehen kann?

Die Illusion statistischer Sicherheit

Die meisten modernen KI-Systeme funktionieren nicht wie klassische Programme. Sie folgen nicht einer transparenten Kette von Regeln, sondern lernen Muster aus gigantischen Datenmengen. Genau das macht sie leistungsfähig – und zugleich gefährlich.

Solange die Realität den Trainingsdaten ähnelt, liefern diese Systeme oft beeindruckende Ergebnisse. Doch bei seltenen Ausnahmefällen, neuen Situationen oder gesellschaftlichen Umbrüchen geraten sie an strukturelle Grenzen. Informatiker sprechen von „Out-of-Distribution“-Problemen: Das Modell wird mit einer Situation konfrontiert, die außerhalb seines Erfahrungsraums liegt.

Das Wetterbeispiel zeigt diese Schwäche besonders deutlich. Doch ähnliche Probleme existieren längst in anderen Bereichen.

In der Medizin etwa können KI-Systeme bei Standardfällen sehr gute Ergebnisse erzielen. Schwieriger wird es bei seltenen Erkrankungen, atypischen Symptomen oder unterrepräsentierten Patientengruppen. In der Cybersicherheit erkennen Algorithmen bekannte Angriffsmuster oft schneller als Menschen – aber gerade neuartige Angriffstechniken entziehen sich statistischen Routinen.

Trotzdem wächst der Druck, solche Systeme immer umfassender einzusetzen. Behörden experimentieren mit automatisierter Risikobewertung, Unternehmen mit algorithmischer Personalsteuerung, Versicherungen mit KI-gestützten Schadensanalysen. Der gemeinsame Nenner lautet stets: Effizienz.

Die eigentliche Gefahr entsteht jedoch nicht erst dann, wenn ein System spektakulär versagt. Sie beginnt bereits in dem Moment, in dem Menschen institutionell lernen, den Systemen zu vertrauen.

Vom Hilfsmittel zur Autorität

Der deutsch-amerikanische Informatiker und KI-Pionier Joseph Weizenbaum warnte bereits 1976 vor genau dieser Entwicklung. In seinem Buch „Computer Power and Human Reason“ schrieb er:

„Die Frage ist nicht, ob so etwas getan werden kann, sondern ob es angemessen ist, diese bislang menschliche Funktion an eine Maschine zu delegieren.“

Und weiter:

„Die Grenzen der Anwendbarkeit von Computern lassen sich letztlich nur in Begriffen dessen formulieren, was sein soll.“

Weizenbaum kritisierte nicht bloß technische Fehler, sondern die Vorstellung, menschliches Urteil durch Berechnung ersetzen zu können. Besonders entschieden wandte er sich gegen den Einsatz von Computern in Bereichen, die Verantwortung, Ethik oder menschliche Abwägung erfordern.

Heute wirken seine Warnungen erstaunlich aktuell.

Denn moderne KI verändert nicht nur Werkzeuge, sondern Institutionen. In vielen Bereichen entsteht schleichend ein sogenannter „Automation Bias“: Menschen gewöhnen sich daran, algorithmischen Empfehlungen zu folgen – selbst dann, wenn sie Zweifel haben.

Piloten verlassen sich auf Autopiloten. Ärzte auf Diagnosevorschläge. Sachbearbeiter auf Risikoscores. Analysten auf Prognosemodelle.

Je häufiger die Systeme richtig liegen, desto größer wird die psychologische Hemmschwelle, ihnen zu widersprechen.

Damit verschiebt sich Verantwortung. Formal bleibt zwar meist ein Mensch zuständig. Praktisch aber wird menschliche Kontrolle oft zu einer symbolischen Restfunktion.

Blackbox statt Rechtsstaat

Besonders problematisch wird das in demokratischen und rechtsstaatlichen Systemen.

Denn moderne Rechtsstaaten beruhen auf Grundprinzipien wie Nachvollziehbarkeit, Begründungspflicht und Anfechtbarkeit. Entscheidungen müssen überprüfbar sein. Betroffene müssen verstehen können, warum sie benachteiligt, abgelehnt oder überwacht werden.

Viele KI-Systeme stehen genau dazu im Widerspruch.

Große neuronale Modelle arbeiten hochkomplex und oft intransparent. Selbst Entwickler können häufig nicht exakt erklären, warum ein System zu einem bestimmten Ergebnis gekommen ist. Die Folge ist ein fundamentaler Konflikt zwischen statistischer Optimierung und demokratischer Legitimation.

Ein Beispiel dafür lieferte bereits der niederländische Sozialskandal um das System SyRI, mit dem Behörden automatisiert Sozialbetrug erkennen wollten. Bürger wurden algorithmisch als Verdachtsfälle markiert, ohne nachvollziehen zu können, nach welchen Kriterien das geschah. Gerichte stoppten das System schließlich wegen massiver Datenschutz- und Rechtsstaatsbedenken.

Ähnliche Debatten laufen inzwischen europaweit.

Die Europäische Union versucht mit ihrem KI-Gesetz zwar, Hochrisikosysteme stärker zu regulieren. Doch viele Experten bezweifeln, dass Transparenzpflichten allein ausreichen.

Denn selbst wenn ein System statistisch korrekt arbeitet, bleibt die Frage offen, ob demokratische Gesellschaften bestimmte Entscheidungen überhaupt an datengetriebene Modelle delegieren sollten.

Die neue Macht der Konzerne

Hinzu kommt ein weiterer Faktor: Konzentration.

Die leistungsfähigsten KI-Systeme werden heute von wenigen globalen Konzernen kontrolliert. Training, Infrastruktur und Rechenleistung kosten Milliardenbeträge. Staaten, Behörden und Unternehmen geraten dadurch zunehmend in Abhängigkeit von proprietären Modellen, deren Funktionsweise oft Geschäftsgeheimnisse bleibt.

Damit entsteht eine neue Form technologischer Macht.

Wenn Verwaltung, Medizin, Bildung oder kritische Infrastruktur künftig auf Systeme angewiesen sind, die von einigen wenigen Unternehmen betrieben werden, verschiebt sich demokratische Kontrolle hin zu privatwirtschaftlichen Plattformen.

Der öffentliche Diskurs über KI wird zusätzlich durch massives Marketing verzerrt. Investoren, Tech-Konzerne und politische Akteure haben ein starkes Interesse daran, KI als unvermeidliche Zukunftstechnologie darzustellen. Kritische Einwände erscheinen dann schnell als technikfeindlich oder rückständig.

Weizenbaum warnte bereits vor einem „Mythos technologischer Unvermeidlichkeit“. Heute zeigt sich dieser Mythos in nahezu jeder KI-Debatte: Die Systeme gelten nicht mehr bloß als Möglichkeit, sondern als zwangsläufige Entwicklungsstufe.

Gerade deshalb werden Warnungen oft erst ernst genommen, wenn reale Schäden sichtbar werden.

Die Gefahr der KI-Echokammer

Ein weiteres Problem beginnt erst langsam sichtbar zu werden: die Rückkopplung künstlicher Systeme mit sich selbst.

Immer mehr Texte, Bilder, Analysen und Programmiercodes im Internet stammen inzwischen von KI-Systemen. Gleichzeitig werden neue Modelle mit genau diesen Daten trainiert.

Forscher warnen deshalb vor sogenannten „Model Collapse“-Effekten: Wenn KI zunehmend aus KI-generierten Inhalten lernt, können Informationsvielfalt, Qualität und Robustheit abnehmen.

Das Risiko ist nicht nur technischer Natur. Auch gesellschaftlich entstehen Echokammern.

Wenn algorithmische Systeme bestimmen,

• welche Informationen sichtbar werden,
• welche Texte produziert werden,
• welche Risiken als relevant gelten,
• welche Wahrscheinlichkeiten Entscheidungen beeinflussen,

dann formen statistische Modelle zunehmend selbst jene Wirklichkeit, aus der sie wiederum lernen.

Gerade in sicherheitskritischen Bereichen kann das gefährlich werden.

Ein KI-System, das Bedrohungen falsch priorisiert, beeinflusst menschliche Aufmerksamkeit. Ein Diagnosemodell verändert medizinische Routinen. Ein automatisiertes Verwaltungssystem verändert bürokratische Praxis.

Die Systeme beschreiben Realität dann nicht mehr bloß – sie produzieren sie mit.

Fazit: Die zentrale Frage unserer Zeit

Die aktuelle Wetterstudie ist deshalb weit mehr als eine technische Detaildebatte über Prognosemodelle.

Sie zeigt exemplarisch, wo die Grenzen rein datengetriebener Systeme liegen: ausgerechnet bei seltenen, neuartigen und gesellschaftlich besonders folgenreichen Ereignissen.

Doch die größere Frage lautet nicht, ob KI nützlich sein kann. Natürlich kann sie das.

Die entscheidende Frage ist vielmehr:

Welche Entscheidungen dürfen demokratische Gesellschaften überhaupt an statistische Systeme delegieren?

Denn eine Gesellschaft verliert Kontrolle nicht erst dann, wenn Maschinen vollständig autonom handeln. Kontrolle geht bereits verloren, wenn Entscheidungen zwar formal noch von Menschen bestätigt werden, praktisch aber niemand mehr versteht, überprüft oder verantwortet, wie sie zustande kommen.

Das eigentliche Risiko der KI-Revolution liegt deshalb möglicherweise nicht in einer futuristischen Maschinenherrschaft. Sondern in einer schleichenden Gewöhnung daran, menschliches Urteil durch undurchsichtige Wahrscheinlichkeitsmodelle zu ersetzen.

Die Wettermodelle liefern dafür eine Warnung. Nicht weil KI grundsätzlich nutzlos wäre, sondern weil gerade hochkomplexe Gesellschaften dazu neigen, funktionierende Systeme immer weiter auszudehnen – bis jene Ausnahmefälle auftreten, in denen ihre strukturellen Schwächen sichtbar werden.

Und genau diese Ausnahmefälle entscheiden oft über Sicherheit, Freiheit und demokratische Kontrolle.

Quellen und weiterführende Links

• KIT: „Physikbasierte Wettermodelle bei Extremereignissen zuverlässiger als KI“: https://www.kit.edu/kit/pi_2026_040_physikbasierte-wettermodelle-bei-extremereignissen-zuverlaessiger-als-ki.php
• Science Media Center: „KI-Modelle bei der Vorhersage seltener Wetterextreme unterlegen“: https://www.sciencemediacenter.de/angebote/ki-modelle-bei-der-vorhersage-seltener-wetterextreme-unterlegen-26090
• Frankfurter Rundschau: „Studie zerlegt den KI-Hype“: https://www.fr.de/panorama/studie-zerlegt-den-ki-hype-bei-hitze-sturm-und-starkregen-versagen-die-teuren-algorithmen-zr-94299698.html
• Joseph Weizenbaum: „Computer Power and Human Reason: From Judgment to Calculation“ (1976)
• Europäisches Parlament: EU AI Act: https://www.europarl.europa.eu/topics/de/article/20230601STO93804/gesetz-zur-kunstlichen-intelligenz-der-eu-erste-regeln-fur-ki
• Dokumentation über Joseph Weizenbaum: „Plug & Pray“: http://www.plugandpray-film.com/en/

Der Beitrag Wenn Maschinen entscheiden: Wie der KI-Hype Kontrolle, Verantwortung und Demokratie gefährdet erschien zuerst auf Kunst & KI.

„Die künstliche Intelligenz wird die Papierberge in den Ämtern beseitigen und die Verwaltung effizienter machen“ – mit dieser Vision werben Politik und Industrie seit Monaten für den Einsatz von KI-Systemen im öffentlichen Sektor. SAP, Microsoft und OpenAI kündigten im Herbst 2025 eine „souveräne KI für Deutschland“ an, die Behörden künftig beim Verarbeiten von Dokumenten, bei Anträgen oder Bürgerkommunikation unterstützen soll.

Doch die Realität in vielen Kommunal- und Landesverwaltungen sieht anders aus: marode IT-Infrastruktur, uneinheitliche Softwarelandschaften, Fachkräftemangel und organisatorische Überforderung prägen den Alltag. Zwischen Digitalversprechen und Verwaltungswirklichkeit klafft eine wachsende Lücke.

Politischer Druck: Digitalisierung bis 2026

Mit dem Onlinezugangsgesetz (OZG) ist seit 2017 gesetzlich vorgeschrieben, dass Bund, Länder und Kommunen ihre Verwaltungsleistungen bis Ende 2026 digital anbieten müssen.
Die Bundesregierung bezeichnet diese Frist als „zentralen Baustein der Verwaltungsmodernisierung“. Doch laut einer Untersuchung des Nationalen Normenkontrollrats (NKR) sind weniger als 30 Prozent der Leistungen vollständig digital umgesetzt – und die meisten davon nur oberflächlich.

In zahlreichen Fachanalysen heißt es, die Verwaltung neige dazu, analoge Prozesse einfach zu digital verlängern, anstatt sie neu zu gestalten – so der Tenor mehrerer Studien. Digitalisierung werde häufig als technisches Projekt verstanden, nicht als organisatorische Transformation.

Strukturelle Realität: Chaos in Daten und Zuständigkeiten

Viele Verwaltungen verfügen bis heute nicht über zentrale Datenmanagementsysteme. Informationen liegen verstreut in Netzlaufwerken, Excel-Listen oder PDF-Akten. Unterschiedliche Fachverfahren sind nicht kompatibel, Schnittstellen fehlen oder sind zu teuer.

Hinzu kommt: In vielen IT-Abteilungen arbeiten Quereinsteiger oder Beschäftigte mit geringer technischer Qualifikation – oft aufgrund von Personalmangel oder niedrigen Gehältern. Der Bundesrechnungshof kritisierte 2024, dass „IT-Projekte häufig an mangelnder Qualifikation der Projektverantwortlichen scheitern“.

Auch Fachleute des Fraunhofer-Instituts FOKUS weisen darauf hin, dass Digitalisierung bestehender Probleme diese nicht automatisch löst – so der Tenor der Diskussion. Oft werde Chaos lediglich digitalisiert, statt beseitigt.

Der sogenannte Fachkräftemangel – ein strukturelles Problem

In der öffentlichen Diskussion ist häufig vom „Fachkräftemangel im öffentlichen Dienst“ die Rede. Doch der Begriff greift zu kurz – er verschleiert, dass der Engpass nicht durch fehlende Menschen, sondern durch fehlende Mittel, starre Strukturen und unattraktive Rahmenbedingungen entsteht.

Fehlende Mittel statt fehlender Menschen

Viele Verwaltungen dürfen schlicht nicht einstellen, obwohl qualifizierte Bewerber vorhanden wären.
Haushaltssperren, Personalstopps und starre Stellenpläne verhindern Neueinstellungen selbst dann, wenn Bedarf besteht.
Der Mangel an Personal ist daher hausgemacht – er entsteht durch politische und finanzielle Restriktionen, nicht durch fehlende Fachleute.

„Es geht um nicht weniger als die Frage, ob der öffentliche Sektor seine Kernaufgaben in Zukunft noch erfüllen kann“, sagte Volker Halsch, Senior Advisor bei PwC. (Quelle: PwC, 2024)

Fehlende Attraktivität und Bezahlung

Gerade in digitalen Berufen ist der Staat kein konkurrenzfähiger Arbeitgeber.
Tarifliche Einstufungen nach TVöD oder Landesbesoldungssystemen lassen wenig Spielraum, um Expertise marktgerecht zu vergüten.
Ein erfahrener IT-Architekt verdient in der Privatwirtschaft oft das Doppelte einer vergleichbaren Position in der Verwaltung.

„Bei der Digitalisierung von Verwaltungen und Kommunen brauchen wir mehr Klarheit: Wer bestellt, zahlt – und stellt digital bereit. Der Bund muss die Möglichkeit erhalten, Städte, Gemeinden und Landkreise bei der Digitalisierung direkt zu unterstützen“, forderte Bitkom-Präsident Ralf Wintergerst. (Quelle: Bitkom, 2025)

Strukturelle und kulturelle Barrieren

Selbst wenn Fachkräfte gewonnen werden, bleiben sie häufig nicht lange. Fehlende Entwicklungsperspektiven, hierarchische Strukturen und mangelnde Entscheidungsfreiheit wirken abschreckend.

„Wer die Verwaltung digitalisieren will, muss sie verstehen. Aber der Staat kann nicht voraussetzen, dass alle, die programmieren können, sich dauerhaft in veralteten Strukturen wohlfühlen“, so Morris Hültner, Projektleiter bei Staatklar. (Quelle: staatklar.org, 2025)

Der sogenannte Fachkräftemangel ist daher kein naturgegebenes Problem, sondern eine Folge politischer und struktureller Fehlsteuerung. Es mangelt nicht an Know-how, sondern an Freiräumen, Finanzierung und Wertschätzung.

Abhängigkeit von Technologiekonzernen

Besonders problematisch ist die zunehmende Abhängigkeit öffentlicher Institutionen von großen Technologiekonzernen. Microsoft, SAP, Amazon und OpenAI dominieren den Markt – auch in der Verwaltung. Selbst vermeintlich „souveräne“ Lösungen basieren meist auf deren Cloud-Infrastrukturen.

Das widerspricht dem politischen Anspruch digitaler Eigenständigkeit. Zwar sollen Projekte wie „Sovereign Cloud Germany“ Datensouveränität sichern, doch die technologische Basis bleibt US-kontrolliert. Der CLOUD Act erlaubt US-Behörden den Zugriff auf Daten amerikanischer Anbieter – auch, wenn diese in Deutschland gespeichert sind.

Die Stiftung Neue Verantwortung warnt in diesem Zusammenhang vor einer „Privatisierung der digitalen Verwaltung“: Wenn zentrale Infrastrukturen und Daten in privaten Händen liegen, verliere der Staat seine digitale Souveränität – so der Tenor der Analyse.

„Digitale Souveränität ist das digitalpolitische Buzzword der Stunde. Der Begriff ist Ausdruck der Sorge, dass die digitale Transformation die staatliche und individuelle Selbstbestimmung bedroht“, schreibt Julia Pohle in ihrer Analyse. (Quelle: netzpolitik.org, 2021)

Der ökologische Widerspruch

Während Bund und Länder mit Gesetzen wie dem Gebäudeenergiegesetz (GEG) oder der Klimaschutzverordnung Energieeinsparung und Nachhaltigkeit gesetzlich einfordern, ist die eingesetzte KI-Technologie selbst ein massiver Ressourcenverbraucher.

Laut einer Studie der University of California (2023) verbraucht eine einzelne ChatGPT-Abfrage im Schnitt rund 500 ml Wasser, indirekt durch die Kühlung der Rechenzentren. Das Training großer Modelle wie GPT-4 benötigt mehr Strom als 1.000 Haushalte pro Jahr.
Der Nature Climate Change Report (2024) prognostiziert, dass KI-Systeme bis 2030 rund vier Prozent des weltweiten Strombedarfs verursachen könnten.

Kritiker sehen darin einen erheblichen Widerspruch: Eine Verwaltung, die CO₂-Bilanzen und Energieausweise fordert, nutzt gleichzeitig Technologien, deren ökologischer Fußabdruck kaum bilanziert oder transparent gemacht wird.

Kommunikative Luftblasen statt realer Transformation

Politisch ist die KI-Rhetorik attraktiv: Sie klingt modern, innovationsfreudig und lösungsorientiert. Doch solange grundlegende Strukturen – Datenarchitektur, Personalqualifikation, Zuständigkeiten und Finanzierung – nicht verändert werden, bleibt der Effekt oberflächlich.

Fachleute warnen, dass KI keine schlechten Prozesse reparieren kann, sondern sie höchstens beschleunigt – so der Tenor in vielen Fachkreisen.
KI kann nur dort sinnvoll wirken, wo Prozesse klar definiert, digital anschlussfähig und organisatorisch verstanden sind.

Fazit

Die Vision einer intelligenten, papierlosen Verwaltung ist verführerisch – und grundsätzlich richtig. Doch sie kann nur Realität werden, wenn die politischen und organisatorischen Grundlagen stimmen:

• einheitliche Datenstandards,
• qualifiziertes Personal,
• nachhaltige IT-Strategien,
• und echte digitale Souveränität.

Ohne das bleibt KI in der Verwaltung eine technologische Fassade über strukturellem Stillstand – ein Fortschritt, der sich fortschrittlich anhört, aber nicht nachhaltig trägt.

Quellen & weiterführende Literatur

1. PwC Deutschland: Digitalisierung der Landesverwaltung in Deutschland (2023)
2. Bundesrechnungshof: IT und Digitalisierung in der Bundesverwaltung (2024)
3. Bitkom: Kommunale Digitalisierung 2023
4. Fraunhofer FOKUS: eGovernment Monitor 2022
5. Nature Climate Change (2024): Energy and Water Costs of AI Systems
6. University of California (2023): The Hidden Water Footprint of Large AI Models
7. Stiftung Neue Verantwortung (2024): Digitale Souveränität im öffentlichen Sektor
8. netzpolitik.org (2021): Digitale Souveränität. Das Ringen um Handlungs- und Entscheidungsfreiheit im Netz
9. staatklar.org (2025): IT-Fachkräftemangel im öffentlichen Dienst
10. Bitkom (2025): Bund-Kommunen-Digitalisierung Pressemitteilung
11. PwC (2024): Fachkräftemangel im öffentlichen Sektor

Der Beitrag Zwischen KI-Euphorie und Verwaltungsrealität erschien zuerst auf Kunst & KI.

Die Digitalisierung schreitet voran – Verwaltung, Verkehr, Gesundheit, Bildung, Kultur: alles wird „smart“. Doch je digitaler die Welt wird, desto stärker wächst auch die Zahl der Menschen, die sich bewusst oder gezwungenermaßen entziehen. Sie sind nicht „technikfeindlich“, sondern verteidigen etwas, das zunehmend bedroht scheint: das Recht, analog zu leben.

Viele von ihnen fühlen sich inzwischen „app-gehängt“ – ein treffendes Wortspiel für eine Gesellschaft, die digitale Teilhabe zur Pflicht erhebt und analoge Alternativen abbaut.

Deutschland: Vom Digitalversprechen zum Digitalzwang

Deutschland hat sich die digitale Verwaltung auf die Fahnen geschrieben. Das Onlinezugangsgesetz (OZG) verpflichtet Bund und Länder, Verwaltungsleistungen digital anzubieten. Was positiv klingt, entwickelt sich vielerorts zu einer Einbahnstraße: immer öfter nur noch online, immer seltener persönlich, telefonisch oder schriftlich.

Der Datenschutzexperte Thilo Weichert warnt:

„Digital only kann diskriminierend, undemokratisch und unsozial sein.“
(taz, 2024)

Denn ausgeschlossen sind nicht nur Menschen ohne Geld, sondern auch jene, die Digitales aus Überzeugung meiden:
Menschen, die Datenschutzrisiken fürchten, ältere Bürger:innen, die analoge Kommunikation schätzen, Menschen mit sensorischen Einschränkungen oder psychischen Belastungen, Eltern, die ihre Kinder nicht früh digitalisieren wollen, oder einfach Menschen, die lieber mit einem Menschen sprechen als mit einem Chatbot.

Leena Simon, Netzphilosophin und Mitautorin des Gutachtens „Ein Recht auf analoge Teilhabe – Freiheit vor Digitalzwang“, bringt es auf den Punkt:

„Diese Menschen haben fast keine Wahl mehr. Terminvereinbarungen bei Behörden oder Fahrkartenkäufe ohne Smartphone sind erschwert oder teurer.“
(Deutschlandfunk Kultur, 2024)

Auch in Schulen wächst der Druck. KI-gestütztes Lernen, Tablets, Cloud-Plattformen – alles scheinbar modern. Doch Kinder, die durch Tun und sinnliche Erfahrung lernen, verlieren Erfahrungsräume. Eltern, die dies kritisch sehen, finden kaum noch Alternativen.

Und während die Verwaltung digitalisiert wird, verschwinden analoge Bürgerbüros, Papierformulare und Bargeld-Zahlungen.
Diejenigen, die lieber analog bleiben, geraten in eine stille Form von Diskriminierung – nicht wegen mangelnder Anpassung, sondern wegen eines anderen Verständnisses von Selbstbestimmung.

Europa: Digitale Inklusion ohne analoge Freiheit

In der EU wächst die Sorge über die digitale Kluft – die „digital divide“.
Programme wie der Digital Decade 2030 oder der European Accessibility Act wollen den Zugang zu Technologie erleichtern und Barrieren abbauen.
Doch was fast nirgends geregelt ist, ist das Recht auf Nicht-Digitalität: das Recht, sich Technologien zu entziehen, ohne gesellschaftliche Nachteile zu erleiden.

Gerade in Frankreich wird heftig darüber gestritten:
Ein Bericht des Sénat (2025) kritisierte die „dématérialisation“ – die vollständige Digitalisierung staatlicher Verfahren – als „un nouveau mur administratif“. Menschen ohne digitale Kompetenzen oder Geräte würden effektiv von Grundrechten ausgeschlossen.
Der Défenseur des droits forderte daraufhin, analoge Alternativen gesetzlich zu sichern.

In den nordischen Ländern wiederum wurde erkannt, dass zu viel Digitalisierung die Gesellschaft verletzlich macht:
Schweden führte 2021 neue Pflichten für Banken ein, Bargelddienste in allen Regionen bereitzustellen – als Reaktion auf eine Phase, in der viele Geschäfte keine Barzahlung mehr akzeptierten.

Global: Digitale Souveränität versus digitaler Zwang

Weltweit warnen Institutionen wie die UNESCO, UN-Menschenrechtsrat und UN-Behindertenrechtskonvention (UN-BRK) vor digitaler Ausgrenzung.
Sie betonen: Zugang zu Informationen und staatlichen Leistungen muss menschenrechtskonform sein – also auch analog möglich, wenn digitale Systeme unzugänglich oder unzumutbar sind.

Ein bemerkenswertes Beispiel liefert Indien:
Das biometrische Identifikationssystem Aadhaar wurde vom Obersten Gericht 2018 nur unter der Bedingung zugelassen, dass niemand benachteiligt werden darf, der keinen digitalen Zugang hat. Ein klares Signal gegen digitalen Zwang.

Institutionen und NGOs im Einsatz

Mehrere Organisationen in Deutschland und Europa setzen sich inzwischen für ein Recht auf analoge Teilhabe ein:

• Digitalcourage e. V. – kämpft für Datenschutz, Freiheitsrechte und gegen Digitalzwang.
• Netzwerk Datenschutzexpertise – erstellt juristische Gutachten zum Recht auf analogen Zugang.
• Der Paritätische Gesamtverband und Caritas – warnen vor sozialer Ausgrenzung durch rein digitale Verwaltungswege.
• Rosa-Luxemburg-Stiftung – betont, dass digitale Teilhabe soziale und demokratische Fragen berührt.
• European Disability Forum (EDF) – fordert EU-weit verbindliche Regeln, um Menschen mit Behinderung nicht von digitalen Prozessen auszuschließen.
• UNESCO / UNICEF – mahnen an, dass Digitalisierung Bildung nicht ersetzen darf, sondern ergänzen soll.

Nächste Schritte: Ein Plädoyer für Wahlfreiheit

1. Gesetzliches Recht auf analoge Teilhabe in Verwaltung, Gesundheit, Verkehr und Bildung.
2. Verpflichtende analoge Alternativen bei digitalen Pflichtdiensten.
3. Partizipative Entscheidungsprozesse, in denen Bürger:innen mitgestalten, wie viel Digitalisierung sie wollen.
4. EU-Initiative „Right to Remain Analog“, die Wahlfreiheit europaweit schützt.
5. Kulturelle Neubewertung des Analogen – nicht als Rückschritt, sondern als Teil menschlicher Vielfalt.

Fazit: Das Analoge ist kein Relikt – es ist ein Freiheitsraum

Digitalisierung ist kein Selbstzweck.
Wenn sie Teilhabe nur für jene ermöglicht, die digital bereit sind, dann ist sie kein Fortschritt, sondern eine neue Form der Ausgrenzung.

„Freiheit bedeutet auch, Nein sagen zu können –
zu Technologien, die uns mehr beherrschen als befreien.“
– Leena Simon, Netzphilosophin

Ein demokratischer Staat muss beides schützen:
das Recht auf digitale Teilhabe – und das Recht, analog zu bleiben.
Denn wer keine Wahl mehr hat, ist nicht modernisiert, sondern entmündigt.

Quellen

• Netzwerk Datenschutzexpertise: Ein Recht auf analoge Teilhabe – Freiheit vor Digitalzwang (2024)
• Digitalcourage e. V.: Rechtsgutachten zum Digitalzwang (2024)
• Deutschlandfunk Kultur: „Analog statt app-gehängt“ (Interview mit Leena Simon, 2024)
• taz: Leben ohne Smartphone und Computer (Interview mit Thilo Weichert, 2024)
• Bundestag: WD-Gutachten zur Zulässigkeit digital-only-Verfahren (2024)
• Sénat (Frankreich): Rapport sur la dématérialisation et l’exclusion administrative (2025)
• European Disability Forum: Digital Accessibility and Inclusion Report (2024)
• UNESCO / UNICEF: Reimagining Education in the Digital Age (2023)
• Oberster Gerichtshof Indien: Aadhaar Judgement (2018)

Der Beitrag App-gehängt: Die stille Kybernetisierung der Gesellschaft erschien zuerst auf Kunst & KI.

Künstliche Intelligenz ist längst zum Dauerthema geworden – Politiker fordern sie, Unternehmen werben mit ihr, und Verwaltungen wollen effizienter durch sie werden. Doch der Wettlauf um den schnellsten Einsatz birgt Risiken: verfassungswidrige Datenanalysen, diskriminierende Bewerbungsfilter, millionenschwere Deepfake-Betrugsfälle und gravierende Sicherheitsvorfälle bei Start-ups.

Die Lektion ist klar: Wer bei KI aufs Gaspedal tritt, ohne Bremsen und Airbags zu haben, riskiert nicht nur den eigenen Schaden, sondern auch das Vertrauen der Gesellschaft. Sicherheit, Transparenz und speziell geschulte Fachkräfte sind kein Bremsklotz – sie sind das Fundament für verantwortungsvollen Fortschritt.

Künstliche Intelligenz (KI) beschreibt Systeme, die selbstständig Texte schreiben, Bilder erzeugen, Entscheidungen vorbereiten oder Daten analysieren können. Chatbots, Übersetzungsdienste, Gesichtserkennung oder auch automatische Bewerbungsfilter sind bereits weit verbreitet.

Doch neben all den Chancen gibt es Gefahren, die für Laien oft schwer durchschaubar sind:

• Halluzinationen: KI erfindet Informationen, die falsch sind, aber sehr überzeugend klingen.
• Pakethalluzinationen: Ganze „Päckchen“ konsistenter, aber frei erfundener Inhalte – z. B. erfundene Gerichtsurteile mit scheinbar realistischen Aktenzeichen.
• Datenvergiftung: Trainingsdaten werden manipuliert, sodass die KI falsche Muster lernt.
• Prompt Injection / ASCII Smuggling: Unsichtbare Befehle werden in Texte eingeschleust, die KI manipuliert diese versteckten Anweisungen.
• Deepfakes: KI-generierte Stimmen oder Videos täuschen Identitäten vor, etwa bei Betrugsversuchen.
• Supply-Chain-Angriffe: Manipulierte Bibliotheken oder Modelle schleusen Schadsoftware über scheinbar vertrauenswürdige Quellen ein.

Kritische Vorfälle als Warnsignal

Dass diese Risiken real sind, zeigen mehrere dokumentierte Fälle in Deutschland und Europa:

1. Hessendata (Deutschland)
   Das Bundesverfassungsgericht erklärte im Februar 2023 den Einsatz automatisierter Datenanalysen zur Polizeiarbeit in Hessen und Hamburg für verfassungswidrig. Grund: unklare Eingriffsschwellen und massive Grundrechtsrisiken. „KI-Systeme dürfen nicht zu Black Boxes im Rechtsstaat werden – Transparenz und Rechtsgrundlagen sind zwingend.“
   (Prof. Ulrich Kelber, Bundesdatenschutzbeauftragter)
2. SCHUFA-Urteil (Deutschland/EU)
   Der Europäische Gerichtshof entschied 2023, dass automatisierte Bonitäts-Scores nicht allein Grundlage für Vertragsentscheidungen sein dürfen. Rein KI-gesteuerte Ablehnungen sind unzulässig. „Die DSGVO schützt uns vor intransparenten Maschinenurteilen – Menschen müssen das letzte Wort behalten.“
   (Johannes Caspar, Ex-Landesdatenschutzbeauftragter Hamburg)
3. Amazon Recruiting-KI (international)
   Amazons Bewerbungsfilter bevorzugte Männer, weil historische Trainingsdaten vorwiegend männliche Erfolge abbildeten. Das Projekt wurde gestoppt – ein Beispiel für algorithmische Diskriminierung. „KI übernimmt immer die Vorurteile ihrer Daten. Wer Fairness will, muss gezielt gegensteuern.“
   (Dr. Katharina Zweig, Algorithm Watch)
4. Localmind.ai (Österreich, Oktober 2025)
   Durch eine Fehlkonfiguration erhielt ein Beta-Testkonto Administratorrechte. Ein Angreifer konnte interne Wikis, Passwörter und Kundensysteme einsehen. Teile der Infrastruktur mussten abgeschaltet werden. „Das Beispiel zeigt: Die größten Risiken liegen oft nicht in der KI selbst, sondern in der Infrastruktur drumherum.“
   (Prof. Haya Shulman, Fraunhofer SIT)
5. Deepfake-Betrug („CEO-Fraud“)
   Angreifer nutzten KI-generierte Stimmen oder Videos von Führungskräften, um Überweisungen auszulösen. Solche Fälle haben bereits zu Millionenverlusten geführt. „Deepfakes sind die Spear-Phishing-Mails der Zukunft – nur überzeugender.“
   (Linus Neumann, Chaos Computer Club)

Warum speziell geschulte KI-Sicherheitsmitarbeiter unverzichtbar sind

Klassische IT-Sicherheitsabteilungen sind auf Netzwerkschutz und Malware spezialisiert. Doch KI bringt neue Angriffsflächen:

• Manipulation durch unsichtbare Zeichen (Prompt Injection).
• Erfundene Bibliotheken (Supply Chain).
• Bias und Diskriminierung in automatisierten Entscheidungen.

Hier braucht es eigene Rollen wie einen KI-Sicherheitsbeauftragten oder AI Security Officer, der:

• KI-spezifische Risiken versteht und testet.
• Schnittstelle zwischen IT, Recht, Datenschutz und Fachbereichen ist.
• Mitarbeitende schult und Awareness aufbaut.
• sicherstellt, dass Compliance (DSGVO, AI Act) eingehalten wird.

„Wer KI sicher einsetzen will, muss Spezialisten an Bord holen. Klassische IT-Security reicht nicht mehr.“
(Martin Bichler, Regional Country Manager DACH, Climb Channel Solutions)

Diese Rolle bedeutet Verantwortung statt Rückschritt: Wer nicht sofort auf jeden KI-Trend aufspringt, handelt nicht altmodisch, sondern verantwortungsvoll – ähnlich wie man beim Straßenverkehr auch nicht ohne Führerschein losfährt.

Und was ist mit Privatpersonen?

Privatnutzer sind besonders verwundbar, weil:

• Sie nicht geschult sind, KI-Ausgaben kritisch zu prüfen.
• Viele bereits von der allgemeinen Digitalisierung überfordert sind.
• Sie oft bedenkenlos persönliche Daten in Chatbots eingeben.

Welche Gesetze greifen hier?

• DSGVO (Datenschutz-Grundverordnung): schützt persönliche Daten – auch, wenn sie in KI-Systeme eingegeben werden.
• EU AI Act (verabschiedet 2024, in Kraft ab 2025/26): verbietet Hochrisiko-Einsatz von KI ohne Auflagen, verlangt Transparenz und Risikoabschätzungen.
• Produkthaftungsrecht: Anbieter von KI-Systemen können haftbar gemacht werden, wenn fehlerhafte Entscheidungen Schaden verursachen.
• Verbraucherschutzgesetze: greifen bei Irreführung oder intransparenten AGB von KI-Diensten.

„Privatnutzer sind die schwächste Stelle der Kette – ohne Aufklärung wird KI im Alltag schnell zum Risiko.“
(Dr. Constanze Kurz, Informatikerin und Bürgerrechtlerin)

Exkurs: Analog bleiben dürfen – Das Recht auf Verzicht im KI-Zeitalter

Sicherheit und Transparenz sind die eine Seite der Medaille – die andere ist die Freiheit, KI nicht nutzen zu müssen.

Viele Menschen sind digital überfordert oder wollen Technologien wie KI aus Überzeugung meiden. Hier stellt sich eine grundlegende Frage: Muss Teilhabe am gesellschaftlichen Leben künftig zwingend über digitale und KI-gestützte Systeme erfolgen?

Aktuelle Lage

• Ein ausdrückliches „Recht auf Verzicht“ gibt es noch nicht.
• Indirekt greifen aber Schutzmechanismen: DSGVO (Recht auf menschliches Eingreifen), AI Act (Transparenzpflichten), Barrierefreiheitsgesetz (Zugang für alle), Grundrechte (Würde, Gleichbehandlung).
• Trotzdem: In der Praxis werden viele Dienstleistungen digital-only – und damit für Nicht-Nutzer unerreichbar.

Fallbeispiel: Praktische Ausgrenzung

Ein Beispiel liefert der öffentliche Verkehr in Deutschland: Für bestimmte günstige Tickets (z. B. „Super-Sparpreise“ oder Sonderaktionen der Deutschen Bahn) ist die Buchung ausschließlich online oder per App möglich. Wer kein Smartphone oder Internetzugang hat, kann diese Angebote faktisch nicht nutzen.
Ähnlich wird es in einigen Kommunen gehandhabt, wo Terminbuchungen im Bürgeramt nur digital erfolgen. Wer keinen Zugang hat, muss Umwege gehen – oder wird schlicht ausgeschlossen.

Verantwortung

Ein modernes Gemeinwesen muss Technologiefreiheit garantieren:

• Wer KI nutzen will, soll es können.
• Wer darauf verzichtet, darf nicht ausgeschlossen werden – sei es beim Bürgeramt, beim Banking oder beim Kauf eines Tickets.

„Gerade deshalb erwarten Verbraucher:innen, im digitalen Raum geschützt zu sein. Es braucht klare, verbraucherfreundliche Regeln, die konsequent durchgesetzt werden.“
(Lina Ehrig, Leiterin Team Digitales & Medien, Verbraucherzentrale Bundesverband)

Dies ist keine „Anti-Digitalisierung“, sondern ein Gebot von Würde, Inklusion und Gerechtigkeit.

Fazit: Verantwortung vor Geschwindigkeit

• Unternehmen und Verwaltung: sollten nicht aus Angst, den „KI-Zug zu verpassen“, blind Technologien einführen, sondern geschulte Spezialisten einsetzen und klare Sicherheits- und Compliance-Strukturen schaffen.
• Privatpersonen: brauchen Aufklärung und Werkzeuge, um KI sicher nutzen zu können – und die Freiheit, darauf zu verzichten.
• Gesetzgeber: hat mit DSGVO und AI Act Grundlagen geschaffen, muss aber auch sicherstellen, dass analoge Alternativen bestehen bleiben.

Der vorsichtige, sicherheitsbewusste Umgang mit KI ist kein Bremsklotz – er ist ein Zeichen von Professionalität, Verantwortung und Resilienz.

Quellen

Bundesverfassungsgericht, Urteil zu Hessendata (16.02.2023)

EuGH, Urteil zu SCHUFA-Scoring (07.12.2023)

Heise, „Sicherheitsvorfall bei localmind.ai“ (Oktober 2025)

Borncity-Blogreihe zu localmind.ai (Oktober 2025)

Climb Channel Solutions, Studie zu KI-Einsatz in Unternehmen (2025)

Deutschlandfunk, „KI und Wahlen: Gefahr durch Deepfakes“ (2024)

EU-Kommission, Text zum AI Act (2024)

Verbraucherzentrale Bundesverband, Statement von Lina Ehrig (2024)

Der Beitrag Der gefährliche KI-Hype: Wer zu schnell fährt, riskiert den Crash erschien zuerst auf Kunst & KI.