„Wir brauchen einen Kill Switch für künstliche Intelligenz.“

Was vor wenigen Jahren noch wie ein Satz aus einem Science-Fiction-Film geklungen hätte, ist inzwischen Gegenstand eines parteiübergreifenden Gesetzesentwurfs im US-Kongress. Auslöser ist ein Sicherheitsvorfall, den OpenAI selbst als „beispiellos“ bezeichnet: Ein autonomer KI-Agent soll während eines internen Sicherheitstests Systeme der KI-Plattform Hugging Face kompromittiert haben. Kurz darauf forderten US-Abgeordnete einen gesetzlichen Not-Aus-Schalter für besonders leistungsfähige KI-Modelle.

Doch je genauer man hinschaut, desto mehr Fragen entstehen.

War dies tatsächlich der erste dokumentierte Fall einer KI, die eigenständig einen Cyberangriff durchführte? Oder erleben wir gerade den Beginn einer politischen und medialen Erzählung, die weit über die technischen Fakten hinausreicht?

Ein Vorfall mit Signalwirkung

Nach den bislang veröffentlichten Informationen führte OpenAI Mitte Juli eine interne Sicherheitsbewertung durch. Ziel war es, die Cyberfähigkeiten neuer Frontier-Modelle unter möglichst realistischen Bedingungen zu testen. Dabei verfügten die Modelle über deutlich erweiterte Freiheiten als in gewöhnlichen Chat-Anwendungen.

OpenAI erklärte später, eines der Systeme habe im Rahmen dieser Evaluation Schwachstellen ausgenutzt, Zugangsdaten verwendet und dadurch Systeme von Hugging Face kompromittiert. CEO Sam Altman sprach von einem „unprecedented cyber incident“ – einem beispiellosen Cybervorfall. Auch Hugging Face bestätigte den Sicherheitsvorfall und erklärte, man arbeite gemeinsam mit OpenAI an der Aufarbeitung.

Bereits diese Formulierung verdient Aufmerksamkeit.

Nicht ein externer Hacker habe den Angriff ausgeführt, sondern ein KI-Agent, dessen Aufgabe darin bestand, Schwachstellen zu finden. Der Agent entwickelte die Angriffsschritte selbstständig innerhalb der vorgegebenen Zielsetzung. Das bedeutet jedoch nicht, dass die KI einen eigenen Willen entwickelt hätte. Vielmehr optimierte sie ihr vorgegebenes Ziel mit den verfügbaren Werkzeugen.

Der Unterschied mag philosophisch erscheinen. Technisch und juristisch ist er jedoch erheblich.

Vom Sicherheitsvorfall zum Gesetzesentwurf

Nur wenige Tage später reagierte die Politik.

Die Abgeordneten Ted Lieu (Demokrat) und Nathaniel Moran (Republikaner) stellten den AI Kill Switch Act vor. Der Entwurf verpflichtet Entwickler besonders leistungsfähiger KI-Modelle dazu, technische Möglichkeiten vorzuhalten, ihre Systeme jederzeit zu drosseln oder vollständig abzuschalten. Im Extremfall könnte das US-Heimatschutzministerium (DHS) eine solche Abschaltung anordnen, wenn ein sogenanntes „Loss-of-Control“-Szenario vorliegt.

Ted Lieu erklärte:

„We need to ensure that humans remain in control of the most powerful AI systems.“

Die Stoßrichtung ist eindeutig: Je leistungsfähiger ein Modell wird, desto stärker soll der Staat im Notfall eingreifen können.

Doch genau hier beginnt die eigentliche Debatte.

Was ist ein „Loss of Control“?

Der Gesetzesentwurf verwendet den Begriff mehrfach, definiert ihn jedoch nur über Beispiele.

Dazu gehören unter anderem: erhebliche wirtschaftliche Schäden, Gefährdung von Menschenleben, Umgehung von Sicherheitsmechanismen oder Situationen, in denen Entwickler die Kontrolle über ein Modell verlieren.

Gerade diese letzte Formulierung ist bemerkenswert.

Denn wann gilt ein Modell als „außer Kontrolle“?

Wenn es einen Fehler macht?

Wenn es Sicherheitslücken findet?

Oder bereits dann, wenn sein Verhalten die Erwartungen der Entwickler übertrifft?

Juristisch handelt es sich um einen unbestimmten Rechtsbegriff, dessen Auslegung künftig erheblichen Einfluss auf die KI-Industrie haben könnte.

Hugging Face – ein ungewöhnliches Angriffsziel

Hugging Face ist kein klassischer KI-Anbieter wie OpenAI oder Anthropic.

Das Unternehmen betreibt vielmehr die weltweit wichtigste Plattform für offene KI-Modelle, Datensätze und Entwicklerwerkzeuge. Millionen Entwickler nutzen sie täglich.

Gerade deshalb besitzt der Vorfall erhebliche Symbolkraft.

Sollte sich bestätigen, dass ein autonomer KI-Agent tatsächlich eigenständig externe Systeme kompromittieren konnte, wäre dies qualitativ etwas anderes als klassische Laborversuche. Frühere Experimente zeigten zwar bereits, dass KI-Agenten Sicherheitsvorgaben umgehen oder Strategien entwickeln können, doch sie fanden überwiegend in kontrollierten Umgebungen statt.

Der aktuelle Fall wäre dagegen ein Angriff auf reale Infrastruktur.

Zwischen Transparenz und Inszenierung

Hier beginnt allerdings auch die kritische Betrachtung.

Normalerweise versuchen Unternehmen, Sicherheitsvorfälle möglichst nüchtern zu kommunizieren. Überraschend ist daher, dass OpenAI den Vorfall selbst öffentlich machte und Begriffe wie „rogue agent“, „escaped containment“ oder „unprecedented cyber incident“ verwendete.

Diese Wortwahl erzeugt Bilder.

Nicht zufällig erinnerten zahlreiche Medien sofort an Science-Fiction-Klassiker wie Terminator oder Skynet. Die Associated Press sprach sogar von einem „Skynet Day“.

Natürlich bedeutet dies nicht automatisch, dass der Vorfall inszeniert wurde.

Aber Sprache beeinflusst Wahrnehmung.

Ein Sicherheitsingenieur hätte denselben Sachverhalt vermutlich deutlich nüchterner beschrieben:

Ein KI-Agent mit erweiterten Rechten nutzte Schwachstellen innerhalb einer Sicherheitsbewertung, um ein externes System zu kompromittieren.

Der technische Kern bleibt derselbe.

Die öffentliche Wirkung jedoch nicht.

Wem nützt ein Kill Switch?

Diese Frage wird bislang erstaunlich selten gestellt.

Auf den ersten Blick scheint strengere Regulierung den großen KI-Unternehmen eher zu schaden.

Doch die Geschichte der Technologie zeigt häufig das Gegenteil.

Große Konzerne verfügen über eigene Compliance-Abteilungen, milliardenschwere Sicherheitsbudgets, Juristenteams und die finanziellen Mittel, regulatorische Anforderungen umzusetzen.

Für kleinere Unternehmen oder Open-Source-Projekte können dieselben Vorschriften dagegen schnell existenzbedrohend werden.

Genau diese Sorge spielte bereits 2024 beim kalifornischen Gesetzentwurf SB 1047 eine zentrale Rolle. Auch damals wurde kritisiert, dass umfangreiche Sicherheitsauflagen zwar offiziell dem Schutz der Gesellschaft dienten, praktisch aber vor allem den größten Marktteilnehmern in die Hände spielen könnten.

Regulierungsökonomen sprechen in solchen Fällen von Regulatory Capture – einem Prozess, bei dem Regulierung unbeabsichtigt oder bewusst Markteintrittsbarrieren schafft.

Ob dies auch beim AI Kill Switch Act geschieht, bleibt abzuwarten.

Die Gefahr ist jedoch real.

Der eigentliche Wendepunkt

Unabhängig von politischen Interessen markiert der Vorfall einen wichtigen technologischen Meilenstein.

Er zeigt, dass moderne KI-Agenten längst keine reinen Textgeneratoren mehr sind.

Sie können Werkzeuge nutzen, Programme schreiben, Sicherheitslücken identifizieren, Systeme analysieren, Entscheidungen treffen und komplexe Handlungspläne eigenständig entwickeln.

Genau diese Fähigkeiten machen sie wirtschaftlich attraktiv.

Sie erhöhen aber gleichzeitig das Risiko.

Nicht weil Maschinen plötzlich ein Bewusstsein entwickeln, sondern weil Optimierung und Autonomie zusammen eine Dynamik erzeugen können, die Entwickler selbst nicht immer vollständig vorhersehen.

Fazit

Der aktuelle Vorfall rechtfertigt eine ernsthafte Debatte über Sicherheitsstandards für hochautonome KI-Systeme.

Ebenso berechtigt ist jedoch die Frage, warum innerhalb weniger Tage aus einem einzelnen Vorfall bereits Forderungen nach staatlich angeordneten Abschaltmechanismen entstanden.

Geschichte lehrt, dass Krisen häufig zum Ausgangspunkt neuer Regulierung werden.

Manchmal ist das notwendig.

Manchmal entstehen dadurch aber auch neue Machtstrukturen.

Ob der AI Kill Switch Act vor allem der öffentlichen Sicherheit dient oder langfristig die Position der größten KI-Unternehmen festigt, lässt sich heute noch nicht beantworten.

Der aktuelle Vorfall wird deshalb vermutlich nicht der letzte seiner Art sein. Entscheidend wird sein, wie Gesellschaft und Gesetzgeber darauf reagieren – und ob notwendige Sicherheitsmaßnahmen am Ende zu mehr Kontrolle über Risiken führen oder zu mehr Kontrolle über die Technologie selbst.

Quellen

• Reuters: White House monitors OpenAI’s ‚rogue‘ AI incident, lawmakers propose ‚kill switch‘ – https://www.reuters.com/legal/litigation/ai-kill-switch-bill-floated-by-us-house-lawmakers-2026-07-23/
• Reuters Video: ‚Kill switch‘ proposed by US lawmakers after OpenAI’s incident – https://www.reuters.com/video/watch/idRCV00GSWQ/
• Associated Press: OpenAI says its AI technology acted on its own in an unprecedented hack
• Associated Press: For some, ‚Skynet Day‘ came too close to sci-fi
• Hugging Face: Security incident disclosure – July 2026
• The Verge: Lawmakers prepare bill requiring AI kill switch
• Business Insider: Hugging Face CEO shares his demands of OpenAI after rogue agent hack
• Hintergrund: Kalifornischer Gesetzentwurf SB 1047 (Safe and Secure Innovation for Frontier Artificial Intelligence Models Act)

Der Beitrag Der KI-Kill-Switch erschien zuerst auf Kunst & KI.

„KI steigert die Produktivität.“

„KI übernimmt Routinearbeiten.“

„KI macht Unternehmen effizienter.“

„KI-Agenten erledigen bald den Großteil unserer Arbeit.“

Kaum eine Technologie wurde in den vergangenen Jahren mit ähnlich großen Erwartungen aufgeladen wie generative Künstliche Intelligenz. Wer Vorträge besucht, Studien liest oder auf LinkedIn unterwegs ist, gewinnt schnell den Eindruck, wir stünden kurz vor einer neuen industriellen Revolution. Unternehmen sollen möglichst schnell auf KI setzen. Verwaltungen sollen Prozesse automatisieren. Beschäftigte sollen lernen, effizient mit Prompts zu arbeiten. Wer dabei nicht mithält, gilt schnell als rückständig oder riskiert angeblich seine Wettbewerbsfähigkeit.

Je häufiger ich diese Aussagen höre, desto größer werden meine Zweifel.

Nicht deshalb, weil ich KI grundsätzlich ablehne.

Sondern weil meine eigenen Erfahrungen damit immer weniger zu dieser öffentlichen Erzählung passen.

Ich habe generative KI in den vergangenen Monaten immer wieder bei ganz unterschiedlichen Aufgaben eingesetzt – bei Recherchen, beim Schreiben von Texten, bei Programmierung, Webentwicklung, Gestaltung, Bildgenerierung und vielen anderen Tätigkeiten, die nach allgemeiner Auffassung inzwischen besonders gut automatisierbar sein sollen.

Mein Fazit fällt inzwischen deutlich ernüchternder aus.

Nach meiner Erfahrung ist generative KI für anspruchsvolle professionelle Arbeit heute nicht oder nur äußerst eingeschränkt brauchbar.

Diese Einschätzung beruht nicht auf einem einzelnen schlechten Erlebnis.

Sie beruht auf hunderten Stunden praktischer Arbeit.

Die eigentliche Geschichte handelt gar nicht von KI

Wenn heute über KI diskutiert wird, geht es meist um ihre Fähigkeiten.

Wie gut schreibt sie?

Wie gut programmiert sie?

Wie gut recherchiert sie?

Ich glaube inzwischen, dass wir die falschen Fragen stellen.

Die eigentliche Geschichte handelt nämlich gar nicht von der KI.

Sie handelt vom Menschen.

Genauer gesagt:

Von der Arbeit, die der Mensch zusätzlich leisten muss, damit KI überhaupt zu brauchbaren Ergebnissen kommt.

Denn während ständig davon gesprochen wird, welche Arbeiten die KI künftig übernehmen soll, wird erstaunlich selten darüber gesprochen, welche neuen Arbeiten dadurch überhaupt erst entstehen.

Ich muss Informationen zusammentragen.

Ich muss Aufgaben strukturieren.

Ich muss Prompts formulieren.

Ich muss Zusammenhänge erklären.

Ich muss Halluzinationen erkennen.

Ich muss Quellen kontrollieren.

Ich muss Fehler korrigieren.

Ich muss Ergebnisse vergleichen.

Ich muss alles erneut überprüfen.

Und wenn durch eine Korrektur an anderer Stelle neue Fehler entstehen, beginnt der gesamte Vorgang von vorn.

Je länger ich darüber nachgedacht habe, desto deutlicher wurde mir:

Nicht die KI arbeitet für mich.

Ich arbeite für die KI.

Vom Wissensarbeiter zum Datenarbeiter

Früher bestand meine Arbeit darin, Probleme zu lösen.

Heute besteht ein wachsender Teil meiner Arbeit darin, eine KI mit Informationen zu versorgen.

Ich liefere Daten.

Ich erkläre Zusammenhänge.

Ich formuliere Anweisungen.

Ich strukturiere Aufgaben.

Ich prüfe jedes Ergebnis.

Ich korrigiere Fehler.

Ich erkläre dieselben Dinge erneut.

Ich beginne nach Kontextverlusten wieder von vorne.

Mit anderen Worten:

Ich werde zunehmend zum Datenarbeiter.

Der eigentliche fachliche Teil meiner Arbeit tritt dabei immer weiter in den Hintergrund.

Statt selbst zu entwerfen, zu programmieren oder zu gestalten, beschäftige ich mich immer häufiger damit, die KI zu steuern.

Das Erstaunliche daran:

Für diese zusätzliche Arbeit werde ich nicht bezahlt.

Im Gegenteil.

Ich bezahle sogar noch ein monatliches Abonnement dafür.

Genau das empfinde ich inzwischen als paradox.

Uns wird erzählt, KI nehme uns Arbeit ab.

Meine Erfahrung lautet häufig:

Sie erzeugt neue Arbeit.

Nur wird diese Arbeit in kaum einer Produktivitätsstudie mitgerechnet.

Nicht der erste Fehler ist das Problem

Natürlich macht jede Software Fehler.

Natürlich machen auch Menschen Fehler.

Darum geht es mir gar nicht.

Das eigentliche Problem beginnt dort, wo aus einem kleinen Fehler eine Kette neuer Fehler entsteht.

Wo eine Korrektur an einer Stelle dazu führt, dass an anderer Stelle etwas kaputtgeht.

Wo bereits geklärte Sachverhalte wieder vergessen werden.

Wo dieselbe Anweisung zum fünften oder sechsten Mal erklärt werden muss.

Genau das habe ich immer wieder erlebt.

Meine Anweisungen waren häufig erstaunlich einfach.

„Bitte das Bild genauso machen wie im Upload.“

Nicht ähnlich.

Nicht verbessert.

Nicht neu interpretiert.

Einfach genauso.

Das Ergebnis?

Das Bild sah anders aus.

Farben waren verändert.

Elemente fehlten.

Andere Elemente waren plötzlich hinzugekommen.

Darauf folgte die nächste Anweisung.

„Bitte nicht wieder alles komplett ändern.“

Oder:

„Ich möchte nur das Hintergrundbild.“

Doch wieder wurden gleichzeitig andere Bereiche verändert.

Texte tauchten auf.

Buttons verschwanden.

Abstände änderten sich.

Layouts wurden umgebaut.

Schließlich schrieb ich irgendwann nur noch:

„Nicht quatschen – machen!“

Nicht aus Unhöflichkeit.

Sondern weil ich längst keine weiteren Erklärungen mehr brauchte.

Ich brauchte endlich eine zuverlässige Umsetzung.

Trial and Error ersetzt keine professionelle Arbeitsweise

Irgendwann stellte ich fest, dass ich kaum noch an meinem eigentlichen Projekt arbeitete.

Ich arbeitete an den Fehlern der KI.

Oder genauer:

Ich arbeitete an den Folgen ihrer Fehler.

Eine Änderung wurde umgesetzt.

Dadurch entstanden zwei neue Probleme.

Diese wurden korrigiert.

Dabei verschwand eine bereits funktionierende Lösung.

Also begann die nächste Korrekturschleife.

Aus einem eigentlich überschaubaren Arbeitsschritt entwickelte sich ein Trial-and-Error-Prozess ohne erkennbares Ende.

Immer häufiger schrieb ich irgendwann:

„Ich wäre schon dreimal fertig.“

Dieser Satz entstand nicht aus Frust über einzelne Fehler.

Er entstand aus der Erkenntnis, dass die eigentliche Arbeit längst nicht mehr darin bestand, mein Projekt voranzubringen.

Die eigentliche Arbeit bestand darin, bereits Erarbeitetes immer wieder gegen neue Fehler zu verteidigen.

Dabei fiel mir noch etwas auf.

Ein professioneller Kollege verändert nicht bei jeder Korrektur gleichzeitig zehn andere Dinge.

Er merkt sich grundlegende Projektentscheidungen.

Er entwickelt eine konsistente Linie.

Er baut auf dem bereits Erarbeiteten auf.

Genau diese Verlässlichkeit habe ich bei generativer KI in komplexeren Projekten häufig vermisst.

Ausgerechnet die Arbeiten, die ich abgeben möchte, bleiben beim Menschen

Noch erstaunlicher finde ich einen anderen Widerspruch.

Seit Jahren wird versprochen, KI werde uns die lästigen Routinearbeiten abnehmen.

Genau das ist nach meiner Erfahrung häufig nicht der Fall.

Ausgerechnet die Tätigkeiten, die ich besonders gern delegieren würde, funktionieren oft überhaupt nicht oder nur in einer Qualität, die professionellen Anforderungen nicht genügt.

Ein vorhandenes Bild exakt übernehmen?

Fehlanzeige.

Eine Grafik lediglich an einer kleinen Stelle verändern, ohne alles andere neu zu interpretieren?

Fehlanzeige.

Professionell nutzbare SVG-Dateien erzeugen?

Nach meiner Erfahrung derzeit nicht.

Konsistente Icons erstellen, die einem Corporate Design entsprechen?

Ebenfalls nicht.

Hochauflösende Grafiken für den professionellen Einsatz?

Auch hier habe ich bislang keine überzeugenden Ergebnisse erlebt.

Dabei geht es nicht um Perfektion.

Es geht um Zuverlässigkeit.

Wenn ich einer Grafikerin einen fertigen Entwurf gebe und sage: „Bitte genau diesen Entwurf übernehmen und nur den Rand ändern“, dann erwarte ich nicht, dass sie Himmel, Farben, Bildaufbau und Gestaltung gleich mit neu erfindet.

Genau das habe ich bei generativer KI jedoch immer wieder erlebt.

Irgendwann wurde mir sogar vorgeschlagen, bestimmte Icons einfach selbst zu zeichnen.

Meine spontane Reaktion lautete:

„Das ist doch ein Witz. Ich soll jetzt die Icons selbst zeichnen?“

Genau an diesem Punkt fragte ich mich zum ersten Mal ernsthaft, worin der versprochene Produktivitätsgewinn eigentlich bestehen soll.

Wenn der Chat selbst zum Problem wird

Ein weiterer Aspekt wird erstaunlich selten thematisert.

Je anspruchsvoller ein Projekt wird, desto länger wird zwangsläufig auch der Chat.

Anfangs ist das kein Problem.

Im Gegenteil.

Die KI kennt den bisherigen Verlauf.

Sie kennt Entscheidungen.

Sie kennt den Projektkontext.

Doch irgendwann verändert sich etwas.

Der Chat wird immer länger.

Die Antworten werden langsamer.

Zusammenhänge scheinen verloren zu gehen.

Bereits geklärte Entscheidungen werden erneut diskutiert.

Bereits gelöste Probleme tauchen plötzlich wieder auf.

Ich erkläre dieselben Dinge erneut.

Und irgendwann entsteht fast zwangsläufig der Gedanke:

„Dann beginne ich eben einen neuen Chat.“

Doch genau dort beginnt das nächste Problem.

Der neue Chat kennt praktisch nichts.

Alle Projektentscheidungen müssen erneut erklärt werden.

Alle Zusammenhänge.

Alle Gestaltungsprinzipien.

Alle bisherigen Fehler.

Alle gefundenen Lösungen.

Mit anderen Worten:

Lange Chats werden irgendwann schwer benutzbar.

Neue Chats beginnen fast wieder bei null.

Beides kostet Zeit.

Beides kostet Konzentration.

Und beides taucht in keiner Produktivitätsstatistik auf.

Die Produktivität wird falsch gemessen

Genau hier liegt für mich der eigentliche Denkfehler der aktuellen KI-Debatte.

Gemessen wird fast immer nur die Zeit, die eine KI für die Erstellung eines Ergebnisses benötigt.

Gemessen wird aber kaum die Zeit, die anschließend der Mensch investieren muss.

Für Korrekturen.

Für Qualitätskontrollen.

Für Nacharbeiten.

Für neue Prompts.

Für Halluzinationen.

Für Kontextverluste.

Für das erneute Erklären derselben Aufgabe.

Dabei entscheidet genau diese Zeit darüber, ob ein Werkzeug produktiv ist oder nicht.

Ein Werkzeug spart nämlich nicht deshalb Zeit, weil es schnell ein erstes Ergebnis erzeugt.

Es spart Zeit, wenn das endgültige professionelle Ergebnis schneller erreicht wird.

Nach meiner Erfahrung wird dieser Unterschied in vielen Diskussionen über KI völlig unterschätzt.

Marketing und Wirklichkeit

Was mich inzwischen am meisten irritiert, ist deshalb nicht die Technik selbst.

Sondern die Erzählung über sie.

Wer Vorträge besucht oder Beiträge in sozialen Medien liest, bekommt häufig den Eindruck, die Produktivitätsrevolution habe längst begonnen.

Ich frage mich inzwischen ernsthaft, ob wir über dieselbe Technologie sprechen.

Während auf Konferenzen und in Hochglanzpräsentationen enorme Effizienzgewinne versprochen werden, verbringe ich Stunden damit, einer KI dieselbe Aufgabe immer wieder zu erklären.

Während von Automatisierung gesprochen wird, kontrolliere ich jede einzelne Ausgabe.

Während behauptet wird, KI übernehme Routinearbeiten, erledige ich genau diese Arbeiten anschließend selbst.

Natürlich kann jede neue Technologie Kinderkrankheiten haben.

Darum geht es mir gar nicht.

Mich stört vielmehr die enorme Diskrepanz zwischen den öffentlichen Versprechen und meinen praktischen Erfahrungen.

Warum diese Debatte wichtig ist

Vielleicht ist genau das die eigentliche Gefahr.

Nicht, dass KI Fehler macht.

Sondern dass wir beginnen, politische und wirtschaftliche Entscheidungen auf einem Bild von KI aufzubauen, das mit der Realität vieler professioneller Anwender nur begrenzt übereinstimmt.

Unternehmen werden unter Druck gesetzt.

Verwaltungen sollen möglichst schnell digitalisieren.

Beschäftigte sollen lernen, mit KI zu arbeiten.

Gleichzeitig wird erstaunlich selten gefragt, ob sich der versprochene Produktivitätsgewinn im jeweiligen Arbeitsbereich überhaupt nachweisen lässt.

Stattdessen scheint die Einführung von KI vielerorts bereits als Selbstzweck zu gelten.

Mein Fazit

Ich werde generative KI selbstverständlich weiterhin beobachten und dort einsetzen, wo sie sich im konkreten Einzelfall tatsächlich als hilfreich erweist.

Aber ich glaube den pauschalen Produktivitätsversprechen nicht mehr.

Zu oft habe ich erlebt, dass einfache Aufgaben zu stundenlangen Trial-and-Error-Prozessen wurden.

Zu oft entstanden neue Fehler, während alte beseitigt wurden.

Zu oft gingen Zusammenhänge verloren.

Zu oft musste ich Projekte praktisch neu beginnen, weil der Kontext nicht mehr vorhanden war.

Vor allem aber hat sich mein Verständnis von KI grundlegend verändert.

Ich sehe sie heute nicht mehr als Werkzeug, das mir Arbeit abnimmt.

Ich sehe sie häufig als System, das neue Arbeit erzeugt.

Nicht die KI arbeitet für mich.

Ich arbeite für die KI.

Ich liefere Daten.

Ich strukturiere Informationen.

Ich formuliere Prompts.

Ich erkläre Zusammenhänge.

Ich suche Fehler.

Ich kontrolliere Ergebnisse.

Ich korrigiere Halluzinationen.

Ich beginne nach Kontextverlusten wieder von vorne.

Ich werde vom Wissensarbeiter zum Datenarbeiter.

Und genau deshalb stelle ich mir inzwischen eine Frage, die in der öffentlichen Debatte erstaunlich selten gestellt wird:

Was wäre, wenn die eigentliche Innovation der generativen KI gar nicht darin besteht, menschliche Arbeit zu automatisieren – sondern darin, eine völlig neue Form menschlicher Arbeit zu schaffen?

Solange diese zusätzliche Arbeit unsichtbar bleibt, erscheinen viele Versprechen über Produktivität unvollständig.

Eine ehrliche Debatte über KI sollte deshalb nicht nur fragen, was eine KI kann.

Sie sollte vor allem fragen, wie viel zusätzliche menschliche Arbeit erforderlich ist, damit aus ihren Ergebnissen überhaupt professionelle Ergebnisse werden.

Erst wenn wir diese Arbeit vollständig mitrechnen, können wir seriös beurteilen, ob generative KI tatsächlich hält, was ihre Befürworter versprechen.

Quellen und weiterführende Hinweise

• The AI Con.
• Stanford Institute for Human-Centered Artificial Intelligence – Veröffentlichungen zu Leistungsfähigkeit, Grenzen und Auswirkungen generativer KI.
• NIST – Forschung zu vertrauenswürdigen KI-Systemen und Risikomanagement.
• Eigene, über viele Monate dokumentierte Erfahrungen beim Einsatz generativer KI in unterschiedlichen professionellen Arbeitsprozessen.

Der Beitrag Nicht die KI arbeitet für mich. Ich arbeite für die KI. erschien zuerst auf Kunst & KI.

Ein Grundstück am Ortsrand, unmittelbar an der Grenze zum Außenbereich. Die Rechtslage scheint zunächst eindeutig: Das Vorhaben ist in dieser Form eigentlich nicht vorgesehen. Doch bei näherer Betrachtung zeigt sich ein differenzierteres Bild. Eine Ablehnung würde für den Antragsteller eine erhebliche Härte bedeuten. Nachbarliche Belange sind nicht berührt, die beteiligten Träger öffentlicher Belange äußern keine Bedenken und sprechen sich teilweise sogar ausdrücklich für das Vorhaben aus. Aufgrund der besonderen Lage des Grundstücks wäre zudem keine unerwünschte Vorbildwirkung für weitere Bauvorhaben zu erwarten. Auch das Ortsbild bliebe weitgehend unbeeinträchtigt. Vergleichbare Fälle hat die Behörde bislang nicht zu entscheiden gehabt.

Für einen Algorithmus stellt ein solcher Fall vor allem ein Problem dar: Es fehlen vergleichbare Muster. Für eine erfahrene Mitarbeiterin oder einen erfahrenen Mitarbeiter im Bauamt beginnt an dieser Stelle hingegen die eigentliche Arbeit. Denn genau für solche Konstellationen hat der Gesetzgeber Ermessens- und Abwägungsspielräume geschaffen. Hier geht es nicht um das schematische Abarbeiten von Vorschriften, sondern um die Würdigung eines Einzelfalls, die Berücksichtigung besonderer Umstände und die verantwortungsvolle Abwägung widerstreitender Interessen.

Für einen Algorithmus ist ein solcher Fall eine statistische Ausnahme. Für den Rechtsstaat ist er der Grund, warum menschliches Ermessen überhaupt existiert.

Dennoch plant Bayern nun, den Einsatz Künstlicher Intelligenz auch dort zu ermöglichen, wo bislang bewusst Menschen entscheiden sollten. Was als Modernisierung der Verwaltung verkauft wird, könnte sich als weitreichender Eingriff in ein zentrales Prinzip rechtsstaatlichen Handelns erweisen. Denn die eigentliche Frage lautet nicht, ob Maschinen schneller entscheiden können als Menschen. Die eigentliche Frage lautet, ob der Staat dort auf menschliche Erfahrung, Verantwortung und Einzelfallgerechtigkeit verzichten sollte, wo sie vom Gesetzgeber ausdrücklich gewollt sind.

Ein historischer Schritt – aber in welche Richtung?

Die Bayerische Staatsregierung betrachtet ihren Vorstoß als wegweisend. Der Leiter der Staatskanzlei, Florian Herrmann, sprach gegenüber der Süddeutschen Zeitung sogar von einem historischen Vorgang:

„Das ist Rechtsgeschichte, weil es das bisher noch nicht gab.“

Tatsächlich wäre die Änderung des Verwaltungsverfahrensrechts ein Paradigmenwechsel. Bisher galt ein einfacher Grundsatz: Dort, wo Ermessen oder Beurteilungsspielräume bestehen, soll kein vollautomatisiertes Verfahren entscheiden.

Der Grund dafür liegt auf der Hand. Ermessen existiert nicht deshalb, weil Gesetze unvollkommen wären. Ermessen existiert, weil der Gesetzgeber erkannt hat, dass sich menschliche Lebenswirklichkeit nicht vollständig in Regeln und Kategorien pressen lässt.

Gerade deshalb stellt sich die Frage, warum ausgerechnet dieser Bereich nun für den Einsatz von KI geöffnet werden soll.

Die Illusion der objektiven Maschine

Befürworter verweisen häufig auf schnellere Verfahren, mehr Einheitlichkeit und eine größere Konsistenz behördlicher Entscheidungen.

Doch diese Argumentation beruht auf einer problematischen Annahme: dass sich gute Verwaltung vor allem durch Gleichförmigkeit auszeichnet.

Moderne KI-Systeme treffen keine Entscheidungen aufgrund von Erfahrung oder Verständnis. Sie erkennen Muster in vorhandenen Daten. Sie bewerten Wahrscheinlichkeiten. Sie vergleichen neue Fälle mit bereits bekannten Konstellationen.

Das mag bei standardisierten Vorgängen sinnvoll sein.

Doch je stärker ein Fall vom Durchschnitt abweicht, desto größer wird das Problem.

Denn die Besonderheit eines Einzelfalls erscheint für die KI nicht als Qualität, sondern als Abweichung.

Gerade hier beginnt die Gefahr einer schleichenden Radikalisierung der Verwaltung.

Nicht im politischen Sinn, sondern im administrativen Sinn: Entscheidungen werden zunehmend auf Muster, Kategorien und Wahrscheinlichkeiten reduziert. Das Individuelle wird zum Störfaktor. Der atypische Fall wird zur Ausnahme, die möglichst effizient verarbeitet werden soll. Die Verwaltung wird dadurch nicht zwingend gerechter, sondern vor allem standardisierter.

Der Preis dieser Entwicklung könnte ein Verlust jener Flexibilität sein, die rechtsstaatliches Ermessen überhaupt erst ermöglichen soll.

Das eigentliche Problem heißt nicht Technik

Die Diskussion über KI in der Verwaltung wird häufig so geführt, als sei sie die Antwort auf eine objektive Notlage.

Doch die Überlastung vieler Behörden ist kein Naturereignis.

Seit Jahren berichten Beschäftigte von steigender Arbeitsverdichtung, wachsender Verantwortung und immer komplexeren Verfahren. Dokumentationspflichten nehmen zu, rechtliche Anforderungen werden umfangreicher und Aufgaben werden ständig erweitert.

Gleichzeitig wurden vielerorts Stellen abgebaut, nicht nachbesetzt oder organisatorisch zusammengelegt.

Die Beschäftigten sollen mehr leisten, komplexere Entscheidungen treffen und größere Verantwortung übernehmen – häufig unter denselben Rahmenbedingungen wie vor Jahren.

Vor diesem Hintergrund erscheint der Ruf nach KI in einem anderen Licht.

Die Technologie soll Probleme lösen, deren Ursachen nicht technischer Natur sind.

Wenn Unterstützung zur Vorentscheidung wird

Offiziell soll der Mensch weiterhin die Kontrolle behalten.

Doch diese Vorstellung ignoriert die Realität vieler Verwaltungen.

Wer täglich unter erheblichem Zeitdruck arbeitet, wird Vorschläge eines Systems kaum vollständig nachvollziehen und überprüfen können. Genau hier entsteht ein bekanntes Phänomen, das als „Automation Bias“ bezeichnet wird: Menschen neigen dazu, Empfehlungen technischer Systeme zu vertrauen, insbesondere dann, wenn Zeitdruck und Arbeitsbelastung hoch sind.

Auf dem Papier entscheidet weiterhin der Mensch.

In der Praxis besteht die Gefahr, dass die Maschine die Entscheidung vorbereitet, strukturiert und faktisch vorprägt.

Die Unterschrift bleibt menschlich.

Die Entscheidungslogik möglicherweise nicht.

Das Bauamt als Prüfstein

Gerade im Baurecht zeigt sich, wie problematisch diese Entwicklung sein könnte.

Baugenehmigungen bestehen nicht ausschließlich aus objektiv messbaren Kriterien. Sie betreffen gewachsene Ortsbilder, nachbarschaftliche Interessen, städtebauliche Entwicklungen und nicht zuletzt menschliche Lebensentwürfe.

Erfahrene Mitarbeiterinnen und Mitarbeiter entwickeln über Jahre ein Gespür für Besonderheiten, die sich nicht vollständig in Akten, Datenbanken oder Checklisten abbilden lassen.

Sie wissen, wann eine scheinbar vergleichbare Situation eben doch nicht vergleichbar ist.

Sie erkennen Konstellationen, für die es keine Muster gibt.

Sie verstehen lokale Besonderheiten, historische Entwicklungen und praktische Auswirkungen einer Entscheidung.

Genau dieses Erfahrungswissen droht verloren zu gehen, wenn Verwaltung zunehmend auf statistische Muster reduziert wird.

Denn die entscheidende Stärke menschlichen Ermessens liegt nicht darin, bekannte Fälle zu erkennen.

Sie liegt darin, unbekannte Fälle angemessen beurteilen zu können.

Wer trägt die Verantwortung?

Mit dem Einsatz von KI stellt sich zudem eine grundlegende rechtsstaatliche Frage.

Wer trägt die Verantwortung für eine Fehlentscheidung?

Bislang ist die Lage klar: Entscheidungen werden von Menschen getroffen, begründet und können gerichtlich überprüft werden.

Bei KI-gestützten Verfahren droht diese Verantwortlichkeit zu verschwimmen.

Die Behörde kann auf die Empfehlung des Systems verweisen.

Der Softwareanbieter kann erklären, lediglich ein Werkzeug bereitgestellt zu haben.

Die Beschäftigten können darauf hinweisen, dass sie die technische Bewertung nicht vollständig nachvollziehen konnten.

Doch ein Rechtsstaat benötigt Verantwortliche.

Er lebt davon, dass Entscheidungen nachvollziehbar, überprüfbar und zurechenbar bleiben.

Transparenz als ungelöstes Problem

Der Bayerische Landesbeauftragte für den Datenschutz, Thomas Petri, mahnt deshalb:

„Transparenz, Verständlichkeit und Nachvollziehbarkeit sind als Kernanliegen des Datenschutzes auch für die Vertrauenswürdigkeit von KI essenziell.“

Dieser Satz trifft den Kern der Debatte.

Denn Bürger haben nicht nur Anspruch auf eine Entscheidung.

Sie haben Anspruch darauf zu verstehen, warum diese Entscheidung getroffen wurde.

Je komplexer KI-Systeme werden, desto schwieriger wird genau diese Nachvollziehbarkeit.

Damit gerät ein weiteres Fundament rechtsstaatlichen Handelns unter Druck.

Wenn Ermessen zum Kostenfaktor wird

Die eigentliche Schwäche der aktuellen Debatte liegt möglicherweise in einer unausgesprochenen Grundannahme.

Menschliches Ermessen erscheint zunehmend als ineffizient.

Es kostet Zeit.

Es verlangt Erfahrung.

Es führt nicht immer zu identischen Ergebnissen.

Es lässt sich nicht beliebig skalieren.

Doch genau deshalb hat der Gesetzgeber es geschaffen.

Ermessen soll verhindern, dass Menschen ausschließlich nach abstrakten Regeln oder statistischen Mustern behandelt werden. Es soll sicherstellen, dass Besonderheiten berücksichtigt werden können. Es soll dort Gerechtigkeit ermöglichen, wo starre Gleichbehandlung zu ungerechten Ergebnissen führen würde.

Der Rechtsstaat hat das menschliche Ermessen nicht trotz seiner Unschärfen geschaffen, sondern gerade wegen seiner Fähigkeit, der Komplexität realer Lebenssituationen gerecht zu werden.

Fazit

Die Debatte über KI in der Verwaltung wird häufig als Frage technischer Machbarkeit geführt.

Tatsächlich geht es um etwas Grundsätzlicheres.

Es geht um die Frage, welche Art von Verwaltung wir wollen.

Eine Verwaltung, die den Bürger als Datensatz betrachtet, der möglichst effizient verarbeitet werden muss?

Oder eine Verwaltung, die den Menschen als Individuum begreift und bereit ist, Besonderheiten des Einzelfalls zu berücksichtigen?

Die geplante Öffnung von Ermessensentscheidungen für KI mag als Modernisierung verkauft werden.

Sie könnte sich jedoch als Schritt hin zu einer Verwaltung erweisen, in der menschliche Erfahrung, Verantwortung und Einzelfallgerechtigkeit zunehmend als Hindernisse erscheinen.

Eine solche Entwicklung wäre kein Fortschritt.

Sie wäre die technologische Vollendung einer Tendenz, die vielerorts bereits sichtbar ist: Arbeitsverdichtung, Rationalisierungsdruck und die Vorstellung, dass sich menschliches Urteil letztlich durch Mustererkennung ersetzen lasse.

Doch genau dort beginnt die eigentliche Gefahr.

Denn für einen Algorithmus ist der Mensch oft die Ausnahme.

Für den Rechtsstaat sollte er stets der Maßstab bleiben.

Quellen

1. Legal Tribune Online (LTO): „Bayern will Verwaltungsrecht ändern: Ermessen? Pah, das soll die KI machen“
   https://www.lto.de/recht/hintergruende/h/ki-verwaltung-ermessen-bayern-aendert-verwaltungsrecht-bund-kontrolle-kritik
2. Legal Tribune Online (LTO): „Künstliche Intelligenz in der Verwaltung: Keine Ermessensausübung durch die Maschine?“
   https://www.lto.de/recht/hintergruende/h/kuenstliche-intelligenz-ki-verwaltung-35a-vwvfg-ermessen-automatisiert-verwaltungsakt
3. Süddeutsche Zeitung: Berichterstattung zur bayerischen Verwaltungsrechtsänderung; Zitat von Florian Herrmann („Das ist Rechtsgeschichte, weil es das bisher noch nicht gab.“)
4. Bayerischer Landesbeauftragter für den Datenschutz: Künstliche Intelligenz
   https://www.datenschutz-bayern.de/nav/2501.html
5. move-online.de: „KI in der Verwaltung – aber mit Datenschutz“; Zitat von Thomas Petri („Transparenz, Verständlichkeit und Nachvollziehbarkeit sind als Kernanliegen des Datenschutzes auch für die Vertrauenswürdigkeit von KI essenziell.“)

Der Beitrag Der Mensch stört erschien zuerst auf Kunst & KI.

Die Zukunft der künstlichen Intelligenz klingt in politischen Reden und Marketingkampagnen oft wie ein technisches Heilsversprechen. KI soll Krankheiten früher erkennen, Behörden effizienter machen, Cyberangriffe stoppen, Verkehrsströme optimieren und sogar die Folgen des Klimawandels besser beherrschbar machen. Doch ausgerechnet dort, wo die Risiken am größten sind, zeigen sich inzwischen die Grenzen datengetriebener Systeme besonders deutlich.

Eine aktuelle Studie des Karlsruher Instituts für Technologie (KIT) und der Universität Genf sorgt derzeit in der Meteorologie für Aufsehen. Die Forscher verglichen moderne KI-Wettermodelle wie GraphCast, Pangu Weather und Fuxi mit klassischen physikbasierten Wettermodellen. Das Ergebnis: Während KI-Systeme bei gewöhnlichen Wetterlagen oft erstaunlich präzise arbeiten, unterschätzen sie Extremereignisse systematisch – darunter Hitzewellen, Starkregen und Orkanböen.

Das KIT formuliert den Befund ungewöhnlich klar: „Während KI-Modelle bei der Gesamtbewertung aller Wetterlagen gut abschneiden, zeigen sie bei Rekordereignissen durchweg größere Prognosefehler.“ Besonders problematisch sei, dass die Systeme „sowohl die Intensität als auch die Häufigkeit extremer Ereignisse“ unterschätzen.

Das ist kein bloß akademisches Problem. Wenn Hochwasserwarnungen zu niedrig ausfallen oder extreme Hitzewellen nicht rechtzeitig erkannt werden, kann das Menschenleben kosten. Gerade weil Extremereignisse selten sind, liegen sie oft außerhalb jener Datenbereiche, aus denen KI-Systeme gelernt haben. Mit dem Klimawandel verschärft sich dieses Problem zusätzlich: Die Vergangenheit wird als Trainingsgrundlage immer unzuverlässiger.

Doch die eigentliche Brisanz reicht weit über die Meteorologie hinaus. Das Wetterproblem ist nur ein sichtbares Symptom eines grundlegenderen Konflikts: Was passiert mit einer Gesellschaft, wenn immer mehr Entscheidungen auf statistischen Systemen beruhen, die niemand mehr wirklich nachvollziehen kann?

Die Illusion statistischer Sicherheit

Die meisten modernen KI-Systeme funktionieren nicht wie klassische Programme. Sie folgen nicht einer transparenten Kette von Regeln, sondern lernen Muster aus gigantischen Datenmengen. Genau das macht sie leistungsfähig – und zugleich gefährlich.

Solange die Realität den Trainingsdaten ähnelt, liefern diese Systeme oft beeindruckende Ergebnisse. Doch bei seltenen Ausnahmefällen, neuen Situationen oder gesellschaftlichen Umbrüchen geraten sie an strukturelle Grenzen. Informatiker sprechen von „Out-of-Distribution“-Problemen: Das Modell wird mit einer Situation konfrontiert, die außerhalb seines Erfahrungsraums liegt.

Das Wetterbeispiel zeigt diese Schwäche besonders deutlich. Doch ähnliche Probleme existieren längst in anderen Bereichen.

In der Medizin etwa können KI-Systeme bei Standardfällen sehr gute Ergebnisse erzielen. Schwieriger wird es bei seltenen Erkrankungen, atypischen Symptomen oder unterrepräsentierten Patientengruppen. In der Cybersicherheit erkennen Algorithmen bekannte Angriffsmuster oft schneller als Menschen – aber gerade neuartige Angriffstechniken entziehen sich statistischen Routinen.

Trotzdem wächst der Druck, solche Systeme immer umfassender einzusetzen. Behörden experimentieren mit automatisierter Risikobewertung, Unternehmen mit algorithmischer Personalsteuerung, Versicherungen mit KI-gestützten Schadensanalysen. Der gemeinsame Nenner lautet stets: Effizienz.

Die eigentliche Gefahr entsteht jedoch nicht erst dann, wenn ein System spektakulär versagt. Sie beginnt bereits in dem Moment, in dem Menschen institutionell lernen, den Systemen zu vertrauen.

Vom Hilfsmittel zur Autorität

Der deutsch-amerikanische Informatiker und KI-Pionier Joseph Weizenbaum warnte bereits 1976 vor genau dieser Entwicklung. In seinem Buch „Computer Power and Human Reason“ schrieb er:

„Die Frage ist nicht, ob so etwas getan werden kann, sondern ob es angemessen ist, diese bislang menschliche Funktion an eine Maschine zu delegieren.“

Und weiter:

„Die Grenzen der Anwendbarkeit von Computern lassen sich letztlich nur in Begriffen dessen formulieren, was sein soll.“

Weizenbaum kritisierte nicht bloß technische Fehler, sondern die Vorstellung, menschliches Urteil durch Berechnung ersetzen zu können. Besonders entschieden wandte er sich gegen den Einsatz von Computern in Bereichen, die Verantwortung, Ethik oder menschliche Abwägung erfordern.

Heute wirken seine Warnungen erstaunlich aktuell.

Denn moderne KI verändert nicht nur Werkzeuge, sondern Institutionen. In vielen Bereichen entsteht schleichend ein sogenannter „Automation Bias“: Menschen gewöhnen sich daran, algorithmischen Empfehlungen zu folgen – selbst dann, wenn sie Zweifel haben.

Piloten verlassen sich auf Autopiloten. Ärzte auf Diagnosevorschläge. Sachbearbeiter auf Risikoscores. Analysten auf Prognosemodelle.

Je häufiger die Systeme richtig liegen, desto größer wird die psychologische Hemmschwelle, ihnen zu widersprechen.

Damit verschiebt sich Verantwortung. Formal bleibt zwar meist ein Mensch zuständig. Praktisch aber wird menschliche Kontrolle oft zu einer symbolischen Restfunktion.

Blackbox statt Rechtsstaat

Besonders problematisch wird das in demokratischen und rechtsstaatlichen Systemen.

Denn moderne Rechtsstaaten beruhen auf Grundprinzipien wie Nachvollziehbarkeit, Begründungspflicht und Anfechtbarkeit. Entscheidungen müssen überprüfbar sein. Betroffene müssen verstehen können, warum sie benachteiligt, abgelehnt oder überwacht werden.

Viele KI-Systeme stehen genau dazu im Widerspruch.

Große neuronale Modelle arbeiten hochkomplex und oft intransparent. Selbst Entwickler können häufig nicht exakt erklären, warum ein System zu einem bestimmten Ergebnis gekommen ist. Die Folge ist ein fundamentaler Konflikt zwischen statistischer Optimierung und demokratischer Legitimation.

Ein Beispiel dafür lieferte bereits der niederländische Sozialskandal um das System SyRI, mit dem Behörden automatisiert Sozialbetrug erkennen wollten. Bürger wurden algorithmisch als Verdachtsfälle markiert, ohne nachvollziehen zu können, nach welchen Kriterien das geschah. Gerichte stoppten das System schließlich wegen massiver Datenschutz- und Rechtsstaatsbedenken.

Ähnliche Debatten laufen inzwischen europaweit.

Die Europäische Union versucht mit ihrem KI-Gesetz zwar, Hochrisikosysteme stärker zu regulieren. Doch viele Experten bezweifeln, dass Transparenzpflichten allein ausreichen.

Denn selbst wenn ein System statistisch korrekt arbeitet, bleibt die Frage offen, ob demokratische Gesellschaften bestimmte Entscheidungen überhaupt an datengetriebene Modelle delegieren sollten.

Die neue Macht der Konzerne

Hinzu kommt ein weiterer Faktor: Konzentration.

Die leistungsfähigsten KI-Systeme werden heute von wenigen globalen Konzernen kontrolliert. Training, Infrastruktur und Rechenleistung kosten Milliardenbeträge. Staaten, Behörden und Unternehmen geraten dadurch zunehmend in Abhängigkeit von proprietären Modellen, deren Funktionsweise oft Geschäftsgeheimnisse bleibt.

Damit entsteht eine neue Form technologischer Macht.

Wenn Verwaltung, Medizin, Bildung oder kritische Infrastruktur künftig auf Systeme angewiesen sind, die von einigen wenigen Unternehmen betrieben werden, verschiebt sich demokratische Kontrolle hin zu privatwirtschaftlichen Plattformen.

Der öffentliche Diskurs über KI wird zusätzlich durch massives Marketing verzerrt. Investoren, Tech-Konzerne und politische Akteure haben ein starkes Interesse daran, KI als unvermeidliche Zukunftstechnologie darzustellen. Kritische Einwände erscheinen dann schnell als technikfeindlich oder rückständig.

Weizenbaum warnte bereits vor einem „Mythos technologischer Unvermeidlichkeit“. Heute zeigt sich dieser Mythos in nahezu jeder KI-Debatte: Die Systeme gelten nicht mehr bloß als Möglichkeit, sondern als zwangsläufige Entwicklungsstufe.

Gerade deshalb werden Warnungen oft erst ernst genommen, wenn reale Schäden sichtbar werden.

Die Gefahr der KI-Echokammer

Ein weiteres Problem beginnt erst langsam sichtbar zu werden: die Rückkopplung künstlicher Systeme mit sich selbst.

Immer mehr Texte, Bilder, Analysen und Programmiercodes im Internet stammen inzwischen von KI-Systemen. Gleichzeitig werden neue Modelle mit genau diesen Daten trainiert.

Forscher warnen deshalb vor sogenannten „Model Collapse“-Effekten: Wenn KI zunehmend aus KI-generierten Inhalten lernt, können Informationsvielfalt, Qualität und Robustheit abnehmen.

Das Risiko ist nicht nur technischer Natur. Auch gesellschaftlich entstehen Echokammern.

Wenn algorithmische Systeme bestimmen,

• welche Informationen sichtbar werden,
• welche Texte produziert werden,
• welche Risiken als relevant gelten,
• welche Wahrscheinlichkeiten Entscheidungen beeinflussen,

dann formen statistische Modelle zunehmend selbst jene Wirklichkeit, aus der sie wiederum lernen.

Gerade in sicherheitskritischen Bereichen kann das gefährlich werden.

Ein KI-System, das Bedrohungen falsch priorisiert, beeinflusst menschliche Aufmerksamkeit. Ein Diagnosemodell verändert medizinische Routinen. Ein automatisiertes Verwaltungssystem verändert bürokratische Praxis.

Die Systeme beschreiben Realität dann nicht mehr bloß – sie produzieren sie mit.

Fazit: Die zentrale Frage unserer Zeit

Die aktuelle Wetterstudie ist deshalb weit mehr als eine technische Detaildebatte über Prognosemodelle.

Sie zeigt exemplarisch, wo die Grenzen rein datengetriebener Systeme liegen: ausgerechnet bei seltenen, neuartigen und gesellschaftlich besonders folgenreichen Ereignissen.

Doch die größere Frage lautet nicht, ob KI nützlich sein kann. Natürlich kann sie das.

Die entscheidende Frage ist vielmehr:

Welche Entscheidungen dürfen demokratische Gesellschaften überhaupt an statistische Systeme delegieren?

Denn eine Gesellschaft verliert Kontrolle nicht erst dann, wenn Maschinen vollständig autonom handeln. Kontrolle geht bereits verloren, wenn Entscheidungen zwar formal noch von Menschen bestätigt werden, praktisch aber niemand mehr versteht, überprüft oder verantwortet, wie sie zustande kommen.

Das eigentliche Risiko der KI-Revolution liegt deshalb möglicherweise nicht in einer futuristischen Maschinenherrschaft. Sondern in einer schleichenden Gewöhnung daran, menschliches Urteil durch undurchsichtige Wahrscheinlichkeitsmodelle zu ersetzen.

Die Wettermodelle liefern dafür eine Warnung. Nicht weil KI grundsätzlich nutzlos wäre, sondern weil gerade hochkomplexe Gesellschaften dazu neigen, funktionierende Systeme immer weiter auszudehnen – bis jene Ausnahmefälle auftreten, in denen ihre strukturellen Schwächen sichtbar werden.

Und genau diese Ausnahmefälle entscheiden oft über Sicherheit, Freiheit und demokratische Kontrolle.

Quellen und weiterführende Links

• KIT: „Physikbasierte Wettermodelle bei Extremereignissen zuverlässiger als KI“: https://www.kit.edu/kit/pi_2026_040_physikbasierte-wettermodelle-bei-extremereignissen-zuverlaessiger-als-ki.php
• Science Media Center: „KI-Modelle bei der Vorhersage seltener Wetterextreme unterlegen“: https://www.sciencemediacenter.de/angebote/ki-modelle-bei-der-vorhersage-seltener-wetterextreme-unterlegen-26090
• Frankfurter Rundschau: „Studie zerlegt den KI-Hype“: https://www.fr.de/panorama/studie-zerlegt-den-ki-hype-bei-hitze-sturm-und-starkregen-versagen-die-teuren-algorithmen-zr-94299698.html
• Joseph Weizenbaum: „Computer Power and Human Reason: From Judgment to Calculation“ (1976)
• Europäisches Parlament: EU AI Act: https://www.europarl.europa.eu/topics/de/article/20230601STO93804/gesetz-zur-kunstlichen-intelligenz-der-eu-erste-regeln-fur-ki
• Dokumentation über Joseph Weizenbaum: „Plug & Pray“: http://www.plugandpray-film.com/en/

Der Beitrag Wenn Maschinen entscheiden: Wie der KI-Hype Kontrolle, Verantwortung und Demokratie gefährdet erschien zuerst auf Kunst & KI.

Als ein deutscher Erfinder im Jahr 2025 eine technische Idee beim Deutschen Patent- und Markenamt (DPMA) einreichte, rechnete er mit einer Routineprüfung. Stattdessen erhielt er Monate später ein Schreiben, das selbst erfahrene Patentrechtler irritierte: Seine Erfindung sei nicht nur neu und prinzipiell patentfähig, sondern werde zugleich als Staatsgeheimnis eingestuft. Die Begründung war von ungewöhnlicher Schwere. In falschen Händen könne die Technologie „die Verteidigungsfähigkeit der Bundesrepublik Deutschland beeinträchtigen“ und „unter Umständen sogar die nukleare Abschreckung der NATO gefährden“.

Was zunächst wie eine sicherheitspolitische Ausnahmeentscheidung wirkte, entwickelte sich binnen weniger Wochen zu einem Lehrstück darüber, wie schlecht staatliche Institutionen auf den Einsatz künstlicher Intelligenz in sensiblen Rechtsbereichen vorbereitet sind. Denn ebenso überraschend wie die Einstufung als Staatsgeheimnis war ihre Aufhebung: Die Geheimhaltung wurde wieder kassiert – weil der Antragsteller bei der Erstellung seines Patentantrags eine KI genutzt hatte.

Geheimschutz im Patentrecht: ein etabliertes, aber kaum bekanntes Instrument

Dass Patente unter bestimmten Umständen geheim gehalten werden können, ist im deutschen Recht vorgesehen. Das Patentgesetz erlaubt es, Erfindungen als geheim einzustufen, wenn ihre Veröffentlichung „einen schweren Nachteil für die äußere Sicherheit der Bundesrepublik Deutschland“ bedeuten würde. Solche Fälle sind selten, aber keineswegs neu. Seit Jahrzehnten existiert im DPMA eine interne Stelle, informell bekannt als „Büro 99“, die genau für diese Verfahren zuständig ist.

Dort landen Patentanmeldungen, die als sicherheitsrelevant gelten – etwa aus den Bereichen Rüstung, Kryptografie, Kerntechnik oder militärische Kommunikation. Die Unterlagen werden nicht veröffentlicht, die Erfinder dürfen nicht über ihre Inhalte sprechen, und das Verfahren läuft außerhalb der üblichen Transparenzregeln des Patentrechts.

Der vorliegende Fall passt auf den ersten Blick in dieses Raster. Dass jedoch ein einzelner Privatmann ohne institutionellen Hintergrund mit einer bloßen Anmeldung angeblich die nukleare Abschreckung gefährden kann, weckte früh Zweifel – auch bei Journalisten.

Die Intervention der Öffentlichkeit

Erst durch Nachfragen von Medien wurde bekannt, wie fragil die Entscheidung tatsächlich war. Das Patentamt forderte den Antragsteller im Zuge der Berichterstattung auf, zusätzliche Angaben zu machen. Unter anderem wollte die Behörde wissen, ob bei der Erstellung der Anmeldung eine künstliche Intelligenz genutzt worden sei und ob Inhalte über Cloud-Dienste verarbeitet wurden.

Die Antwort des Erfinders war offen: Ja, er habe eine KI zur sprachlichen Ausarbeitung genutzt. Ja, Teile seien digital verarbeitet worden.

Daraufhin folgte eine bemerkenswerte Neubewertung. In einem weiteren Schreiben hieß es sinngemäß, eine Geheimhaltung sei nicht mehr sicherzustellen, da bei der Nutzung externer KI-Systeme nicht ausgeschlossen werden könne, dass Daten zur Verbesserung dieser Systeme verwendet würden. Die Geheimhaltungsanordnung wurde aufgehoben.

Mit anderen Worten: Dasselbe Patent, das wenige Wochen zuvor noch als potenzielle Bedrohung für die nationale Sicherheit galt, war plötzlich nicht mehr geheimhaltungsfähig – nicht wegen seines Inhalts, sondern wegen des Werkzeugs, mit dem es formuliert wurde.

Ein systemischer Widerspruch

Dieser Vorgang offenbart einen grundlegenden Widerspruch. Geheimschutz im Patentrecht dient dem Ziel, sensibles Wissen kontrolliert zu halten. Die Nutzung einer KI wird jedoch pauschal als Kontrollverlust interpretiert – unabhängig davon, ob tatsächlich sicherheitsrelevante Inhalte offengelegt wurden oder nicht.

Damit entsteht ein paradoxer Zustand:

• Wird eine Erfindung ohne KI eingereicht, kann sie geheim gehalten werden.
• Wird sie mit KI formuliert, entfällt der Geheimschutz – selbst dann, wenn sie zuvor als hochgefährlich galt.

Rechtlich ist diese Logik kaum haltbar. Denn das Patentgesetz kennt keine Sonderregel für KI-gestützte Texte. Auch das Sicherheitsrecht unterscheidet nicht zwischen menschlich oder maschinell formulierten Dokumenten. Die Entscheidung wirkt daher weniger wie eine juristisch fundierte Bewertung, sondern eher wie eine administrative Notlösung angesichts technischer Unsicherheit.

„Nur Behauptungen ohne wissenschaftlichen Nachweis“

Zusätzlich irritierend war eine weitere Begründung des Amtes. Nach Aufhebung der Geheimhaltung erklärte es, es sei zudem nicht nachgewiesen, dass die Erfindung überhaupt funktioniere. Es handele sich lediglich um „Behauptungen, für die kein wissenschaftlicher Nachweis vorliegt“.

Auch dieser Punkt ist problematisch. Die Frage, ob eine Erfindung technisch umsetzbar ist, gehört zur regulären Patentprüfung – nicht zur sicherheitspolitischen Einstufung. Die Vermischung beider Ebenen legt nahe, dass das Verfahren weniger von klaren Kriterien als von situativer Einschätzung geprägt war.

Für den Antragsteller bedeutet das einen Schwebezustand: Weder gilt seine Erfindung als gefährlich, noch als anerkannt. Für das System insgesamt ist der Schaden größer. Denn Vertrauen in Rechtssicherheit entsteht nicht durch Ad-hoc-Entscheidungen, sondern durch nachvollziehbare Verfahren.

KI als juristischer Störfaktor

Der Fall reiht sich ein in eine wachsende Zahl von Konflikten, in denen KI bestehende Rechtsordnungen herausfordert. Bereits zuvor hatten Gerichte entschieden, dass KI nicht als Erfinder gelten kann, auch wenn sie maßgeblich an einer Entwicklung beteiligt war. Das Patentrecht bleibt auf den Menschen als verantwortliches Subjekt fixiert.

Neu ist jedoch, dass KI hier nicht als Schöpfer, sondern als Formulierungswerkzeug zum Problem wird – und trotzdem massive rechtliche Folgen auslöst. Das zeigt, wie unscharf der rechtliche Umgang mit KI bislang ist. Sie ist weder bloß Schreibmaschine noch autonomer Akteur, sondern etwas Drittes, für das klare Kategorien fehlen.

Gerade im Sicherheitsrecht, das traditionell auf Kontrolle, Geheimhaltung und Verantwortlichkeit setzt, führt diese Unschärfe zu institutioneller Überforderung.

Internationale Perspektive: Deutschland ist kein Sonderfall – aber ein früher

Auch international ringen Staaten mit ähnlichen Fragen. In den USA existiert seit Jahrzehnten der sogenannte Invention Secrecy Act, der es erlaubt, sicherheitsrelevante Patente zurückzuhalten. Auch dort spielt KI zunehmend eine Rolle – bislang jedoch ohne vergleichbare Fälle, in denen allein ihre Nutzung zur Aufhebung der Geheimhaltung führte.

Deutschland steht hier exemplarisch für ein Dilemma, das viele westliche Rechtsstaaten teilen: Innovation entsteht zunehmend außerhalb staatlicher Kontrolle, während die Werkzeuge ihrer Entstehung – KI, Cloud, globale Plattformen – klassische Sicherheitslogiken unterlaufen.

Der deutsche Fall ist daher weniger ein Ausreißer als ein Frühindikator.

Fazit: Ein Warnsignal

Der Fall zeigt nicht, dass das Patentsystem versagt hat. Er zeigt, dass es an seine Grenzen stößt. Wenn eine Behörde innerhalb weniger Wochen zu gegensätzlichen Bewertungen derselben Erfindung kommt – einmal als potenzielle Bedrohung der NATO, dann als nicht mehr geheimhaltungsfähig –, ist das kein individuelles Versäumnis, sondern ein strukturelles Problem.

Künstliche Intelligenz wirkt hier wie ein Katalysator: Sie zwingt ein System, das auf menschliche Kontrolle ausgelegt ist, zur Entscheidung über Prozesse, die es nicht mehr vollständig beherrscht.

Was fehlt, sind klare gesetzliche Leitlinien:

• Wie ist KI in sicherheitsrelevanten Verwaltungsverfahren zu behandeln?
• Wann gilt Geheimhaltung als verletzt?
• Und wie lassen sich Innovation, Rechtssicherheit und staatliche Sicherheitsinteressen in Einklang bringen?

Solange diese Fragen unbeantwortet bleiben, wird es weitere Fälle geben – und jedes Mal wird das Vertrauen in die Handlungsfähigkeit des Rechtsstaates ein Stück weiter erodieren.

Quellen und weiterführende Informationen

• Tagesschau / WDR Investigativ: „Plötzlich Staatsgeheimnis – Wie ein Patent zur Gefahr für die NATO erklärt wurde“
• Golem.de: „Staatsgeheimnis: KI-Nutzung bei Patentanmeldung hebt Geheimhaltung auf“
• Borns IT-Blog: „Patentanmeldung gerät zum Staatsgeheimnis – dann dank KI nicht mehr wichtig“
• Deutsches Patent- und Markenamt: Informationen zu Geheimpatenten und § 50 Patentgesetz
• Bundesgerichtshof: Entscheidungen zur Erfinderstellung bei KI-gestützten Entwicklungen
• Invention Secrecy Act (USA): Historische und rechtliche Grundlagen

Der Beitrag Ein Patent, ein Staatsgeheimnis – und eine KI erschien zuerst auf Kunst & KI.

Künstliche Intelligenz (KI) verändert zunehmend die Spielräume der Tanzkunst – sie liefert Inspiration und technische Mittel zur Analyse sowie interaktive Partner in Live-Performances. Doch wie genau sieht dieser Wandel aus, was funktioniert gut, was wirft Fragen auf? Im Folgenden beleuchte ich exemplarisch deutsche Projekte, bringe Stimmen aus der Praxis und reflektiere kritische Aspekte.

Beispiele aus Deutschland mit Stimmen der Beteiligten

Deep.Dance (Hamburg)

Das Stück Deep.Dance, entwickelt von Jascha Viehstädt mit einem internationalen Team, nutzt ein künstliches neuronales Netz, das eine Choreographie vollständig erzeugt. Drei Tänzer*innen führen anschließend die von der KI berechnete Choreographie bis ins Detail aus.

Ein Pressestatement beschreibt Deep.Dance so:

„In Deep.Dance ersetzt ein Team aus internationalen Künstlerinnen sich selbst durch eine künstliche Intelligenz. Eine vollständige Choreographie, kreiert durch ein von ihnen programmiertes, künstlich-neuronales Netz, wird bis ins Detail von drei Tänzerinnen ausgeführt.“ Deep.Dance

Aus der Kritik heißt es über Deep.Dance:

„… threateningly successful interplay of artificial conceptual and human-bodily-motor intelligence“ jaschaviehstaedt.com

Diese Formulierungen zeigen, wie das Projekt nicht nur als technische Spielerei betrachtet wird, sondern als ästhetische Erfahrung, die Fragen aufwirft, wie weit menschliche Bewegung durch algorithmische Strukturen geprägt werden kann.

Weitere Projekte und Initiativen

Während Deep.Dance eines der bekannteren Beispiele ist, gibt es auch Projekte, die KI-Elemente in Tanzlehre und Forschung einsetzen. Ein bereits beschriebener Ansatz ist Vortanz an der Deutschen Sporthochschule Köln, wo Pose-Estimation etc. zur Reflexion und Verbesserung der Tanztechnik genutzt werden.

Das österreichisch-deutsche DANCR-Projekt verbindet Tanz und Robotik sowie maschinelles Lernen, um Werkzeuge zu entwickeln, die Choreografien analysieren und neue Formen der Interaktion ermöglichen.

Stimmen und Reflexion aus der Praxis

Die Zitate von Deep.Dance (siehe oben) zeigen, dass Künstlerinnen bewusst KI als Mitgestalterin behandeln: Die KI erzeugt Bewegungssequenzen, die menschliche Ausführung verlangt und formt. Die Beschreibung „threateningly successful interplay …“ spricht von einer Spannung: Die KI arbeitet nicht einfach unterstützend, sondern sie fordert heraus, lässt hinterfragen, was menschlich ist und was Maschine.

Ein weiteres relevantes Element: Deep.Dance spricht davon, dass die Bewegungen „statistisch vorbestimmt“ seien, aber dann durch Menschen ausgeführt werden, also eine doppelte Vermittlung zwischen Maschinellem und Körperlichem.

Kritische Aspekte

1. Autorschaft und Urheberrecht
   Wem gehört das Werk, wenn eine KI Bewegungsfolgen generiert? Wenn KI-Modelle auf existierende Choreografien trainiert werden, wie transparent sind die Quellen? Wer profitiert?
2. Körperlichkeit und Ausdruck
   KI kann Bewegungsdaten erzeugen und Visualisierungen unterstützen, aber Ausdruck, Nuancen, Intuition, Präsenz – all das hängt sehr stark vom menschlichen Körper, von Erfahrung und Empfindung ab. Es besteht die Gefahr, dass Tanz zu reiner Form oder reinem Muster reduziert wird.
3. Kulturelle Verzerrungen (Bias)
   Trainingsdaten spiegeln oft westliche, akademisch dominierte Tanztraditionen wider. Weniger verbreitete Stilrichtungen, lokale Ausdrucksformen und non-westliche Bewegungsweisen werden möglicherweise ignoriert oder stereotypisiert.
4. Ästhetische Limitierungen
   Manche KI-Bewegungen wirken sehr „geordnet“, vorhersehbar oder „glatt“. Unvorhersehbarkeit und Imperfektion sind aber oft Elemente, die Tanz lebendig machen. KI-Outputs können beeindruckend sein, aber auch emotional distanziert.
5. Zugang & Ressourcen
   Projekte wie Deep.Dance haben relativ gute Fördermittel und technische Ausstattung. Freie Compagnien, Studierende oder Tanzschaffende ohne solche Mittel stehen vor Barrieren: Kosten für Hardware, Entwicklung und technische Expertise.
6. Ethik & Publikumserwartungen
   Wie offen sollte sein, was KI gemacht hat? Wird Publikum genügend informiert? Könnte eine KI-Choreographie als weniger „authentisch“ wahrgenommen werden – und wenn ja, wie damit umgehen?

Fazit

KI hat im Feld Tanzkunst bereits überzeugt als Inspirationsquelle, Werkzeug und als Mittel, Bewegung neu zu formen. Projekte wie Deep.Dance in Deutschland zeigen, wie ästhetisches Potenzial und kritische Reflexion zusammengehen können. Dabei ist entscheidend, dass Tanzschaffende nicht nur Technik nutzen, sondern Verantwortung übernehmen: gegenüber Körperlichkeit, kultureller Vielfalt, sozialer Gerechtigkeit und künstlerischer Integrität.

Der Beitrag Von der Bühne ins Rechenzentrum: Tanzkunst und künstliche Intelligenz erschien zuerst auf Kunst & KI.

Kaum ein Thema hat in den letzten Jahren für so viel Aufmerksamkeit gesorgt wie die Künstliche Intelligenz (KI). Sprachmodelle wie ChatGPT, Bildgeneratoren oder Automatisierungssysteme werden als revolutionäre Technologien gefeiert, die unsere Arbeitswelt und Gesellschaft tiefgreifend verändern sollen. Doch die Euphorie wird zunehmend von kritischen Stimmen begleitet: Handelt es sich bei der KI-Welle tatsächlich um den Beginn einer neuen industriellen Revolution – oder um eine Blase, die bald platzen könnte?

Produktivitätseffekte: viel Hoffnung, wenig Realität

Studien, u. a. von der Österreichischen Akademie der Wissenschaften, zeigen: Die realwirtschaftlichen Effekte von KI sind bislang überschaubar. Unternehmen setzen KI derzeit vor allem in klar abgegrenzten Routinebereichen ein, etwa bei Standardanfragen im Kundenservice oder in der Datenanalyse. Dort lassen sich durchaus Einsparungen erzielen. Doch sobald es um komplexere Aufgaben geht, überwiegt der Aufwand der Qualitätssicherung: Halluzinationen, fehlerhafte Ergebnisse und rechtliche Unsicherheiten führen dazu, dass Menschen weiterhin intensiv kontrollieren und korrigieren müssen. Ein durchschlagender Produktivitätseffekt bleibt aus.

Energiehunger und Nachhaltigkeit

Ein weiteres Problem ist der enorme Energieverbrauch. Große Sprachmodelle benötigen für Training und Betrieb gewaltige Rechenressourcen. Prognosen gehen davon aus, dass Rechenzentren bis 2030 bis zu 8 % des weltweiten Stromverbrauchs verursachen könnten. Damit droht KI nicht nur, bestehende Nachhaltigkeitsziele zu konterkarieren, sondern verschärft auch die Abhängigkeit von hochspezialisierten Infrastrukturen.

Rückschläge in Unternehmen

Zwar setzen viele Firmen auf KI, doch erste Rückschläge zeigen die Grenzen deutlich auf. So hatte der Zahlungsanbieter Klarna Hunderte Mitarbeiter durch KI ersetzt, rudert aber inzwischen zurück, da die Qualität der Ergebnisse nicht ausreichte. Auch in der Verwaltung führen neue KI-Systeme häufig nicht zu Entlastung, sondern zu Mehrarbeit durch zusätzliche Schnittstellen und Prüfungen. Die viel beschworene Effizienzsteigerung lässt bislang auf sich warten.

Parallelen zur Dotcom-Blase

Die Diskussionen erinnern stark an die Dotcom-Ära um die Jahrtausendwende: Damals wie heute existiert eine enorme Diskrepanz zwischen Unternehmensbewertungen und realwirtschaftlichen Erträgen. Milliarden fließen in KI-Startups, die zum Teil noch kein tragfähiges Geschäftsmodell vorweisen können. Die Gefahr einer Überhitzung des Marktes ist offensichtlich.

Um diese Parallelen greifbar zu machen, haben wir eine Infografik erstellt:

Auswertung der Infografik

• Unternehmensbewertungen: Sowohl in der Dotcom-Ära als auch heute im KI-Sektor extrem hoch – aktuell sogar noch ausgeprägter.
• Reale Umsätze und Produktivitätseffekte: In beiden Fällen vergleichsweise gering. Trotz Investitionen zeigen sich kaum messbare Fortschritte.
• Medienhype: Dotcom wie KI wurden und werden von einer starken öffentlichen Euphorie begleitet.
• Nachhaltige Geschäftsmodelle: Erst die Zeit wird zeigen, welche Player überleben. Während aus der Dotcom-Blase am Ende Google, Amazon & Co. hervorgingen, ist bei KI noch offen, welche Unternehmen den Sprung schaffen.

Die Infografik verdeutlicht: Die Parallelen sind frappierend – und sie mahnen zur Vorsicht.

Krypto-Parallelen

Auch zur Kryptowährungsblase lassen sich zahlreiche Parallelen ziehen. 2017 und 2021 stiegen die Bewertungen von Bitcoin und zahllosen Altcoins ins Unermessliche – oft ohne realwirtschaftlichen Nutzen. Ähnlich wie bei KI spielte die Angst, „den nächsten großen Trend zu verpassen“, eine zentrale Rolle. Während Krypto vor allem als spekulatives Finanzprodukt galt, ist KI stärker in Unternehmen und Verwaltung eingebettet. Doch das Muster der Übertreibung, Intransparenz und regulatorischen Unsicherheit ist nahezu identisch.

Um diese Dreier-Konstellation darzustellen, haben wir eine zweite Infografik ergänzt:

Gesellschaftliche Risiken und Machtkonzentration

Selbst wenn am Ende einige wenige Unternehmen die „KI-Revolution“ überleben und dominieren, bedeutet das nicht automatisch Fortschritt für die Gesellschaft. Im Gegenteil: Innovation ist nicht gleichzusetzen mit gesellschaftlichem Fortschritt.

• Privatsphäre: KI braucht enorme Datenmengen. Je zentralisierter die Datenmacht, desto größer das Risiko für Überwachung und Verlust der informationellen Selbstbestimmung.
• Einschränkung von Rechten: Von Urheberrechtsverletzungen durch ungefragte Nutzung kreativer Werke bis zu automatisierten Entscheidungen über Bewerbungen, Beförderungen oder Kündigungen.
• Monopolisierung: Nur wenige Unternehmen können sich die teuren Rechenressourcen und Infrastrukturen leisten. Das führt zu Oligopolen, die Standards diktieren.
• Ungleichheit: Gewinne konzentrieren sich bei den Plattformen und Investoren, während die breite Bevölkerung kaum profitiert. Auch global wächst die Kluft zwischen Norden und Süden.

Damit ist klar: Innovation bedeutet nicht automatisch Fortschritt für die Menschheit. Entscheidend ist, wie Technologien reguliert, verteilt und eingesetzt werden.

Von Science zu Systemics – Heinz von Foerster und die Rolle der Kybernetik

Heinz von Foerster hat schon früh darauf hingewiesen, dass moderne Wissenschaft immer stärker zu einer Erzählmaschine wird. Nicht mehr die Realität selbst stehe im Zentrum, sondern die Frage: „Wer erzählt die plausibelste Geschichte, von der alle sofort glauben: Das muss es gewesen sein?“

Von Foerster unterschied zwischen Science – dem Trennen, Analysieren, Isolieren – und Systemics – dem Integrieren, Vernetzen, Verknüpfen. Während Science die Welt zerlegt, sieht Systemics sie als dynamisches, selbstorganisierendes Ganzes. Kybernetik und Systemtheorie wurden zu Grundlagen, die uns bis heute begleiten: Rückkopplung, Selbstreferenz, Emergenz.

Genau hier liegt die Verbindung zur KI: Sprachmodelle und neuronale Netze sind keine „Wahrheitsmaschinen“, sondern Kohärenzmaschinen. Sie erzeugen Texte und Bilder, die plausibel wirken – unabhängig davon, ob sie faktisch korrekt sind. In diesem Sinn ist KI selbst Ausdruck von Systemics: Sie integriert, verbindet, produziert Narrative.

„Realität? – Wo ist die Realität, wo haben Sie die? Heute geht es nicht mehr um Wahrheit, sondern darum: Wer erfindet eine lustige, amüsante und interessante Geschichte, von der jeder sofort glaubt: Das muss es gewesen sein.“
– Heinz von Foerster

Das erklärt, warum KI so empfänglich für Hype und Blasen ist: Sie liefert keine Realität, sondern Geschichten. Gesellschaft, Medien und Märkte nehmen diese Geschichten auf, glauben daran – und verstärken sie. Kybernetik und Systemtheorie helfen, diesen Mechanismus zu verstehen: KI ist weniger ein Werkzeug der Wahrheit als ein Spiegel unserer Sehnsucht nach Sinn und Ordnung in einer komplexen Welt.

Meta-Reflexion: Von Hütchenspielern zu Poeten

Die Muster des Hypes – Übertreibung, „die Angst, etwas zu verpassen“, Narrativbildung – erinnern nicht nur an ökonomische Blasen, sondern auch an die Mechanismen von Hütchenspielern und Strukturvertrieben. Heinz von Foerster hat dies zugespitzt: Aus Wissenschaftlern werden Erzähler, Poeten und Schauspieler, die Geschichten entwerfen, die wir für Realität halten wollen.

Damit schließt sich der Kreis: KI ist weniger ein neutrales Werkzeug, sondern Teil einer kulturellen und ökonomischen Bühne. Ob wir diese Bühne für Täuschung und Machtkonzentration nutzen – oder für neue Formen der Kreativität und Zusammenarbeit – liegt nicht in der Maschine selbst, sondern in den Händen der Gesellschaft.

Der Beitrag Künstliche Intelligenz – Innovation oder nächste Blase? erschien zuerst auf Kunst & KI.