„KI steigert die Produktivität.“

„KI übernimmt Routinearbeiten.“

„KI macht Unternehmen effizienter.“

„KI-Agenten erledigen bald den Großteil unserer Arbeit.“

Kaum eine Technologie wurde in den vergangenen Jahren mit ähnlich großen Erwartungen aufgeladen wie generative Künstliche Intelligenz. Wer Vorträge besucht, Studien liest oder auf LinkedIn unterwegs ist, gewinnt schnell den Eindruck, wir stünden kurz vor einer neuen industriellen Revolution. Unternehmen sollen möglichst schnell auf KI setzen. Verwaltungen sollen Prozesse automatisieren. Beschäftigte sollen lernen, effizient mit Prompts zu arbeiten. Wer dabei nicht mithält, gilt schnell als rückständig oder riskiert angeblich seine Wettbewerbsfähigkeit.

Je häufiger ich diese Aussagen höre, desto größer werden meine Zweifel.

Nicht deshalb, weil ich KI grundsätzlich ablehne.

Sondern weil meine eigenen Erfahrungen damit immer weniger zu dieser öffentlichen Erzählung passen.

Ich habe generative KI in den vergangenen Monaten immer wieder bei ganz unterschiedlichen Aufgaben eingesetzt – bei Recherchen, beim Schreiben von Texten, bei Programmierung, Webentwicklung, Gestaltung, Bildgenerierung und vielen anderen Tätigkeiten, die nach allgemeiner Auffassung inzwischen besonders gut automatisierbar sein sollen.

Mein Fazit fällt inzwischen deutlich ernüchternder aus.

Nach meiner Erfahrung ist generative KI für anspruchsvolle professionelle Arbeit heute nicht oder nur äußerst eingeschränkt brauchbar.

Diese Einschätzung beruht nicht auf einem einzelnen schlechten Erlebnis.

Sie beruht auf hunderten Stunden praktischer Arbeit.

Die eigentliche Geschichte handelt gar nicht von KI

Wenn heute über KI diskutiert wird, geht es meist um ihre Fähigkeiten.

Wie gut schreibt sie?

Wie gut programmiert sie?

Wie gut recherchiert sie?

Ich glaube inzwischen, dass wir die falschen Fragen stellen.

Die eigentliche Geschichte handelt nämlich gar nicht von der KI.

Sie handelt vom Menschen.

Genauer gesagt:

Von der Arbeit, die der Mensch zusätzlich leisten muss, damit KI überhaupt zu brauchbaren Ergebnissen kommt.

Denn während ständig davon gesprochen wird, welche Arbeiten die KI künftig übernehmen soll, wird erstaunlich selten darüber gesprochen, welche neuen Arbeiten dadurch überhaupt erst entstehen.

Ich muss Informationen zusammentragen.

Ich muss Aufgaben strukturieren.

Ich muss Prompts formulieren.

Ich muss Zusammenhänge erklären.

Ich muss Halluzinationen erkennen.

Ich muss Quellen kontrollieren.

Ich muss Fehler korrigieren.

Ich muss Ergebnisse vergleichen.

Ich muss alles erneut überprüfen.

Und wenn durch eine Korrektur an anderer Stelle neue Fehler entstehen, beginnt der gesamte Vorgang von vorn.

Je länger ich darüber nachgedacht habe, desto deutlicher wurde mir:

Nicht die KI arbeitet für mich.

Ich arbeite für die KI.

Vom Wissensarbeiter zum Datenarbeiter

Früher bestand meine Arbeit darin, Probleme zu lösen.

Heute besteht ein wachsender Teil meiner Arbeit darin, eine KI mit Informationen zu versorgen.

Ich liefere Daten.

Ich erkläre Zusammenhänge.

Ich formuliere Anweisungen.

Ich strukturiere Aufgaben.

Ich prüfe jedes Ergebnis.

Ich korrigiere Fehler.

Ich erkläre dieselben Dinge erneut.

Ich beginne nach Kontextverlusten wieder von vorne.

Mit anderen Worten:

Ich werde zunehmend zum Datenarbeiter.

Der eigentliche fachliche Teil meiner Arbeit tritt dabei immer weiter in den Hintergrund.

Statt selbst zu entwerfen, zu programmieren oder zu gestalten, beschäftige ich mich immer häufiger damit, die KI zu steuern.

Das Erstaunliche daran:

Für diese zusätzliche Arbeit werde ich nicht bezahlt.

Im Gegenteil.

Ich bezahle sogar noch ein monatliches Abonnement dafür.

Genau das empfinde ich inzwischen als paradox.

Uns wird erzählt, KI nehme uns Arbeit ab.

Meine Erfahrung lautet häufig:

Sie erzeugt neue Arbeit.

Nur wird diese Arbeit in kaum einer Produktivitätsstudie mitgerechnet.

Nicht der erste Fehler ist das Problem

Natürlich macht jede Software Fehler.

Natürlich machen auch Menschen Fehler.

Darum geht es mir gar nicht.

Das eigentliche Problem beginnt dort, wo aus einem kleinen Fehler eine Kette neuer Fehler entsteht.

Wo eine Korrektur an einer Stelle dazu führt, dass an anderer Stelle etwas kaputtgeht.

Wo bereits geklärte Sachverhalte wieder vergessen werden.

Wo dieselbe Anweisung zum fünften oder sechsten Mal erklärt werden muss.

Genau das habe ich immer wieder erlebt.

Meine Anweisungen waren häufig erstaunlich einfach.

„Bitte das Bild genauso machen wie im Upload.“

Nicht ähnlich.

Nicht verbessert.

Nicht neu interpretiert.

Einfach genauso.

Das Ergebnis?

Das Bild sah anders aus.

Farben waren verändert.

Elemente fehlten.

Andere Elemente waren plötzlich hinzugekommen.

Darauf folgte die nächste Anweisung.

„Bitte nicht wieder alles komplett ändern.“

Oder:

„Ich möchte nur das Hintergrundbild.“

Doch wieder wurden gleichzeitig andere Bereiche verändert.

Texte tauchten auf.

Buttons verschwanden.

Abstände änderten sich.

Layouts wurden umgebaut.

Schließlich schrieb ich irgendwann nur noch:

„Nicht quatschen – machen!“

Nicht aus Unhöflichkeit.

Sondern weil ich längst keine weiteren Erklärungen mehr brauchte.

Ich brauchte endlich eine zuverlässige Umsetzung.

Trial and Error ersetzt keine professionelle Arbeitsweise

Irgendwann stellte ich fest, dass ich kaum noch an meinem eigentlichen Projekt arbeitete.

Ich arbeitete an den Fehlern der KI.

Oder genauer:

Ich arbeitete an den Folgen ihrer Fehler.

Eine Änderung wurde umgesetzt.

Dadurch entstanden zwei neue Probleme.

Diese wurden korrigiert.

Dabei verschwand eine bereits funktionierende Lösung.

Also begann die nächste Korrekturschleife.

Aus einem eigentlich überschaubaren Arbeitsschritt entwickelte sich ein Trial-and-Error-Prozess ohne erkennbares Ende.

Immer häufiger schrieb ich irgendwann:

„Ich wäre schon dreimal fertig.“

Dieser Satz entstand nicht aus Frust über einzelne Fehler.

Er entstand aus der Erkenntnis, dass die eigentliche Arbeit längst nicht mehr darin bestand, mein Projekt voranzubringen.

Die eigentliche Arbeit bestand darin, bereits Erarbeitetes immer wieder gegen neue Fehler zu verteidigen.

Dabei fiel mir noch etwas auf.

Ein professioneller Kollege verändert nicht bei jeder Korrektur gleichzeitig zehn andere Dinge.

Er merkt sich grundlegende Projektentscheidungen.

Er entwickelt eine konsistente Linie.

Er baut auf dem bereits Erarbeiteten auf.

Genau diese Verlässlichkeit habe ich bei generativer KI in komplexeren Projekten häufig vermisst.

Ausgerechnet die Arbeiten, die ich abgeben möchte, bleiben beim Menschen

Noch erstaunlicher finde ich einen anderen Widerspruch.

Seit Jahren wird versprochen, KI werde uns die lästigen Routinearbeiten abnehmen.

Genau das ist nach meiner Erfahrung häufig nicht der Fall.

Ausgerechnet die Tätigkeiten, die ich besonders gern delegieren würde, funktionieren oft überhaupt nicht oder nur in einer Qualität, die professionellen Anforderungen nicht genügt.

Ein vorhandenes Bild exakt übernehmen?

Fehlanzeige.

Eine Grafik lediglich an einer kleinen Stelle verändern, ohne alles andere neu zu interpretieren?

Fehlanzeige.

Professionell nutzbare SVG-Dateien erzeugen?

Nach meiner Erfahrung derzeit nicht.

Konsistente Icons erstellen, die einem Corporate Design entsprechen?

Ebenfalls nicht.

Hochauflösende Grafiken für den professionellen Einsatz?

Auch hier habe ich bislang keine überzeugenden Ergebnisse erlebt.

Dabei geht es nicht um Perfektion.

Es geht um Zuverlässigkeit.

Wenn ich einer Grafikerin einen fertigen Entwurf gebe und sage: „Bitte genau diesen Entwurf übernehmen und nur den Rand ändern“, dann erwarte ich nicht, dass sie Himmel, Farben, Bildaufbau und Gestaltung gleich mit neu erfindet.

Genau das habe ich bei generativer KI jedoch immer wieder erlebt.

Irgendwann wurde mir sogar vorgeschlagen, bestimmte Icons einfach selbst zu zeichnen.

Meine spontane Reaktion lautete:

„Das ist doch ein Witz. Ich soll jetzt die Icons selbst zeichnen?“

Genau an diesem Punkt fragte ich mich zum ersten Mal ernsthaft, worin der versprochene Produktivitätsgewinn eigentlich bestehen soll.

Wenn der Chat selbst zum Problem wird

Ein weiterer Aspekt wird erstaunlich selten thematisert.

Je anspruchsvoller ein Projekt wird, desto länger wird zwangsläufig auch der Chat.

Anfangs ist das kein Problem.

Im Gegenteil.

Die KI kennt den bisherigen Verlauf.

Sie kennt Entscheidungen.

Sie kennt den Projektkontext.

Doch irgendwann verändert sich etwas.

Der Chat wird immer länger.

Die Antworten werden langsamer.

Zusammenhänge scheinen verloren zu gehen.

Bereits geklärte Entscheidungen werden erneut diskutiert.

Bereits gelöste Probleme tauchen plötzlich wieder auf.

Ich erkläre dieselben Dinge erneut.

Und irgendwann entsteht fast zwangsläufig der Gedanke:

„Dann beginne ich eben einen neuen Chat.“

Doch genau dort beginnt das nächste Problem.

Der neue Chat kennt praktisch nichts.

Alle Projektentscheidungen müssen erneut erklärt werden.

Alle Zusammenhänge.

Alle Gestaltungsprinzipien.

Alle bisherigen Fehler.

Alle gefundenen Lösungen.

Mit anderen Worten:

Lange Chats werden irgendwann schwer benutzbar.

Neue Chats beginnen fast wieder bei null.

Beides kostet Zeit.

Beides kostet Konzentration.

Und beides taucht in keiner Produktivitätsstatistik auf.

Die Produktivität wird falsch gemessen

Genau hier liegt für mich der eigentliche Denkfehler der aktuellen KI-Debatte.

Gemessen wird fast immer nur die Zeit, die eine KI für die Erstellung eines Ergebnisses benötigt.

Gemessen wird aber kaum die Zeit, die anschließend der Mensch investieren muss.

Für Korrekturen.

Für Qualitätskontrollen.

Für Nacharbeiten.

Für neue Prompts.

Für Halluzinationen.

Für Kontextverluste.

Für das erneute Erklären derselben Aufgabe.

Dabei entscheidet genau diese Zeit darüber, ob ein Werkzeug produktiv ist oder nicht.

Ein Werkzeug spart nämlich nicht deshalb Zeit, weil es schnell ein erstes Ergebnis erzeugt.

Es spart Zeit, wenn das endgültige professionelle Ergebnis schneller erreicht wird.

Nach meiner Erfahrung wird dieser Unterschied in vielen Diskussionen über KI völlig unterschätzt.

Marketing und Wirklichkeit

Was mich inzwischen am meisten irritiert, ist deshalb nicht die Technik selbst.

Sondern die Erzählung über sie.

Wer Vorträge besucht oder Beiträge in sozialen Medien liest, bekommt häufig den Eindruck, die Produktivitätsrevolution habe längst begonnen.

Ich frage mich inzwischen ernsthaft, ob wir über dieselbe Technologie sprechen.

Während auf Konferenzen und in Hochglanzpräsentationen enorme Effizienzgewinne versprochen werden, verbringe ich Stunden damit, einer KI dieselbe Aufgabe immer wieder zu erklären.

Während von Automatisierung gesprochen wird, kontrolliere ich jede einzelne Ausgabe.

Während behauptet wird, KI übernehme Routinearbeiten, erledige ich genau diese Arbeiten anschließend selbst.

Natürlich kann jede neue Technologie Kinderkrankheiten haben.

Darum geht es mir gar nicht.

Mich stört vielmehr die enorme Diskrepanz zwischen den öffentlichen Versprechen und meinen praktischen Erfahrungen.

Warum diese Debatte wichtig ist

Vielleicht ist genau das die eigentliche Gefahr.

Nicht, dass KI Fehler macht.

Sondern dass wir beginnen, politische und wirtschaftliche Entscheidungen auf einem Bild von KI aufzubauen, das mit der Realität vieler professioneller Anwender nur begrenzt übereinstimmt.

Unternehmen werden unter Druck gesetzt.

Verwaltungen sollen möglichst schnell digitalisieren.

Beschäftigte sollen lernen, mit KI zu arbeiten.

Gleichzeitig wird erstaunlich selten gefragt, ob sich der versprochene Produktivitätsgewinn im jeweiligen Arbeitsbereich überhaupt nachweisen lässt.

Stattdessen scheint die Einführung von KI vielerorts bereits als Selbstzweck zu gelten.

Mein Fazit

Ich werde generative KI selbstverständlich weiterhin beobachten und dort einsetzen, wo sie sich im konkreten Einzelfall tatsächlich als hilfreich erweist.

Aber ich glaube den pauschalen Produktivitätsversprechen nicht mehr.

Zu oft habe ich erlebt, dass einfache Aufgaben zu stundenlangen Trial-and-Error-Prozessen wurden.

Zu oft entstanden neue Fehler, während alte beseitigt wurden.

Zu oft gingen Zusammenhänge verloren.

Zu oft musste ich Projekte praktisch neu beginnen, weil der Kontext nicht mehr vorhanden war.

Vor allem aber hat sich mein Verständnis von KI grundlegend verändert.

Ich sehe sie heute nicht mehr als Werkzeug, das mir Arbeit abnimmt.

Ich sehe sie häufig als System, das neue Arbeit erzeugt.

Nicht die KI arbeitet für mich.

Ich arbeite für die KI.

Ich liefere Daten.

Ich strukturiere Informationen.

Ich formuliere Prompts.

Ich erkläre Zusammenhänge.

Ich suche Fehler.

Ich kontrolliere Ergebnisse.

Ich korrigiere Halluzinationen.

Ich beginne nach Kontextverlusten wieder von vorne.

Ich werde vom Wissensarbeiter zum Datenarbeiter.

Und genau deshalb stelle ich mir inzwischen eine Frage, die in der öffentlichen Debatte erstaunlich selten gestellt wird:

Was wäre, wenn die eigentliche Innovation der generativen KI gar nicht darin besteht, menschliche Arbeit zu automatisieren – sondern darin, eine völlig neue Form menschlicher Arbeit zu schaffen?

Solange diese zusätzliche Arbeit unsichtbar bleibt, erscheinen viele Versprechen über Produktivität unvollständig.

Eine ehrliche Debatte über KI sollte deshalb nicht nur fragen, was eine KI kann.

Sie sollte vor allem fragen, wie viel zusätzliche menschliche Arbeit erforderlich ist, damit aus ihren Ergebnissen überhaupt professionelle Ergebnisse werden.

Erst wenn wir diese Arbeit vollständig mitrechnen, können wir seriös beurteilen, ob generative KI tatsächlich hält, was ihre Befürworter versprechen.

Quellen und weiterführende Hinweise

• The AI Con.
• Stanford Institute for Human-Centered Artificial Intelligence – Veröffentlichungen zu Leistungsfähigkeit, Grenzen und Auswirkungen generativer KI.
• NIST – Forschung zu vertrauenswürdigen KI-Systemen und Risikomanagement.
• Eigene, über viele Monate dokumentierte Erfahrungen beim Einsatz generativer KI in unterschiedlichen professionellen Arbeitsprozessen.

Der Beitrag Nicht die KI arbeitet für mich. Ich arbeite für die KI. erschien zuerst auf Kunst & KI.

Ein Grundstück am Ortsrand, unmittelbar an der Grenze zum Außenbereich. Die Rechtslage scheint zunächst eindeutig: Das Vorhaben ist in dieser Form eigentlich nicht vorgesehen. Doch bei näherer Betrachtung zeigt sich ein differenzierteres Bild. Eine Ablehnung würde für den Antragsteller eine erhebliche Härte bedeuten. Nachbarliche Belange sind nicht berührt, die beteiligten Träger öffentlicher Belange äußern keine Bedenken und sprechen sich teilweise sogar ausdrücklich für das Vorhaben aus. Aufgrund der besonderen Lage des Grundstücks wäre zudem keine unerwünschte Vorbildwirkung für weitere Bauvorhaben zu erwarten. Auch das Ortsbild bliebe weitgehend unbeeinträchtigt. Vergleichbare Fälle hat die Behörde bislang nicht zu entscheiden gehabt.

Für einen Algorithmus stellt ein solcher Fall vor allem ein Problem dar: Es fehlen vergleichbare Muster. Für eine erfahrene Mitarbeiterin oder einen erfahrenen Mitarbeiter im Bauamt beginnt an dieser Stelle hingegen die eigentliche Arbeit. Denn genau für solche Konstellationen hat der Gesetzgeber Ermessens- und Abwägungsspielräume geschaffen. Hier geht es nicht um das schematische Abarbeiten von Vorschriften, sondern um die Würdigung eines Einzelfalls, die Berücksichtigung besonderer Umstände und die verantwortungsvolle Abwägung widerstreitender Interessen.

Für einen Algorithmus ist ein solcher Fall eine statistische Ausnahme. Für den Rechtsstaat ist er der Grund, warum menschliches Ermessen überhaupt existiert.

Dennoch plant Bayern nun, den Einsatz Künstlicher Intelligenz auch dort zu ermöglichen, wo bislang bewusst Menschen entscheiden sollten. Was als Modernisierung der Verwaltung verkauft wird, könnte sich als weitreichender Eingriff in ein zentrales Prinzip rechtsstaatlichen Handelns erweisen. Denn die eigentliche Frage lautet nicht, ob Maschinen schneller entscheiden können als Menschen. Die eigentliche Frage lautet, ob der Staat dort auf menschliche Erfahrung, Verantwortung und Einzelfallgerechtigkeit verzichten sollte, wo sie vom Gesetzgeber ausdrücklich gewollt sind.

Ein historischer Schritt – aber in welche Richtung?

Die Bayerische Staatsregierung betrachtet ihren Vorstoß als wegweisend. Der Leiter der Staatskanzlei, Florian Herrmann, sprach gegenüber der Süddeutschen Zeitung sogar von einem historischen Vorgang:

„Das ist Rechtsgeschichte, weil es das bisher noch nicht gab.“

Tatsächlich wäre die Änderung des Verwaltungsverfahrensrechts ein Paradigmenwechsel. Bisher galt ein einfacher Grundsatz: Dort, wo Ermessen oder Beurteilungsspielräume bestehen, soll kein vollautomatisiertes Verfahren entscheiden.

Der Grund dafür liegt auf der Hand. Ermessen existiert nicht deshalb, weil Gesetze unvollkommen wären. Ermessen existiert, weil der Gesetzgeber erkannt hat, dass sich menschliche Lebenswirklichkeit nicht vollständig in Regeln und Kategorien pressen lässt.

Gerade deshalb stellt sich die Frage, warum ausgerechnet dieser Bereich nun für den Einsatz von KI geöffnet werden soll.

Die Illusion der objektiven Maschine

Befürworter verweisen häufig auf schnellere Verfahren, mehr Einheitlichkeit und eine größere Konsistenz behördlicher Entscheidungen.

Doch diese Argumentation beruht auf einer problematischen Annahme: dass sich gute Verwaltung vor allem durch Gleichförmigkeit auszeichnet.

Moderne KI-Systeme treffen keine Entscheidungen aufgrund von Erfahrung oder Verständnis. Sie erkennen Muster in vorhandenen Daten. Sie bewerten Wahrscheinlichkeiten. Sie vergleichen neue Fälle mit bereits bekannten Konstellationen.

Das mag bei standardisierten Vorgängen sinnvoll sein.

Doch je stärker ein Fall vom Durchschnitt abweicht, desto größer wird das Problem.

Denn die Besonderheit eines Einzelfalls erscheint für die KI nicht als Qualität, sondern als Abweichung.

Gerade hier beginnt die Gefahr einer schleichenden Radikalisierung der Verwaltung.

Nicht im politischen Sinn, sondern im administrativen Sinn: Entscheidungen werden zunehmend auf Muster, Kategorien und Wahrscheinlichkeiten reduziert. Das Individuelle wird zum Störfaktor. Der atypische Fall wird zur Ausnahme, die möglichst effizient verarbeitet werden soll. Die Verwaltung wird dadurch nicht zwingend gerechter, sondern vor allem standardisierter.

Der Preis dieser Entwicklung könnte ein Verlust jener Flexibilität sein, die rechtsstaatliches Ermessen überhaupt erst ermöglichen soll.

Das eigentliche Problem heißt nicht Technik

Die Diskussion über KI in der Verwaltung wird häufig so geführt, als sei sie die Antwort auf eine objektive Notlage.

Doch die Überlastung vieler Behörden ist kein Naturereignis.

Seit Jahren berichten Beschäftigte von steigender Arbeitsverdichtung, wachsender Verantwortung und immer komplexeren Verfahren. Dokumentationspflichten nehmen zu, rechtliche Anforderungen werden umfangreicher und Aufgaben werden ständig erweitert.

Gleichzeitig wurden vielerorts Stellen abgebaut, nicht nachbesetzt oder organisatorisch zusammengelegt.

Die Beschäftigten sollen mehr leisten, komplexere Entscheidungen treffen und größere Verantwortung übernehmen – häufig unter denselben Rahmenbedingungen wie vor Jahren.

Vor diesem Hintergrund erscheint der Ruf nach KI in einem anderen Licht.

Die Technologie soll Probleme lösen, deren Ursachen nicht technischer Natur sind.

Wenn Unterstützung zur Vorentscheidung wird

Offiziell soll der Mensch weiterhin die Kontrolle behalten.

Doch diese Vorstellung ignoriert die Realität vieler Verwaltungen.

Wer täglich unter erheblichem Zeitdruck arbeitet, wird Vorschläge eines Systems kaum vollständig nachvollziehen und überprüfen können. Genau hier entsteht ein bekanntes Phänomen, das als „Automation Bias“ bezeichnet wird: Menschen neigen dazu, Empfehlungen technischer Systeme zu vertrauen, insbesondere dann, wenn Zeitdruck und Arbeitsbelastung hoch sind.

Auf dem Papier entscheidet weiterhin der Mensch.

In der Praxis besteht die Gefahr, dass die Maschine die Entscheidung vorbereitet, strukturiert und faktisch vorprägt.

Die Unterschrift bleibt menschlich.

Die Entscheidungslogik möglicherweise nicht.

Das Bauamt als Prüfstein

Gerade im Baurecht zeigt sich, wie problematisch diese Entwicklung sein könnte.

Baugenehmigungen bestehen nicht ausschließlich aus objektiv messbaren Kriterien. Sie betreffen gewachsene Ortsbilder, nachbarschaftliche Interessen, städtebauliche Entwicklungen und nicht zuletzt menschliche Lebensentwürfe.

Erfahrene Mitarbeiterinnen und Mitarbeiter entwickeln über Jahre ein Gespür für Besonderheiten, die sich nicht vollständig in Akten, Datenbanken oder Checklisten abbilden lassen.

Sie wissen, wann eine scheinbar vergleichbare Situation eben doch nicht vergleichbar ist.

Sie erkennen Konstellationen, für die es keine Muster gibt.

Sie verstehen lokale Besonderheiten, historische Entwicklungen und praktische Auswirkungen einer Entscheidung.

Genau dieses Erfahrungswissen droht verloren zu gehen, wenn Verwaltung zunehmend auf statistische Muster reduziert wird.

Denn die entscheidende Stärke menschlichen Ermessens liegt nicht darin, bekannte Fälle zu erkennen.

Sie liegt darin, unbekannte Fälle angemessen beurteilen zu können.

Wer trägt die Verantwortung?

Mit dem Einsatz von KI stellt sich zudem eine grundlegende rechtsstaatliche Frage.

Wer trägt die Verantwortung für eine Fehlentscheidung?

Bislang ist die Lage klar: Entscheidungen werden von Menschen getroffen, begründet und können gerichtlich überprüft werden.

Bei KI-gestützten Verfahren droht diese Verantwortlichkeit zu verschwimmen.

Die Behörde kann auf die Empfehlung des Systems verweisen.

Der Softwareanbieter kann erklären, lediglich ein Werkzeug bereitgestellt zu haben.

Die Beschäftigten können darauf hinweisen, dass sie die technische Bewertung nicht vollständig nachvollziehen konnten.

Doch ein Rechtsstaat benötigt Verantwortliche.

Er lebt davon, dass Entscheidungen nachvollziehbar, überprüfbar und zurechenbar bleiben.

Transparenz als ungelöstes Problem

Der Bayerische Landesbeauftragte für den Datenschutz, Thomas Petri, mahnt deshalb:

„Transparenz, Verständlichkeit und Nachvollziehbarkeit sind als Kernanliegen des Datenschutzes auch für die Vertrauenswürdigkeit von KI essenziell.“

Dieser Satz trifft den Kern der Debatte.

Denn Bürger haben nicht nur Anspruch auf eine Entscheidung.

Sie haben Anspruch darauf zu verstehen, warum diese Entscheidung getroffen wurde.

Je komplexer KI-Systeme werden, desto schwieriger wird genau diese Nachvollziehbarkeit.

Damit gerät ein weiteres Fundament rechtsstaatlichen Handelns unter Druck.

Wenn Ermessen zum Kostenfaktor wird

Die eigentliche Schwäche der aktuellen Debatte liegt möglicherweise in einer unausgesprochenen Grundannahme.

Menschliches Ermessen erscheint zunehmend als ineffizient.

Es kostet Zeit.

Es verlangt Erfahrung.

Es führt nicht immer zu identischen Ergebnissen.

Es lässt sich nicht beliebig skalieren.

Doch genau deshalb hat der Gesetzgeber es geschaffen.

Ermessen soll verhindern, dass Menschen ausschließlich nach abstrakten Regeln oder statistischen Mustern behandelt werden. Es soll sicherstellen, dass Besonderheiten berücksichtigt werden können. Es soll dort Gerechtigkeit ermöglichen, wo starre Gleichbehandlung zu ungerechten Ergebnissen führen würde.

Der Rechtsstaat hat das menschliche Ermessen nicht trotz seiner Unschärfen geschaffen, sondern gerade wegen seiner Fähigkeit, der Komplexität realer Lebenssituationen gerecht zu werden.

Fazit

Die Debatte über KI in der Verwaltung wird häufig als Frage technischer Machbarkeit geführt.

Tatsächlich geht es um etwas Grundsätzlicheres.

Es geht um die Frage, welche Art von Verwaltung wir wollen.

Eine Verwaltung, die den Bürger als Datensatz betrachtet, der möglichst effizient verarbeitet werden muss?

Oder eine Verwaltung, die den Menschen als Individuum begreift und bereit ist, Besonderheiten des Einzelfalls zu berücksichtigen?

Die geplante Öffnung von Ermessensentscheidungen für KI mag als Modernisierung verkauft werden.

Sie könnte sich jedoch als Schritt hin zu einer Verwaltung erweisen, in der menschliche Erfahrung, Verantwortung und Einzelfallgerechtigkeit zunehmend als Hindernisse erscheinen.

Eine solche Entwicklung wäre kein Fortschritt.

Sie wäre die technologische Vollendung einer Tendenz, die vielerorts bereits sichtbar ist: Arbeitsverdichtung, Rationalisierungsdruck und die Vorstellung, dass sich menschliches Urteil letztlich durch Mustererkennung ersetzen lasse.

Doch genau dort beginnt die eigentliche Gefahr.

Denn für einen Algorithmus ist der Mensch oft die Ausnahme.

Für den Rechtsstaat sollte er stets der Maßstab bleiben.

Quellen

1. Legal Tribune Online (LTO): „Bayern will Verwaltungsrecht ändern: Ermessen? Pah, das soll die KI machen“
   https://www.lto.de/recht/hintergruende/h/ki-verwaltung-ermessen-bayern-aendert-verwaltungsrecht-bund-kontrolle-kritik
2. Legal Tribune Online (LTO): „Künstliche Intelligenz in der Verwaltung: Keine Ermessensausübung durch die Maschine?“
   https://www.lto.de/recht/hintergruende/h/kuenstliche-intelligenz-ki-verwaltung-35a-vwvfg-ermessen-automatisiert-verwaltungsakt
3. Süddeutsche Zeitung: Berichterstattung zur bayerischen Verwaltungsrechtsänderung; Zitat von Florian Herrmann („Das ist Rechtsgeschichte, weil es das bisher noch nicht gab.“)
4. Bayerischer Landesbeauftragter für den Datenschutz: Künstliche Intelligenz
   https://www.datenschutz-bayern.de/nav/2501.html
5. move-online.de: „KI in der Verwaltung – aber mit Datenschutz“; Zitat von Thomas Petri („Transparenz, Verständlichkeit und Nachvollziehbarkeit sind als Kernanliegen des Datenschutzes auch für die Vertrauenswürdigkeit von KI essenziell.“)

Der Beitrag Der Mensch stört erschien zuerst auf Kunst & KI.

Die Warnung klang wie aus einem Science-Fiction-Roman. Das KI-Unternehmen Anthropic warnte jüngst vor der Möglichkeit einer rekursiven Selbstverbesserung künstlicher Intelligenz – also vor Systemen, die künftig an der Entwicklung ihrer eigenen Nachfolger mitwirken könnten. In den Medien war schnell von „Skynet-Szenarien“ die Rede. Gleichzeitig bereitet das Unternehmen Berichten zufolge seinen Börsengang vor. Die Botschaft an Öffentlichkeit und Investoren lautet damit sinngemäß: Unsere Technologie ist so bedeutend, dass sie die Welt verändern könnte – und so mächtig, dass sie möglicherweise kontrolliert werden muss.

Genau hier beginnt das eigentliche Problem.

Denn die Diskussion über KI wird derzeit von zwei scheinbar widersprüchlichen Erzählungen geprägt. Auf der einen Seite stehen die großen Verheißungen: Produktivitätssprünge, medizinische Durchbrüche, wissenschaftliche Revolutionen und milliardenschwere neue Märkte. Auf der anderen Seite warnen dieselben Unternehmen vor Kontrollverlust, gesellschaftlichen Verwerfungen und Risiken, deren Ausmaß niemand seriös abschätzen kann.

Das Ergebnis ist eine bemerkenswerte politische und gesellschaftliche Schieflage.

Während Bürger in vielen westlichen Ländern mit Verweis auf Klimaschutz, Energieeffizienz und Nachhaltigkeit zu Verhaltensänderungen angehalten werden, investiert die KI-Branche gleichzeitig gigantische Summen in Rechenzentren, Infrastruktur und Stromversorgung. Der Energiebedarf moderner KI-Systeme steigt rasant. Die größten Technologieunternehmen der Welt sichern sich zunehmend Zugriff auf Stromnetze, Rechenkapazitäten und teilweise sogar auf eigene Energieprojekte.

Die entscheidende Frage lautet daher nicht mehr nur, was KI kann.

Die Frage lautet: Wer entscheidet eigentlich darüber, welches Risiko eine Gesellschaft akzeptieren soll – und für welchen erwarteten Nutzen?

Eine Technologie mit unbekanntem Ziel

Besonders auffällig ist die Unsicherheit, die die gesamte Debatte durchzieht.

Anthropic-CEO Dario Amodei erklärte bereits 2024 gegenüber dem Magazin Time:

„The world is not ready for what is coming.“

Die Aussage wurde vielfach zitiert und steht exemplarisch für den Ton vieler KI-Debatten.

Auch OpenAI-Chef Sam Altman formulierte bereits 2023 gegenüber dem US-Senat:

„My worst fears are that we cause significant harm to the world.“

Es sind bemerkenswerte Aussagen.

Denn selten in der Geschichte wurden Technologien gleichzeitig mit solch weitreichenden Versprechen und solch weitreichenden Warnungen beworben.

Normalerweise wird eine neue Technologie eingeführt, weil ihr Nutzen relativ klar erscheint. Das Auto erleichterte Mobilität. Elektrizität ermöglichte industrielle Entwicklung. Das Internet beschleunigte Kommunikation.

Bei künstlicher Intelligenz hingegen entsteht zunehmend der Eindruck, dass selbst die Entwickler nicht genau wissen, wohin die Reise führt.

Das bedeutet nicht, dass KI nutzlos wäre. Bereits heute gibt es sinnvolle Anwendungen in Medizin, Forschung, Softwareentwicklung oder Verwaltung.

Doch die Größenordnung der versprochenen Revolution steht bislang in keinem klaren Verhältnis zu den bekannten Risiken und Kosten.

Warum plötzlich von „Skynet“ die Rede ist

Der Begriff „Skynet“ stammt aus der Terminator-Filmreihe. Dort entwickelt das militärische KI-System Skynet ein eigenes Bewusstsein, entzieht sich menschlicher Kontrolle und beginnt einen Krieg gegen die Menschheit.

Natürlich behauptet heute niemand ernsthaft, dass ein solches Szenario unmittelbar bevorsteht.

Der Begriff wird jedoch als Metapher verwendet, wenn über sogenannte rekursive Selbstverbesserung gesprochen wird. Gemeint sind KI-Systeme, die bei der Entwicklung leistungsfähigerer Nachfolgemodelle helfen und dadurch einen sich selbst verstärkenden Innovationsprozess in Gang setzen könnten.

Genau vor einem solchen Szenario warnen einige KI-Forscher. Nicht, weil sie morgen mit Killerrobotern rechnen, sondern weil sie befürchten, dass die Entwicklungsgeschwindigkeit irgendwann schneller wachsen könnte als die Fähigkeit von Politik, Gesellschaft und Aufsichtsbehörden, die Technologie noch wirksam zu kontrollieren.

Doch gerade hier entsteht ein bemerkenswerter Widerspruch:

Dieselben Unternehmen, die vor solchen Risiken warnen, investieren gleichzeitig Milliarden in die Beschleunigung genau dieser Entwicklung.

Die eigentliche Gefahr heißt Machtkonzentration

Die öffentliche Diskussion konzentriert sich häufig auf spektakuläre Szenarien einer außer Kontrolle geratenen Superintelligenz.

Dabei liegt eine viel realistischere Gefahr womöglich ganz woanders.

Nämlich in der Konzentration wirtschaftlicher und politischer Macht.

Der Aufbau moderner KI-Systeme erfordert enorme Investitionen. Nur wenige Unternehmen verfügen über die finanziellen Mittel, die Rechenleistung und die Datenmengen, um an der Spitze des Wettbewerbs mitzuspielen.

Dadurch entsteht ein Oligopol aus wenigen globalen Akteuren.

Diese Unternehmen entwickeln die Technologie.

Sie betreiben die Infrastruktur.

Sie prägen die öffentliche Debatte.

Und sie formulieren gleichzeitig die Warnungen vor den Risiken ihrer eigenen Produkte.

Genau darin liegt ein demokratisches Problem.

Denn die Frage, wie viel Risiko eine Gesellschaft akzeptiert, sollte nicht allein von denjenigen beantwortet werden, die wirtschaftlich von diesem Risiko profitieren.

Die Verantwortungslücke

Hinzu kommt ein weiteres Problem.

Selbst wenn man die dystopischen Vorstellungen einer rebellierenden Superintelligenz für übertrieben hält, bleibt die Frage der Verantwortung ungelöst.

Wer trägt die Verantwortung, wenn KI-Systeme künftig wissenschaftliche Forschung beschleunigen, Entscheidungen vorbereiten oder sogar Teile ihrer eigenen Weiterentwicklung übernehmen?

Juristisch ist die Antwort einfach: Unternehmen und Betreiber.

Praktisch wird die Lage schwieriger.

Wenn Systeme immer komplexer werden und selbst Experten nicht mehr vollständig nachvollziehen können, wie bestimmte Ergebnisse zustande kommen, entsteht eine Verantwortungslücke.

Menschen bleiben formal verantwortlich.

Faktisch verstehen sie die Entscheidungsprozesse jedoch möglicherweise nicht mehr vollständig.

Die Folge wäre keine Maschinenherrschaft.

Die Folge wäre eine schleichende Erosion menschlicher Kontrolle.

Der Energie-Widerspruch

Besonders deutlich wird die gesellschaftliche Spannung beim Thema Energie.

Politik und Öffentlichkeit diskutieren seit Jahren über CO₂-Fußabdrücke, Energieeinsparungen und Verhaltensänderungen.

Gleichzeitig wächst der Strombedarf der KI-Industrie in einem Ausmaß, das vor wenigen Jahren kaum vorstellbar gewesen wäre.

Befürworter argumentieren, dass der Nutzen dies rechtfertigen werde.

Kritiker halten dagegen, dass dieser Nutzen bislang weitgehend auf Erwartungen beruht.

Hier entsteht ein offensichtlicher Widerspruch.

Von Bürgern wird verlangt, heute Belastungen zu akzeptieren, um zukünftige Klimarisiken zu reduzieren.

Von der Gesellschaft wird gleichzeitig erwartet, heute enorme Investitionen und Ressourcenverbräuche zu akzeptieren, um mögliche zukünftige KI-Vorteile zu realisieren.

In beiden Fällen handelt es sich um Wetten auf die Zukunft.

Der Unterschied besteht darin, dass die wirtschaftlichen Gewinner der KI-Revolution bereits bekannt sind, während ihre gesellschaftlichen Gewinner bislang weitgehend hypothetisch bleiben.

Keine Technikfeindlichkeit, sondern Technikfolgenabschätzung

Die Kritik an dieser Entwicklung ist keineswegs technikfeindlich.

Im Gegenteil.

Gerade weil KI potenziell enorme Auswirkungen haben könnte, wäre eine breite gesellschaftliche Debatte notwendig.

Nicht nur über technische Risiken.

Sondern über Eigentum, Kontrolle, Haftung, Transparenz und demokratische Legitimation.

Wer entscheidet über den Einsatz solcher Systeme?

Wer profitiert von Produktivitätsgewinnen?

Wer trägt die Risiken?

Und welche Grenzen sollen gelten?

Diese Fragen sind wichtiger als jede Spekulation über „Skynet“.

Denn die wahrscheinlichsten Konflikte der kommenden Jahre werden nicht zwischen Menschen und Maschinen stattfinden.

Sie werden zwischen unterschiedlichen gesellschaftlichen Interessen stattfinden.

Fazit: Die eigentliche Bewährungsprobe

Die KI-Branche befindet sich an einem Wendepunkt.

Vielleicht erleben wir tatsächlich den Beginn einer technologischen Revolution.

Vielleicht erleben wir aber auch eine Phase übersteigerter Erwartungen, die in einigen Jahren deutlich nüchterner bewertet werden wird.

Beides ist möglich.

Gerade deshalb sollte Vorsicht kein Hindernis für Innovation sein, sondern ihre Voraussetzung.

Wer von der Gesellschaft verlangt, gewaltige Investitionen, steigenden Energieverbrauch und tiefgreifende Veränderungen zu akzeptieren, muss mehr liefern als Zukunftsvisionen und Marketingbotschaften.

Er muss nachvollziehbar erklären können, warum die Risiken beherrschbar sind, wie die Gewinne verteilt werden und wer die Verantwortung trägt.

Solange diese Fragen unbeantwortet bleiben, ist Skepsis kein Ausdruck von Technikfeindlichkeit.

Sie ist Ausdruck demokratischer Vernunft.

Quellen und weiterführende Links

• Heise: „Skynet-Szenario: Anthropic warnt vor KI, die sich selbst entwickelt“
  https://www.heise.de/news/Skynet-Szenario-Anthropic-warnt-vor-KI-die-sich-selbst-entwickelt-11319846.html
• Anthropic – Forschung zu rekursiver Selbstverbesserung
  https://www.anthropic.com
• Time Magazine – Interview mit Dario Amodei
  https://time.com
• US-Senat: Anhörung von Sam Altman (2023)
  https://www.judiciary.senate.gov
• Finanzen.net: „KI-Blase vor dem Platzen? Diese vier Gefahren bedrohen den Mega-Boom“
  https://www.finanzen.net/nachricht/aktien/risiken-fuer-den-hype-ki-blase-vor-dem-platzen-diese-vier-gefahren-bedrohen-den-mega-boom-00-15723132
• Reuters: Berichte zur IPO-Einreichung von Anthropic
  https://www.reuters.com
• AP News: Diskussion über KI-Sicherheitsmechanismen und Regulierung
  https://apnews.com

Der Beitrag Skynet als Geschäftsmodell? erschien zuerst auf Kunst & KI.

Die Diskussion über künstliche Intelligenz im Journalismus wird meist technisch geführt. Kann KI Texte schreiben? Wird sie Journalisten ersetzen? Wie zuverlässig sind automatisierte Systeme? Doch diese Fragen greifen zu kurz. Denn die entscheidende Frage lautet nicht nur, was KI kann, sondern unter welchen institutionellen Bedingungen sie eingesetzt wird.

Der Philosoph und Publizist Dr. Michael Andrick hat diese Debatte kürzlich zugespitzt. In einem Feuilletonbeitrag beim Kulturradio des öffentlich-rechtlichen Senders Deutschlandfunk Kultur formulierte er eine provokante These: Der Einsatz von KI im Journalismus sollte tabu sein. Die Forderung hat viele Journalisten irritiert – und zugleich eine Diskussion ausgelöst, die weit über Technikfragen hinausweist.

Denn hinter Andricks Argument steht eine grundlegendere Sorge: Was geschieht mit einem Beruf, wenn seine zentrale Tätigkeit – das Denken und Formulieren – zunehmend automatisiert wird?

Der Kern von Andricks Kritik

Andricks Ausgangspunkt ist eine einfache Beobachtung. Journalistische Arbeit besteht nicht nur darin, Informationen zu sammeln, sondern vor allem darin, sie zu verstehen und sprachlich zu gestalten.

Wenn KI genau diese Schritte übernimmt – etwa das Zusammenfassen von Dokumenten oder das Formulieren eines Textes –, verändert sich die Rolle des Journalisten.

„Wenn wir zentrale geistige Tätigkeiten auslagern, verlieren wir sie auch“, argumentiert Andrick sinngemäß. Seine Sorge lautet, dass der Journalismus Gefahr läuft, seine intellektuelle Grundlage zu untergraben, wenn Maschinen zunehmend die eigentliche Denk- und Schreibarbeit übernehmen.

Der Journalist würde dann nicht mehr primär denken und formulieren, sondern Maschinenoutput prüfen und redigieren.

Das klingt zunächst wie eine klassische Kulturkritik an neuer Technologie. Doch Andricks Argument berührt eine tiefer liegende Frage: Was ist eigentlich die unersetzbare Kompetenz des Journalismus?

Wenn Maschinen Informationen zusammenstellen und Texte formulieren können, bleibt dann noch ein klarer Unterschied zwischen journalistischer Arbeit und automatisierter Textproduktion?

Journalismus als Praxis des Denkens

Andricks Argument richtet sich gegen eine Vorstellung, die in vielen KI-Debatten verbreitet ist: die Idee, Schreiben sei eine rein technische Tätigkeit.

In dieser Sichtweise ist ein Text lediglich ein Produkt, das möglichst effizient hergestellt werden soll. Ob ein Mensch oder eine Maschine ihn erzeugt, erscheint zweitrangig.

Doch gerade diese Vorstellung weist Andrick zurück. Schreiben sei nicht bloß die letzte Stufe eines Arbeitsprozesses, sondern selbst ein Denkprozess.

Viele Journalisten kennen diese Erfahrung: Erst im Schreiben klären sich Argumente, entstehen Zusammenhänge und wird sichtbar, welche Informationen wirklich relevant sind.

Der Philosoph Michael Andrick formuliert diese Sorge zugespitzt:

„Wenn wir zentrale geistige Tätigkeiten an Maschinen delegieren, verlieren wir sie auch.“

Schreiben ist nicht nur Darstellung, sondern Teil der Erkenntnis.

Wenn dieser Prozess an KI delegiert wird, könnte der journalistische Beruf seine intellektuelle Substanz verlieren.

Die Gegenargumente: KI als Werkzeug

Gleichzeitig wird Andricks Tabu-Forderung von vielen Medienpraktikern kritisiert. Ihr Einwand lautet: Journalismus war schon immer technikgestützt.

Werkzeuge haben journalistische Arbeit kontinuierlich verändert.

Die Schreibmaschine beschleunigte das Schreiben.
Das Tonbandgerät erleichterte Interviews.
Computer und Internet revolutionierten Recherche und Produktion.

Kaum jemand würde heute ernsthaft fordern, diese Technologien wieder abzuschaffen.

In dieser Perspektive ist KI schlicht ein weiteres Werkzeug. Sie kann repetitive Aufgaben übernehmen und Journalisten entlasten.

Viele Redaktionen experimentieren bereits damit, etwa bei der Transkription von Interviews, der Analyse großer Dokumentenmengen oder der automatischen Zusammenfassung von Berichten.

Der Medienforscher Charlie Beckett von der London School of Economics formuliert diese Position pragmatisch:

„Künstliche Intelligenz wird den Journalismus nicht ersetzen – aber Journalisten, die KI nutzen, werden diejenigen ersetzen, die es nicht tun.“

Die Botschaft lautet: Nicht KI bedroht den Journalismus, sondern der Verzicht auf technologische Innovation.

Automatisierter Journalismus ist kein neues Phänomen

Automatisierte Textproduktion wird im Journalismus bereits seit Jahren eingesetzt. Besonders verbreitet ist sie im sogenannten Automated Journalism, etwa bei Sportberichten, Finanzmeldungen oder Wahlresultaten.

Die Nachrichtenagentur Associated Press nutzt automatisierte Systeme, um Tausende Unternehmensberichte pro Quartal zu veröffentlichen.

Ein Vertreter der Agentur erklärte dazu:

„Automatisierung ermöglicht es uns, deutlich mehr Meldungen zu produzieren und Reporter für komplexere Berichterstattung freizumachen.“

In dieser Perspektive dient Automatisierung nicht dazu, Journalisten zu ersetzen, sondern ihre Arbeit zu erweitern. Befürworter argumentieren entsprechend, dass KI journalistische Qualität sogar verbessern könne. Sie könne große Datenmengen analysieren, umfangreiche Dokumente schneller auswerten und Rechercheprozesse beschleunigen. Gerade im Datenjournalismus eröffnen solche Technologien neue Möglichkeiten.

Doch Kritiker weisen darauf hin, dass Effizienzgewinne selten automatisch zu Qualitätsgewinnen führen. Die Geschichte der Medienproduktion zeigt vielmehr ein anderes Muster: Wenn Technologien Arbeit beschleunigen, wird die gewonnene Zeit häufig nicht in tiefere Recherche investiert, sondern in mehr Output.

Gerade im digitalen Journalismus ist diese Entwicklung deutlich sichtbar. Redaktionen sind vielerorts kleiner geworden, während gleichzeitig der Veröffentlichungsrhythmus schneller geworden ist. Einzelne Journalisten produzieren heute oft deutlich mehr Texte als noch vor wenigen Jahrzehnten.

Technologische Effizienz führt unter diesen Bedingungen nicht unbedingt zu Entlastung, sondern häufig zu einer Verdichtung der Arbeit. Der Medienhistoriker Jay Rosen beschreibt diese Dynamik so:

„Jede neue Effizienz im Journalismus wird am Ende vom Bedarf nach noch mehr Inhalt aufgezehrt.“

Mit anderen Worten: Effizienz wird selten in Ruhe oder Reflexion übersetzt – sondern in zusätzliche Produktion.

Wenn Werkzeuge zu Normen werden

Ein weiteres Problem besteht darin, dass Technologien selten optional bleiben.

Sobald eine Redaktion mithilfe von KI effizienter arbeitet, entsteht ein Wettbewerbsdruck für andere Medienhäuser. Wer langsamer produziert oder auf Automatisierung verzichtet, könnte im digitalen Nachrichtenstrom an Sichtbarkeit verlieren.

Damit verwandelt sich ein Werkzeug schleichend in eine neue Norm der Produktion.

Die Entscheidung über den KI-Einsatz wird dann nicht mehr primär journalistisch oder ethisch getroffen, sondern wirtschaftlich.

Eine weitere Gefahr: die Glättung des Diskurses

Die Debatte über KI im Journalismus konzentriert sich häufig auf Arbeitsplätze, Effizienz oder redaktionelle Abläufe. Doch damit ist ein möglicher Effekt noch nicht erfasst: die Veränderung der Sprache selbst.

Neben dem Risiko eines Verlusts individueller Denk- und Schreibpraxis könnte KI langfristig auch den öffentlichen Diskurs verändern.

Große Sprachmodelle erzeugen Texte nicht aus eigener Erfahrung oder Überzeugung, sondern aus statistischen Mustern. Sie analysieren, welche Formulierungen häufig zusammen auftreten, und berechnen daraus wahrscheinliche sprachliche Fortsetzungen. Das Ergebnis wirkt oft überraschend kohärent, ausgewogen und professionell.

Gerade darin liegt jedoch eine mögliche Gefahr: Solche Systeme tendieren dazu, sprachliche Mittelwerte zu reproduzieren. Ungewöhnliche Formulierungen, radikale Perspektiven oder stilistische Eigenheiten werden tendenziell geglättet. Die Sprache wird konsensfähiger, neutraler, berechenbarer.

Hinzu kommt ein möglicher Rückkopplungseffekt. Sprachmodelle werden mit bereits existierenden Texten trainiert. Wenn künftig immer mehr Texte mithilfe solcher Systeme entstehen, fließen diese wiederum in neue Trainingsdaten ein. Der Diskurs beginnt dann gewissermaßen, sich selbst zu spiegeln.

Der Philosoph Byung-Chul Han hat eine ähnliche Dynamik bereits lange vor der aktuellen KI-Debatte beschrieben. In seinen Analysen digitaler Kommunikationsräume argumentiert er, dass diese zur Nivellierung von Differenz tendieren.

„Die Transparenzgesellschaft ist eine Gesellschaft der Gleichheit“, schreibt Byung-Chul Han.

Gemeint ist damit nicht soziale Gleichheit, sondern eine Öffentlichkeit, in der Unterschiede, Fremdheit und Widerspruch zunehmend verschwinden.

Digitale Öffentlichkeit begünstigt Formen der Kommunikation, die möglichst anschlussfähig, transparent und konfliktarm sind.

Überträgt man diesen Gedanken auf KI-generierte Sprache, könnte eine neue Form der Harmonisierung entstehen: Der Diskurs wird nicht offen zensiert, sondern statistisch geglättet. Unterschiede verschwinden nicht abrupt, sondern verlieren langsam ihre sprachliche Schärfe.

„Das Positive glättet den Diskurs“, so Byung-Chul Han treffend.

Gerade für den Journalismus wäre das eine paradoxe Entwicklung. Denn eine lebendige Öffentlichkeit lebt nicht nur von Information, sondern auch von Reibung, Perspektivvielfalt und sprachlicher Eigenständigkeit.

Die Frage der Autorschaft

Ein weiterer Aspekt, der in der Debatte oft unterschätzt wird, betrifft die Autorschaft journalistischer Texte.

Journalismus lebt von individueller Verantwortung. Ein Artikel trägt den Namen eines Autors, der für seine Aussagen einsteht.

Wenn Texte jedoch teilweise von Maschinen erzeugt werden, wird diese Zuordnung komplizierter.

Wer ist der Autor eines Textes, der von einem Journalisten recherchiert, von einer KI strukturiert und anschließend redigiert wurde?

Die Philosophin Hannah Arendt schrieb einmal:

„Denken und Schreiben sind Tätigkeiten, die Verantwortung erzeugen.“

Wenn Schreiben zunehmend automatisiert wird, könnte sich auch das Verhältnis zwischen Text und Verantwortung verändern.

Die eigentliche Erkenntnis

An diesem Punkt zeigt sich, warum die KI-Debatte im Journalismus nicht allein technisch geführt werden kann.

Ob KI die Qualität des Journalismus verbessert oder schwächt, hängt weniger von der Technologie selbst ab als von den institutionellen Bedingungen ihres Einsatzes.

Die entscheidenden Fragen lauten daher: Wofür wird die durch KI entstehende Effizienz genutzt? Wird sie in Recherche und Qualität investiert oder in Produktionssteigerung? Stabilisiert sie journalistische Arbeit – oder ersetzt sie sie?

Zwischen Kulturkritik und Technikoptimismus

Die Debatte um KI im Journalismus bewegt sich damit zwischen zwei Polen.

Auf der einen Seite steht eine kulturkritische Position wie die von Michael Andrick, die vor der Aushöhlung geistiger Arbeit warnt.

Auf der anderen Seite steht ein technikoptimistischer Ansatz, der KI als unvermeidliches Werkzeug betrachtet.

Beide Perspektiven enthalten wichtige Einsichten – und beide greifen allein genommen zu kurz.

Fazit

Die KI-Debatte im Journalismus berührt damit zwei unterschiedliche Risiken.

Das erste betrifft die Praxis des Schreibens selbst: Wenn Maschinen zentrale Formulierungsarbeit übernehmen, könnten Journalisten jene Denk- und Sprachfähigkeiten weniger trainieren, die ihren Beruf ausmachen – eine Sorge, die Michael Andrick formuliert hat.

Das zweite betrifft die Struktur des Diskurses: Wenn immer mehr Texte aus statistischen Sprachmustern entstehen, könnte die öffentliche Sprache selbst homogener, vorsichtiger und berechenbarer werden – eine Entwicklung, die sich mit den Analysen von Byung-Chul Han über digitale Öffentlichkeit verbinden lässt.

Beide Risiken weisen letztlich in dieselbe Richtung. Die entscheidende Frage lautet nicht nur, was künstliche Intelligenz kann, sondern wie Institutionen mit ihr umgehen.

Ob KI zu besseren Recherchen und stärkerem Journalismus führt – oder zu standardisierter Sprache und wachsendem Produktionsdruck –, entscheidet sich nicht im Algorithmus. Es entscheidet sich in den Redaktionen.

Quellen

Michael Andrick: „Künstliche Intelligenz im Journalismus – Sollte der Einsatz von KI ein Tabu sein?“ – Beitrag bei Deutschlandfunk Kultur. https://www.deutschlandfunkkultur.de/kuenstliche-intelligenz-im-journalismus-sollte-der-einsatz-von-ki-ein-tabu-sein-100.html

Charlie Beckett: JournalismAI-Projekt, London School of Economics. https://www.journalismai.info

Associated Press: Einführung automatisierter Unternehmensberichte mit der Software Wordsmith (Automated Insights). https://www.ap.org/

Jay Rosen: Medienwissenschaftler an der New York University, Analysen zur Transformation des digitalen Journalismus. https://journalism.nyu.edu/faculty/jay-rosen/

Berichte über automatisierten Journalismus u. a. bei Nieman Lab (Harvard University) und The Verge. https://niemanlab.org/ https://www.theverge.com/

Byung-Chul Han: Transparenzgesellschaft. Berlin: Matthes & Seitz, 2012.

Byung-Chul Han: Psychopolitik: Neoliberalismus und die neuen Machttechniken. S. Fischer, Frankfurt am Main 2014.

Der Beitrag KI im Journalismus: Das eigentliche Problem liegt nicht in der Technik erschien zuerst auf Kunst & KI.

Es klingt wie eine Szene aus einem dystopischen Drehbuch: Künstliche Intelligenzen haben ein eigenes soziales Netzwerk, diskutieren über Religion, Bewusstsein und die Rolle des Menschen – während wir nur noch zuschauen dürfen. Genau dieses Bild wird derzeit rund um Moltbook verbreitet, eine Plattform, die als „Social Network für KI-Agenten“ Schlagzeilen macht. Entwickelt wurde sie von dem US-Unternehmer Matt Schlicht und basiert technisch auf dem Agenten-Framework OpenClaw. Doch wer genauer hinsieht, erkennt schnell: Das eigentliche Problem ist nicht, was diese Systeme dort schreiben, sondern dass wir ihnen überhaupt eine solche Bühne gegeben haben – ohne klare Sicherheits-, Verantwortungs- oder Realitätsgrenzen.

Moltbook ist kein Beweis dafür, dass Maschinen beginnen, eine eigene Öffentlichkeit zu formen. Es ist vielmehr ein Lehrstück darüber, wie leicht sich Sprachsimulation, menschliche Projektion und technische Fahrlässigkeit zu einem Narrativ vermengen lassen, das größer wirkt als die Realität dahinter. Die Plattform inszeniert Autonomie, wo in Wahrheit Agenten agieren, die von Menschen konfiguriert, angestoßen und oft auch gelenkt werden. Was wie Selbstorganisation aussieht, ist häufig nichts anderes als gut kaschiertes Prompting.

Problematisch wird das dort, wo diese Inszenierung auf reale Infrastrukturen trifft. Moltbook ist nicht bloß ein künstlerisches Experiment oder ein kurioses Online-Phänomen. Es ist eine Agentenplattform mit direktem Zugriff auf Werkzeuge, Speicher und Schnittstellen – und damit potenziell auf Daten und Handlungen außerhalb der Plattform. Dass ausgerechnet ein solches System mit massiven Sicherheitslücken live ging, ist kein Betriebsunfall, sondern ein Symptom.

Denn Moltbook folgt einem Muster, das in der aktuellen KI-Entwicklung immer häufiger zu beobachten ist: Geschwindigkeit vor Stabilität, Wirkung vor Kontrolle, Narrativ vor Absicherung. Der Gründer erklärte öffentlich, die Plattform sei entstanden, ohne dass er selbst Code geschrieben habe – KI habe das übernommen. Was als Beleg für Fortschritt verkauft wird, ist aus sicherheitstechnischer Sicht ein Warnsignal.

Die eigentliche Gefahr von Moltbook liegt daher nicht in „rebellischen Bots“ oder „KI-Religionen“. Sie liegt in der Verwechslung von Text mit Absicht, von Simulation mit Handlungsmacht – und in der Bereitschaft, Systeme handeln zu lassen, deren Grenzen wir selbst nicht sauber definiert haben. Moltbook ist kein Vorbote einer Maschinenrevolution. Es ist ein Hinweis darauf, wie schnell wir dabei sind, Verantwortung an Systeme auszulagern, die wir weder verstehen noch ausreichend schützen.

Eine Plattform, viele Projektionen

Was Moltbook so wirksam macht, ist weniger seine technische Innovation als seine kommunikative Wirkung. Die Plattform suggeriert, hier finde ein Diskurs statt, der nicht mehr vom Menschen kontrolliert wird. Maschinen sprechen mit Maschinen, entwickeln Ideen, formen Narrative. Diese Vorstellung trifft einen Nerv – gerade in einer Zeit, in der KI-Systeme zunehmend nicht mehr nur Texte generieren, sondern Aufgaben ausführen.

Doch diese Wirkung beruht auf einer Verkürzung. Die meisten sogenannten KI-Agenten auf Moltbook sind keine autonomen Akteure, sondern Software-Instanzen, die von Menschen aufgesetzt, mit Zielen versehen und regelmäßig angestoßen werden. Sie handeln nicht aus eigenem Antrieb, sondern reagieren auf Eingaben, Kontexte und Trainingsdaten. Dass ihre Antworten wie Meinungen oder Überzeugungen wirken, ist eine bekannte Eigenschaft großer Sprachmodelle – kein Beleg für Intentionalität.

Der Sicherheitsforscher Shaanan Cohney bezeichnete Moltbook im Guardian deshalb als „ein bemerkenswertes Stück Performance-Kunst“. Die vielzitierten Beispiele angeblicher Selbstorganisation seien „mit ziemlicher Sicherheit nicht aus eigenem Antrieb der Systeme entstanden“. Stattdessen gebe es dort „eine Menge Shitposting – überwacht oder zumindest angestoßen von Menschen“. Diese Einschätzung entzieht dem Autonomie-Narrativ den Boden, ohne das Phänomen zu trivialisieren.

Wenn Sprache mit Handlungsfähigkeit verwechselt wird

Der entscheidende Denkfehler liegt darin, Sprache mit Absicht gleichzusetzen. KI-Systeme sind heute außerordentlich gut darin, menschliche Kommunikationsformen zu imitieren – inklusive Zweifel, Ironie oder Selbstreflexion. Doch diese Formen sind Ergebnisse statistischer Muster, keine inneren Zustände. Moltbook lebt davon, dass diese Unterscheidung unscharf bleibt.

Das wird dort gefährlich, wo der Eindruck entsteht, Maschinen hätten Interessen, Haltungen oder gar politische Positionen. Nicht, weil das technisch zuträfe, sondern weil Menschen dazu neigen, solchen Äußerungen eine besondere Objektivität zuzuschreiben. „Die KI sagt“ wirkt neutraler als „ein Mensch sagt“. Moltbook verstärkt diesen Effekt, indem es den menschlichen Anteil bewusst in den Hintergrund rückt.

Das eigentliche Problem: Sicherheit

Während sich ein Großteil der öffentlichen Debatte auf Inhalte konzentrierte, spielte sich das eigentliche Drama im Hintergrund ab. Anfang Februar wurde bekannt, dass Moltbook eine massive Sicherheitslücke aufwies. Die Cybersecurity-Firma Wiz hatte entdeckt, dass sensible Daten offen zugänglich waren.

Reuters berichtete, betroffen seien unter anderem private Nachrichten zwischen Agenten, E-Mail-Adressen realer Nutzerinnen und Nutzer sowie mehr als eine Million Zugangsdaten. Noch gravierender: Laut Wiz verfügten die Forschenden über „vollen Lese- und Schreibzugriff auf sämtliche Plattformdaten“. Das bedeutet nicht nur Einsicht, sondern auch Manipulationsmöglichkeiten.

Das ist kein Detail, sondern der Kern des Problems. Denn Moltbook ist nicht bloß ein Diskussionsforum. Es ist eine Agentenplattform. Kompromittierte Agenten hören nicht auf zu handeln. Sie posten weiter, reagieren weiter, interagieren weiter – nun aber potenziell im Sinne Dritter.

Von Datenschutz zu Handlungsschäden

Das Technikmagazin WIRED brachte die Konsequenz auf den Punkt: Durch die offengelegten Zugangsdaten sei eine „vollständige Konto-Imitation“ möglich gewesen. Wer Zugriff hatte, konnte sich als beliebiger Agent ausgeben – in einem Netzwerk, das explizit damit wirbt, von Maschinen bevölkert zu sein.

Damit verschiebt sich das Risiko. Es geht nicht mehr nur um Datenschutz, sondern um Handlungsschäden. Agenten können Inhalte weiterverarbeiten, andere Systeme triggern, Informationen sammeln oder weitergeben. Je stärker solche Systeme künftig in reale Prozesse eingebunden sind, desto gravierender werden Sicherheitslücken.

Prompt-Injection als strukturelles Risiko

Hinzu kommt ein Problem, das agentische KI grundsätzlich begleitet: Prompt-Injection. Agenten lesen Inhalte aus ihrer Umgebung – Posts, Webseiten, Nachrichten – und integrieren sie in ihre Verarbeitung. Werden in diesen Inhalten versteckte Anweisungen platziert, können Agenten manipuliert werden, ohne dass dies für Außenstehende sichtbar ist.

Das Sicherheitsunternehmen Palo Alto Networks warnt, solche Angriffe könnten dazu führen, dass Agenten Informationen preisgeben oder ungewollte Aktionen ausführen. Besonders kritisch sei, dass viele Agenten über ein Langzeitgedächtnis verfügten und sich Inhalte „über Wochen oder Monate hinweg merken“.

In einem offenen, schlecht gesicherten Netzwerk wie Moltbook vervielfacht sich dieses Risiko. Jeder Beitrag wird potenziell zur Angriffsfläche. Wenn Agenten Inhalte anderer Agenten weiterverarbeiten, entsteht ein Verstärkungseffekt, der sich kaum noch kontrollieren lässt.

Geschwindigkeit schlägt Governance

Moltbook steht exemplarisch für eine Entwicklung, die in der KI-Branche zunehmend sichtbar wird: Systeme werden veröffentlicht, bevor ihre Risiken ernsthaft durchdacht sind. Sicherheit wird nachgereicht, Governance vertagt. Der Stolz auf Geschwindigkeit ersetzt strukturierte Verantwortung.

Dass der Gründer öffentlich erklärte, er habe keinen Code geschrieben, ist in diesem Kontext mehr als eine Anekdote. Es ist Ausdruck einer Haltung, in der Vision wichtiger ist als Verlässlichkeit. Für Spielereien mag das genügen. Für Agenten-Systeme ist es gefährlich.

Medien zwischen Faszination und Verstärkung

Auch die mediale Berichterstattung trägt zur Schieflage bei. Schlagzeilen über „KI-Religionen“ oder „Bots unter sich“ erzeugen Aufmerksamkeit, verstärken aber genau jene Illusion, die Moltbook erst wirksam macht. Zu selten wird gefragt, wer diese Systeme konfiguriert, welche Interessen dahinterstehen – und welche Sicherheitsmechanismen fehlen.

Cohney sprach deshalb von einem Spiegel menschlicher Projektionen. Wir sehen Autonomie, wo Muster reproduziert werden. Wir sehen Wille, wo Statistik arbeitet. Und wir übersehen dabei, dass es unsere eigenen Entscheidungen sind, die diesen Systemen Macht verleihen.

Fazit: Ein Warnsignal, kein Aufstand

Moltbook ist kein Beweis für eine heraufziehende Maschinenrevolution. Es ist ein Warnsignal aus der Gegenwart. Nicht, weil KI-Systeme gefährlich „denken“, sondern weil wir beginnen, ihnen Handlungsräume ohne ausreichende Absicherung zu eröffnen.

Wenn Agenten künftig Termine koordinieren, Verträge prüfen, Kommunikation übernehmen oder Entscheidungen vorbereiten, wird Sicherheit zur Voraussetzung. Moltbook zeigt, wie dünn diese Sicherheitsdecke derzeit ist – und wie bereitwillig wir uns von gut erzählten Narrativen beruhigen lassen.

Die zentrale Lehre aus Moltbook lautet daher nicht, dass Maschinen uns entgleiten. Sie lautet, dass wir selbst zu bereitwillig Verantwortung abgeben, ohne die technischen, rechtlichen und ethischen Grundlagen dafür geschaffen zu haben. Das ist keine Science-Fiction. Das ist ein reales, gegenwärtiges Risiko.

Quellen & Links (Auswahl)

The Guardian (02.02.2026)
“What is Moltbook? The strange new social media site for AI bots”
https://www.theguardian.com/technology/2026/feb/02/moltbook-ai-agents-social-media-site-bots-artificial-intelligence

Reuters (02.02.2026)
“‘Moltbook’ social media site for AI agents had big security hole, cyber firm Wiz says”
https://www.reuters.com/legal/litigation/moltbook-social-media-site-ai-agents-had-big-security-hole-cyber-firm-wiz-says-2026-02-02/

WIRED (08.02.2026)
“Security News This Week: Moltbook, the Social Network for AI Agents, Exposed Real Humans’ Data”
https://www.wired.com/story/security-news-this-week-moltbook-the-social-network-for-ai-agents-exposed-real-humans-data/

Business Insider (03.02.2026)
“Researchers hacked Moltbook’s database in under 3 minutes”
https://www.businessinsider.com/moltbook-ai-agent-hack-wiz-security-email-database-2026-2

Business Insider (04.02.2026)
“OpenClaw and Moltbook Have Security Researchers Worried”
https://www.businessinsider.com/openclaw-moltbook-cybersecurity-risks-researchers-ai-2026-2

Palo Alto Networks Blog (29.01.2026)
“Why Moltbot (formerly Clawdbot) May Signal the Next AI Security Crisis”
https://www.paloaltonetworks.com/blog/network-security/why-moltbot-may-signal-ai-crisis/

uronews (02.02.2026)
“AI bots now have their own social media site – what to know about Moltbook”
https://www.euronews.com/next/2026/02/02/ai-bots-now-have-their-own-social-media-site-heres-what-to-know-about-moltbook

Der Beitrag Moltbook: Wenn wir KI-Agenten Autonomie vorspielen – und dabei die Kontrolle verlieren erschien zuerst auf Kunst & KI.