Ein Grundstück am Ortsrand, unmittelbar an der Grenze zum Außenbereich. Die Rechtslage scheint zunächst eindeutig: Das Vorhaben ist in dieser Form eigentlich nicht vorgesehen. Doch bei näherer Betrachtung zeigt sich ein differenzierteres Bild. Eine Ablehnung würde für den Antragsteller eine erhebliche Härte bedeuten. Nachbarliche Belange sind nicht berührt, die beteiligten Träger öffentlicher Belange äußern keine Bedenken und sprechen sich teilweise sogar ausdrücklich für das Vorhaben aus. Aufgrund der besonderen Lage des Grundstücks wäre zudem keine unerwünschte Vorbildwirkung für weitere Bauvorhaben zu erwarten. Auch das Ortsbild bliebe weitgehend unbeeinträchtigt. Vergleichbare Fälle hat die Behörde bislang nicht zu entscheiden gehabt.

Für einen Algorithmus stellt ein solcher Fall vor allem ein Problem dar: Es fehlen vergleichbare Muster. Für eine erfahrene Mitarbeiterin oder einen erfahrenen Mitarbeiter im Bauamt beginnt an dieser Stelle hingegen die eigentliche Arbeit. Denn genau für solche Konstellationen hat der Gesetzgeber Ermessens- und Abwägungsspielräume geschaffen. Hier geht es nicht um das schematische Abarbeiten von Vorschriften, sondern um die Würdigung eines Einzelfalls, die Berücksichtigung besonderer Umstände und die verantwortungsvolle Abwägung widerstreitender Interessen.

Für einen Algorithmus ist ein solcher Fall eine statistische Ausnahme. Für den Rechtsstaat ist er der Grund, warum menschliches Ermessen überhaupt existiert.

Dennoch plant Bayern nun, den Einsatz Künstlicher Intelligenz auch dort zu ermöglichen, wo bislang bewusst Menschen entscheiden sollten. Was als Modernisierung der Verwaltung verkauft wird, könnte sich als weitreichender Eingriff in ein zentrales Prinzip rechtsstaatlichen Handelns erweisen. Denn die eigentliche Frage lautet nicht, ob Maschinen schneller entscheiden können als Menschen. Die eigentliche Frage lautet, ob der Staat dort auf menschliche Erfahrung, Verantwortung und Einzelfallgerechtigkeit verzichten sollte, wo sie vom Gesetzgeber ausdrücklich gewollt sind.

Ein historischer Schritt – aber in welche Richtung?

Die Bayerische Staatsregierung betrachtet ihren Vorstoß als wegweisend. Der Leiter der Staatskanzlei, Florian Herrmann, sprach gegenüber der Süddeutschen Zeitung sogar von einem historischen Vorgang:

„Das ist Rechtsgeschichte, weil es das bisher noch nicht gab.“

Tatsächlich wäre die Änderung des Verwaltungsverfahrensrechts ein Paradigmenwechsel. Bisher galt ein einfacher Grundsatz: Dort, wo Ermessen oder Beurteilungsspielräume bestehen, soll kein vollautomatisiertes Verfahren entscheiden.

Der Grund dafür liegt auf der Hand. Ermessen existiert nicht deshalb, weil Gesetze unvollkommen wären. Ermessen existiert, weil der Gesetzgeber erkannt hat, dass sich menschliche Lebenswirklichkeit nicht vollständig in Regeln und Kategorien pressen lässt.

Gerade deshalb stellt sich die Frage, warum ausgerechnet dieser Bereich nun für den Einsatz von KI geöffnet werden soll.

Die Illusion der objektiven Maschine

Befürworter verweisen häufig auf schnellere Verfahren, mehr Einheitlichkeit und eine größere Konsistenz behördlicher Entscheidungen.

Doch diese Argumentation beruht auf einer problematischen Annahme: dass sich gute Verwaltung vor allem durch Gleichförmigkeit auszeichnet.

Moderne KI-Systeme treffen keine Entscheidungen aufgrund von Erfahrung oder Verständnis. Sie erkennen Muster in vorhandenen Daten. Sie bewerten Wahrscheinlichkeiten. Sie vergleichen neue Fälle mit bereits bekannten Konstellationen.

Das mag bei standardisierten Vorgängen sinnvoll sein.

Doch je stärker ein Fall vom Durchschnitt abweicht, desto größer wird das Problem.

Denn die Besonderheit eines Einzelfalls erscheint für die KI nicht als Qualität, sondern als Abweichung.

Gerade hier beginnt die Gefahr einer schleichenden Radikalisierung der Verwaltung.

Nicht im politischen Sinn, sondern im administrativen Sinn: Entscheidungen werden zunehmend auf Muster, Kategorien und Wahrscheinlichkeiten reduziert. Das Individuelle wird zum Störfaktor. Der atypische Fall wird zur Ausnahme, die möglichst effizient verarbeitet werden soll. Die Verwaltung wird dadurch nicht zwingend gerechter, sondern vor allem standardisierter.

Der Preis dieser Entwicklung könnte ein Verlust jener Flexibilität sein, die rechtsstaatliches Ermessen überhaupt erst ermöglichen soll.

Das eigentliche Problem heißt nicht Technik

Die Diskussion über KI in der Verwaltung wird häufig so geführt, als sei sie die Antwort auf eine objektive Notlage.

Doch die Überlastung vieler Behörden ist kein Naturereignis.

Seit Jahren berichten Beschäftigte von steigender Arbeitsverdichtung, wachsender Verantwortung und immer komplexeren Verfahren. Dokumentationspflichten nehmen zu, rechtliche Anforderungen werden umfangreicher und Aufgaben werden ständig erweitert.

Gleichzeitig wurden vielerorts Stellen abgebaut, nicht nachbesetzt oder organisatorisch zusammengelegt.

Die Beschäftigten sollen mehr leisten, komplexere Entscheidungen treffen und größere Verantwortung übernehmen – häufig unter denselben Rahmenbedingungen wie vor Jahren.

Vor diesem Hintergrund erscheint der Ruf nach KI in einem anderen Licht.

Die Technologie soll Probleme lösen, deren Ursachen nicht technischer Natur sind.

Wenn Unterstützung zur Vorentscheidung wird

Offiziell soll der Mensch weiterhin die Kontrolle behalten.

Doch diese Vorstellung ignoriert die Realität vieler Verwaltungen.

Wer täglich unter erheblichem Zeitdruck arbeitet, wird Vorschläge eines Systems kaum vollständig nachvollziehen und überprüfen können. Genau hier entsteht ein bekanntes Phänomen, das als „Automation Bias“ bezeichnet wird: Menschen neigen dazu, Empfehlungen technischer Systeme zu vertrauen, insbesondere dann, wenn Zeitdruck und Arbeitsbelastung hoch sind.

Auf dem Papier entscheidet weiterhin der Mensch.

In der Praxis besteht die Gefahr, dass die Maschine die Entscheidung vorbereitet, strukturiert und faktisch vorprägt.

Die Unterschrift bleibt menschlich.

Die Entscheidungslogik möglicherweise nicht.

Das Bauamt als Prüfstein

Gerade im Baurecht zeigt sich, wie problematisch diese Entwicklung sein könnte.

Baugenehmigungen bestehen nicht ausschließlich aus objektiv messbaren Kriterien. Sie betreffen gewachsene Ortsbilder, nachbarschaftliche Interessen, städtebauliche Entwicklungen und nicht zuletzt menschliche Lebensentwürfe.

Erfahrene Mitarbeiterinnen und Mitarbeiter entwickeln über Jahre ein Gespür für Besonderheiten, die sich nicht vollständig in Akten, Datenbanken oder Checklisten abbilden lassen.

Sie wissen, wann eine scheinbar vergleichbare Situation eben doch nicht vergleichbar ist.

Sie erkennen Konstellationen, für die es keine Muster gibt.

Sie verstehen lokale Besonderheiten, historische Entwicklungen und praktische Auswirkungen einer Entscheidung.

Genau dieses Erfahrungswissen droht verloren zu gehen, wenn Verwaltung zunehmend auf statistische Muster reduziert wird.

Denn die entscheidende Stärke menschlichen Ermessens liegt nicht darin, bekannte Fälle zu erkennen.

Sie liegt darin, unbekannte Fälle angemessen beurteilen zu können.

Wer trägt die Verantwortung?

Mit dem Einsatz von KI stellt sich zudem eine grundlegende rechtsstaatliche Frage.

Wer trägt die Verantwortung für eine Fehlentscheidung?

Bislang ist die Lage klar: Entscheidungen werden von Menschen getroffen, begründet und können gerichtlich überprüft werden.

Bei KI-gestützten Verfahren droht diese Verantwortlichkeit zu verschwimmen.

Die Behörde kann auf die Empfehlung des Systems verweisen.

Der Softwareanbieter kann erklären, lediglich ein Werkzeug bereitgestellt zu haben.

Die Beschäftigten können darauf hinweisen, dass sie die technische Bewertung nicht vollständig nachvollziehen konnten.

Doch ein Rechtsstaat benötigt Verantwortliche.

Er lebt davon, dass Entscheidungen nachvollziehbar, überprüfbar und zurechenbar bleiben.

Transparenz als ungelöstes Problem

Der Bayerische Landesbeauftragte für den Datenschutz, Thomas Petri, mahnt deshalb:

„Transparenz, Verständlichkeit und Nachvollziehbarkeit sind als Kernanliegen des Datenschutzes auch für die Vertrauenswürdigkeit von KI essenziell.“

Dieser Satz trifft den Kern der Debatte.

Denn Bürger haben nicht nur Anspruch auf eine Entscheidung.

Sie haben Anspruch darauf zu verstehen, warum diese Entscheidung getroffen wurde.

Je komplexer KI-Systeme werden, desto schwieriger wird genau diese Nachvollziehbarkeit.

Damit gerät ein weiteres Fundament rechtsstaatlichen Handelns unter Druck.

Wenn Ermessen zum Kostenfaktor wird

Die eigentliche Schwäche der aktuellen Debatte liegt möglicherweise in einer unausgesprochenen Grundannahme.

Menschliches Ermessen erscheint zunehmend als ineffizient.

Es kostet Zeit.

Es verlangt Erfahrung.

Es führt nicht immer zu identischen Ergebnissen.

Es lässt sich nicht beliebig skalieren.

Doch genau deshalb hat der Gesetzgeber es geschaffen.

Ermessen soll verhindern, dass Menschen ausschließlich nach abstrakten Regeln oder statistischen Mustern behandelt werden. Es soll sicherstellen, dass Besonderheiten berücksichtigt werden können. Es soll dort Gerechtigkeit ermöglichen, wo starre Gleichbehandlung zu ungerechten Ergebnissen führen würde.

Der Rechtsstaat hat das menschliche Ermessen nicht trotz seiner Unschärfen geschaffen, sondern gerade wegen seiner Fähigkeit, der Komplexität realer Lebenssituationen gerecht zu werden.

Fazit

Die Debatte über KI in der Verwaltung wird häufig als Frage technischer Machbarkeit geführt.

Tatsächlich geht es um etwas Grundsätzlicheres.

Es geht um die Frage, welche Art von Verwaltung wir wollen.

Eine Verwaltung, die den Bürger als Datensatz betrachtet, der möglichst effizient verarbeitet werden muss?

Oder eine Verwaltung, die den Menschen als Individuum begreift und bereit ist, Besonderheiten des Einzelfalls zu berücksichtigen?

Die geplante Öffnung von Ermessensentscheidungen für KI mag als Modernisierung verkauft werden.

Sie könnte sich jedoch als Schritt hin zu einer Verwaltung erweisen, in der menschliche Erfahrung, Verantwortung und Einzelfallgerechtigkeit zunehmend als Hindernisse erscheinen.

Eine solche Entwicklung wäre kein Fortschritt.

Sie wäre die technologische Vollendung einer Tendenz, die vielerorts bereits sichtbar ist: Arbeitsverdichtung, Rationalisierungsdruck und die Vorstellung, dass sich menschliches Urteil letztlich durch Mustererkennung ersetzen lasse.

Doch genau dort beginnt die eigentliche Gefahr.

Denn für einen Algorithmus ist der Mensch oft die Ausnahme.

Für den Rechtsstaat sollte er stets der Maßstab bleiben.

Quellen

1. Legal Tribune Online (LTO): „Bayern will Verwaltungsrecht ändern: Ermessen? Pah, das soll die KI machen“
   https://www.lto.de/recht/hintergruende/h/ki-verwaltung-ermessen-bayern-aendert-verwaltungsrecht-bund-kontrolle-kritik
2. Legal Tribune Online (LTO): „Künstliche Intelligenz in der Verwaltung: Keine Ermessensausübung durch die Maschine?“
   https://www.lto.de/recht/hintergruende/h/kuenstliche-intelligenz-ki-verwaltung-35a-vwvfg-ermessen-automatisiert-verwaltungsakt
3. Süddeutsche Zeitung: Berichterstattung zur bayerischen Verwaltungsrechtsänderung; Zitat von Florian Herrmann („Das ist Rechtsgeschichte, weil es das bisher noch nicht gab.“)
4. Bayerischer Landesbeauftragter für den Datenschutz: Künstliche Intelligenz
   https://www.datenschutz-bayern.de/nav/2501.html
5. move-online.de: „KI in der Verwaltung – aber mit Datenschutz“; Zitat von Thomas Petri („Transparenz, Verständlichkeit und Nachvollziehbarkeit sind als Kernanliegen des Datenschutzes auch für die Vertrauenswürdigkeit von KI essenziell.“)

Der Beitrag Der Mensch stört erschien zuerst auf Kunst & KI.

Die Zukunft der künstlichen Intelligenz klingt in politischen Reden und Marketingkampagnen oft wie ein technisches Heilsversprechen. KI soll Krankheiten früher erkennen, Behörden effizienter machen, Cyberangriffe stoppen, Verkehrsströme optimieren und sogar die Folgen des Klimawandels besser beherrschbar machen. Doch ausgerechnet dort, wo die Risiken am größten sind, zeigen sich inzwischen die Grenzen datengetriebener Systeme besonders deutlich.

Eine aktuelle Studie des Karlsruher Instituts für Technologie (KIT) und der Universität Genf sorgt derzeit in der Meteorologie für Aufsehen. Die Forscher verglichen moderne KI-Wettermodelle wie GraphCast, Pangu Weather und Fuxi mit klassischen physikbasierten Wettermodellen. Das Ergebnis: Während KI-Systeme bei gewöhnlichen Wetterlagen oft erstaunlich präzise arbeiten, unterschätzen sie Extremereignisse systematisch – darunter Hitzewellen, Starkregen und Orkanböen.

Das KIT formuliert den Befund ungewöhnlich klar: „Während KI-Modelle bei der Gesamtbewertung aller Wetterlagen gut abschneiden, zeigen sie bei Rekordereignissen durchweg größere Prognosefehler.“ Besonders problematisch sei, dass die Systeme „sowohl die Intensität als auch die Häufigkeit extremer Ereignisse“ unterschätzen.

Das ist kein bloß akademisches Problem. Wenn Hochwasserwarnungen zu niedrig ausfallen oder extreme Hitzewellen nicht rechtzeitig erkannt werden, kann das Menschenleben kosten. Gerade weil Extremereignisse selten sind, liegen sie oft außerhalb jener Datenbereiche, aus denen KI-Systeme gelernt haben. Mit dem Klimawandel verschärft sich dieses Problem zusätzlich: Die Vergangenheit wird als Trainingsgrundlage immer unzuverlässiger.

Doch die eigentliche Brisanz reicht weit über die Meteorologie hinaus. Das Wetterproblem ist nur ein sichtbares Symptom eines grundlegenderen Konflikts: Was passiert mit einer Gesellschaft, wenn immer mehr Entscheidungen auf statistischen Systemen beruhen, die niemand mehr wirklich nachvollziehen kann?

Die Illusion statistischer Sicherheit

Die meisten modernen KI-Systeme funktionieren nicht wie klassische Programme. Sie folgen nicht einer transparenten Kette von Regeln, sondern lernen Muster aus gigantischen Datenmengen. Genau das macht sie leistungsfähig – und zugleich gefährlich.

Solange die Realität den Trainingsdaten ähnelt, liefern diese Systeme oft beeindruckende Ergebnisse. Doch bei seltenen Ausnahmefällen, neuen Situationen oder gesellschaftlichen Umbrüchen geraten sie an strukturelle Grenzen. Informatiker sprechen von „Out-of-Distribution“-Problemen: Das Modell wird mit einer Situation konfrontiert, die außerhalb seines Erfahrungsraums liegt.

Das Wetterbeispiel zeigt diese Schwäche besonders deutlich. Doch ähnliche Probleme existieren längst in anderen Bereichen.

In der Medizin etwa können KI-Systeme bei Standardfällen sehr gute Ergebnisse erzielen. Schwieriger wird es bei seltenen Erkrankungen, atypischen Symptomen oder unterrepräsentierten Patientengruppen. In der Cybersicherheit erkennen Algorithmen bekannte Angriffsmuster oft schneller als Menschen – aber gerade neuartige Angriffstechniken entziehen sich statistischen Routinen.

Trotzdem wächst der Druck, solche Systeme immer umfassender einzusetzen. Behörden experimentieren mit automatisierter Risikobewertung, Unternehmen mit algorithmischer Personalsteuerung, Versicherungen mit KI-gestützten Schadensanalysen. Der gemeinsame Nenner lautet stets: Effizienz.

Die eigentliche Gefahr entsteht jedoch nicht erst dann, wenn ein System spektakulär versagt. Sie beginnt bereits in dem Moment, in dem Menschen institutionell lernen, den Systemen zu vertrauen.

Vom Hilfsmittel zur Autorität

Der deutsch-amerikanische Informatiker und KI-Pionier Joseph Weizenbaum warnte bereits 1976 vor genau dieser Entwicklung. In seinem Buch „Computer Power and Human Reason“ schrieb er:

„Die Frage ist nicht, ob so etwas getan werden kann, sondern ob es angemessen ist, diese bislang menschliche Funktion an eine Maschine zu delegieren.“

Und weiter:

„Die Grenzen der Anwendbarkeit von Computern lassen sich letztlich nur in Begriffen dessen formulieren, was sein soll.“

Weizenbaum kritisierte nicht bloß technische Fehler, sondern die Vorstellung, menschliches Urteil durch Berechnung ersetzen zu können. Besonders entschieden wandte er sich gegen den Einsatz von Computern in Bereichen, die Verantwortung, Ethik oder menschliche Abwägung erfordern.

Heute wirken seine Warnungen erstaunlich aktuell.

Denn moderne KI verändert nicht nur Werkzeuge, sondern Institutionen. In vielen Bereichen entsteht schleichend ein sogenannter „Automation Bias“: Menschen gewöhnen sich daran, algorithmischen Empfehlungen zu folgen – selbst dann, wenn sie Zweifel haben.

Piloten verlassen sich auf Autopiloten. Ärzte auf Diagnosevorschläge. Sachbearbeiter auf Risikoscores. Analysten auf Prognosemodelle.

Je häufiger die Systeme richtig liegen, desto größer wird die psychologische Hemmschwelle, ihnen zu widersprechen.

Damit verschiebt sich Verantwortung. Formal bleibt zwar meist ein Mensch zuständig. Praktisch aber wird menschliche Kontrolle oft zu einer symbolischen Restfunktion.

Blackbox statt Rechtsstaat

Besonders problematisch wird das in demokratischen und rechtsstaatlichen Systemen.

Denn moderne Rechtsstaaten beruhen auf Grundprinzipien wie Nachvollziehbarkeit, Begründungspflicht und Anfechtbarkeit. Entscheidungen müssen überprüfbar sein. Betroffene müssen verstehen können, warum sie benachteiligt, abgelehnt oder überwacht werden.

Viele KI-Systeme stehen genau dazu im Widerspruch.

Große neuronale Modelle arbeiten hochkomplex und oft intransparent. Selbst Entwickler können häufig nicht exakt erklären, warum ein System zu einem bestimmten Ergebnis gekommen ist. Die Folge ist ein fundamentaler Konflikt zwischen statistischer Optimierung und demokratischer Legitimation.

Ein Beispiel dafür lieferte bereits der niederländische Sozialskandal um das System SyRI, mit dem Behörden automatisiert Sozialbetrug erkennen wollten. Bürger wurden algorithmisch als Verdachtsfälle markiert, ohne nachvollziehen zu können, nach welchen Kriterien das geschah. Gerichte stoppten das System schließlich wegen massiver Datenschutz- und Rechtsstaatsbedenken.

Ähnliche Debatten laufen inzwischen europaweit.

Die Europäische Union versucht mit ihrem KI-Gesetz zwar, Hochrisikosysteme stärker zu regulieren. Doch viele Experten bezweifeln, dass Transparenzpflichten allein ausreichen.

Denn selbst wenn ein System statistisch korrekt arbeitet, bleibt die Frage offen, ob demokratische Gesellschaften bestimmte Entscheidungen überhaupt an datengetriebene Modelle delegieren sollten.

Die neue Macht der Konzerne

Hinzu kommt ein weiterer Faktor: Konzentration.

Die leistungsfähigsten KI-Systeme werden heute von wenigen globalen Konzernen kontrolliert. Training, Infrastruktur und Rechenleistung kosten Milliardenbeträge. Staaten, Behörden und Unternehmen geraten dadurch zunehmend in Abhängigkeit von proprietären Modellen, deren Funktionsweise oft Geschäftsgeheimnisse bleibt.

Damit entsteht eine neue Form technologischer Macht.

Wenn Verwaltung, Medizin, Bildung oder kritische Infrastruktur künftig auf Systeme angewiesen sind, die von einigen wenigen Unternehmen betrieben werden, verschiebt sich demokratische Kontrolle hin zu privatwirtschaftlichen Plattformen.

Der öffentliche Diskurs über KI wird zusätzlich durch massives Marketing verzerrt. Investoren, Tech-Konzerne und politische Akteure haben ein starkes Interesse daran, KI als unvermeidliche Zukunftstechnologie darzustellen. Kritische Einwände erscheinen dann schnell als technikfeindlich oder rückständig.

Weizenbaum warnte bereits vor einem „Mythos technologischer Unvermeidlichkeit“. Heute zeigt sich dieser Mythos in nahezu jeder KI-Debatte: Die Systeme gelten nicht mehr bloß als Möglichkeit, sondern als zwangsläufige Entwicklungsstufe.

Gerade deshalb werden Warnungen oft erst ernst genommen, wenn reale Schäden sichtbar werden.

Die Gefahr der KI-Echokammer

Ein weiteres Problem beginnt erst langsam sichtbar zu werden: die Rückkopplung künstlicher Systeme mit sich selbst.

Immer mehr Texte, Bilder, Analysen und Programmiercodes im Internet stammen inzwischen von KI-Systemen. Gleichzeitig werden neue Modelle mit genau diesen Daten trainiert.

Forscher warnen deshalb vor sogenannten „Model Collapse“-Effekten: Wenn KI zunehmend aus KI-generierten Inhalten lernt, können Informationsvielfalt, Qualität und Robustheit abnehmen.

Das Risiko ist nicht nur technischer Natur. Auch gesellschaftlich entstehen Echokammern.

Wenn algorithmische Systeme bestimmen,

• welche Informationen sichtbar werden,
• welche Texte produziert werden,
• welche Risiken als relevant gelten,
• welche Wahrscheinlichkeiten Entscheidungen beeinflussen,

dann formen statistische Modelle zunehmend selbst jene Wirklichkeit, aus der sie wiederum lernen.

Gerade in sicherheitskritischen Bereichen kann das gefährlich werden.

Ein KI-System, das Bedrohungen falsch priorisiert, beeinflusst menschliche Aufmerksamkeit. Ein Diagnosemodell verändert medizinische Routinen. Ein automatisiertes Verwaltungssystem verändert bürokratische Praxis.

Die Systeme beschreiben Realität dann nicht mehr bloß – sie produzieren sie mit.

Fazit: Die zentrale Frage unserer Zeit

Die aktuelle Wetterstudie ist deshalb weit mehr als eine technische Detaildebatte über Prognosemodelle.

Sie zeigt exemplarisch, wo die Grenzen rein datengetriebener Systeme liegen: ausgerechnet bei seltenen, neuartigen und gesellschaftlich besonders folgenreichen Ereignissen.

Doch die größere Frage lautet nicht, ob KI nützlich sein kann. Natürlich kann sie das.

Die entscheidende Frage ist vielmehr:

Welche Entscheidungen dürfen demokratische Gesellschaften überhaupt an statistische Systeme delegieren?

Denn eine Gesellschaft verliert Kontrolle nicht erst dann, wenn Maschinen vollständig autonom handeln. Kontrolle geht bereits verloren, wenn Entscheidungen zwar formal noch von Menschen bestätigt werden, praktisch aber niemand mehr versteht, überprüft oder verantwortet, wie sie zustande kommen.

Das eigentliche Risiko der KI-Revolution liegt deshalb möglicherweise nicht in einer futuristischen Maschinenherrschaft. Sondern in einer schleichenden Gewöhnung daran, menschliches Urteil durch undurchsichtige Wahrscheinlichkeitsmodelle zu ersetzen.

Die Wettermodelle liefern dafür eine Warnung. Nicht weil KI grundsätzlich nutzlos wäre, sondern weil gerade hochkomplexe Gesellschaften dazu neigen, funktionierende Systeme immer weiter auszudehnen – bis jene Ausnahmefälle auftreten, in denen ihre strukturellen Schwächen sichtbar werden.

Und genau diese Ausnahmefälle entscheiden oft über Sicherheit, Freiheit und demokratische Kontrolle.

Quellen und weiterführende Links

• KIT: „Physikbasierte Wettermodelle bei Extremereignissen zuverlässiger als KI“: https://www.kit.edu/kit/pi_2026_040_physikbasierte-wettermodelle-bei-extremereignissen-zuverlaessiger-als-ki.php
• Science Media Center: „KI-Modelle bei der Vorhersage seltener Wetterextreme unterlegen“: https://www.sciencemediacenter.de/angebote/ki-modelle-bei-der-vorhersage-seltener-wetterextreme-unterlegen-26090
• Frankfurter Rundschau: „Studie zerlegt den KI-Hype“: https://www.fr.de/panorama/studie-zerlegt-den-ki-hype-bei-hitze-sturm-und-starkregen-versagen-die-teuren-algorithmen-zr-94299698.html
• Joseph Weizenbaum: „Computer Power and Human Reason: From Judgment to Calculation“ (1976)
• Europäisches Parlament: EU AI Act: https://www.europarl.europa.eu/topics/de/article/20230601STO93804/gesetz-zur-kunstlichen-intelligenz-der-eu-erste-regeln-fur-ki
• Dokumentation über Joseph Weizenbaum: „Plug & Pray“: http://www.plugandpray-film.com/en/

Der Beitrag Wenn Maschinen entscheiden: Wie der KI-Hype Kontrolle, Verantwortung und Demokratie gefährdet erschien zuerst auf Kunst & KI.

Als die Academy of Motion Picture Arts and Sciences Anfang Mai 2026 festlegte, dass nur Rollen, die „demonstrably performed by humans with their consent“, also nachweislich von Menschen und mit deren Zustimmung gespielt wurden, Oscar-würdig sind, war das mehr als eine Branchenregel. Es war ein kultureller Schutzwall. Ebenso gilt nun: Drehbücher müssen „human-authored“ sein, menschlich verfasst. Hollywood zog damit eine Linie, die weit über Preisverleihungen hinausreicht. Die Botschaft lautet: KI darf Werkzeug sein – aber nicht stillschweigend Autor, Darsteller oder kreativer Eigentümer.

Diese Entscheidung ist kein isolierter Sonderfall, sondern Teil einer größeren globalen Auseinandersetzung: Wem gehören Stimme, Gesicht, Stil, Expertise und Persönlichkeit im Zeitalter generativer Modelle? Und noch grundsätzlicher: Wird menschliche Arbeit künftig bezahlt – oder nur noch gescannt?

Vom Werkzeug zur Enteignung

Lange galt die Debatte um Automatisierung als klassische Industriefrage. Roboter ersetzen Fabrikarbeiter, Software automatisiert Routinebürokratie. Die KI-Welle der 2020er Jahre hat dieses Narrativ verschoben. Erstmals geraten jene Berufe unter Druck, die lange als „nicht automatisierbar“ galten: Synchronsprecher, Sprecherinnen, Illustratoren, Journalisten, Berater, Moderatoren, Musiker, Influencer.

Der Grund ist nicht nur Effizienz. KI kopiert keine Arbeitsschritte allein – sie reproduziert Identität. Eine Stimme ist nicht bloß Ton, sondern Wiedererkennbarkeit. Ein Influencer verkauft nicht nur Inhalte, sondern Persona. Ein Berater liefert nicht nur Informationen, sondern Glaubwürdigkeit. Genau diese ökonomisch verwertbaren Eigenschaften werden nun digital extrahierbar.

Besonders sichtbar wurde das im Synchronbereich. Branchenvertreter warnen seit Jahren davor, dass neue Vertragsmodelle Sprecher faktisch dazu drängen könnten, ihre Stimmen für Datenbanken und synthetische Repliken verfügbar zu machen. Was früher eine Performance war, könnte morgen ein Asset im Besitz Dritter sein. Der Konflikt dreht sich also nicht nur um Jobverlust, sondern um Eigentumsverschiebung: Vom Künstler zum Plattformbetreiber.

Die neue Machtfrage: Consent reicht nicht immer

Auf dem Papier klingt „Zustimmung“ nach Schutz. Doch wer in prekären Branchen arbeitet, weiß: Vertragsfreiheit ist oft asymmetrisch. Wenn Streamingdienste, Studios oder Agenturen KI-Klauseln zur Bedingung machen, wird Einwilligung schnell zur ökonomischen Notwendigkeit.

Darum ist die Oscar-Regel so bemerkenswert. Sie verknüpft menschliche Leistung ausdrücklich mit Zustimmung und Sichtbarkeit. Ein digitaler Doppelgänger allein reicht nicht. Das adressiert die zentrale Sorge vieler Kreativer: Dass sie nicht nur ersetzt, sondern unsichtbar ersetzt werden.

Auch außerhalb Hollywoods entstehen ähnliche Fronten. In den USA soll der NO FAKES Act digitale Repliken von Stimme und Aussehen stärker rechtlich absichern. Ziel ist ein bundesweiter Schutz vor unautorisierter KI-Reproduktion von Persönlichkeitsmerkmalen.

Das verweist auf ein tieferes Problem: Das klassische Urheberrecht schützt Werke – aber nicht immer ausreichend die Person selbst. Doch KI trainiert gerade auf Personenmerkmalen.

Kreativität als Grenzfall

Die Verteidiger generativer Systeme argumentieren oft, KI sei letztlich nur ein neues Werkzeug – wie CGI, Photoshop oder Sampling. Tatsächlich ist Technologie in Kunst nie neutral gewesen. Auch Motion Capture oder Autotune veränderten Produktionsweisen.

Der Unterschied liegt jedoch im Maßstab. CGI erweitert menschliche Arbeit. Generative Systeme können sie in bestimmten Bereichen substituieren. Wenn ein Studio hundert Nebenrollen digital erzeugt oder eine Marke virtuelle Influencer nutzt, geht es nicht nur um technische Optimierung, sondern um die potenzielle Verdrängung realer Arbeitsmärkte.

Academy-Präsidentin Lynette Howell Taylor formulierte deshalb gegenüber AP: „Humans have to be at the center of the creative process.“ Dieser Satz ist kulturpolitisch bedeutsam, weil er nicht Technik verbietet, sondern menschliche Zentralität normiert.

Die entscheidende Debatte lautet also nicht: Darf KI im Film existieren? Sondern: Wo endet Assistenz und wo beginnt Ersetzung?

Das Junior-Problem: Wenn KI die Karriereleiter frisst

Besonders unterschätzt wird die Wirkung auf Wissensberufe. In Beratung, Marketing, Übersetzung oder Medienarbeit ersetzt KI oft zuerst Einstiegsaufgaben: Recherche, Entwürfe, Präsentationen, Standardtexte. Kurzfristig steigert das Produktivität. Langfristig entsteht jedoch ein strukturelles Problem: Wer lernt noch den Beruf, wenn die Lernphase automatisiert wird?

Viele Karrieren beruhen darauf, zunächst repetitive Arbeit zu übernehmen und daraus Expertise zu entwickeln. Wenn diese Stufe verschwindet, könnte nicht nur Beschäftigung schrumpfen, sondern auch der Nachwuchs an Fachkräften.

KI bedroht damit nicht nur aktuelle Jobs, sondern möglicherweise die Reproduktionslogik ganzer Professionen.

Influencer und die Kommerzialisierung synthetischer Nähe

Noch deutlicher wird das bei digitalen Persönlichkeiten. KI-Influencer wie Lil Miquela zeigten bereits vor Jahren, dass Aufmerksamkeit und parasoziale Bindung nicht zwingend an reale Menschen gekoppelt sein müssen. Marken interessiert primär Reichweite, Steuerbarkeit und Risikominimierung. Ein virtueller Creator wird nicht krank, altert nicht, streikt nicht.

Das verändert die Logik der Creator Economy fundamental. Wer heute Persönlichkeit monetarisiert, konkurriert künftig nicht nur mit anderen Menschen, sondern mit synthetischen Identitäten, die vollständig im Besitz von Unternehmen stehen.

Die Frage ist dann nicht mehr: „Wer ist authentisch?“ Sondern: „Ist Authentizität ökonomisch überhaupt noch notwendig?“

Europa zwischen Regulierung und Lücke

Die EU versucht mit dem AI Act vor allem Transparenz- und Risikofragen zu adressieren, etwa Kennzeichnungspflichten für Deepfakes. Doch Arbeits- und Vergütungsrechte bleiben vielfach indirekt geregelt. Transparenz allein schützt jedoch nicht vor ökonomischer Entwertung.

Ein Synchronsprecher, dessen Stimme legal gekennzeichnet synthetisch reproduziert wird, verliert möglicherweise trotzdem Marktanteile.

Deshalb fordern Gewerkschaften und Berufsverbände zunehmend ein neues Paradigma: Nicht nur Transparenz, sondern Beteiligung. Wer Stimme, Gesicht oder Stil liefert, soll an deren maschineller Verwertung beteiligt werden – ähnlich Lizenzrechten.

Zwischen Alarmismus und Verharmlosung

Natürlich ist nicht jede KI-Anwendung dystopisch. Viele Kreative nutzen generative Tools produktiv: beim Storyboarding, in der Postproduktion, bei Übersetzungen oder Ideenfindung. Auch kleinere Produktionen können durch KI Zugang zu Ressourcen erhalten, die früher nur Großstudios vorbehalten waren.

Doch genau darin liegt die politische Herausforderung: Zwischen demokratisierender Technologie und Konzentration wirtschaftlicher Macht.

Die größten Gewinne fließen meist nicht an einzelne Kreative, sondern an Plattformen, Modellanbieter und Rechtehalter. Wer die Infrastruktur kontrolliert, kontrolliert zunehmend auch die Wertschöpfung.

Die eigentliche Frontlinie

Die entscheidende gesellschaftliche Auseinandersetzung verläuft daher nicht zwischen „pro KI“ und „anti KI“. Sie verläuft zwischen zwei Modellen:

Modell A: KI als Werkzeug zur Erweiterung menschlicher Fähigkeiten
Modell B: KI als Infrastruktur zur Skalierung menschlicher Ersetzbarkeit

Die Oscar-Regeln, Hollywood-Tarifverträge und Gesetze wie der NO FAKES Act sind erste Versuche, Modell A institutionell zu stärken.

Ob das reicht, ist offen. Denn Technologie entwickelt sich schneller als Arbeitsrecht, und Vertragsmacht bleibt ungleich verteilt.

Fazit: Die Zukunft gehört nicht automatisch den Maschinen – sondern den Regeln

Die aktuelle KI-Debatte ist im Kern keine Maschinenfrage, sondern eine Governance-Frage. Wer definiert, was menschliche Leistung ist? Wer profitiert von digitalisierten Identitäten? Und wer wird kompensiert, wenn Persönlichkeit selbst zur Ressource wird?

Die Oscars haben erstmals sichtbar gemacht, dass Institutionen bereit sind, menschliche Autorschaft explizit zu schützen. Das ist ein symbolischer Anfang – aber eben nur ein Anfang.

Denn solange Stimme, Gesicht, Stil und Expertise primär als Trainingsdaten betrachtet werden, bleibt die Gefahr bestehen, dass aus Arbeit nicht nur Effizienz gewonnen wird, sondern Enteignung.

Die eigentliche Herausforderung des KI-Zeitalters lautet deshalb nicht, ob Maschinen kreativ werden. Sondern ob Menschen die Rechte an ihrer Kreativität behalten.

Quellen & weiterführende Links:

• Reuters: Academy Awards 2026 rule changes on AI eligibility: https://www.reuters.com/lifestyle/ai-actors-writers-will-be-ineligible-oscars-2026-05-01/
• Associated Press / WTOP: Human authorship and Academy statement: https://wtop.com/national/2026/05/oscars-organization-expands-international-film-eligibility-addresses-ai-in-new-rules/
• Vanity Fair: AI and Oscars policy overview: https://www.vanityfair.com/hollywood/story/oscars-change-rules-ai-international-feature?srsltid=AfmBOopBZQl02W9OsXxeVXbvw69rWxkgOjQDUJtNt4mhRnKhr26b_u6l
• NO FAKES Act overview (US digital replica law): https://en.wikipedia.org/wiki/No_Fakes_Act

Der Beitrag Der Mensch als Trainingsmaterial erschien zuerst auf Kunst & KI.

Eine Banane betrügt eine Erdbeere. Eine Avocado schreit. Ein Brokkoli weint in Großaufnahme, während dramatische Musik anschwillt und ein virtueller Apfel mit gebrochenem Herzen davonläuft. Millionen Menschen sehen zu, klicken weiter, kommentieren entgeistert und teilen die Clips mit Freunden.

Was aussieht wie ein absurder Internetwitz, ist in Wahrheit ein Symptom einer tieferliegenden kulturellen Verschiebung: Die sozialen Netzwerke werden zunehmend von automatisiert produziertem, algorithmisch optimiertem KI-Content überschwemmt – billig, massenhaft, emotional überdreht und inhaltlich oft wertlos. Das Netz hat für diese neue Gattung längst einen Namen gefunden: AI Slop.

Gemeint ist damit jener minderwertige KI-generierte Massencontent, dessen einzige Funktion darin besteht, Aufmerksamkeit zu erzeugen. Die viralen Fruchtvideos sind nur seine derzeit absurdeste Ausprägung. Dass ausgerechnet sprechendes Obst zum Symbol dieser Entwicklung geworden ist, besitzt eine gewisse groteske Folgerichtigkeit. Denn selten war das Internet zugleich so technisch fortgeschritten und geistig so infantil.

Die Industrialisierung der Aufmerksamkeit

Früher brauchte viraler Content wenigstens noch ein Mindestmaß an Aufwand: eine Kamera, eine Idee, vielleicht Talent. Heute reichen ein Prompt, einige Templates und ein paar KI-Tools, um binnen Minuten komplette Videoserien zu erzeugen.

Der Mensch als kreativer Urheber wird zunehmend ersetzt durch den Menschen als Prompt-Eingabegerät. Produziert wird nicht mehr aus Ausdrucksdrang, sondern aus Reichweitenkalkül. Wo früher kreative Arbeit, technische Fähigkeiten und Produktionszeit eine natürliche Grenze für Content darstellten, existiert diese Grenze heute kaum noch.

Der amerikanische Medienkritiker Ryan Broderick beschreibt AI Slop als „geistlosen, minderwertigen und oft bizarren KI-Inhalt, der das Internet überflutet“. Treffender lässt sich der Zustand vieler Feeds kaum zusammenfassen.

Was dort kursiert, ist nicht mehr Kultur, nicht mehr Kommunikation, nicht einmal mehr Unterhaltung im klassischen Sinn. Es ist industriell gefertigter Reizstoff – digitaler Füllmüll für eine Aufmerksamkeitsökonomie, die jede freie Sekunde des Nutzers monetarisieren will.

Generative KI demokratisiert dabei nicht einfach nur Kreativität. Sie industrialisiert Aufmerksamkeit. Sie senkt die Kosten der Contentproduktion so drastisch, dass Quantität selbst zur Strategie wird. Wenn ein Creator früher drei Videos pro Woche produzieren konnte, kann er heute dreißig Varianten desselben Formats testen – und der Algorithmus entscheidet, welche davon skaliert.

Warum Plattformen diesen Müll lieben

Die zentrale Wahrheit über soziale Netzwerke lautet: Plattformen belohnen nicht Qualität. Sie belohnen Bindung.

Ein Algorithmus fragt nicht, ob ein Inhalt klug, kreativ, wahr oder gesellschaftlich relevant ist. Er fragt nur: Bleibt der Nutzer noch einen Moment länger?

Wenn eine schreiende CGI-Banane mehr Watchtime produziert als ein aufwendig recherchiertes Erklärvideo, dann gewinnt die Banane. Nicht trotz ihrer Absurdität, sondern wegen ihr.

Der Medienkritiker Neil Postman formulierte bereits 1985 den heute fast prophetisch wirkenden Satz: „Wir amüsieren uns zu Tode.“

Was damals als Diagnose einer fernsehdominierten Unterhaltungsöffentlichkeit gemeint war, beschreibt heute mit erschreckender Präzision eine Feed-Kultur, in der jede Sekunde Aufmerksamkeit durch Überreizung erkauft werden muss.

Denn Plattformen sind längst keine neutralen Infrastrukturen mehr, auf denen Inhalte bloß verteilt werden. Sie sind aktive Sortiermaschinen. Sie entscheiden in Echtzeit, welche Inhalte Sichtbarkeit erhalten und welche in der Bedeutungslosigkeit verschwinden. Und ihre zentrale Währung ist nicht Relevanz, sondern Reaktion.

Die sozialen Netzwerke haben damit ihre endgültige Form gefunden: Sie sind keine sozialen Räume mehr, sondern industrielle Aufmerksamkeitsmärkte.

Wenn Kinder auf digitalen Müll hereinfallen

Besonders perfide wird die Entwicklung dort, wo visuelle Harmlosigkeit Schutzlosigkeit erzeugt.

Viele Eltern sehen bunte Früchte mit Comicgesichtern und halten sie automatisch für kindgerecht. Doch gerade diese Optik dient häufig als Tarnung für Inhalte, die alles andere als harmlos sind. Unter der Oberfläche verbergen sich toxische Beziehungsdramen, sexualisierte Anspielungen, emotionale Manipulation, Gewalt oder verstörende Konflikte – verpackt in bonbonfarbener Cartoonästhetik.

Das Problem ist nicht nur, dass Kinder solche Inhalte sehen. Das Problem ist, dass Erwachsene oft gar nicht erkennen, dass hier etwas problematisch ist.

Die neue Welle KI-generierter Kinderunterhaltung funktioniert wie eine algorithmische Neuauflage von Elsagate: verstörende oder unangemessene Inhalte, maskiert durch vermeintlich harmlose Figuren. Nur dass generative KI diese Produktion heute in einem Ausmaß ermöglicht, das frühere Content-Farmen alt aussehen lässt.

Damit entsteht ein Markt für Kindercontent, in dem nicht pädagogische oder kreative Kriterien über Reichweite entscheiden, sondern dieselben Mechanismen wie überall sonst: Reiz, Übertreibung, Wiederholung und maximale algorithmische Anschlussfähigkeit.

Die Verrohung der digitalen Öffentlichkeit

Wer glaubt, das Problem beschränke sich auf TikTok und animiertes Obst, irrt. Dieselbe Logik greift längst auf andere Genres über.

True-Crime-Kanäle erzählen mit künstlichen Stimmen fragwürdige oder frei erfundene Verbrechensgeschichten. KI-generierte Dokus simulieren Expertise mit professionellem Tonfall und synthetischen Bildern. Pseudo-Finanzkanäle lassen künstliche Experten Reichtum versprechen. Das Internet wird mehr und mehr zur Simulationsmaschine für Glaubwürdigkeit.

Das Gefährlichste daran ist nicht nur die Desinformation selbst, sondern die schleichende Erosion unseres Realitätsgefühls.

Wenn Nutzer täglich mit künstlichen Stimmen, synthetischen Gesichtern und generierten Narrativen konfrontiert werden, verschwimmt die Grenze zwischen Dokumentation und Simulation, zwischen Fakt und Fiktion, zwischen Authentizität und Algorithmus.

Der Medientheoretiker Jeff Jarvis brachte dieses Problem auf den Punkt, als er warnte: „Wenn alles gefälscht werden kann, kann auch alles angezweifelt werden.“

Nicht nur Fälschungen gewinnen dadurch Macht. Wahrheit verliert an Autorität.

Die Folge ist eine digitale Öffentlichkeit, in der nicht mehr nur Informationen konkurrieren, sondern Realitätsversionen.

Die Ästhetik des geistigen Fast Foods

AI Slop verändert nicht nur, was wir sehen. Er verändert, wie wir sehen.

Wer täglich Hunderte Mikro-Reize konsumiert – hysterische Schnitte, Cliffhanger, absurde Twists, emotionale Überhöhung –, gewöhnt sich an eine Medienwelt permanenter Überstimulation. Alles muss sofort knallen. Alles muss binnen Sekunden seine Existenz rechtfertigen. Langsamkeit wird zur Zumutung, Nuance zur Reichweitenbremse, Komplexität zur Überforderung.

Was entsteht, ist eine Kultur des geistigen Fast Foods: schnell konsumierbar, kurz befriedigend, langfristig abstumpfend.

Der Feed trainiert sein Publikum darauf, dass Inhalte nicht mehr informieren, erzählen oder berühren müssen. Sie müssen nur stimulieren.

Was auf diese Weise schwindet, ist nicht bloß Aufmerksamkeitsspanne. Es schwindet die Fähigkeit zur gedanklichen Vertiefung, zur Ambiguitätstoleranz, zur geduldigen Auseinandersetzung mit Komplexität. Eine Öffentlichkeit, die auf Dauer nur noch auf Reiz reagiert, verliert ihre Fähigkeit zum Nachdenken.

Warum niemand ernsthaft eingreift

Natürlich könnten Plattformen härter gegen diese Flut synthetischen Reizmülls vorgehen. Technisch wäre vieles möglich. Doch genau hier liegt der entscheidende Widerspruch: Die Plattformen profitieren von genau jenem Verhalten, das sie öffentlich beklagen.

Denn jeder weitere Scroll, jede zusätzliche Minute Watchtime, jede empörte Reaktion bedeutet Werbeumsatz. AI Slop ist kein Betriebsunfall des Systems. Er ist sein effizientestes Produkt.

Die Plattformen versuchen deshalb nicht, das Problem zu lösen. Sie versuchen lediglich, es so weit zu kontrollieren, dass es nicht reputationsschädigend wird.

Das ist kein regulatorisches Versagen. Es ist ein struktureller Interessenkonflikt. Denn ein Geschäftsmodell, das auf maximaler Verweildauer basiert, wird immer jene Inhalte bevorzugen, die Menschen maximal binden – unabhängig von deren Qualität.

Mehr als nur ein Meme

Wer über KI-Fruchtvideos lacht, lacht daher über mehr als nur einen absurden Internettrend. Er lacht über das sichtbar gewordene Endstadium einer Plattformlogik, die längst tief in digitale Kultur eingeschrieben ist.

Das sprechende Obst ist deshalb kein kurioser Ausreißer. Es ist nur das erste wirklich grelle Symbol eines Systems, das sich immer unverhohlener selbst karikiert.

Wo einst soziale Medien zumindest den Anspruch hatten, Menschen zu vernetzen, Öffentlichkeit zu ermöglichen und Kreativität zu fördern, dominieren heute Plattformen, die jede Interaktion in verwertbare Kennzahlen übersetzen. Das Ergebnis ist ein digitaler Raum, in dem Inhalte nicht mehr primär nach Aussage, sondern nach Performance bewertet werden.

Fazit: Nicht das Internet ist das Problem – sondern was aus ihm geworden ist

Die sprechenden Früchte sind nicht bloß ein kurioser Trend. Sie sind ein kulturelles Symptom.

Sie zeigen, was geschieht, wenn ein Medium, das einst für Vernetzung, Wissensaustausch und demokratisierte Öffentlichkeit stand, zunehmend von Plattformlogiken geprägt wird, die Aufmerksamkeit über alles andere stellen. Nicht das Internet als Idee hat dieses System hervorgebracht – wohl aber jene Geschäftsmodelle, die aus jeder Sekunde Nutzerinteraktion Kapital schlagen wollen.

Die hysterische Cartoon-Banane ist deshalb kein Betriebsunfall der digitalen Kultur. Sie ist das logische Produkt einer Plattformökonomie, die Reizbarkeit belohnt, Substanz entwertet und Inhalte nach ihrer Klickwahrscheinlichkeit sortiert.

Die eigentliche Pointe dieser Entwicklung ist bitter:
Nicht die künstliche Intelligenz verblödet das Netz. Sie automatisiert lediglich jene Mechanismen, die soziale Plattformen längst hervorgebracht haben.

Oder anders gesagt:
Die Banane ist nicht das Problem.
Sie ist nur das sichtbarste Symptom eines digitalen Raums, in dem Aufmerksamkeit vielerorts wichtiger geworden ist als Bedeutung.

Quellen / Links

Ryan Broderick über „AI Slop“ in Garbage Day: https://www.garbageday.email/p/ai-slop-is-the-future-of-the-internet

Neil Postman, Wir amüsieren uns zu Tode / Amusing Ourselves to Death: https://de.wikipedia.org/wiki/Wir_am%C3%BCsieren_uns_zu_Tode

Jeff Jarvis / BuzzMachine zu Vertrauen und KI-Fakes: https://buzzmachine.com/

Undark – „AI Slop Is Infiltrating Online Children’s Content“: https://undark.org/2026/03/20/ai-slop-children/

ZEIT Online – „Künstlich befruchtet“: https://www.zeit.de/digital/internet/2026-03/ki-tiktok-virale-fruechte-content

Der Beitrag Der Feed frisst seine Kultur erschien zuerst auf Kunst & KI.

Die Diskussion über künstliche Intelligenz im Journalismus wird meist technisch geführt. Kann KI Texte schreiben? Wird sie Journalisten ersetzen? Wie zuverlässig sind automatisierte Systeme? Doch diese Fragen greifen zu kurz. Denn die entscheidende Frage lautet nicht nur, was KI kann, sondern unter welchen institutionellen Bedingungen sie eingesetzt wird.

Der Philosoph und Publizist Dr. Michael Andrick hat diese Debatte kürzlich zugespitzt. In einem Feuilletonbeitrag beim Kulturradio des öffentlich-rechtlichen Senders Deutschlandfunk Kultur formulierte er eine provokante These: Der Einsatz von KI im Journalismus sollte tabu sein. Die Forderung hat viele Journalisten irritiert – und zugleich eine Diskussion ausgelöst, die weit über Technikfragen hinausweist.

Denn hinter Andricks Argument steht eine grundlegendere Sorge: Was geschieht mit einem Beruf, wenn seine zentrale Tätigkeit – das Denken und Formulieren – zunehmend automatisiert wird?

Der Kern von Andricks Kritik

Andricks Ausgangspunkt ist eine einfache Beobachtung. Journalistische Arbeit besteht nicht nur darin, Informationen zu sammeln, sondern vor allem darin, sie zu verstehen und sprachlich zu gestalten.

Wenn KI genau diese Schritte übernimmt – etwa das Zusammenfassen von Dokumenten oder das Formulieren eines Textes –, verändert sich die Rolle des Journalisten.

„Wenn wir zentrale geistige Tätigkeiten auslagern, verlieren wir sie auch“, argumentiert Andrick sinngemäß. Seine Sorge lautet, dass der Journalismus Gefahr läuft, seine intellektuelle Grundlage zu untergraben, wenn Maschinen zunehmend die eigentliche Denk- und Schreibarbeit übernehmen.

Der Journalist würde dann nicht mehr primär denken und formulieren, sondern Maschinenoutput prüfen und redigieren.

Das klingt zunächst wie eine klassische Kulturkritik an neuer Technologie. Doch Andricks Argument berührt eine tiefer liegende Frage: Was ist eigentlich die unersetzbare Kompetenz des Journalismus?

Wenn Maschinen Informationen zusammenstellen und Texte formulieren können, bleibt dann noch ein klarer Unterschied zwischen journalistischer Arbeit und automatisierter Textproduktion?

Journalismus als Praxis des Denkens

Andricks Argument richtet sich gegen eine Vorstellung, die in vielen KI-Debatten verbreitet ist: die Idee, Schreiben sei eine rein technische Tätigkeit.

In dieser Sichtweise ist ein Text lediglich ein Produkt, das möglichst effizient hergestellt werden soll. Ob ein Mensch oder eine Maschine ihn erzeugt, erscheint zweitrangig.

Doch gerade diese Vorstellung weist Andrick zurück. Schreiben sei nicht bloß die letzte Stufe eines Arbeitsprozesses, sondern selbst ein Denkprozess.

Viele Journalisten kennen diese Erfahrung: Erst im Schreiben klären sich Argumente, entstehen Zusammenhänge und wird sichtbar, welche Informationen wirklich relevant sind.

Der Philosoph Michael Andrick formuliert diese Sorge zugespitzt:

„Wenn wir zentrale geistige Tätigkeiten an Maschinen delegieren, verlieren wir sie auch.“

Schreiben ist nicht nur Darstellung, sondern Teil der Erkenntnis.

Wenn dieser Prozess an KI delegiert wird, könnte der journalistische Beruf seine intellektuelle Substanz verlieren.

Die Gegenargumente: KI als Werkzeug

Gleichzeitig wird Andricks Tabu-Forderung von vielen Medienpraktikern kritisiert. Ihr Einwand lautet: Journalismus war schon immer technikgestützt.

Werkzeuge haben journalistische Arbeit kontinuierlich verändert.

Die Schreibmaschine beschleunigte das Schreiben.
Das Tonbandgerät erleichterte Interviews.
Computer und Internet revolutionierten Recherche und Produktion.

Kaum jemand würde heute ernsthaft fordern, diese Technologien wieder abzuschaffen.

In dieser Perspektive ist KI schlicht ein weiteres Werkzeug. Sie kann repetitive Aufgaben übernehmen und Journalisten entlasten.

Viele Redaktionen experimentieren bereits damit, etwa bei der Transkription von Interviews, der Analyse großer Dokumentenmengen oder der automatischen Zusammenfassung von Berichten.

Der Medienforscher Charlie Beckett von der London School of Economics formuliert diese Position pragmatisch:

„Künstliche Intelligenz wird den Journalismus nicht ersetzen – aber Journalisten, die KI nutzen, werden diejenigen ersetzen, die es nicht tun.“

Die Botschaft lautet: Nicht KI bedroht den Journalismus, sondern der Verzicht auf technologische Innovation.

Automatisierter Journalismus ist kein neues Phänomen

Automatisierte Textproduktion wird im Journalismus bereits seit Jahren eingesetzt. Besonders verbreitet ist sie im sogenannten Automated Journalism, etwa bei Sportberichten, Finanzmeldungen oder Wahlresultaten.

Die Nachrichtenagentur Associated Press nutzt automatisierte Systeme, um Tausende Unternehmensberichte pro Quartal zu veröffentlichen.

Ein Vertreter der Agentur erklärte dazu:

„Automatisierung ermöglicht es uns, deutlich mehr Meldungen zu produzieren und Reporter für komplexere Berichterstattung freizumachen.“

In dieser Perspektive dient Automatisierung nicht dazu, Journalisten zu ersetzen, sondern ihre Arbeit zu erweitern. Befürworter argumentieren entsprechend, dass KI journalistische Qualität sogar verbessern könne. Sie könne große Datenmengen analysieren, umfangreiche Dokumente schneller auswerten und Rechercheprozesse beschleunigen. Gerade im Datenjournalismus eröffnen solche Technologien neue Möglichkeiten.

Doch Kritiker weisen darauf hin, dass Effizienzgewinne selten automatisch zu Qualitätsgewinnen führen. Die Geschichte der Medienproduktion zeigt vielmehr ein anderes Muster: Wenn Technologien Arbeit beschleunigen, wird die gewonnene Zeit häufig nicht in tiefere Recherche investiert, sondern in mehr Output.

Gerade im digitalen Journalismus ist diese Entwicklung deutlich sichtbar. Redaktionen sind vielerorts kleiner geworden, während gleichzeitig der Veröffentlichungsrhythmus schneller geworden ist. Einzelne Journalisten produzieren heute oft deutlich mehr Texte als noch vor wenigen Jahrzehnten.

Technologische Effizienz führt unter diesen Bedingungen nicht unbedingt zu Entlastung, sondern häufig zu einer Verdichtung der Arbeit. Der Medienhistoriker Jay Rosen beschreibt diese Dynamik so:

„Jede neue Effizienz im Journalismus wird am Ende vom Bedarf nach noch mehr Inhalt aufgezehrt.“

Mit anderen Worten: Effizienz wird selten in Ruhe oder Reflexion übersetzt – sondern in zusätzliche Produktion.

Wenn Werkzeuge zu Normen werden

Ein weiteres Problem besteht darin, dass Technologien selten optional bleiben.

Sobald eine Redaktion mithilfe von KI effizienter arbeitet, entsteht ein Wettbewerbsdruck für andere Medienhäuser. Wer langsamer produziert oder auf Automatisierung verzichtet, könnte im digitalen Nachrichtenstrom an Sichtbarkeit verlieren.

Damit verwandelt sich ein Werkzeug schleichend in eine neue Norm der Produktion.

Die Entscheidung über den KI-Einsatz wird dann nicht mehr primär journalistisch oder ethisch getroffen, sondern wirtschaftlich.

Eine weitere Gefahr: die Glättung des Diskurses

Die Debatte über KI im Journalismus konzentriert sich häufig auf Arbeitsplätze, Effizienz oder redaktionelle Abläufe. Doch damit ist ein möglicher Effekt noch nicht erfasst: die Veränderung der Sprache selbst.

Neben dem Risiko eines Verlusts individueller Denk- und Schreibpraxis könnte KI langfristig auch den öffentlichen Diskurs verändern.

Große Sprachmodelle erzeugen Texte nicht aus eigener Erfahrung oder Überzeugung, sondern aus statistischen Mustern. Sie analysieren, welche Formulierungen häufig zusammen auftreten, und berechnen daraus wahrscheinliche sprachliche Fortsetzungen. Das Ergebnis wirkt oft überraschend kohärent, ausgewogen und professionell.

Gerade darin liegt jedoch eine mögliche Gefahr: Solche Systeme tendieren dazu, sprachliche Mittelwerte zu reproduzieren. Ungewöhnliche Formulierungen, radikale Perspektiven oder stilistische Eigenheiten werden tendenziell geglättet. Die Sprache wird konsensfähiger, neutraler, berechenbarer.

Hinzu kommt ein möglicher Rückkopplungseffekt. Sprachmodelle werden mit bereits existierenden Texten trainiert. Wenn künftig immer mehr Texte mithilfe solcher Systeme entstehen, fließen diese wiederum in neue Trainingsdaten ein. Der Diskurs beginnt dann gewissermaßen, sich selbst zu spiegeln.

Der Philosoph Byung-Chul Han hat eine ähnliche Dynamik bereits lange vor der aktuellen KI-Debatte beschrieben. In seinen Analysen digitaler Kommunikationsräume argumentiert er, dass diese zur Nivellierung von Differenz tendieren.

„Die Transparenzgesellschaft ist eine Gesellschaft der Gleichheit“, schreibt Byung-Chul Han.

Gemeint ist damit nicht soziale Gleichheit, sondern eine Öffentlichkeit, in der Unterschiede, Fremdheit und Widerspruch zunehmend verschwinden.

Digitale Öffentlichkeit begünstigt Formen der Kommunikation, die möglichst anschlussfähig, transparent und konfliktarm sind.

Überträgt man diesen Gedanken auf KI-generierte Sprache, könnte eine neue Form der Harmonisierung entstehen: Der Diskurs wird nicht offen zensiert, sondern statistisch geglättet. Unterschiede verschwinden nicht abrupt, sondern verlieren langsam ihre sprachliche Schärfe.

„Das Positive glättet den Diskurs“, so Byung-Chul Han treffend.

Gerade für den Journalismus wäre das eine paradoxe Entwicklung. Denn eine lebendige Öffentlichkeit lebt nicht nur von Information, sondern auch von Reibung, Perspektivvielfalt und sprachlicher Eigenständigkeit.

Die Frage der Autorschaft

Ein weiterer Aspekt, der in der Debatte oft unterschätzt wird, betrifft die Autorschaft journalistischer Texte.

Journalismus lebt von individueller Verantwortung. Ein Artikel trägt den Namen eines Autors, der für seine Aussagen einsteht.

Wenn Texte jedoch teilweise von Maschinen erzeugt werden, wird diese Zuordnung komplizierter.

Wer ist der Autor eines Textes, der von einem Journalisten recherchiert, von einer KI strukturiert und anschließend redigiert wurde?

Die Philosophin Hannah Arendt schrieb einmal:

„Denken und Schreiben sind Tätigkeiten, die Verantwortung erzeugen.“

Wenn Schreiben zunehmend automatisiert wird, könnte sich auch das Verhältnis zwischen Text und Verantwortung verändern.

Die eigentliche Erkenntnis

An diesem Punkt zeigt sich, warum die KI-Debatte im Journalismus nicht allein technisch geführt werden kann.

Ob KI die Qualität des Journalismus verbessert oder schwächt, hängt weniger von der Technologie selbst ab als von den institutionellen Bedingungen ihres Einsatzes.

Die entscheidenden Fragen lauten daher: Wofür wird die durch KI entstehende Effizienz genutzt? Wird sie in Recherche und Qualität investiert oder in Produktionssteigerung? Stabilisiert sie journalistische Arbeit – oder ersetzt sie sie?

Zwischen Kulturkritik und Technikoptimismus

Die Debatte um KI im Journalismus bewegt sich damit zwischen zwei Polen.

Auf der einen Seite steht eine kulturkritische Position wie die von Michael Andrick, die vor der Aushöhlung geistiger Arbeit warnt.

Auf der anderen Seite steht ein technikoptimistischer Ansatz, der KI als unvermeidliches Werkzeug betrachtet.

Beide Perspektiven enthalten wichtige Einsichten – und beide greifen allein genommen zu kurz.

Fazit

Die KI-Debatte im Journalismus berührt damit zwei unterschiedliche Risiken.

Das erste betrifft die Praxis des Schreibens selbst: Wenn Maschinen zentrale Formulierungsarbeit übernehmen, könnten Journalisten jene Denk- und Sprachfähigkeiten weniger trainieren, die ihren Beruf ausmachen – eine Sorge, die Michael Andrick formuliert hat.

Das zweite betrifft die Struktur des Diskurses: Wenn immer mehr Texte aus statistischen Sprachmustern entstehen, könnte die öffentliche Sprache selbst homogener, vorsichtiger und berechenbarer werden – eine Entwicklung, die sich mit den Analysen von Byung-Chul Han über digitale Öffentlichkeit verbinden lässt.

Beide Risiken weisen letztlich in dieselbe Richtung. Die entscheidende Frage lautet nicht nur, was künstliche Intelligenz kann, sondern wie Institutionen mit ihr umgehen.

Ob KI zu besseren Recherchen und stärkerem Journalismus führt – oder zu standardisierter Sprache und wachsendem Produktionsdruck –, entscheidet sich nicht im Algorithmus. Es entscheidet sich in den Redaktionen.

Quellen

Michael Andrick: „Künstliche Intelligenz im Journalismus – Sollte der Einsatz von KI ein Tabu sein?“ – Beitrag bei Deutschlandfunk Kultur. https://www.deutschlandfunkkultur.de/kuenstliche-intelligenz-im-journalismus-sollte-der-einsatz-von-ki-ein-tabu-sein-100.html

Charlie Beckett: JournalismAI-Projekt, London School of Economics. https://www.journalismai.info

Associated Press: Einführung automatisierter Unternehmensberichte mit der Software Wordsmith (Automated Insights). https://www.ap.org/

Jay Rosen: Medienwissenschaftler an der New York University, Analysen zur Transformation des digitalen Journalismus. https://journalism.nyu.edu/faculty/jay-rosen/

Berichte über automatisierten Journalismus u. a. bei Nieman Lab (Harvard University) und The Verge. https://niemanlab.org/ https://www.theverge.com/

Byung-Chul Han: Transparenzgesellschaft. Berlin: Matthes & Seitz, 2012.

Byung-Chul Han: Psychopolitik: Neoliberalismus und die neuen Machttechniken. S. Fischer, Frankfurt am Main 2014.

Der Beitrag KI im Journalismus: Das eigentliche Problem liegt nicht in der Technik erschien zuerst auf Kunst & KI.

Als die ersten KI-Browser auf den Markt kamen, wurden sie als stille Revolution gefeiert: Tools wie ChatGPT, Atlas und Perplexity Comet versprachen ein Internet, das nicht mehr gesucht, sondern verstanden wird — ein Web, das Aufgaben erledigt, statt Informationen lediglich anzuzeigen. Doch hinter dieser Komfortoffensive verbirgt sich ein tiefgreifender technischer und politischer Wandel. Recherchen, Experten und unabhängige Analysen zeichnen ein Bild, das weit weniger glänzend ist als die Demo-Versionen, die die Hersteller präsentieren.

Was wir derzeit erleben, ist nicht nur die Einführung eines neuen Softwaretyps. Es ist der Versuch großer Tech-Konzerne, die Kontrolle über die Schnittstelle zurückzugewinnen, die wir täglich nutzen: den Browser. Und genau dort beginnt die Geschichte über versteckte Risiken, unterschätzte Gefahren und eine neue Form digitaler Abhängigkeit.

Vom Werkzeug zum Akteur

Traditionelle Browser sind Werkzeuge: Sie zeigen an, was wir anfordern. KI-Browser dagegen agieren selbst. Sie lesen Seiten, interpretieren sie, ziehen Schlüsse — und treffen Entscheidungen. Manche klicken Buttons, andere füllen Formulare aus oder verhandeln mit anderen Websites. Genau das wird von vielen als Fortschritt gefeiert. Doch etliche Fachleute vergleichen diese Entwicklung mit der Einführung eines Co-Piloten, der jederzeit das Steuer übernehmen kann — auch dann, wenn man gar nicht bemerkt, dass der Autopilot aktiviert wurde.

Zum ersten Mal in der Geschichte des Internets haben wir Browser, die eigenständig handeln können — und damit angreifbar werden wie Software-Agenten.

Diese Fähigkeit, Aktionen auszuführen, ist der Kern des Komfortversprechens. Aber sie ist zugleich die strukturelle Schwachstelle, die den Boden für neue Arten von Angriffen bereitet.

Einfallstor für neue Angriffe

Mehrere technische Untersuchungen zeigen, dass KI-Browser empfindlich auf sogenannte Prompt-Injections reagieren — also auf manipulierte Befehle, die in Webseiten eingebettet werden und die KI zu Handlungen verleiten, die nicht im Sinne der Nutzer sind. Während ein klassischer Browser eine schädliche Seite lediglich anzeigt, kann ein KI-Browser sie ungewollt ausführen. Das reicht von subtilem Datendiebstahl bis hin zu automatisierten Aktionen wie Logins, Downloads oder Bestellungen.

Was früher Social Engineering beim Menschen war, ist heute Prompt Engineering gegen die KI — und der Browser ist die neue Angriffsfläche.

Besonders kritisch sind sogenannte persistente Gedächtnissysteme. Einige KI-Browser speichern Informationen über Sitzungen hinweg, um „konsistentere Entscheidungen“ zu treffen. Was nach Personalisierung klingt, bedeutet in der Praxis, dass manipulierte Befehle dauerhaft im System verankert werden können. Für die IT-Sicherheit ist das ein langfristiges Risiko mit potenziell gravierenden Folgen.

Der Komfort hat einen Preis

Die Tech-Konzerne bewerben KI-Browser aggressiv als Produktivitätswerkzeuge. Im Marketing erscheinen sie wie digitale Butler, die abnehmen, was Zeit kostet. Doch dieser Komfort ist nicht kostenlos.

Daten als Währung

Jede Zusammenfassung, jede Automatisierung und jeder KI-gestützte Klick produziert Daten — und zwar Daten von hoher Sensibilität:

• Präferenzen
• Nutzungsroutinen
• Inhalte, die man liest
• Inhalte, die man nicht liest
• Formulareingaben
• Passwörter, Bestellprozesse, persönliche Profile

All diese Daten müssen verarbeitet, analysiert und geschützt werden. Genau hier entsteht eine gefährliche Lücke: Obwohl die Konzerne sich als Hüter der Privatsphäre inszenieren, bleiben viele Details ihrer KI-Verarbeitung intransparent. Wer bekommt welche Daten? Wie lange werden sie gespeichert? Und wofür werden sie letztlich genutzt?

Auf den Punkt gebracht: Man kann häufig nicht beurteilen, ob der Browser im Auftrag der Nutzer handelt — oder im Auftrag der Datenstrategie des Unternehmens.

Die Macht der gefilterten Welt

Wenn eine KI entscheidet, was relevant ist, entscheidet sie auch, was nicht relevant ist. Informationen werden komprimiert, priorisiert, interpretiert. Damit verschiebt sich die Frage, was Menschen im Internet sehen, weg von Webseiten und journalistischen Angeboten — hin zu Modellen, deren Funktionsweise nicht offengelegt ist.

Schon jetzt zeigt sich, dass KI-Browser Inhalte konsolidieren, während die Quelltexte im Hintergrund verblassen. Das Internet erscheint weniger als Landschaft, sondern als Produkt: zusammengemixt, vorstrukturiert, neu arrangiert.

Medienwissenschaftler warnen seit Jahren davor, dass jede Vorfilterung die Vielfalt reduziert — nicht durch böse Absicht, sondern durch Struktur. Wenn der Browser filtert, bevor wir sehen, verlieren wir die Möglichkeit, selbst auszuwählen, wie wir uns informieren.

Für die demokratische Öffentlichkeit ist das eine leise, aber tiefgreifende Gefahr. Meinungsvielfalt kann nur entstehen, wenn unterschiedliche Quellen sichtbar bleiben.

Wer profitiert von dieser Entwicklung?

Die offensichtlichen Gewinner sind die Unternehmen, die KI-Browser entwickeln. Doch die ökonomischen Effekte gehen tiefer.

Neue Wege der Monetarisierung

Wenn die KI Interaktion übernimmt, übernimmt sie auch Entscheidungspunkte:

• Welche Shops werden prominent empfohlen?
• Welche Nachrichten werden priorisiert?
• Welche Dienste erscheinen neutral — und welche erscheinen „zufällig“ häufiger?

Damit entsteht eine neue Form der Beeinflussbarkeit, die weit subtiler ist als klassische Werbung.

Still und leise Abhängigkeiten schaffen

Wer einmal beginnt, KI-gestützt zu surfen, gewöhnt sich an die neue Bequemlichkeit. Das Abschalten der KI-Ebene wird schwierig — psychologisch wie praktisch. Genau diese Bindung ist es, die viele Unternehmen anstreben: Der Browser wird zur Plattform für alle weiteren Dienste, und diese Dienste produzieren neue Daten. Ein geschlossenes System — perfekt für Wachstum, weniger perfekt für Nutzer.

Das klassische Internet verschwindet im Maschinenraum

Mit jedem Schritt hin zur KI-Automatisierung wird das Web unsichtbarer. Menschen klicken nicht mehr; sie „ermutigen“. Sie suchen nicht mehr; sie „fragen“. Die sichtbare Architektur — Links, Menüs, Navigation — verschwindet hinter einem dialogischen Interface.

Was nach technischer Eleganz klingt, ist in Wahrheit eine strukturelle Verschiebung: weg von einer offenen Architektur hin zu einem kuratierten System. Die Konzerne versprechen Transparenz, doch viele Entscheidungen der KI bleiben Blackboxes — aus technischen, aber auch aus wirtschaftlichen Gründen.

Was Nutzer:innen jetzt wissen müssen

KI-Browser sind nicht per se problematisch. Viele Vorteile sind real, einige beeindruckend. Aber ihre Risiken werden bislang oft überlagert von Marketing, Euphorie und Unwissenheit.

Drei Punkte sind entscheidend:

• Autonom handelnde Browser erweitern die Angriffsfläche massiv.
  Wo Software aktiv handelt, kann sie manipuliert werden.
• Die Filterleistung der KI beeinflusst, wie wir Wirklichkeit wahrnehmen.
  Jede Zusammenfassung ist eine Interpretation.
• Die durch Automatisierung entstehenden Datenmengen sind extrem sensibel.
  Sie zeigen nicht nur, was wir tun, sondern wie wir denken.

Diese Themen gehören in die gesellschaftliche Debatte — bisher jedoch stehen sie kaum dort.

Fazit

Nicht die Technologie sollte bestimmen, wie wir das Internet nutzen, sondern die Rahmenbedingungen, die wir ihr setzen. KI-Browser können Entlastung bringen, sie können komplexe Aufgaben vereinfachen, sie können Abläufe beschleunigen — aber nur, wenn sie in einer Struktur eingesetzt werden, die die Interessen der Nutzer schützt. Es ist gefährlich, wenn Innovationen schneller wachsen als die Regeln, die sie einhegen sollen. Die Geschichte des Internets zeigt: Immer dann, wenn Bequemlichkeit ohne Kontrolle eingeführt wurde, entstanden neue Monopole, neue Abhängigkeiten, neue Ebenen der Intransparenz.

Damit sich die Entwicklung nicht in die falsche Richtung bewegt, braucht es jetzt die Auseinandersetzung darüber, welche Art von digitaler Öffentlichkeit wir wollen. Der Browser war immer das Tor zu einem offenen Web. Wenn dieses Tor sich verändert, verändern sich unweigerlich auch die Räume dahinter. Denkbar ist nicht nur eine Zukunft der allgegenwärtigen KI-Integration — ebenso möglich ist eine Gegenbewegung: transparente, modular aufgebaute Browser, bei denen Nutzer selbst bestimmen, ob und wann KI-Funktionen aktiv werden dürfen. Auch dezentrale Modelle, bei denen KI lokal statt über Cloud-Strukturen läuft, könnten eine Alternative sein und viele der bislang kritischen Punkte entschärfen.

Klar ist: Die Entscheidungen, die jetzt getroffen werden — von Entwicklern, von Regulierenden, von uns als Gesellschaft — werden bestimmen, ob KI-Browser zu Werkzeugen der Selbstbestimmung werden oder zu Instrumenten neuer Abhängigkeiten. Die kommende Phase ist nicht technologisch vorgegeben, sondern politisch und sozial gestaltbar. Wie diese Gestaltung aussehen wird, hängt nicht davon ab, was möglich ist, sondern davon, was wir zulassen.

Quellenangaben (Auswahl)

• Deutschlandfunk – KI und Surfen
• WirtschaftsWoche – Analyse zu Atlas & Comet
• Heise Online – Praxistest Comet / Test Atlas
• t3n – KI-Browser im Alltag
• Fast Company – Sicherheitsaspekte KI-Browser
• Cybernews – Funktionsanalyse KI-Browser
• Publishing.blog – Medienkritik KI-Browser
• Proton Blog – Sicherheitsbewertung Atlas

Der Beitrag Operation Komfort erschien zuerst auf Kunst & KI.

Die Philosophie hat seit jeher dort begonnen, wo Gewissheiten enden. Sie ist die Kunst der unbequemen Frage, die bereit ist, komplexe und widersprüchliche Realitäten zu akzeptieren, anstatt sie zu glätten. Doch in der von Künstlicher Intelligenz (KI) geprägten Welt scheint diese fundamentale Fähigkeit zunehmend bedroht. Algorithmen, Daten und das Streben nach Effizienz drängen auf Eindeutigkeit und Konsens. Was Philosophen wie Rainer Mühlhoff, Dr. Michael Andrick und Gwendolin Kirchhoff uns zeigen, ist eine tiefgreifende Verschiebung: Die Logik der KI ist nicht nur ein neues Werkzeug, sondern eine Ideologie, die den Grundpfeilern unserer Demokratie – dem offenen Diskurs und der Pluralität – zuwiderläuft.

KI als Sortiermaschine und die schleichende Macht des digitalen Faschismus

Die vielleicht provokanteste, aber zugleich präziseste Diagnose über die Rolle der KI stammt vom Philosophen Rainer Mühlhoff. Er nennt sie eine „Menschensortiertechnologie“. Was dahintersteckt, ist mehr als nur die Personalisierung von Werbung. Prädiktive Analytik sortiert Individuen und Gruppen auf Basis von Daten in Kategorien, um sie unterschiedlich zu behandeln: Wer bekommt einen Kredit? Wer wird zum Vorstellungsgespräch eingeladen? Wer wird an der Grenze als niedriges oder hohes Risiko eingestuft?

Mühlhoffs These, „KI-Technologie und Faschismus basieren auf den gleichen ideologischen Wurzeln“, ist keine leichtfertige Gleichsetzung, sondern ein philosophischer Weckruf. Sie weist auf einen gemeinsamen Nenner hin: eine technokratische, auf Effizienz und Kontrolle fixierte Weltsicht. Der digitale Faschismus manifestiert sich nicht in traditioneller Gewalt, sondern in der unsichtbaren Automatisierung der Macht. Er schafft eine Gesellschaft, in der Individuen durch Algorithmen kategorisiert und ihr Verhalten vorhergesagt wird, was die freie Entfaltung des Einzelnen massiv einschränkt. Die KI wird so zum idealen Werkzeug für eine zentrale Macht, die die Bürger ohne physischen Zwang in einen „algoritmischen Korridor“ drängt.

Die Verengung des Meinungskorridors und die Entwertung des Widerspruchs

In einem zunehmend technokratischen Umfeld, das auf Daten und Algorithmen fixiert ist, erodiert auch der öffentliche Diskurs. Der Philosoph Dr. Michael Andrick kritisiert scharf, wie sich die politische und mediale Landschaft verändert hat. Er beschreibt, dass ein Großteil des Mainstreams, der Institutionen und der Politik zunehmend von einem „Wir“ spricht, das ein homogenes Kollektiv suggeriert. Dieses „Wir“ scheint nicht mehr aus dem grundlegenden, pluralistischen Konstrukt einer Republik oder einer Demokratie zu stammen, sondern vielmehr eine geschlossene, exklusive Gruppe zu repräsentieren. Sein Buchtitel „Ich bin nicht dabei…“ steht symbolisch für die Entfremdung und den Dissens vieler Bürger, die sich in diesem vorgefertigten „Wir“-Diskurs nicht mehr wiederfinden.

Die Philosophin Gwendolin Kirchhoff bringt diese Dynamik der Ausgrenzung mit einer provokanten Frage auf den Punkt: „Wo sind denn die Nazis, wenn sie raus sind?“ Diese rhetorische Frage ist keine Verharmlosung von Faschismus oder Nationalsozialismus. Sie ist vielmehr eine philosophische Hinterfragung des Prozesses, mit dem abweichende Meinungen und kritische Stimmen pauschal stigmatisiert und aus dem öffentlichen Diskurs gedrängt werden. Es ist die Kritik an einer Gesellschaft, die es sich zu leicht macht, Andersdenkende zu verurteilen und zu exkommunizieren, anstatt sich mit der Komplexität und den tatsächlichen Ursachen ihres Dissenses auseinanderzusetzen.

KI-Technologien verschärfen diese Verengung. Algorithmen zur Inhaltsmoderation, die auf maschinellem Lernen basieren, lernen aus bestehenden, oft voreingenommenen Datensätzen. Sie entfernen bestimmte Wörter, Tonlagen oder Themen und fördern so eine scheinbare Harmonie, die in Wahrheit eine Homogenisierung des Denkens ist. Das System ist darauf programmiert, Stabilität und Vorhersagbarkeit zu bevorzugen – und nicht das kritische, kreative und oft unordentliche Denken, das eine offene Gesellschaft ausmacht. Indem die KI Widerspruch als potenzielles Störsignal behandelt, trägt sie direkt zur Entwertung des Widerspruchs und zum Verlust einer vielfältigen Debattenkultur bei.

Superintelligenz: Die Utopie als Ablenkungsmanöver

Die Gefahr, unbequeme Wahrheiten zu verdrängen, zeigt sich auch in der Debatte um die Superintelligenz. Der Philosoph Richard David Precht kritisiert die Profitlogik, die den Großteil der KI-Entwicklung antreibt. Ethische Bedenken und philosophische Fragen sind für diesen Prozess oft störende „Bremsklötze“.

Eindrucksvoll illustriert wird diese Dynamik durch die scheinbare Kehrtwende des Transhumanisten Nick Bostrom. Über Jahre hat er mit seinem dystopischen „Büroklammer-Maximierer“-Gedankenexperiment vor existenziellen Risiken gewarnt. Heute jedoch skizziert er eine „Deep Utopia“. Kritiker fragen: War die ursprüngliche „Schwarzmalerei“ nur ein cleveres Manöver, um die Aufmerksamkeit auf das Thema zu lenken? Oder spiegelt diese Kehrtwende den gesellschaftlichen und marktstrategischen Druck wider, ein positives, glattes Narrativ zu schaffen, das die unangenehmen Risiken ausblendet? In der Jagd nach der perfekten Lösung könnte die KI-Entwicklung die komplexen philosophischen und ethischen Fragen, die unbequem sind und keine einfachen Antworten liefern, einfach ignorieren.

Fazit: Die Kunst des philosophischen Widerstands

Die von Mühlhoff, Andrick und Kirchhoff beschriebenen Gefahren sind keine Zukunftsszenarien, sondern Realitäten. KI ist bereits eine Sortiermaschine; der Meinungskorridor verengt sich; und die kritische Auseinandersetzung mit unbequemen Themen wird zugunsten von Effizienz und optimistischen Narrativen zurückgedrängt.

Die Kunst des Philosophierens, einst eine rein akademische Disziplin, wird in diesem Kontext zu einem Akt des Widerstands. Sie ist der Gegenentwurf zur algorithmischen Logik. Wir müssen aktiv die Vielfalt der Meinungen verteidigen, das kritische Fragenstellen kultivieren und uns weigern, uns von Algorithmen in einen vorbestimmten Korridor drängen zu lassen. Die Zukunft unserer demokratischen Gesellschaft hängt nicht von der Intelligenz unserer Maschinen ab, sondern von unserer Fähigkeit, ihnen philosophisch zu widerstehen.

Quellen und Thesen:

Rainer Mühlhoff: re:publica 2023, Vortrag zum Thema „KI als Menschensortiertechnologie.“

Michael Andrick: Buch „Ich bin nicht dabei: Denk-Zettel für einen freien Geist“, sowie zahlreiche öffentliche Äußerungen und Diskussionen.

Gwendolin Kirchhoff: Öffentliche Diskussionen und Vorträge, unter anderem mit Michael Andrick.

Richard David Precht: Diverse Publikationen und Interviews, wie in seinem Buch „Jäger, Hirten, Kritiker: Eine Utopie für die digitale Gesellschaft“

Nick Bostrom: Bücher „Superintelligenz: Szenarien einer kommenden Revolution“ und „Deep Utopia.“

Der Beitrag Im algorithmischen Korridor: Die Kunst des Philosophierens in der KI-Ära erschien zuerst auf Kunst & KI.