Eine Banane betrügt eine Erdbeere. Eine Avocado schreit. Ein Brokkoli weint in Großaufnahme, während dramatische Musik anschwillt und ein virtueller Apfel mit gebrochenem Herzen davonläuft. Millionen Menschen sehen zu, klicken weiter, kommentieren entgeistert und teilen die Clips mit Freunden.

Was aussieht wie ein absurder Internetwitz, ist in Wahrheit ein Symptom einer tieferliegenden kulturellen Verschiebung: Die sozialen Netzwerke werden zunehmend von automatisiert produziertem, algorithmisch optimiertem KI-Content überschwemmt – billig, massenhaft, emotional überdreht und inhaltlich oft wertlos. Das Netz hat für diese neue Gattung längst einen Namen gefunden: AI Slop.

Gemeint ist damit jener minderwertige KI-generierte Massencontent, dessen einzige Funktion darin besteht, Aufmerksamkeit zu erzeugen. Die viralen Fruchtvideos sind nur seine derzeit absurdeste Ausprägung. Dass ausgerechnet sprechendes Obst zum Symbol dieser Entwicklung geworden ist, besitzt eine gewisse groteske Folgerichtigkeit. Denn selten war das Internet zugleich so technisch fortgeschritten und geistig so infantil.

Die Industrialisierung der Aufmerksamkeit

Früher brauchte viraler Content wenigstens noch ein Mindestmaß an Aufwand: eine Kamera, eine Idee, vielleicht Talent. Heute reichen ein Prompt, einige Templates und ein paar KI-Tools, um binnen Minuten komplette Videoserien zu erzeugen.

Der Mensch als kreativer Urheber wird zunehmend ersetzt durch den Menschen als Prompt-Eingabegerät. Produziert wird nicht mehr aus Ausdrucksdrang, sondern aus Reichweitenkalkül. Wo früher kreative Arbeit, technische Fähigkeiten und Produktionszeit eine natürliche Grenze für Content darstellten, existiert diese Grenze heute kaum noch.

Der amerikanische Medienkritiker Ryan Broderick beschreibt AI Slop als „geistlosen, minderwertigen und oft bizarren KI-Inhalt, der das Internet überflutet“. Treffender lässt sich der Zustand vieler Feeds kaum zusammenfassen.

Was dort kursiert, ist nicht mehr Kultur, nicht mehr Kommunikation, nicht einmal mehr Unterhaltung im klassischen Sinn. Es ist industriell gefertigter Reizstoff – digitaler Füllmüll für eine Aufmerksamkeitsökonomie, die jede freie Sekunde des Nutzers monetarisieren will.

Generative KI demokratisiert dabei nicht einfach nur Kreativität. Sie industrialisiert Aufmerksamkeit. Sie senkt die Kosten der Contentproduktion so drastisch, dass Quantität selbst zur Strategie wird. Wenn ein Creator früher drei Videos pro Woche produzieren konnte, kann er heute dreißig Varianten desselben Formats testen – und der Algorithmus entscheidet, welche davon skaliert.

Warum Plattformen diesen Müll lieben

Die zentrale Wahrheit über soziale Netzwerke lautet: Plattformen belohnen nicht Qualität. Sie belohnen Bindung.

Ein Algorithmus fragt nicht, ob ein Inhalt klug, kreativ, wahr oder gesellschaftlich relevant ist. Er fragt nur: Bleibt der Nutzer noch einen Moment länger?

Wenn eine schreiende CGI-Banane mehr Watchtime produziert als ein aufwendig recherchiertes Erklärvideo, dann gewinnt die Banane. Nicht trotz ihrer Absurdität, sondern wegen ihr.

Der Medienkritiker Neil Postman formulierte bereits 1985 den heute fast prophetisch wirkenden Satz: „Wir amüsieren uns zu Tode.“

Was damals als Diagnose einer fernsehdominierten Unterhaltungsöffentlichkeit gemeint war, beschreibt heute mit erschreckender Präzision eine Feed-Kultur, in der jede Sekunde Aufmerksamkeit durch Überreizung erkauft werden muss.

Denn Plattformen sind längst keine neutralen Infrastrukturen mehr, auf denen Inhalte bloß verteilt werden. Sie sind aktive Sortiermaschinen. Sie entscheiden in Echtzeit, welche Inhalte Sichtbarkeit erhalten und welche in der Bedeutungslosigkeit verschwinden. Und ihre zentrale Währung ist nicht Relevanz, sondern Reaktion.

Die sozialen Netzwerke haben damit ihre endgültige Form gefunden: Sie sind keine sozialen Räume mehr, sondern industrielle Aufmerksamkeitsmärkte.

Wenn Kinder auf digitalen Müll hereinfallen

Besonders perfide wird die Entwicklung dort, wo visuelle Harmlosigkeit Schutzlosigkeit erzeugt.

Viele Eltern sehen bunte Früchte mit Comicgesichtern und halten sie automatisch für kindgerecht. Doch gerade diese Optik dient häufig als Tarnung für Inhalte, die alles andere als harmlos sind. Unter der Oberfläche verbergen sich toxische Beziehungsdramen, sexualisierte Anspielungen, emotionale Manipulation, Gewalt oder verstörende Konflikte – verpackt in bonbonfarbener Cartoonästhetik.

Das Problem ist nicht nur, dass Kinder solche Inhalte sehen. Das Problem ist, dass Erwachsene oft gar nicht erkennen, dass hier etwas problematisch ist.

Die neue Welle KI-generierter Kinderunterhaltung funktioniert wie eine algorithmische Neuauflage von Elsagate: verstörende oder unangemessene Inhalte, maskiert durch vermeintlich harmlose Figuren. Nur dass generative KI diese Produktion heute in einem Ausmaß ermöglicht, das frühere Content-Farmen alt aussehen lässt.

Damit entsteht ein Markt für Kindercontent, in dem nicht pädagogische oder kreative Kriterien über Reichweite entscheiden, sondern dieselben Mechanismen wie überall sonst: Reiz, Übertreibung, Wiederholung und maximale algorithmische Anschlussfähigkeit.

Die Verrohung der digitalen Öffentlichkeit

Wer glaubt, das Problem beschränke sich auf TikTok und animiertes Obst, irrt. Dieselbe Logik greift längst auf andere Genres über.

True-Crime-Kanäle erzählen mit künstlichen Stimmen fragwürdige oder frei erfundene Verbrechensgeschichten. KI-generierte Dokus simulieren Expertise mit professionellem Tonfall und synthetischen Bildern. Pseudo-Finanzkanäle lassen künstliche Experten Reichtum versprechen. Das Internet wird mehr und mehr zur Simulationsmaschine für Glaubwürdigkeit.

Das Gefährlichste daran ist nicht nur die Desinformation selbst, sondern die schleichende Erosion unseres Realitätsgefühls.

Wenn Nutzer täglich mit künstlichen Stimmen, synthetischen Gesichtern und generierten Narrativen konfrontiert werden, verschwimmt die Grenze zwischen Dokumentation und Simulation, zwischen Fakt und Fiktion, zwischen Authentizität und Algorithmus.

Der Medientheoretiker Jeff Jarvis brachte dieses Problem auf den Punkt, als er warnte: „Wenn alles gefälscht werden kann, kann auch alles angezweifelt werden.“

Nicht nur Fälschungen gewinnen dadurch Macht. Wahrheit verliert an Autorität.

Die Folge ist eine digitale Öffentlichkeit, in der nicht mehr nur Informationen konkurrieren, sondern Realitätsversionen.

Die Ästhetik des geistigen Fast Foods

AI Slop verändert nicht nur, was wir sehen. Er verändert, wie wir sehen.

Wer täglich Hunderte Mikro-Reize konsumiert – hysterische Schnitte, Cliffhanger, absurde Twists, emotionale Überhöhung –, gewöhnt sich an eine Medienwelt permanenter Überstimulation. Alles muss sofort knallen. Alles muss binnen Sekunden seine Existenz rechtfertigen. Langsamkeit wird zur Zumutung, Nuance zur Reichweitenbremse, Komplexität zur Überforderung.

Was entsteht, ist eine Kultur des geistigen Fast Foods: schnell konsumierbar, kurz befriedigend, langfristig abstumpfend.

Der Feed trainiert sein Publikum darauf, dass Inhalte nicht mehr informieren, erzählen oder berühren müssen. Sie müssen nur stimulieren.

Was auf diese Weise schwindet, ist nicht bloß Aufmerksamkeitsspanne. Es schwindet die Fähigkeit zur gedanklichen Vertiefung, zur Ambiguitätstoleranz, zur geduldigen Auseinandersetzung mit Komplexität. Eine Öffentlichkeit, die auf Dauer nur noch auf Reiz reagiert, verliert ihre Fähigkeit zum Nachdenken.

Warum niemand ernsthaft eingreift

Natürlich könnten Plattformen härter gegen diese Flut synthetischen Reizmülls vorgehen. Technisch wäre vieles möglich. Doch genau hier liegt der entscheidende Widerspruch: Die Plattformen profitieren von genau jenem Verhalten, das sie öffentlich beklagen.

Denn jeder weitere Scroll, jede zusätzliche Minute Watchtime, jede empörte Reaktion bedeutet Werbeumsatz. AI Slop ist kein Betriebsunfall des Systems. Er ist sein effizientestes Produkt.

Die Plattformen versuchen deshalb nicht, das Problem zu lösen. Sie versuchen lediglich, es so weit zu kontrollieren, dass es nicht reputationsschädigend wird.

Das ist kein regulatorisches Versagen. Es ist ein struktureller Interessenkonflikt. Denn ein Geschäftsmodell, das auf maximaler Verweildauer basiert, wird immer jene Inhalte bevorzugen, die Menschen maximal binden – unabhängig von deren Qualität.

Mehr als nur ein Meme

Wer über KI-Fruchtvideos lacht, lacht daher über mehr als nur einen absurden Internettrend. Er lacht über das sichtbar gewordene Endstadium einer Plattformlogik, die längst tief in digitale Kultur eingeschrieben ist.

Das sprechende Obst ist deshalb kein kurioser Ausreißer. Es ist nur das erste wirklich grelle Symbol eines Systems, das sich immer unverhohlener selbst karikiert.

Wo einst soziale Medien zumindest den Anspruch hatten, Menschen zu vernetzen, Öffentlichkeit zu ermöglichen und Kreativität zu fördern, dominieren heute Plattformen, die jede Interaktion in verwertbare Kennzahlen übersetzen. Das Ergebnis ist ein digitaler Raum, in dem Inhalte nicht mehr primär nach Aussage, sondern nach Performance bewertet werden.

Fazit: Nicht das Internet ist das Problem – sondern was aus ihm geworden ist

Die sprechenden Früchte sind nicht bloß ein kurioser Trend. Sie sind ein kulturelles Symptom.

Sie zeigen, was geschieht, wenn ein Medium, das einst für Vernetzung, Wissensaustausch und demokratisierte Öffentlichkeit stand, zunehmend von Plattformlogiken geprägt wird, die Aufmerksamkeit über alles andere stellen. Nicht das Internet als Idee hat dieses System hervorgebracht – wohl aber jene Geschäftsmodelle, die aus jeder Sekunde Nutzerinteraktion Kapital schlagen wollen.

Die hysterische Cartoon-Banane ist deshalb kein Betriebsunfall der digitalen Kultur. Sie ist das logische Produkt einer Plattformökonomie, die Reizbarkeit belohnt, Substanz entwertet und Inhalte nach ihrer Klickwahrscheinlichkeit sortiert.

Die eigentliche Pointe dieser Entwicklung ist bitter:
Nicht die künstliche Intelligenz verblödet das Netz. Sie automatisiert lediglich jene Mechanismen, die soziale Plattformen längst hervorgebracht haben.

Oder anders gesagt:
Die Banane ist nicht das Problem.
Sie ist nur das sichtbarste Symptom eines digitalen Raums, in dem Aufmerksamkeit vielerorts wichtiger geworden ist als Bedeutung.

Quellen / Links

Ryan Broderick über „AI Slop“ in Garbage Day: https://www.garbageday.email/p/ai-slop-is-the-future-of-the-internet

Neil Postman, Wir amüsieren uns zu Tode / Amusing Ourselves to Death: https://de.wikipedia.org/wiki/Wir_am%C3%BCsieren_uns_zu_Tode

Jeff Jarvis / BuzzMachine zu Vertrauen und KI-Fakes: https://buzzmachine.com/

Undark – „AI Slop Is Infiltrating Online Children’s Content“: https://undark.org/2026/03/20/ai-slop-children/

ZEIT Online – „Künstlich befruchtet“: https://www.zeit.de/digital/internet/2026-03/ki-tiktok-virale-fruechte-content

Der Beitrag Der Feed frisst seine Kultur erschien zuerst auf Kunst & KI.

Die Vorstellung, im Internet anonym zu sein, gehört zu den hartnäckigsten Mythen der digitalen Öffentlichkeit. Seit den frühen Tagen des Netzes gilt die Möglichkeit, unter Pseudonym zu kommunizieren, als Symbol für Freiheit und Selbstbestimmung im digitalen Raum. Millionen Menschen nutzen Foren, soziale Netzwerke oder Kommentarspalten unter Nicknames – oft in der Annahme, ihre reale Identität sei dadurch geschützt.

Doch genau diese Annahme gerät zunehmend ins Wanken. Eine aktuelle Studie von Forschern der ETH Zürich und des KI-Unternehmens Anthropic zeigt, dass moderne Sprachmodelle offenbar in der Lage sind, pseudonyme Onlineprofile mit realen Personen zu verknüpfen – allein auf Grundlage öffentlich zugänglicher Texte.

Die Studie trägt den Titel Large-Scale Online Deanonymization with LLMs. Darin untersuchen die Autoren, ob große Sprachmodelle digitale Spuren auswerten können, um reale Identitäten hinter Internetaccounts zu rekonstruieren. Bereits zu Beginn formulieren die Forscher ihr Ergebnis deutlich:

„Wir zeigen, dass große Sprachmodelle genutzt werden können, um Deanonymisierung in großem Maßstab durchzuführen.“ (Simon Lermen et al., Large-Scale Online Deanonymization with LLMs, 2026)

Die Arbeit zeigt damit vor allem eines: Die Idee, dass ein Pseudonym automatisch Schutz vor Identifikation bietet, war vermutlich schon lange trügerisch.

Pseudonymität ist nicht Anonymität

Ein zentraler Punkt der Debatte wird oft übersehen. Die meisten Nutzer bewegen sich im Internet nicht anonym, sondern pseudonym.

Ein Pseudonym bedeutet, dass eine Person unter einem festen digitalen Namen auftritt, der nicht ihrem realen Namen entspricht. Beiträge, Kommentare und Diskussionen bleiben jedoch dauerhaft miteinander verbunden. Über Jahre hinweg entsteht so eine konsistente digitale Identität.

Genau diese Kontinuität macht spätere Analysen möglich. Die Autoren der Studie beschreiben den technischen Ansatz so:

„Große Sprachmodelle können identitätsrelevante Signale aus beliebigen Texten extrahieren, effizient Millionen potenzieller Profile durchsuchen und beurteilen, ob zwei Accounts zur selben Person gehören.“ (Simon Lermen et al., Large-Scale Online Deanonymization with LLMs, 2026)

Mit anderen Worten: Die KI versucht nicht, eine einzelne Information zu finden, sondern viele kleine Hinweise miteinander zu kombinieren.

Wenn Onlinebeiträge zum digitalen Fingerabdruck werden

Menschen verraten in ihren Onlinebeiträgen oft mehr über sich, als ihnen bewusst ist. Ein beiläufig erwähnter Arbeitsort, ein spezielles Fachwissen oder eine persönliche Erfahrung können Hinweise liefern.

Für menschliche Leser wirken solche Details meist unbedeutend. Für ein KI-System hingegen bilden sie ein Muster.

Ein Sprachmodell kann beispielsweise erkennen:

• berufliche Spezialisierungen
• thematische Interessen
• geografische Hinweise
• sprachliche Eigenheiten

Diese Informationen werden anschließend mit öffentlich verfügbaren Profilen im Internet verglichen.

Die Studie beschreibt diesen Prozess so:

„Die Kombination aus Sprachmodellen, Websuche und automatisierter Schlussfolgerung ermöglicht eine skalierbare Form der Deanonymisierung.“ (Simon Lermen et al., Large-Scale Online Deanonymization with LLMs, 2026)

Der entscheidende Unterschied zu früheren Methoden liegt in der Automatisierung. Was früher aufwendige Recherche erforderte, kann nun von KI-Systemen in kurzer Zeit durchgeführt werden.

Das Experiment: Vom Forum zur realen Person

Um ihre Hypothese zu testen, analysierten die Forscher mehrere Datensätze aus bekannten Onlineplattformen. Besonders aufschlussreich war ein Experiment mit der Technologie-Community Hacker News.

Ein KI-Agent untersuchte dort pseudonyme Beiträge von Nutzern und versuchte anschließend, mögliche reale Personenprofile auf LinkedIn zu identifizieren.

In vielen Fällen gelang es dem System, plausible Kandidaten zu finden. Dabei spielte selten eine einzelne Information eine entscheidende Rolle. Vielmehr entstand die Identifikation durch die Kombination vieler kleiner Hinweise.

Die Autoren ziehen daraus eine klare Schlussfolgerung:

„Unsere Ergebnisse zeigen, dass der Schutz durch praktische Unauffälligkeit für pseudonyme Nutzer im Internet nicht mehr funktioniert.“ (Simon Lermen et al., Large-Scale Online Deanonymization with LLMs, 2026)

Der Begriff „praktische Unauffälligkeit“ beschreibt eine lange verbreitete Annahme: Informationen sind zwar öffentlich, bleiben aber unverbunden im riesigen Datenraum des Internets.

Automatisierte Analyse stellt genau diese Annahme zunehmend infrage.

Warum echte Anonymität im Internet selten ist

Die Studie beleuchtet nur einen Teil eines größeren Problems. Schon lange vor dem Einsatz moderner KI war echte Anonymität im Internet schwer zu erreichen.

Jede Internetverbindung hinterlässt technische Spuren. Dazu gehören etwa IP-Adressen, Zeitstempel oder Geräteinformationen. Internetprovider speichern häufig, welcher Anschluss zu einem bestimmten Zeitpunkt eine IP-Adresse genutzt hat.

Hinzu kommen Plattformdaten, Tracking-Technologien und soziale Netzwerkeffekte. Auch ohne KI lassen sich dadurch oft Rückschlüsse auf Nutzer ziehen.

Künstliche Intelligenz verschärft dieses Problem jedoch, weil sie unterschiedliche Datenspuren systematisch miteinander verknüpfen kann.

Die Autoren formulieren diese Entwicklung so:

„Unsere Ergebnisse legen nahe, dass die praktische Verschleierung, auf die sich viele pseudonyme Nutzer verlassen, zunehmend erodiert.“ (Simon Lermen et al., Large-Scale Online Deanonymization with LLMs, 2026)

Macht und Kontrolle über digitale Informationen

Gleichzeitig wäre es falsch zu behaupten, Informationen im Internet könnten grundsätzlich nicht entfernt werden. In vielen Fällen lassen sich Inhalte löschen – etwa durch Plattformmoderation, gerichtliche Entscheidungen oder Datenschutzgesetze.

In der Europäischen Union gibt es beispielsweise mit der Datenschutzgrundverordnung einen rechtlichen Anspruch auf Löschung bestimmter personenbezogener Daten.

Allerdings zeigt die Praxis auch, dass Macht und Ressourcen dabei eine entscheidende Rolle spielen. Große Unternehmen, Regierungen oder vermögende Einzelpersonen verfügen häufig über deutlich mehr Möglichkeiten, Inhalte entfernen oder unsichtbar machen zu lassen als gewöhnliche Nutzer.

Die Frage nach digitaler Privatsphäre ist daher nicht nur eine technische, sondern auch eine politische.

Automatisierte Recherche verändert die Spielregeln

Der vielleicht wichtigste Aspekt der Studie liegt nicht allein in der Leistungsfähigkeit der KI. Entscheidender ist, dass solche Analysen erstmals in großem Maßstab automatisiert werden können.

Sprachmodelle können große Mengen unstrukturierter Texte analysieren und daraus Hypothesen über Identitäten ableiten. Damit wird eine Methode skalierbar, die bislang vor allem von spezialisierten Ermittlern oder investigativen Journalisten eingesetzt wurde.

Für Aktivisten, Journalisten oder Whistleblower kann diese Entwicklung erhebliche Risiken bedeuten. Wer sich auf ein Pseudonym verlässt, könnte künftig leichter identifiziert werden.

Die eigentliche Lehre der Studie

Die Studie zeigt letztlich weniger das „Ende der Anonymität“ im Internet als eine unbequeme Realität digitaler Kommunikation: Onlinebeiträge bilden über die Zeit hinweg ein zusammenhängendes Datenmuster.

Ein einzelner Kommentar mag harmlos erscheinen. Doch über Jahre hinweg entsteht daraus eine digitale Spur, die analysiert werden kann.

Mit jeder neuen Generation von KI-Systemen wird es einfacher, diese Spuren miteinander zu verbinden.

Die Forschung macht deshalb vor allem deutlich, was viele Sicherheitsexperten schon lange betonen: Echte Anonymität im Internet war immer schwierig zu erreichen – und wird im Zeitalter künstlicher Intelligenz noch seltener.

Quellen

Simon Lermen et al. (2026) Large-Scale Online Deanonymization with LLMs – Bericht über die Studie im Magazin The Register

Diskussion der Studie auf Hacker News

Links:

https://arxiv.org/abs/2602.16800

https://www.theregister.com/2026/02/26/llms_killed_privacy_star

https://news.ycombinator.com/item?id=47139716

Der Beitrag Wenn KI Pseudonyme enttarnt erschien zuerst auf Kunst & KI.

Als die ersten KI-Browser auf den Markt kamen, wurden sie als stille Revolution gefeiert: Tools wie ChatGPT, Atlas und Perplexity Comet versprachen ein Internet, das nicht mehr gesucht, sondern verstanden wird — ein Web, das Aufgaben erledigt, statt Informationen lediglich anzuzeigen. Doch hinter dieser Komfortoffensive verbirgt sich ein tiefgreifender technischer und politischer Wandel. Recherchen, Experten und unabhängige Analysen zeichnen ein Bild, das weit weniger glänzend ist als die Demo-Versionen, die die Hersteller präsentieren.

Was wir derzeit erleben, ist nicht nur die Einführung eines neuen Softwaretyps. Es ist der Versuch großer Tech-Konzerne, die Kontrolle über die Schnittstelle zurückzugewinnen, die wir täglich nutzen: den Browser. Und genau dort beginnt die Geschichte über versteckte Risiken, unterschätzte Gefahren und eine neue Form digitaler Abhängigkeit.

Vom Werkzeug zum Akteur

Traditionelle Browser sind Werkzeuge: Sie zeigen an, was wir anfordern. KI-Browser dagegen agieren selbst. Sie lesen Seiten, interpretieren sie, ziehen Schlüsse — und treffen Entscheidungen. Manche klicken Buttons, andere füllen Formulare aus oder verhandeln mit anderen Websites. Genau das wird von vielen als Fortschritt gefeiert. Doch etliche Fachleute vergleichen diese Entwicklung mit der Einführung eines Co-Piloten, der jederzeit das Steuer übernehmen kann — auch dann, wenn man gar nicht bemerkt, dass der Autopilot aktiviert wurde.

Zum ersten Mal in der Geschichte des Internets haben wir Browser, die eigenständig handeln können — und damit angreifbar werden wie Software-Agenten.

Diese Fähigkeit, Aktionen auszuführen, ist der Kern des Komfortversprechens. Aber sie ist zugleich die strukturelle Schwachstelle, die den Boden für neue Arten von Angriffen bereitet.

Einfallstor für neue Angriffe

Mehrere technische Untersuchungen zeigen, dass KI-Browser empfindlich auf sogenannte Prompt-Injections reagieren — also auf manipulierte Befehle, die in Webseiten eingebettet werden und die KI zu Handlungen verleiten, die nicht im Sinne der Nutzer sind. Während ein klassischer Browser eine schädliche Seite lediglich anzeigt, kann ein KI-Browser sie ungewollt ausführen. Das reicht von subtilem Datendiebstahl bis hin zu automatisierten Aktionen wie Logins, Downloads oder Bestellungen.

Was früher Social Engineering beim Menschen war, ist heute Prompt Engineering gegen die KI — und der Browser ist die neue Angriffsfläche.

Besonders kritisch sind sogenannte persistente Gedächtnissysteme. Einige KI-Browser speichern Informationen über Sitzungen hinweg, um „konsistentere Entscheidungen“ zu treffen. Was nach Personalisierung klingt, bedeutet in der Praxis, dass manipulierte Befehle dauerhaft im System verankert werden können. Für die IT-Sicherheit ist das ein langfristiges Risiko mit potenziell gravierenden Folgen.

Der Komfort hat einen Preis

Die Tech-Konzerne bewerben KI-Browser aggressiv als Produktivitätswerkzeuge. Im Marketing erscheinen sie wie digitale Butler, die abnehmen, was Zeit kostet. Doch dieser Komfort ist nicht kostenlos.

Daten als Währung

Jede Zusammenfassung, jede Automatisierung und jeder KI-gestützte Klick produziert Daten — und zwar Daten von hoher Sensibilität:

• Präferenzen
• Nutzungsroutinen
• Inhalte, die man liest
• Inhalte, die man nicht liest
• Formulareingaben
• Passwörter, Bestellprozesse, persönliche Profile

All diese Daten müssen verarbeitet, analysiert und geschützt werden. Genau hier entsteht eine gefährliche Lücke: Obwohl die Konzerne sich als Hüter der Privatsphäre inszenieren, bleiben viele Details ihrer KI-Verarbeitung intransparent. Wer bekommt welche Daten? Wie lange werden sie gespeichert? Und wofür werden sie letztlich genutzt?

Auf den Punkt gebracht: Man kann häufig nicht beurteilen, ob der Browser im Auftrag der Nutzer handelt — oder im Auftrag der Datenstrategie des Unternehmens.

Die Macht der gefilterten Welt

Wenn eine KI entscheidet, was relevant ist, entscheidet sie auch, was nicht relevant ist. Informationen werden komprimiert, priorisiert, interpretiert. Damit verschiebt sich die Frage, was Menschen im Internet sehen, weg von Webseiten und journalistischen Angeboten — hin zu Modellen, deren Funktionsweise nicht offengelegt ist.

Schon jetzt zeigt sich, dass KI-Browser Inhalte konsolidieren, während die Quelltexte im Hintergrund verblassen. Das Internet erscheint weniger als Landschaft, sondern als Produkt: zusammengemixt, vorstrukturiert, neu arrangiert.

Medienwissenschaftler warnen seit Jahren davor, dass jede Vorfilterung die Vielfalt reduziert — nicht durch böse Absicht, sondern durch Struktur. Wenn der Browser filtert, bevor wir sehen, verlieren wir die Möglichkeit, selbst auszuwählen, wie wir uns informieren.

Für die demokratische Öffentlichkeit ist das eine leise, aber tiefgreifende Gefahr. Meinungsvielfalt kann nur entstehen, wenn unterschiedliche Quellen sichtbar bleiben.

Wer profitiert von dieser Entwicklung?

Die offensichtlichen Gewinner sind die Unternehmen, die KI-Browser entwickeln. Doch die ökonomischen Effekte gehen tiefer.

Neue Wege der Monetarisierung

Wenn die KI Interaktion übernimmt, übernimmt sie auch Entscheidungspunkte:

• Welche Shops werden prominent empfohlen?
• Welche Nachrichten werden priorisiert?
• Welche Dienste erscheinen neutral — und welche erscheinen „zufällig“ häufiger?

Damit entsteht eine neue Form der Beeinflussbarkeit, die weit subtiler ist als klassische Werbung.

Still und leise Abhängigkeiten schaffen

Wer einmal beginnt, KI-gestützt zu surfen, gewöhnt sich an die neue Bequemlichkeit. Das Abschalten der KI-Ebene wird schwierig — psychologisch wie praktisch. Genau diese Bindung ist es, die viele Unternehmen anstreben: Der Browser wird zur Plattform für alle weiteren Dienste, und diese Dienste produzieren neue Daten. Ein geschlossenes System — perfekt für Wachstum, weniger perfekt für Nutzer.

Das klassische Internet verschwindet im Maschinenraum

Mit jedem Schritt hin zur KI-Automatisierung wird das Web unsichtbarer. Menschen klicken nicht mehr; sie „ermutigen“. Sie suchen nicht mehr; sie „fragen“. Die sichtbare Architektur — Links, Menüs, Navigation — verschwindet hinter einem dialogischen Interface.

Was nach technischer Eleganz klingt, ist in Wahrheit eine strukturelle Verschiebung: weg von einer offenen Architektur hin zu einem kuratierten System. Die Konzerne versprechen Transparenz, doch viele Entscheidungen der KI bleiben Blackboxes — aus technischen, aber auch aus wirtschaftlichen Gründen.

Was Nutzer:innen jetzt wissen müssen

KI-Browser sind nicht per se problematisch. Viele Vorteile sind real, einige beeindruckend. Aber ihre Risiken werden bislang oft überlagert von Marketing, Euphorie und Unwissenheit.

Drei Punkte sind entscheidend:

• Autonom handelnde Browser erweitern die Angriffsfläche massiv.
  Wo Software aktiv handelt, kann sie manipuliert werden.
• Die Filterleistung der KI beeinflusst, wie wir Wirklichkeit wahrnehmen.
  Jede Zusammenfassung ist eine Interpretation.
• Die durch Automatisierung entstehenden Datenmengen sind extrem sensibel.
  Sie zeigen nicht nur, was wir tun, sondern wie wir denken.

Diese Themen gehören in die gesellschaftliche Debatte — bisher jedoch stehen sie kaum dort.

Fazit

Nicht die Technologie sollte bestimmen, wie wir das Internet nutzen, sondern die Rahmenbedingungen, die wir ihr setzen. KI-Browser können Entlastung bringen, sie können komplexe Aufgaben vereinfachen, sie können Abläufe beschleunigen — aber nur, wenn sie in einer Struktur eingesetzt werden, die die Interessen der Nutzer schützt. Es ist gefährlich, wenn Innovationen schneller wachsen als die Regeln, die sie einhegen sollen. Die Geschichte des Internets zeigt: Immer dann, wenn Bequemlichkeit ohne Kontrolle eingeführt wurde, entstanden neue Monopole, neue Abhängigkeiten, neue Ebenen der Intransparenz.

Damit sich die Entwicklung nicht in die falsche Richtung bewegt, braucht es jetzt die Auseinandersetzung darüber, welche Art von digitaler Öffentlichkeit wir wollen. Der Browser war immer das Tor zu einem offenen Web. Wenn dieses Tor sich verändert, verändern sich unweigerlich auch die Räume dahinter. Denkbar ist nicht nur eine Zukunft der allgegenwärtigen KI-Integration — ebenso möglich ist eine Gegenbewegung: transparente, modular aufgebaute Browser, bei denen Nutzer selbst bestimmen, ob und wann KI-Funktionen aktiv werden dürfen. Auch dezentrale Modelle, bei denen KI lokal statt über Cloud-Strukturen läuft, könnten eine Alternative sein und viele der bislang kritischen Punkte entschärfen.

Klar ist: Die Entscheidungen, die jetzt getroffen werden — von Entwicklern, von Regulierenden, von uns als Gesellschaft — werden bestimmen, ob KI-Browser zu Werkzeugen der Selbstbestimmung werden oder zu Instrumenten neuer Abhängigkeiten. Die kommende Phase ist nicht technologisch vorgegeben, sondern politisch und sozial gestaltbar. Wie diese Gestaltung aussehen wird, hängt nicht davon ab, was möglich ist, sondern davon, was wir zulassen.

Quellenangaben (Auswahl)

• Deutschlandfunk – KI und Surfen
• WirtschaftsWoche – Analyse zu Atlas & Comet
• Heise Online – Praxistest Comet / Test Atlas
• t3n – KI-Browser im Alltag
• Fast Company – Sicherheitsaspekte KI-Browser
• Cybernews – Funktionsanalyse KI-Browser
• Publishing.blog – Medienkritik KI-Browser
• Proton Blog – Sicherheitsbewertung Atlas

Der Beitrag Operation Komfort erschien zuerst auf Kunst & KI.

Millionen unsichtbarer Hände: Datenarbeit für die KI

Die schönen neuen KI-Welten, in denen Texte, Bilder und Videos auf Knopfdruck entstehen, haben eine unsichtbare Grundlage: Millionen von Menschen, die weltweit als Datenarbeiter beschäftigt sind. Laut Schätzungen der Weltbank gibt es zwischen 150 und 430 Millionen Menschen, die zumindest gelegentlich sogenannte „Mikroarbeit“ erledigen – also kurze digitale Aufgaben. Viele davon arbeiten direkt oder indirekt am Training von KI-Systemen.

Eine realistische Zahl für jene, die regelmäßig an KI-Annotationen beteiligt sind, liegt wahrscheinlich im zweistelligen Millionenbereich – etwa 10 bis 20 Millionen Menschen weltweit. Sie sitzen in Indien, auf den Philippinen, in Venezuela oder in Kenia. Plattformen wie Appen, Clickworker, Scale AI oder Amazon Mechanical Turk vermitteln diese Jobs.

Ein bekannt gewordenes Beispiel ist Sama in Nairobi, Kenia: Hunderte Menschen klassifizierten für weniger als 2 Dollar pro Stunde Texte mit extrem verstörenden Inhalten, um ChatGPT „toxische“ Sprache abzutrainieren. Arbeiter bekamen extrem belastende Texte zu sehen: Gewaltfantasien, Kinderpornografie-Beschreibungen und Folterszenarien. Ihre Aufgabe war es, Inhalte in Kategorien einzuordnen wie „Sexueller Missbrauch“, „Hassrede“ oder „Selbstverletzung“. Für viele war es ein Job ohne Sicherheit, ohne psychologische Betreuung, mit extrem belastenden Auswirkungen. Manche sprachen von „Traumatisierung am Fließband“. Das klingt pervers: Um die Künstliche „Intelligenz“ überhaupt nutzbar zu machen, werden massenhaft unterbezahlte Arbeiter:innen traumatisiert?

Wie KI wirklich trainiert wird

Die Entwicklung von KI ist nicht magisch, sondern ein aufwändiger und arbeitsintensiver Prozess:

1. Datensammlung: Milliarden Texte, Bilder und Videos werden aus dem Internet gesaugt oder gezielt eingekauft.
2. Annotation durch Menschen: Crowdworker markieren, ob Inhalte beleidigend, informativ, korrekt oder irrelevant sind.
3. Vortrainierung: Das Modell lernt statistische Muster auf gewaltigen Datenmengen.
4. Feintuning: Mit Methoden wie „Reinforcement Learning from Human Feedback“ (RLHF) bewerten Menschen Antworten des Modells und geben Korrekturen vor.
5. Evaluation: Auch hier sind wieder Menschen im Einsatz, die prüfen, wie „gut“ das System arbeitet.

Ohne diese menschliche Vorarbeit wären heutige Sprach- oder Bildmodelle schlicht nicht funktionsfähig. Diese Tatsache verdeutlicht, die dem Begriff künstliche „Intelligenz“ innewohnende Täuschung.

Der ökologische Preis: Energie und Wasser

Neben der menschlichen Arbeitskraft ist es vor allem die Energiefrage, die nachdenklich stimmt.

• Das Training von GPT-3 soll etwa 1,3 Gigawattstunden Strom benötigt haben – genug, um über 100 US-Haushalte ein Jahr lang zu versorgen.
• GPT-4 dürfte noch weitaus mehr verbraucht haben, Schätzungen sprechen von mehreren Gigawattstunden.
• Datenzentren verschlingen zusätzlich enorme Mengen an Wasser: Microsoft gab 2023 bekannt, dass der Wasserverbrauch seiner Rechenzentren um 34 % gestiegen ist – unter anderem durch KI-Anwendungen.

Der CO₂-Ausstoß eines einzigen großen Modells kann leicht mehrere hundert Tonnen erreichen, vergleichbar mit hunderten Transatlantikflügen.

Der Slop-Kreislauf: Wie Content verdirbt

Wenn die Modelle einmal im Einsatz sind, beginnt der nächste problematische Prozess: der Slop-Kreislauf.

1. KI-Tools erzeugen massenhaft Content: Blogartikel, SEO-Texte, Produktbeschreibungen, Fake-Rezensionen.
2. Zunehmend kommen auch Deepfakes hinzu – manipulierte Bilder, Stimmen und Videos, die täuschend echt wirken.
3. Plattform-Algorithmen wie die von Google, TikTok oder Meta belohnen Masse und Reichweite, nicht Qualität. Sie verstärken also genau jenen billigen KI-Content, der Klicks bringt.
4. Hochwertige Inhalte von echten Autor:innen, Journalist:innen oder Künstler:innen geraten ins Hintertreffen, weil sie in der Flut untergehen oder vom Algorithmus schlechter ausgespielt werden.
5. Neue KI-Systeme greifen dann wieder auf diese Daten zurück – und trainieren zunehmend auf KI-generiertem Müll.

So entsteht ein Degenerationskreislauf: KI produziert Slop, dieser Slop wird von Plattformen verstärkt, verdrängt gute Inhalte und füttert am Ende wieder die nächste KI-Generation.

Die Folge:

• Autor:innen und Künstler:innen verlieren Reichweite und Einkommen, weil ihre Werke im Datenrauschen untergehen oder von KI-Plagiaten kopiert werden.
• Kulturelle Vielfalt und kritische Stimmen werden geschwächt.
• Das Internet verkommt von einem Raum menschlicher Kreativität zu einer Müllhalde automatisierter Beliebigkeit.

Finanzblase und Superintelligenz-Hype

Parallel dazu erleben wir eine Spekulationswelle an den Finanzmärkten. Nvidia ist 2025 das wertvollste börsennotierte Unternehmen der Welt, während Start-ups mit Milliarden bewertet werden, ohne tragfähiges Geschäftsmodell. Viele Ökonom:innen warnen vor einer KI-Blase, vergleichbar mit der Dotcom-Euphorie um 2000.

Dazu kommt die Erzählung von der baldigen AGI (Artificial General Intelligence) oder gar ASI (Artificial Superintelligence). Schon in den 1950er Jahren sagte der Informatiker I.J. Good voraus, dass bald eine „intelligence explosion“ eintreten werde, bei der Maschinen alle Probleme lösen. Seitdem wiederholt sich die Geschichte: In den 1970ern, 1980ern, 2000ern und heute – stets hieß es, die Superintelligenz stehe vor der Tür.

Doch bis heute sind wir weit davon entfernt. Kritische Stimmen machen das deutlich:

• Rodney Brooks (MIT): „Wir verwechseln Demos mit Intelligenz.“ KI sei weit von menschlicher Flexibilität entfernt.
• Gary Marcus (NYU): „Deep Learning allein reicht nicht. Ohne Kausalität und Commonsense bleibt AGI Illusion.“
• Emily Bender (University of Washington): Sprachmodelle sind „stochastische Papageien“ – sie verstehen nicht, was sie sagen.
• Abeba Birhane (ETH Zürich): AGI-Hype ist ein „koloniales Narrativ“, das Ausbeutung im Globalen Süden verschleiert.
• Yann LeCun (Meta AI): „Niemand weiß, wie man AGI baut. Wir sind nicht nah dran.“

Die Erzählung von der Superintelligenz dient oft weniger der Wissenschaft als dem Marketing und der Kapitalbeschaffung.

Fortschritt – oder Scheinfortschritt?

Die Frage ist daher: Können wir das wirklich Fortschritt nennen?

• Millionen Datenarbeiter schuften für Centbeträge und sehen traumatisierenden Content.
• Das Klima wird durch den Energiehunger der Modelle belastet.
• Das Internet droht im Slop zu ersticken.
• Finanzblasen und Mythen von Superintelligenz verschieben Aufmerksamkeit und Kapital.

Wenn Fortschritt bedeutet, die Lebensqualität zu erhöhen, Ungleichheit zu verringern und die Umwelt zu schützen, dann ist das, was wir derzeit erleben, eher Scheinfortschritt.

Was wir tun könnten

Gibt es Wege, gegenzusteuern? Gibt es politische, wirtschaftliche und gesellschaftliche Hebel? Darüber sollten wir dringend nachdenken. Eine kurze Liste zentraler Ansätze:

• Transparenz: KI-Firmen müssen offenlegen, welche Daten sie nutzen und wie viel Energie sie verbrauchen.
• Faire Arbeit: Mindeststandards, gerechte Bezahlung, psychologische Betreuung für Crowdworker.
• Urheberrechte: Künstler:innen müssen ein Opt-out haben und für die Nutzung ihrer Werke entschädigt werden.
• Ökologische Regeln: Rechenzentren verpflichten, auf erneuerbare Energien und effiziente Kühlung zu setzen.
• Kennzeichnungspflicht: KI-generierte Inhalte müssen klar erkennbar sein.
• Gemeinwohl-KI: Öffentliche Investitionen in KI für Medizin, Bildung und Klimaforschung – statt reiner Profitorientierung.
• Wettbewerbspolitik: Maßnahmen gegen Monopole, Förderung offener Modelle.

Fazit

Technisch und oberflächlich wirkt KI beeindruckend. Aber Fortschritt misst sich nicht an Rechenleistung, sondern daran, ob sie das Leben der Menschen verbessert. Bisher sehen wir vor allem Kosten: menschliche, ökologische und kulturelle.

Echter Fortschritt entstünde erst, wenn KI fair, nachhaltig und gemeinwohlorientiert entwickelt wird. Nicht als Werkzeug für die Machtkonzentration weniger Konzerne, sondern als Technologie, die die Lebensqualität aller steigert.

Quellen- und Literaturliste

Dokumentarfilme / Medien

• Arte-Doku: KI: Der Tod des Internets (Regie: Mario Sixtus, 2024).
• Arte-Doku: KI – Die letzte Erfindung? (Arte, 2024).

Journalistische Quellen

• Perrigo, Billy: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. TIME Magazine, 18.01.2023.
  👉 time.com

• Perrigo, Billy: AI Gig Workers Face ‘Unfair Working Conditions,’ Study Says. TIME Magazine, 2023.
• The Guardian: ‘It’s destroyed me completely’: The human cost of training AI. 02.08.2023.
• VICE: OpenAI Used Kenyan Workers Making $2 an Hour to Filter Traumatic Content From ChatGPT. 2023.
• CBS News / 60 Minutes: The hidden costs of AI: Underpaid Kenyan workers and the toll of content moderation. 2023.
• Economist: The Hidden Workforce Behind AI. 10.04.2025.
• WeeTracker: OpenAI Paid Sama $12 an Hour Per Worker—Kenyans Only Got $2. 25.11.2024.

Wissenschaftliche Arbeiten

• Bender, Emily M.; Gebru, Timnit; McMillan-Major, Angelina; Mitchell, Margaret:
  On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21). Association for Computing Machinery, 2021. DOI: 10.1145/3442188.3445922
• Marcus, Gary: Deep Learning Is Hitting a Wall. Substack / garymarcus.substack.com, 2022.
• Crawford, Kate: Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press, 2021.
• Birhane, Abeba: Algorithmic Colonization of Africa. SCRIPTed, Vol. 17, No. 2, 2020. DOI: 10.2966/scrip.170220.389
• Brooks, Rodney: The Seven Deadly Sins of AI Predictions. MIT Technology Review, 2017.
• Chomsky, Noam; Roberts, Ian; Watumull, Jeffrey: The False Promise of ChatGPT. The New York Times, 08.03.2023.

Studien und Reports

• Weltbank: The Global Gig Economy. Washington, 2021.
• Fairwork Project: Fairwork Cloudwork Report. Oxford Internet Institute, 2023.
• International Labour Organization (ILO): World Employment and Social Outlook 2021 – The role of digital labour platforms in transforming the world of work. Genf, 2021.

Online-Dossiers

• Privacy International: Humans in the AI Loop – The Data Labelers Behind Some of the Most Powerful LLMs. 2023.
• AlgorithmWatch: AI and the Hidden Human Labour Behind It. 2022.

Der Beitrag Slop, Superintelligenz und Scheinfortschritt erschien zuerst auf Kunst & KI.