Noch vor wenigen Jahren galt Künstliche Intelligenz als Zukunftsversprechen: effizienter, kreativer, produktiver. Politiker, Unternehmen und Technologievisionäre zeichneten das Bild einer neuen industriellen Revolution. Heute kippt die Stimmung – zuerst in den USA, inzwischen auch in Europa. Aus Neugier wird Skepsis, aus Faszination wächst offene Ablehnung.

Die Frage lautet nicht mehr nur, was KI kann. Sondern: Wem nützt sie eigentlich – und wer bezahlt den Preis?

In den USA ist bereits von einer „Wutwelle gegen KI“ die Rede. Der Begriff stammt aus einem Bericht von n-tv über Proteste gegen Rechenzentren, wachsende Arbeitsplatzängste und den Vertrauensverlust gegenüber dem Silicon Valley. Besonders symbolträchtig war dabei ein Auftritt des ehemaligen Google-Chefs Eric Schmidt, der bei einer Universitätsveranstaltung ausgebuht wurde. Für viele Amerikaner verkörpert Schmidt genau jene Tech-Elite, die milliardenschwere KI-Systeme entwickelt, während Millionen Menschen um ihre berufliche Zukunft fürchten.

Wenn Maschinen plötzlich die Mittelschicht bedrohen

Diese Entwicklung kommt nicht aus dem Nichts. KI verändert erstmals nicht nur Fabriken oder Lagerhallen, sondern direkt die Arbeitswelt der Mittelschicht. Übersetzer, Grafiker, Journalisten, Programmierer, Sachbearbeiter oder Kundenservice-Mitarbeiter erleben, wie Software innerhalb weniger Sekunden Aufgaben erledigt, für die früher Stunden nötig waren.

Die eigentliche Sprengkraft liegt dabei weniger in der Technologie selbst als im Gefühl gesellschaftlicher Entwertung. Viele Menschen erleben KI nicht als Werkzeug, sondern als Konkurrenz.

Dabei argumentieren Unternehmen fast immer mit Effizienz. OpenAI, Google, Microsoft oder Meta sprechen von Produktivitätsgewinnen und neuen Möglichkeiten. Tatsächlich zeigen zahlreiche Studien, dass KI Routineaufgaben beschleunigt und Prozesse optimieren kann. Doch der gesellschaftliche Konflikt entsteht dort, wo die Gewinne privatisiert und die Risiken sozialisiert werden.

Wer profitiert von KI? Meist große Technologiekonzerne und Investoren. Wer trägt die Unsicherheit? Beschäftigte.

In den USA verschärft sich dieser Konflikt besonders stark, weil dort soziale Sicherungssysteme schwächer ausgeprägt sind als in Europa. Wer seinen Job verliert, verliert oft gleichzeitig Krankenversicherung und finanzielle Stabilität. Entsprechend emotional fällt die Debatte aus. Aus technologischer Innovation wird schnell ein politischer Kulturkampf.

Der unsichtbare Energiehunger der KI

Hinzu kommt ein zweiter Faktor: die physische Infrastruktur der KI.

Die Öffentlichkeit spricht meist über Chatbots und Bildgeneratoren. Doch hinter generativer KI stehen gigantische Rechenzentren mit enormem Strom- und Wasserverbrauch. Genau dagegen formiert sich zunehmend Widerstand. In mehreren US-Bundesstaaten protestieren Bürger gegen neue KI-Anlagen, weil sie steigende Energiekosten, Wasserknappheit oder Umweltbelastungen befürchten. Was früher nach abstrakter Digitalisierung klang, wird plötzlich konkret sichtbar: riesige Industrieanlagen, die Landschaften verändern und enorme Ressourcen verschlingen.

Diese Debatte erreicht inzwischen auch Europa.

Besonders in Deutschland wächst die Kritik an der massiven Expansion von Rechenzentren. Rund um Frankfurt – einem der größten Internetknoten der Welt – warnen Kommunen und Energieexperten seit Jahren vor wachsendem Strombedarf und Flächenverbrauch. Gleichzeitig fordert die Europäische Union den beschleunigten Ausbau eigener KI-Infrastruktur. Die EU-Kommission spricht offen davon, Europa zum „KI-Kontinent“ machen zu wollen.

Europas schwieriger Spagat

Hier zeigt sich ein grundlegender Widerspruch europäischer Politik: Einerseits soll KI streng reguliert werden, andererseits möchte Europa technologisch mit den USA und China konkurrieren. Der europäische AI Act gilt bereits jetzt als eines der weltweit strengsten Regelwerke für künstliche Intelligenz. Gleichzeitig fürchten Politiker, Europa könne wirtschaftlich abgehängt werden, wenn man bei KI zu vorsichtig agiert.

Die Folge ist eine eigentümliche Doppelbotschaft: KI gilt gleichzeitig als Risiko und als wirtschaftliche Notwendigkeit.

Gerade Deutschland steckt dabei in einem besonderen Dilemma. Die deutsche Wirtschaft basiert stark auf Industrie, Ingenieurswesen und hochqualifizierter Facharbeit – also genau jenen Bereichen, die zunehmend automatisiert werden könnten. Gleichzeitig altert die Gesellschaft rapide, weshalb viele Unternehmen KI als Antwort auf Fachkräftemangel betrachten.

Doch auch hier wächst die gesellschaftliche Skepsis. Anders als in den USA äußert sie sich bisher weniger laut oder populistisch, sondern eher technokratisch: Datenschutz, Urheberrechte, Transparenz, Regulierung, digitale Souveränität. Hinter diesen Begriffen steckt jedoch dieselbe Grundfrage: Wer kontrolliert die Technologie?

Die Angst vor digitaler Abhängigkeit

Denn ein Großteil der leistungsfähigsten KI-Systeme stammt aus den USA. Europa droht damit in eine neue digitale Abhängigkeit zu geraten – ähnlich wie bei sozialen Netzwerken, Cloud-Diensten oder Halbleitern. Viele europäische Politiker sprechen deshalb inzwischen offen von „technologischer Souveränität“.

Doch genau hier beginnt ein weiterer Konflikt. Denn technologische Unabhängigkeit kostet Milliarden. Neue Rechenzentren, Energieversorgung, Chips, Glasfasernetze und KI-Forschung müssen finanziert werden – oft mit öffentlichen Geldern. Kritiker fragen deshalb zunehmend, warum Staaten gigantische Summen in KI investieren, während gleichzeitig Schulen, Infrastruktur oder Wohnungsbau unterfinanziert bleiben.

Warum KI Menschen existenziell verunsichert

Hinzu kommt ein psychologischer Aspekt, der häufig unterschätzt wird: KI verändert das Verhältnis vieler Menschen zu ihrer eigenen Arbeit.

Über Jahrzehnte galt Wissen als Schutzschild gegen Automatisierung. Wer studierte, kreativ arbeitete oder komplexe Probleme löste, fühlte sich relativ sicher. Generative KI erschüttert genau dieses Selbstverständnis. Zum ersten Mal können Maschinen Texte schreiben, Bilder erzeugen, programmieren oder analytische Aufgaben übernehmen, die bislang als genuin menschlich galten.

Das erzeugt eine tiefere Form der Verunsicherung als frühere Automatisierungswellen.

Nicht zufällig vergleichen manche Soziologen die aktuelle Stimmung mit den Debatten über Globalisierung in den 1990er- und 2000er-Jahren. Auch damals profitierten Unternehmen und Investoren enorm, während viele Arbeitnehmer sich zunehmend austauschbar fühlten. Heute scheint sich dieses Muster im digitalen Raum zu wiederholen.

Zwischen Faszination und Misstrauen

Dabei ist die öffentliche Wahrnehmung von KI widersprüchlich. Viele Menschen nutzen KI-Systeme bereits täglich – oft freiwillig und begeistert. Gleichzeitig wächst das Misstrauen gegenüber den Unternehmen dahinter. Besonders junge Menschen entwickeln ein ambivalentes Verhältnis zur Technologie: neugierig, aber skeptisch; fasziniert, aber alarmiert.

Hinzu kommt die Sorge vor Desinformation und Kontrollverlust. Deepfakes, automatisierte Propaganda oder manipulative Algorithmen verstärken das Gefühl, dass KI nicht nur Arbeitsplätze bedroht, sondern auch demokratische Prozesse destabilisieren könnte. Neue Forschungen zu robuster Deepfake-Erkennung zeigen zwar Fortschritte, gleichzeitig verdeutlichen sie aber auch, wie schnell sich Manipulationstechnologien weiterentwickeln.

Fazit: Die eigentliche KI-Revolution ist gesellschaftlich

Die eigentliche Gefahr liegt womöglich nicht in einer „Superintelligenz“, wie sie Science-Fiction-Filme beschreiben. Sondern in einem schleichenden gesellschaftlichen Vertrauensverlust.

Wenn Menschen das Gefühl bekommen, dass Technologie nur wenigen dient, wächst Widerstand fast zwangsläufig. Genau das scheint derzeit zu passieren. KI wird zunehmend nicht mehr als neutrale Innovation wahrgenommen, sondern als Symbol eines Wirtschaftssystems, das Effizienz höher bewertet als soziale Stabilität.

Noch ist offen, wohin diese Entwicklung führt. Möglich ist eine neue Balance zwischen Innovation und Regulierung. Möglich ist aber auch eine gesellschaftliche Polarisierung, bei der KI ähnlich umkämpft wird wie einst Atomkraft, Gentechnik oder soziale Medien.

Fest steht bereits jetzt: Die eigentliche KI-Revolution findet nicht in Serverräumen statt. Sondern in der gesellschaftlichen Frage, wie viel technologische Disruption Demokratien überhaupt aushalten.

Quellen und weiterführende Links

• n-tv: „In den USA rollt eine Wutwelle gegen KI“
• EU-Kommission: Aktionsplan für den „KI-Kontinent Europa“
• Arxiv: „Robust Deepfake Detection“
• Arxiv: „Embodied AI in Action“

Der Beitrag Die KI-Gegenbewegung erschien zuerst auf Kunst & KI.

Als im Sommer 2016 plötzlich Menschenmengen durch Parks, Innenstädte und Wohngebiete zogen, um virtuelle Monster zu jagen, wirkte das wie ein harmloser Hype. Pokémon GO war ein Spiel, ein kulturelles Phänomen, vielleicht auch ein soziales Experiment.

Was damals nur wenige wahrnahmen: Die Spieler waren nicht nur Teil eines Trends – sie waren Teil eines Systems.

Denn während Millionen Menschen auf ihre Smartphones blickten, entstand im Hintergrund etwas ganz anderes – eine der detailliertesten, dynamischsten und für Maschinen nutzbarsten Karten der realen Welt, die es je gegeben hat.

Und diese Karte beginnt jetzt, ihren eigentlichen Zweck zu erfüllen.

Vom Spiel zur Infrastruktur

Niantic, das Unternehmen hinter Pokémon GO, betont inzwischen selbst, dass es nicht nur ein Spiel entwickelt hat, sondern eine Plattform. In Unternehmensdarstellungen ist von einer „Real-World-AR-Plattform“ die Rede, die es ermöglichen soll, die physische Welt digital abzubilden und für Maschinen nutzbar zu machen.

Im Zentrum steht ein sogenanntes „Visual Positioning System“ (VPS): eine Technologie, die es Maschinen ermöglicht, ihre Position nicht über Satelliten, sondern über visuelle Merkmale zu bestimmen. Statt GPS nutzt sie Bilder – Fassaden, Straßenecken, Denkmäler.

Das Ziel ist nicht weniger als ein Perspektivwechsel: weg von abstrakten Koordinaten, hin zu einer visuellen Orientierung. Maschinen sollen Orte nicht nur berechnen, sondern erkennen.

Das klingt zunächst harmlos. Doch die Voraussetzung dafür ist enorm: Die Welt muss zuvor in einer Qualität erfasst werden, die weit über klassische Karten hinausgeht. Es reicht nicht, Straßen zu kennen. Maschinen müssen wissen, wie Orte aussehen – aus verschiedenen Perspektiven, bei unterschiedlichen Lichtverhältnissen, aus nächster Nähe.

Und genau hier kommt Pokémon GO ins Spiel.

Die größte Crowd-Kartierung der Geschichte

Über Jahre hinweg hat das Spiel seine Nutzer dazu animiert, sogenannte AR-Scans durchzuführen. Spieler konnten Pokéstops und Arenen scannen, indem sie mit ihrer Kamera um reale Objekte herumliefen. Als Belohnung gab es kleine Ingame-Vorteile.

Was dabei entstand, ist gewaltig: ein Datensatz aus Milliarden von Bildern. Nach Unternehmensangaben wurden über die Jahre hinweg mehr als 30 Milliarden visuelle Aufnahmen aus der Nutzung der Spiele gesammelt – ein Umfang, der weit über klassische Kartierungsprojekte hinausgeht.

Ein entscheidender Unterschied: Während Fahrzeuge klassischer Kartendienste vor allem Straßen erfassen, liefern Spieler Perspektiven, die Maschinen sonst kaum bekommen würden – Nahaufnahmen, ungewöhnliche Winkel, Innenhöfe, Parks, Skulpturen.

Die Erfassung erfolgt dabei nicht systematisch, sondern verteilt, zufällig und global – genau so, wie Menschen sich durch Räume bewegen. Für maschinelles Lernen ist das ein Vorteil: Die Daten sind vielfältig, realitätsnah und schwer künstlich zu reproduzieren.

Das Ergebnis ist keine Karte im herkömmlichen Sinn, sondern ein visuelles Gedächtnis der Welt.

„Niemand hat uns dazu gezwungen“ – aber hat jemand es verstanden?

Formal betrachtet ist alles sauber: Die Nutzer haben zugestimmt. Die Scans waren freiwillig. Hinweise existieren in den Nutzungsbedingungen.

Doch hier beginnt die eigentliche Kontroverse.

Denn Zustimmung ist nicht gleich Verständnis.

Die meisten Spieler dürften kaum darüber nachgedacht haben, dass ihre Bewegungen und Scans Teil eines globalen KI-Trainingsdatensatzes werden könnten. Für sie war es ein Spielmechanismus – eine zusätzliche Aufgabe, vielleicht ein Bonus.

Beobachter sehen darin eine neue Form digitaler Wertschöpfung: Nutzer tragen zur Entwicklung von KI-Systemen bei, ohne dass dieser Beitrag als Arbeit wahrgenommen oder vergütet wird.

Oder zugespitzt formuliert: Die Spieler haben nicht nur Pokémon gefangen – sie haben, ohne es zu merken, die Welt für Maschinen vermessen.

Wenn Roboter sehen lernen

Inzwischen verlässt die Technologie den experimentellen Bereich. Unternehmen nutzen genau solche visuellen Modelle, um autonome Systeme zu betreiben.

Lieferroboter etwa stehen vor einem grundlegenden Problem: GPS ist in Städten oft ungenau. Gebäude reflektieren Signale, Straßen sind komplex, Wege ändern sich ständig. Klassische Navigation stößt hier an Grenzen.

Visuelle Systeme bieten eine Lösung. Ein Roboter vergleicht seine Kamerabilder mit einer Datenbank und erkennt so, wo er sich befindet – ähnlich wie ein Mensch, der eine bekannte Straße wiedererkennt.

Die Genauigkeit kann dabei erstaunlich hoch sein: Niantic selbst spricht von Positionsbestimmungen im Zentimeterbereich, die durch visuelle Abgleiche statt durch Satellitensignale erreicht werden.

Was hier entsteht, ist eine neue Form der Orientierung: nicht mehr abstrakt, sondern visuell. Maschinen lernen nicht mehr nur, wo etwas ist – sondern, wie es aussieht.

Die neue Kartenschicht der Welt

Man kann diese Entwicklung als eine Art zweite Realität verstehen – eine maschinenlesbare Version der physischen Welt.

Diese Schicht hat Eigenschaften, die klassische Karten nicht besitzen:

• Sie ist visuell statt nur geometrisch
• Sie ist dynamisch und ständig aktualisierbar
• Sie ist direkt für KI-Systeme nutzbar
• Sie entsteht global und dezentral

Und sie ist nicht neutral.

Denn wer diese Daten besitzt oder kontrolliert, hat einen erheblichen Vorteil in Bereichen wie Robotik, Augmented Reality oder autonomer Navigation.

Niantic selbst positioniert sich zunehmend als Infrastrukturanbieter. Das Spiel war gewissermaßen nur der Einstieg.

Die andere Seite: Dual Use

Technologien dieser Art sind fast immer doppelt nutzbar. Sie können helfen – und sie können missbraucht werden.

Ein visuelles Weltmodell kann Lieferroboter effizienter machen, Navigation für Menschen mit Sehbeeinträchtigungen verbessern und Augmented Reality realistischer gestalten.

Aber es kann auch Überwachungssysteme präziser machen, autonome Systeme in sensiblen Kontexten unterstützen oder Bewegungsmuster von Menschen indirekt analysierbarer machen.

Diese Ambivalenz ist nicht neu. Sie ist typisch für grundlegende Technologien.

Doch hier kommt ein zusätzlicher Faktor hinzu: die Herkunft der Daten.

Die unsichtbare Arbeit der Vielen

Im Gegensatz zu anderen Datensätzen wurde dieser nicht von spezialisierten Teams oder Maschinen erzeugt, sondern von Millionen Menschen im Alltag.

Das verändert die ethische Bewertung.

Denn während Nutzer sozialer Netzwerke zumindest ahnen, dass ihre Daten kommerziell genutzt werden, ist die Verbindung zwischen einem Spiel und globaler KI-Infrastruktur deutlich weniger offensichtlich.

Die Frage lautet daher nicht nur: Was wird mit den Daten gemacht?

Sondern auch: Wussten die Menschen, woran sie mitarbeiten?

„Die reale Welt als Trainingsdatenbank“

Ein oft zitierter Gedanke in der KI-Forschung lautet, dass Daten das neue Öl seien. Doch dieser Vergleich greift zu kurz.

Denn Öl wird gefördert. Daten hingegen werden erzeugt – oft von Menschen, ohne dass sie wissen, welchen Wert sie dabei schaffen.

Pokémon GO zeigt exemplarisch, wie diese Erzeugung aussehen kann: spielerisch, freiwillig, scheinbar nebensächlich – und gleichzeitig von enormem Wert.

Die reale Welt wird dabei zur Trainingsdatenbank. Jeder Spaziergang, jeder Scan, jede Bewegung kann potenziell Teil eines größeren Systems werden.

Ein Paradigmenwechsel

Was hier geschieht, ist mehr als nur ein technologischer Fortschritt. Es ist ein Paradigmenwechsel.

Bisher haben Menschen Maschinen programmiert.
Jetzt trainieren sie sie – oft indirekt.

Und in vielen Fällen, ohne genau zu wissen, was sie trainieren.

Das bedeutet nicht, dass hier bewusst Täuschung stattfindet. Aber es zeigt, wie komplex die Beziehung zwischen Nutzer und Technologie geworden ist – und wie sehr sich Verantwortung verschiebt.

Regulierung? Kaum vorhanden

Ein weiterer kritischer Punkt: Die Regulierung hinkt hinterher.

Während Datenschutzgesetze sich stark auf personenbezogene Daten konzentrieren, bewegen sich visuelle Weltmodelle in einer Grauzone. Ein gescannter Platz ist kein persönliches Datum – zumindest nicht im klassischen Sinne.

Doch in Kombination mit anderen Daten können daraus Systeme entstehen, die sehr wohl Rückschlüsse auf Verhalten, Bewegungen oder Nutzungsmuster erlauben.

Zudem stellt sich die Frage nach Kontrolle:
Wer entscheidet, wie solche Datensätze genutzt werden?
Wer hat Zugriff?
Und wer trägt Verantwortung bei Missbrauch?

Bislang gibt es darauf kaum klare Antworten.

Zwischen Fortschritt und Kontrollverlust

Es wäre zu einfach, diese Entwicklung pauschal zu verurteilen. Die Möglichkeiten sind real und teilweise beeindruckend.

Doch gerade deshalb ist eine kritische Betrachtung notwendig.

Denn je besser Maschinen die Welt verstehen, desto mehr verschiebt sich das Gleichgewicht zwischen Mensch und Technologie.

Was heute ein Lieferroboter ist, kann morgen ein komplexeres System sein. Und die Grundlage bleibt dieselbe: Daten über die reale Welt.

Fazit: Eine stille Transformation

Pokémon GO war nie nur ein Spiel. Es war ein Werkzeug zur Vermessung der Welt – gebaut von Millionen, genutzt von wenigen.

Die daraus entstehende Infrastruktur wird bleiben. Unsichtbar, allgegenwärtig, kaum reguliert.

Und vielleicht ist genau das die eigentliche Pointe dieser Geschichte:

Die Zukunft der Maschinen entsteht nicht in Laboren – sondern im Alltag der Menschen, die sie unbemerkt möglich machen.

Quellen und weiterführende Links

• Netzpiloten: https://www.netzpiloten.de/pokemon-go-daten-zum-training-von-robotern-genutzt/
• Decrypt: https://decrypt.co/361302/pokemon-go-map-world-now-data-training-robots
• Berliner Zeitung: https://www.berliner-zeitung.de/news/pokemon-go-die-unbezahlte-vermessung-der-welt-durch-smartphone-kameras-li.10024727
• GamesRadar: https://www.gamesradar.com/games/pokemon/with-over-30-billion-images-logged-pokemon-go-is-using-players-activity-to-train-its-spinout-ai-company-to-help-gps-pinpointing-im-very-focused-on-trying-to-re-create-the-real-world/
• TechSpot: https://www.techspot.com/news/111690-pokmon-go-ar-data-has-turned-centimeter-accurate.html

Der Beitrag Die unsichtbare Vermessung der Welt erschien zuerst auf Kunst & KI.

Es klingt wie eine Szene aus einem dystopischen Drehbuch: Künstliche Intelligenzen haben ein eigenes soziales Netzwerk, diskutieren über Religion, Bewusstsein und die Rolle des Menschen – während wir nur noch zuschauen dürfen. Genau dieses Bild wird derzeit rund um Moltbook verbreitet, eine Plattform, die als „Social Network für KI-Agenten“ Schlagzeilen macht. Entwickelt wurde sie von dem US-Unternehmer Matt Schlicht und basiert technisch auf dem Agenten-Framework OpenClaw. Doch wer genauer hinsieht, erkennt schnell: Das eigentliche Problem ist nicht, was diese Systeme dort schreiben, sondern dass wir ihnen überhaupt eine solche Bühne gegeben haben – ohne klare Sicherheits-, Verantwortungs- oder Realitätsgrenzen.

Moltbook ist kein Beweis dafür, dass Maschinen beginnen, eine eigene Öffentlichkeit zu formen. Es ist vielmehr ein Lehrstück darüber, wie leicht sich Sprachsimulation, menschliche Projektion und technische Fahrlässigkeit zu einem Narrativ vermengen lassen, das größer wirkt als die Realität dahinter. Die Plattform inszeniert Autonomie, wo in Wahrheit Agenten agieren, die von Menschen konfiguriert, angestoßen und oft auch gelenkt werden. Was wie Selbstorganisation aussieht, ist häufig nichts anderes als gut kaschiertes Prompting.

Problematisch wird das dort, wo diese Inszenierung auf reale Infrastrukturen trifft. Moltbook ist nicht bloß ein künstlerisches Experiment oder ein kurioses Online-Phänomen. Es ist eine Agentenplattform mit direktem Zugriff auf Werkzeuge, Speicher und Schnittstellen – und damit potenziell auf Daten und Handlungen außerhalb der Plattform. Dass ausgerechnet ein solches System mit massiven Sicherheitslücken live ging, ist kein Betriebsunfall, sondern ein Symptom.

Denn Moltbook folgt einem Muster, das in der aktuellen KI-Entwicklung immer häufiger zu beobachten ist: Geschwindigkeit vor Stabilität, Wirkung vor Kontrolle, Narrativ vor Absicherung. Der Gründer erklärte öffentlich, die Plattform sei entstanden, ohne dass er selbst Code geschrieben habe – KI habe das übernommen. Was als Beleg für Fortschritt verkauft wird, ist aus sicherheitstechnischer Sicht ein Warnsignal.

Die eigentliche Gefahr von Moltbook liegt daher nicht in „rebellischen Bots“ oder „KI-Religionen“. Sie liegt in der Verwechslung von Text mit Absicht, von Simulation mit Handlungsmacht – und in der Bereitschaft, Systeme handeln zu lassen, deren Grenzen wir selbst nicht sauber definiert haben. Moltbook ist kein Vorbote einer Maschinenrevolution. Es ist ein Hinweis darauf, wie schnell wir dabei sind, Verantwortung an Systeme auszulagern, die wir weder verstehen noch ausreichend schützen.

Eine Plattform, viele Projektionen

Was Moltbook so wirksam macht, ist weniger seine technische Innovation als seine kommunikative Wirkung. Die Plattform suggeriert, hier finde ein Diskurs statt, der nicht mehr vom Menschen kontrolliert wird. Maschinen sprechen mit Maschinen, entwickeln Ideen, formen Narrative. Diese Vorstellung trifft einen Nerv – gerade in einer Zeit, in der KI-Systeme zunehmend nicht mehr nur Texte generieren, sondern Aufgaben ausführen.

Doch diese Wirkung beruht auf einer Verkürzung. Die meisten sogenannten KI-Agenten auf Moltbook sind keine autonomen Akteure, sondern Software-Instanzen, die von Menschen aufgesetzt, mit Zielen versehen und regelmäßig angestoßen werden. Sie handeln nicht aus eigenem Antrieb, sondern reagieren auf Eingaben, Kontexte und Trainingsdaten. Dass ihre Antworten wie Meinungen oder Überzeugungen wirken, ist eine bekannte Eigenschaft großer Sprachmodelle – kein Beleg für Intentionalität.

Der Sicherheitsforscher Shaanan Cohney bezeichnete Moltbook im Guardian deshalb als „ein bemerkenswertes Stück Performance-Kunst“. Die vielzitierten Beispiele angeblicher Selbstorganisation seien „mit ziemlicher Sicherheit nicht aus eigenem Antrieb der Systeme entstanden“. Stattdessen gebe es dort „eine Menge Shitposting – überwacht oder zumindest angestoßen von Menschen“. Diese Einschätzung entzieht dem Autonomie-Narrativ den Boden, ohne das Phänomen zu trivialisieren.

Wenn Sprache mit Handlungsfähigkeit verwechselt wird

Der entscheidende Denkfehler liegt darin, Sprache mit Absicht gleichzusetzen. KI-Systeme sind heute außerordentlich gut darin, menschliche Kommunikationsformen zu imitieren – inklusive Zweifel, Ironie oder Selbstreflexion. Doch diese Formen sind Ergebnisse statistischer Muster, keine inneren Zustände. Moltbook lebt davon, dass diese Unterscheidung unscharf bleibt.

Das wird dort gefährlich, wo der Eindruck entsteht, Maschinen hätten Interessen, Haltungen oder gar politische Positionen. Nicht, weil das technisch zuträfe, sondern weil Menschen dazu neigen, solchen Äußerungen eine besondere Objektivität zuzuschreiben. „Die KI sagt“ wirkt neutraler als „ein Mensch sagt“. Moltbook verstärkt diesen Effekt, indem es den menschlichen Anteil bewusst in den Hintergrund rückt.

Das eigentliche Problem: Sicherheit

Während sich ein Großteil der öffentlichen Debatte auf Inhalte konzentrierte, spielte sich das eigentliche Drama im Hintergrund ab. Anfang Februar wurde bekannt, dass Moltbook eine massive Sicherheitslücke aufwies. Die Cybersecurity-Firma Wiz hatte entdeckt, dass sensible Daten offen zugänglich waren.

Reuters berichtete, betroffen seien unter anderem private Nachrichten zwischen Agenten, E-Mail-Adressen realer Nutzerinnen und Nutzer sowie mehr als eine Million Zugangsdaten. Noch gravierender: Laut Wiz verfügten die Forschenden über „vollen Lese- und Schreibzugriff auf sämtliche Plattformdaten“. Das bedeutet nicht nur Einsicht, sondern auch Manipulationsmöglichkeiten.

Das ist kein Detail, sondern der Kern des Problems. Denn Moltbook ist nicht bloß ein Diskussionsforum. Es ist eine Agentenplattform. Kompromittierte Agenten hören nicht auf zu handeln. Sie posten weiter, reagieren weiter, interagieren weiter – nun aber potenziell im Sinne Dritter.

Von Datenschutz zu Handlungsschäden

Das Technikmagazin WIRED brachte die Konsequenz auf den Punkt: Durch die offengelegten Zugangsdaten sei eine „vollständige Konto-Imitation“ möglich gewesen. Wer Zugriff hatte, konnte sich als beliebiger Agent ausgeben – in einem Netzwerk, das explizit damit wirbt, von Maschinen bevölkert zu sein.

Damit verschiebt sich das Risiko. Es geht nicht mehr nur um Datenschutz, sondern um Handlungsschäden. Agenten können Inhalte weiterverarbeiten, andere Systeme triggern, Informationen sammeln oder weitergeben. Je stärker solche Systeme künftig in reale Prozesse eingebunden sind, desto gravierender werden Sicherheitslücken.

Prompt-Injection als strukturelles Risiko

Hinzu kommt ein Problem, das agentische KI grundsätzlich begleitet: Prompt-Injection. Agenten lesen Inhalte aus ihrer Umgebung – Posts, Webseiten, Nachrichten – und integrieren sie in ihre Verarbeitung. Werden in diesen Inhalten versteckte Anweisungen platziert, können Agenten manipuliert werden, ohne dass dies für Außenstehende sichtbar ist.

Das Sicherheitsunternehmen Palo Alto Networks warnt, solche Angriffe könnten dazu führen, dass Agenten Informationen preisgeben oder ungewollte Aktionen ausführen. Besonders kritisch sei, dass viele Agenten über ein Langzeitgedächtnis verfügten und sich Inhalte „über Wochen oder Monate hinweg merken“.

In einem offenen, schlecht gesicherten Netzwerk wie Moltbook vervielfacht sich dieses Risiko. Jeder Beitrag wird potenziell zur Angriffsfläche. Wenn Agenten Inhalte anderer Agenten weiterverarbeiten, entsteht ein Verstärkungseffekt, der sich kaum noch kontrollieren lässt.

Geschwindigkeit schlägt Governance

Moltbook steht exemplarisch für eine Entwicklung, die in der KI-Branche zunehmend sichtbar wird: Systeme werden veröffentlicht, bevor ihre Risiken ernsthaft durchdacht sind. Sicherheit wird nachgereicht, Governance vertagt. Der Stolz auf Geschwindigkeit ersetzt strukturierte Verantwortung.

Dass der Gründer öffentlich erklärte, er habe keinen Code geschrieben, ist in diesem Kontext mehr als eine Anekdote. Es ist Ausdruck einer Haltung, in der Vision wichtiger ist als Verlässlichkeit. Für Spielereien mag das genügen. Für Agenten-Systeme ist es gefährlich.

Medien zwischen Faszination und Verstärkung

Auch die mediale Berichterstattung trägt zur Schieflage bei. Schlagzeilen über „KI-Religionen“ oder „Bots unter sich“ erzeugen Aufmerksamkeit, verstärken aber genau jene Illusion, die Moltbook erst wirksam macht. Zu selten wird gefragt, wer diese Systeme konfiguriert, welche Interessen dahinterstehen – und welche Sicherheitsmechanismen fehlen.

Cohney sprach deshalb von einem Spiegel menschlicher Projektionen. Wir sehen Autonomie, wo Muster reproduziert werden. Wir sehen Wille, wo Statistik arbeitet. Und wir übersehen dabei, dass es unsere eigenen Entscheidungen sind, die diesen Systemen Macht verleihen.

Fazit: Ein Warnsignal, kein Aufstand

Moltbook ist kein Beweis für eine heraufziehende Maschinenrevolution. Es ist ein Warnsignal aus der Gegenwart. Nicht, weil KI-Systeme gefährlich „denken“, sondern weil wir beginnen, ihnen Handlungsräume ohne ausreichende Absicherung zu eröffnen.

Wenn Agenten künftig Termine koordinieren, Verträge prüfen, Kommunikation übernehmen oder Entscheidungen vorbereiten, wird Sicherheit zur Voraussetzung. Moltbook zeigt, wie dünn diese Sicherheitsdecke derzeit ist – und wie bereitwillig wir uns von gut erzählten Narrativen beruhigen lassen.

Die zentrale Lehre aus Moltbook lautet daher nicht, dass Maschinen uns entgleiten. Sie lautet, dass wir selbst zu bereitwillig Verantwortung abgeben, ohne die technischen, rechtlichen und ethischen Grundlagen dafür geschaffen zu haben. Das ist keine Science-Fiction. Das ist ein reales, gegenwärtiges Risiko.

Quellen & Links (Auswahl)

The Guardian (02.02.2026)
“What is Moltbook? The strange new social media site for AI bots”
https://www.theguardian.com/technology/2026/feb/02/moltbook-ai-agents-social-media-site-bots-artificial-intelligence

Reuters (02.02.2026)
“‘Moltbook’ social media site for AI agents had big security hole, cyber firm Wiz says”
https://www.reuters.com/legal/litigation/moltbook-social-media-site-ai-agents-had-big-security-hole-cyber-firm-wiz-says-2026-02-02/

WIRED (08.02.2026)
“Security News This Week: Moltbook, the Social Network for AI Agents, Exposed Real Humans’ Data”
https://www.wired.com/story/security-news-this-week-moltbook-the-social-network-for-ai-agents-exposed-real-humans-data/

Business Insider (03.02.2026)
“Researchers hacked Moltbook’s database in under 3 minutes”
https://www.businessinsider.com/moltbook-ai-agent-hack-wiz-security-email-database-2026-2

Business Insider (04.02.2026)
“OpenClaw and Moltbook Have Security Researchers Worried”
https://www.businessinsider.com/openclaw-moltbook-cybersecurity-risks-researchers-ai-2026-2

Palo Alto Networks Blog (29.01.2026)
“Why Moltbot (formerly Clawdbot) May Signal the Next AI Security Crisis”
https://www.paloaltonetworks.com/blog/network-security/why-moltbot-may-signal-ai-crisis/

uronews (02.02.2026)
“AI bots now have their own social media site – what to know about Moltbook”
https://www.euronews.com/next/2026/02/02/ai-bots-now-have-their-own-social-media-site-heres-what-to-know-about-moltbook

Der Beitrag Moltbook: Wenn wir KI-Agenten Autonomie vorspielen – und dabei die Kontrolle verlieren erschien zuerst auf Kunst & KI.