Die Warnung klang wie aus einem Science-Fiction-Roman. Das KI-Unternehmen Anthropic warnte jüngst vor der Möglichkeit einer rekursiven Selbstverbesserung künstlicher Intelligenz – also vor Systemen, die künftig an der Entwicklung ihrer eigenen Nachfolger mitwirken könnten. In den Medien war schnell von „Skynet-Szenarien“ die Rede. Gleichzeitig bereitet das Unternehmen Berichten zufolge seinen Börsengang vor. Die Botschaft an Öffentlichkeit und Investoren lautet damit sinngemäß: Unsere Technologie ist so bedeutend, dass sie die Welt verändern könnte – und so mächtig, dass sie möglicherweise kontrolliert werden muss.

Genau hier beginnt das eigentliche Problem.

Denn die Diskussion über KI wird derzeit von zwei scheinbar widersprüchlichen Erzählungen geprägt. Auf der einen Seite stehen die großen Verheißungen: Produktivitätssprünge, medizinische Durchbrüche, wissenschaftliche Revolutionen und milliardenschwere neue Märkte. Auf der anderen Seite warnen dieselben Unternehmen vor Kontrollverlust, gesellschaftlichen Verwerfungen und Risiken, deren Ausmaß niemand seriös abschätzen kann.

Das Ergebnis ist eine bemerkenswerte politische und gesellschaftliche Schieflage.

Während Bürger in vielen westlichen Ländern mit Verweis auf Klimaschutz, Energieeffizienz und Nachhaltigkeit zu Verhaltensänderungen angehalten werden, investiert die KI-Branche gleichzeitig gigantische Summen in Rechenzentren, Infrastruktur und Stromversorgung. Der Energiebedarf moderner KI-Systeme steigt rasant. Die größten Technologieunternehmen der Welt sichern sich zunehmend Zugriff auf Stromnetze, Rechenkapazitäten und teilweise sogar auf eigene Energieprojekte.

Die entscheidende Frage lautet daher nicht mehr nur, was KI kann.

Die Frage lautet: Wer entscheidet eigentlich darüber, welches Risiko eine Gesellschaft akzeptieren soll – und für welchen erwarteten Nutzen?

Eine Technologie mit unbekanntem Ziel

Besonders auffällig ist die Unsicherheit, die die gesamte Debatte durchzieht.

Anthropic-CEO Dario Amodei erklärte bereits 2024 gegenüber dem Magazin Time:

„The world is not ready for what is coming.“

Die Aussage wurde vielfach zitiert und steht exemplarisch für den Ton vieler KI-Debatten.

Auch OpenAI-Chef Sam Altman formulierte bereits 2023 gegenüber dem US-Senat:

„My worst fears are that we cause significant harm to the world.“

Es sind bemerkenswerte Aussagen.

Denn selten in der Geschichte wurden Technologien gleichzeitig mit solch weitreichenden Versprechen und solch weitreichenden Warnungen beworben.

Normalerweise wird eine neue Technologie eingeführt, weil ihr Nutzen relativ klar erscheint. Das Auto erleichterte Mobilität. Elektrizität ermöglichte industrielle Entwicklung. Das Internet beschleunigte Kommunikation.

Bei künstlicher Intelligenz hingegen entsteht zunehmend der Eindruck, dass selbst die Entwickler nicht genau wissen, wohin die Reise führt.

Das bedeutet nicht, dass KI nutzlos wäre. Bereits heute gibt es sinnvolle Anwendungen in Medizin, Forschung, Softwareentwicklung oder Verwaltung.

Doch die Größenordnung der versprochenen Revolution steht bislang in keinem klaren Verhältnis zu den bekannten Risiken und Kosten.

Warum plötzlich von „Skynet“ die Rede ist

Der Begriff „Skynet“ stammt aus der Terminator-Filmreihe. Dort entwickelt das militärische KI-System Skynet ein eigenes Bewusstsein, entzieht sich menschlicher Kontrolle und beginnt einen Krieg gegen die Menschheit.

Natürlich behauptet heute niemand ernsthaft, dass ein solches Szenario unmittelbar bevorsteht.

Der Begriff wird jedoch als Metapher verwendet, wenn über sogenannte rekursive Selbstverbesserung gesprochen wird. Gemeint sind KI-Systeme, die bei der Entwicklung leistungsfähigerer Nachfolgemodelle helfen und dadurch einen sich selbst verstärkenden Innovationsprozess in Gang setzen könnten.

Genau vor einem solchen Szenario warnen einige KI-Forscher. Nicht, weil sie morgen mit Killerrobotern rechnen, sondern weil sie befürchten, dass die Entwicklungsgeschwindigkeit irgendwann schneller wachsen könnte als die Fähigkeit von Politik, Gesellschaft und Aufsichtsbehörden, die Technologie noch wirksam zu kontrollieren.

Doch gerade hier entsteht ein bemerkenswerter Widerspruch:

Dieselben Unternehmen, die vor solchen Risiken warnen, investieren gleichzeitig Milliarden in die Beschleunigung genau dieser Entwicklung.

Die eigentliche Gefahr heißt Machtkonzentration

Die öffentliche Diskussion konzentriert sich häufig auf spektakuläre Szenarien einer außer Kontrolle geratenen Superintelligenz.

Dabei liegt eine viel realistischere Gefahr womöglich ganz woanders.

Nämlich in der Konzentration wirtschaftlicher und politischer Macht.

Der Aufbau moderner KI-Systeme erfordert enorme Investitionen. Nur wenige Unternehmen verfügen über die finanziellen Mittel, die Rechenleistung und die Datenmengen, um an der Spitze des Wettbewerbs mitzuspielen.

Dadurch entsteht ein Oligopol aus wenigen globalen Akteuren.

Diese Unternehmen entwickeln die Technologie.

Sie betreiben die Infrastruktur.

Sie prägen die öffentliche Debatte.

Und sie formulieren gleichzeitig die Warnungen vor den Risiken ihrer eigenen Produkte.

Genau darin liegt ein demokratisches Problem.

Denn die Frage, wie viel Risiko eine Gesellschaft akzeptiert, sollte nicht allein von denjenigen beantwortet werden, die wirtschaftlich von diesem Risiko profitieren.

Die Verantwortungslücke

Hinzu kommt ein weiteres Problem.

Selbst wenn man die dystopischen Vorstellungen einer rebellierenden Superintelligenz für übertrieben hält, bleibt die Frage der Verantwortung ungelöst.

Wer trägt die Verantwortung, wenn KI-Systeme künftig wissenschaftliche Forschung beschleunigen, Entscheidungen vorbereiten oder sogar Teile ihrer eigenen Weiterentwicklung übernehmen?

Juristisch ist die Antwort einfach: Unternehmen und Betreiber.

Praktisch wird die Lage schwieriger.

Wenn Systeme immer komplexer werden und selbst Experten nicht mehr vollständig nachvollziehen können, wie bestimmte Ergebnisse zustande kommen, entsteht eine Verantwortungslücke.

Menschen bleiben formal verantwortlich.

Faktisch verstehen sie die Entscheidungsprozesse jedoch möglicherweise nicht mehr vollständig.

Die Folge wäre keine Maschinenherrschaft.

Die Folge wäre eine schleichende Erosion menschlicher Kontrolle.

Der Energie-Widerspruch

Besonders deutlich wird die gesellschaftliche Spannung beim Thema Energie.

Politik und Öffentlichkeit diskutieren seit Jahren über CO₂-Fußabdrücke, Energieeinsparungen und Verhaltensänderungen.

Gleichzeitig wächst der Strombedarf der KI-Industrie in einem Ausmaß, das vor wenigen Jahren kaum vorstellbar gewesen wäre.

Befürworter argumentieren, dass der Nutzen dies rechtfertigen werde.

Kritiker halten dagegen, dass dieser Nutzen bislang weitgehend auf Erwartungen beruht.

Hier entsteht ein offensichtlicher Widerspruch.

Von Bürgern wird verlangt, heute Belastungen zu akzeptieren, um zukünftige Klimarisiken zu reduzieren.

Von der Gesellschaft wird gleichzeitig erwartet, heute enorme Investitionen und Ressourcenverbräuche zu akzeptieren, um mögliche zukünftige KI-Vorteile zu realisieren.

In beiden Fällen handelt es sich um Wetten auf die Zukunft.

Der Unterschied besteht darin, dass die wirtschaftlichen Gewinner der KI-Revolution bereits bekannt sind, während ihre gesellschaftlichen Gewinner bislang weitgehend hypothetisch bleiben.

Keine Technikfeindlichkeit, sondern Technikfolgenabschätzung

Die Kritik an dieser Entwicklung ist keineswegs technikfeindlich.

Im Gegenteil.

Gerade weil KI potenziell enorme Auswirkungen haben könnte, wäre eine breite gesellschaftliche Debatte notwendig.

Nicht nur über technische Risiken.

Sondern über Eigentum, Kontrolle, Haftung, Transparenz und demokratische Legitimation.

Wer entscheidet über den Einsatz solcher Systeme?

Wer profitiert von Produktivitätsgewinnen?

Wer trägt die Risiken?

Und welche Grenzen sollen gelten?

Diese Fragen sind wichtiger als jede Spekulation über „Skynet“.

Denn die wahrscheinlichsten Konflikte der kommenden Jahre werden nicht zwischen Menschen und Maschinen stattfinden.

Sie werden zwischen unterschiedlichen gesellschaftlichen Interessen stattfinden.

Fazit: Die eigentliche Bewährungsprobe

Die KI-Branche befindet sich an einem Wendepunkt.

Vielleicht erleben wir tatsächlich den Beginn einer technologischen Revolution.

Vielleicht erleben wir aber auch eine Phase übersteigerter Erwartungen, die in einigen Jahren deutlich nüchterner bewertet werden wird.

Beides ist möglich.

Gerade deshalb sollte Vorsicht kein Hindernis für Innovation sein, sondern ihre Voraussetzung.

Wer von der Gesellschaft verlangt, gewaltige Investitionen, steigenden Energieverbrauch und tiefgreifende Veränderungen zu akzeptieren, muss mehr liefern als Zukunftsvisionen und Marketingbotschaften.

Er muss nachvollziehbar erklären können, warum die Risiken beherrschbar sind, wie die Gewinne verteilt werden und wer die Verantwortung trägt.

Solange diese Fragen unbeantwortet bleiben, ist Skepsis kein Ausdruck von Technikfeindlichkeit.

Sie ist Ausdruck demokratischer Vernunft.

Quellen und weiterführende Links

• Heise: „Skynet-Szenario: Anthropic warnt vor KI, die sich selbst entwickelt“
  https://www.heise.de/news/Skynet-Szenario-Anthropic-warnt-vor-KI-die-sich-selbst-entwickelt-11319846.html
• Anthropic – Forschung zu rekursiver Selbstverbesserung
  https://www.anthropic.com
• Time Magazine – Interview mit Dario Amodei
  https://time.com
• US-Senat: Anhörung von Sam Altman (2023)
  https://www.judiciary.senate.gov
• Finanzen.net: „KI-Blase vor dem Platzen? Diese vier Gefahren bedrohen den Mega-Boom“
  https://www.finanzen.net/nachricht/aktien/risiken-fuer-den-hype-ki-blase-vor-dem-platzen-diese-vier-gefahren-bedrohen-den-mega-boom-00-15723132
• Reuters: Berichte zur IPO-Einreichung von Anthropic
  https://www.reuters.com
• AP News: Diskussion über KI-Sicherheitsmechanismen und Regulierung
  https://apnews.com

Der Beitrag Skynet als Geschäftsmodell? erschien zuerst auf Kunst & KI.

Die Zukunft der künstlichen Intelligenz klingt in politischen Reden und Marketingkampagnen oft wie ein technisches Heilsversprechen. KI soll Krankheiten früher erkennen, Behörden effizienter machen, Cyberangriffe stoppen, Verkehrsströme optimieren und sogar die Folgen des Klimawandels besser beherrschbar machen. Doch ausgerechnet dort, wo die Risiken am größten sind, zeigen sich inzwischen die Grenzen datengetriebener Systeme besonders deutlich.

Eine aktuelle Studie des Karlsruher Instituts für Technologie (KIT) und der Universität Genf sorgt derzeit in der Meteorologie für Aufsehen. Die Forscher verglichen moderne KI-Wettermodelle wie GraphCast, Pangu Weather und Fuxi mit klassischen physikbasierten Wettermodellen. Das Ergebnis: Während KI-Systeme bei gewöhnlichen Wetterlagen oft erstaunlich präzise arbeiten, unterschätzen sie Extremereignisse systematisch – darunter Hitzewellen, Starkregen und Orkanböen.

Das KIT formuliert den Befund ungewöhnlich klar: „Während KI-Modelle bei der Gesamtbewertung aller Wetterlagen gut abschneiden, zeigen sie bei Rekordereignissen durchweg größere Prognosefehler.“ Besonders problematisch sei, dass die Systeme „sowohl die Intensität als auch die Häufigkeit extremer Ereignisse“ unterschätzen.

Das ist kein bloß akademisches Problem. Wenn Hochwasserwarnungen zu niedrig ausfallen oder extreme Hitzewellen nicht rechtzeitig erkannt werden, kann das Menschenleben kosten. Gerade weil Extremereignisse selten sind, liegen sie oft außerhalb jener Datenbereiche, aus denen KI-Systeme gelernt haben. Mit dem Klimawandel verschärft sich dieses Problem zusätzlich: Die Vergangenheit wird als Trainingsgrundlage immer unzuverlässiger.

Doch die eigentliche Brisanz reicht weit über die Meteorologie hinaus. Das Wetterproblem ist nur ein sichtbares Symptom eines grundlegenderen Konflikts: Was passiert mit einer Gesellschaft, wenn immer mehr Entscheidungen auf statistischen Systemen beruhen, die niemand mehr wirklich nachvollziehen kann?

Die Illusion statistischer Sicherheit

Die meisten modernen KI-Systeme funktionieren nicht wie klassische Programme. Sie folgen nicht einer transparenten Kette von Regeln, sondern lernen Muster aus gigantischen Datenmengen. Genau das macht sie leistungsfähig – und zugleich gefährlich.

Solange die Realität den Trainingsdaten ähnelt, liefern diese Systeme oft beeindruckende Ergebnisse. Doch bei seltenen Ausnahmefällen, neuen Situationen oder gesellschaftlichen Umbrüchen geraten sie an strukturelle Grenzen. Informatiker sprechen von „Out-of-Distribution“-Problemen: Das Modell wird mit einer Situation konfrontiert, die außerhalb seines Erfahrungsraums liegt.

Das Wetterbeispiel zeigt diese Schwäche besonders deutlich. Doch ähnliche Probleme existieren längst in anderen Bereichen.

In der Medizin etwa können KI-Systeme bei Standardfällen sehr gute Ergebnisse erzielen. Schwieriger wird es bei seltenen Erkrankungen, atypischen Symptomen oder unterrepräsentierten Patientengruppen. In der Cybersicherheit erkennen Algorithmen bekannte Angriffsmuster oft schneller als Menschen – aber gerade neuartige Angriffstechniken entziehen sich statistischen Routinen.

Trotzdem wächst der Druck, solche Systeme immer umfassender einzusetzen. Behörden experimentieren mit automatisierter Risikobewertung, Unternehmen mit algorithmischer Personalsteuerung, Versicherungen mit KI-gestützten Schadensanalysen. Der gemeinsame Nenner lautet stets: Effizienz.

Die eigentliche Gefahr entsteht jedoch nicht erst dann, wenn ein System spektakulär versagt. Sie beginnt bereits in dem Moment, in dem Menschen institutionell lernen, den Systemen zu vertrauen.

Vom Hilfsmittel zur Autorität

Der deutsch-amerikanische Informatiker und KI-Pionier Joseph Weizenbaum warnte bereits 1976 vor genau dieser Entwicklung. In seinem Buch „Computer Power and Human Reason“ schrieb er:

„Die Frage ist nicht, ob so etwas getan werden kann, sondern ob es angemessen ist, diese bislang menschliche Funktion an eine Maschine zu delegieren.“

Und weiter:

„Die Grenzen der Anwendbarkeit von Computern lassen sich letztlich nur in Begriffen dessen formulieren, was sein soll.“

Weizenbaum kritisierte nicht bloß technische Fehler, sondern die Vorstellung, menschliches Urteil durch Berechnung ersetzen zu können. Besonders entschieden wandte er sich gegen den Einsatz von Computern in Bereichen, die Verantwortung, Ethik oder menschliche Abwägung erfordern.

Heute wirken seine Warnungen erstaunlich aktuell.

Denn moderne KI verändert nicht nur Werkzeuge, sondern Institutionen. In vielen Bereichen entsteht schleichend ein sogenannter „Automation Bias“: Menschen gewöhnen sich daran, algorithmischen Empfehlungen zu folgen – selbst dann, wenn sie Zweifel haben.

Piloten verlassen sich auf Autopiloten. Ärzte auf Diagnosevorschläge. Sachbearbeiter auf Risikoscores. Analysten auf Prognosemodelle.

Je häufiger die Systeme richtig liegen, desto größer wird die psychologische Hemmschwelle, ihnen zu widersprechen.

Damit verschiebt sich Verantwortung. Formal bleibt zwar meist ein Mensch zuständig. Praktisch aber wird menschliche Kontrolle oft zu einer symbolischen Restfunktion.

Blackbox statt Rechtsstaat

Besonders problematisch wird das in demokratischen und rechtsstaatlichen Systemen.

Denn moderne Rechtsstaaten beruhen auf Grundprinzipien wie Nachvollziehbarkeit, Begründungspflicht und Anfechtbarkeit. Entscheidungen müssen überprüfbar sein. Betroffene müssen verstehen können, warum sie benachteiligt, abgelehnt oder überwacht werden.

Viele KI-Systeme stehen genau dazu im Widerspruch.

Große neuronale Modelle arbeiten hochkomplex und oft intransparent. Selbst Entwickler können häufig nicht exakt erklären, warum ein System zu einem bestimmten Ergebnis gekommen ist. Die Folge ist ein fundamentaler Konflikt zwischen statistischer Optimierung und demokratischer Legitimation.

Ein Beispiel dafür lieferte bereits der niederländische Sozialskandal um das System SyRI, mit dem Behörden automatisiert Sozialbetrug erkennen wollten. Bürger wurden algorithmisch als Verdachtsfälle markiert, ohne nachvollziehen zu können, nach welchen Kriterien das geschah. Gerichte stoppten das System schließlich wegen massiver Datenschutz- und Rechtsstaatsbedenken.

Ähnliche Debatten laufen inzwischen europaweit.

Die Europäische Union versucht mit ihrem KI-Gesetz zwar, Hochrisikosysteme stärker zu regulieren. Doch viele Experten bezweifeln, dass Transparenzpflichten allein ausreichen.

Denn selbst wenn ein System statistisch korrekt arbeitet, bleibt die Frage offen, ob demokratische Gesellschaften bestimmte Entscheidungen überhaupt an datengetriebene Modelle delegieren sollten.

Die neue Macht der Konzerne

Hinzu kommt ein weiterer Faktor: Konzentration.

Die leistungsfähigsten KI-Systeme werden heute von wenigen globalen Konzernen kontrolliert. Training, Infrastruktur und Rechenleistung kosten Milliardenbeträge. Staaten, Behörden und Unternehmen geraten dadurch zunehmend in Abhängigkeit von proprietären Modellen, deren Funktionsweise oft Geschäftsgeheimnisse bleibt.

Damit entsteht eine neue Form technologischer Macht.

Wenn Verwaltung, Medizin, Bildung oder kritische Infrastruktur künftig auf Systeme angewiesen sind, die von einigen wenigen Unternehmen betrieben werden, verschiebt sich demokratische Kontrolle hin zu privatwirtschaftlichen Plattformen.

Der öffentliche Diskurs über KI wird zusätzlich durch massives Marketing verzerrt. Investoren, Tech-Konzerne und politische Akteure haben ein starkes Interesse daran, KI als unvermeidliche Zukunftstechnologie darzustellen. Kritische Einwände erscheinen dann schnell als technikfeindlich oder rückständig.

Weizenbaum warnte bereits vor einem „Mythos technologischer Unvermeidlichkeit“. Heute zeigt sich dieser Mythos in nahezu jeder KI-Debatte: Die Systeme gelten nicht mehr bloß als Möglichkeit, sondern als zwangsläufige Entwicklungsstufe.

Gerade deshalb werden Warnungen oft erst ernst genommen, wenn reale Schäden sichtbar werden.

Die Gefahr der KI-Echokammer

Ein weiteres Problem beginnt erst langsam sichtbar zu werden: die Rückkopplung künstlicher Systeme mit sich selbst.

Immer mehr Texte, Bilder, Analysen und Programmiercodes im Internet stammen inzwischen von KI-Systemen. Gleichzeitig werden neue Modelle mit genau diesen Daten trainiert.

Forscher warnen deshalb vor sogenannten „Model Collapse“-Effekten: Wenn KI zunehmend aus KI-generierten Inhalten lernt, können Informationsvielfalt, Qualität und Robustheit abnehmen.

Das Risiko ist nicht nur technischer Natur. Auch gesellschaftlich entstehen Echokammern.

Wenn algorithmische Systeme bestimmen,

• welche Informationen sichtbar werden,
• welche Texte produziert werden,
• welche Risiken als relevant gelten,
• welche Wahrscheinlichkeiten Entscheidungen beeinflussen,

dann formen statistische Modelle zunehmend selbst jene Wirklichkeit, aus der sie wiederum lernen.

Gerade in sicherheitskritischen Bereichen kann das gefährlich werden.

Ein KI-System, das Bedrohungen falsch priorisiert, beeinflusst menschliche Aufmerksamkeit. Ein Diagnosemodell verändert medizinische Routinen. Ein automatisiertes Verwaltungssystem verändert bürokratische Praxis.

Die Systeme beschreiben Realität dann nicht mehr bloß – sie produzieren sie mit.

Fazit: Die zentrale Frage unserer Zeit

Die aktuelle Wetterstudie ist deshalb weit mehr als eine technische Detaildebatte über Prognosemodelle.

Sie zeigt exemplarisch, wo die Grenzen rein datengetriebener Systeme liegen: ausgerechnet bei seltenen, neuartigen und gesellschaftlich besonders folgenreichen Ereignissen.

Doch die größere Frage lautet nicht, ob KI nützlich sein kann. Natürlich kann sie das.

Die entscheidende Frage ist vielmehr:

Welche Entscheidungen dürfen demokratische Gesellschaften überhaupt an statistische Systeme delegieren?

Denn eine Gesellschaft verliert Kontrolle nicht erst dann, wenn Maschinen vollständig autonom handeln. Kontrolle geht bereits verloren, wenn Entscheidungen zwar formal noch von Menschen bestätigt werden, praktisch aber niemand mehr versteht, überprüft oder verantwortet, wie sie zustande kommen.

Das eigentliche Risiko der KI-Revolution liegt deshalb möglicherweise nicht in einer futuristischen Maschinenherrschaft. Sondern in einer schleichenden Gewöhnung daran, menschliches Urteil durch undurchsichtige Wahrscheinlichkeitsmodelle zu ersetzen.

Die Wettermodelle liefern dafür eine Warnung. Nicht weil KI grundsätzlich nutzlos wäre, sondern weil gerade hochkomplexe Gesellschaften dazu neigen, funktionierende Systeme immer weiter auszudehnen – bis jene Ausnahmefälle auftreten, in denen ihre strukturellen Schwächen sichtbar werden.

Und genau diese Ausnahmefälle entscheiden oft über Sicherheit, Freiheit und demokratische Kontrolle.

Quellen und weiterführende Links

• KIT: „Physikbasierte Wettermodelle bei Extremereignissen zuverlässiger als KI“: https://www.kit.edu/kit/pi_2026_040_physikbasierte-wettermodelle-bei-extremereignissen-zuverlaessiger-als-ki.php
• Science Media Center: „KI-Modelle bei der Vorhersage seltener Wetterextreme unterlegen“: https://www.sciencemediacenter.de/angebote/ki-modelle-bei-der-vorhersage-seltener-wetterextreme-unterlegen-26090
• Frankfurter Rundschau: „Studie zerlegt den KI-Hype“: https://www.fr.de/panorama/studie-zerlegt-den-ki-hype-bei-hitze-sturm-und-starkregen-versagen-die-teuren-algorithmen-zr-94299698.html
• Joseph Weizenbaum: „Computer Power and Human Reason: From Judgment to Calculation“ (1976)
• Europäisches Parlament: EU AI Act: https://www.europarl.europa.eu/topics/de/article/20230601STO93804/gesetz-zur-kunstlichen-intelligenz-der-eu-erste-regeln-fur-ki
• Dokumentation über Joseph Weizenbaum: „Plug & Pray“: http://www.plugandpray-film.com/en/

Der Beitrag Wenn Maschinen entscheiden: Wie der KI-Hype Kontrolle, Verantwortung und Demokratie gefährdet erschien zuerst auf Kunst & KI.

Als im Sommer 2016 plötzlich Menschenmengen durch Parks, Innenstädte und Wohngebiete zogen, um virtuelle Monster zu jagen, wirkte das wie ein harmloser Hype. Pokémon GO war ein Spiel, ein kulturelles Phänomen, vielleicht auch ein soziales Experiment.

Was damals nur wenige wahrnahmen: Die Spieler waren nicht nur Teil eines Trends – sie waren Teil eines Systems.

Denn während Millionen Menschen auf ihre Smartphones blickten, entstand im Hintergrund etwas ganz anderes – eine der detailliertesten, dynamischsten und für Maschinen nutzbarsten Karten der realen Welt, die es je gegeben hat.

Und diese Karte beginnt jetzt, ihren eigentlichen Zweck zu erfüllen.

Vom Spiel zur Infrastruktur

Niantic, das Unternehmen hinter Pokémon GO, betont inzwischen selbst, dass es nicht nur ein Spiel entwickelt hat, sondern eine Plattform. In Unternehmensdarstellungen ist von einer „Real-World-AR-Plattform“ die Rede, die es ermöglichen soll, die physische Welt digital abzubilden und für Maschinen nutzbar zu machen.

Im Zentrum steht ein sogenanntes „Visual Positioning System“ (VPS): eine Technologie, die es Maschinen ermöglicht, ihre Position nicht über Satelliten, sondern über visuelle Merkmale zu bestimmen. Statt GPS nutzt sie Bilder – Fassaden, Straßenecken, Denkmäler.

Das Ziel ist nicht weniger als ein Perspektivwechsel: weg von abstrakten Koordinaten, hin zu einer visuellen Orientierung. Maschinen sollen Orte nicht nur berechnen, sondern erkennen.

Das klingt zunächst harmlos. Doch die Voraussetzung dafür ist enorm: Die Welt muss zuvor in einer Qualität erfasst werden, die weit über klassische Karten hinausgeht. Es reicht nicht, Straßen zu kennen. Maschinen müssen wissen, wie Orte aussehen – aus verschiedenen Perspektiven, bei unterschiedlichen Lichtverhältnissen, aus nächster Nähe.

Und genau hier kommt Pokémon GO ins Spiel.

Die größte Crowd-Kartierung der Geschichte

Über Jahre hinweg hat das Spiel seine Nutzer dazu animiert, sogenannte AR-Scans durchzuführen. Spieler konnten Pokéstops und Arenen scannen, indem sie mit ihrer Kamera um reale Objekte herumliefen. Als Belohnung gab es kleine Ingame-Vorteile.

Was dabei entstand, ist gewaltig: ein Datensatz aus Milliarden von Bildern. Nach Unternehmensangaben wurden über die Jahre hinweg mehr als 30 Milliarden visuelle Aufnahmen aus der Nutzung der Spiele gesammelt – ein Umfang, der weit über klassische Kartierungsprojekte hinausgeht.

Ein entscheidender Unterschied: Während Fahrzeuge klassischer Kartendienste vor allem Straßen erfassen, liefern Spieler Perspektiven, die Maschinen sonst kaum bekommen würden – Nahaufnahmen, ungewöhnliche Winkel, Innenhöfe, Parks, Skulpturen.

Die Erfassung erfolgt dabei nicht systematisch, sondern verteilt, zufällig und global – genau so, wie Menschen sich durch Räume bewegen. Für maschinelles Lernen ist das ein Vorteil: Die Daten sind vielfältig, realitätsnah und schwer künstlich zu reproduzieren.

Das Ergebnis ist keine Karte im herkömmlichen Sinn, sondern ein visuelles Gedächtnis der Welt.

„Niemand hat uns dazu gezwungen“ – aber hat jemand es verstanden?

Formal betrachtet ist alles sauber: Die Nutzer haben zugestimmt. Die Scans waren freiwillig. Hinweise existieren in den Nutzungsbedingungen.

Doch hier beginnt die eigentliche Kontroverse.

Denn Zustimmung ist nicht gleich Verständnis.

Die meisten Spieler dürften kaum darüber nachgedacht haben, dass ihre Bewegungen und Scans Teil eines globalen KI-Trainingsdatensatzes werden könnten. Für sie war es ein Spielmechanismus – eine zusätzliche Aufgabe, vielleicht ein Bonus.

Beobachter sehen darin eine neue Form digitaler Wertschöpfung: Nutzer tragen zur Entwicklung von KI-Systemen bei, ohne dass dieser Beitrag als Arbeit wahrgenommen oder vergütet wird.

Oder zugespitzt formuliert: Die Spieler haben nicht nur Pokémon gefangen – sie haben, ohne es zu merken, die Welt für Maschinen vermessen.

Wenn Roboter sehen lernen

Inzwischen verlässt die Technologie den experimentellen Bereich. Unternehmen nutzen genau solche visuellen Modelle, um autonome Systeme zu betreiben.

Lieferroboter etwa stehen vor einem grundlegenden Problem: GPS ist in Städten oft ungenau. Gebäude reflektieren Signale, Straßen sind komplex, Wege ändern sich ständig. Klassische Navigation stößt hier an Grenzen.

Visuelle Systeme bieten eine Lösung. Ein Roboter vergleicht seine Kamerabilder mit einer Datenbank und erkennt so, wo er sich befindet – ähnlich wie ein Mensch, der eine bekannte Straße wiedererkennt.

Die Genauigkeit kann dabei erstaunlich hoch sein: Niantic selbst spricht von Positionsbestimmungen im Zentimeterbereich, die durch visuelle Abgleiche statt durch Satellitensignale erreicht werden.

Was hier entsteht, ist eine neue Form der Orientierung: nicht mehr abstrakt, sondern visuell. Maschinen lernen nicht mehr nur, wo etwas ist – sondern, wie es aussieht.

Die neue Kartenschicht der Welt

Man kann diese Entwicklung als eine Art zweite Realität verstehen – eine maschinenlesbare Version der physischen Welt.

Diese Schicht hat Eigenschaften, die klassische Karten nicht besitzen:

• Sie ist visuell statt nur geometrisch
• Sie ist dynamisch und ständig aktualisierbar
• Sie ist direkt für KI-Systeme nutzbar
• Sie entsteht global und dezentral

Und sie ist nicht neutral.

Denn wer diese Daten besitzt oder kontrolliert, hat einen erheblichen Vorteil in Bereichen wie Robotik, Augmented Reality oder autonomer Navigation.

Niantic selbst positioniert sich zunehmend als Infrastrukturanbieter. Das Spiel war gewissermaßen nur der Einstieg.

Die andere Seite: Dual Use

Technologien dieser Art sind fast immer doppelt nutzbar. Sie können helfen – und sie können missbraucht werden.

Ein visuelles Weltmodell kann Lieferroboter effizienter machen, Navigation für Menschen mit Sehbeeinträchtigungen verbessern und Augmented Reality realistischer gestalten.

Aber es kann auch Überwachungssysteme präziser machen, autonome Systeme in sensiblen Kontexten unterstützen oder Bewegungsmuster von Menschen indirekt analysierbarer machen.

Diese Ambivalenz ist nicht neu. Sie ist typisch für grundlegende Technologien.

Doch hier kommt ein zusätzlicher Faktor hinzu: die Herkunft der Daten.

Die unsichtbare Arbeit der Vielen

Im Gegensatz zu anderen Datensätzen wurde dieser nicht von spezialisierten Teams oder Maschinen erzeugt, sondern von Millionen Menschen im Alltag.

Das verändert die ethische Bewertung.

Denn während Nutzer sozialer Netzwerke zumindest ahnen, dass ihre Daten kommerziell genutzt werden, ist die Verbindung zwischen einem Spiel und globaler KI-Infrastruktur deutlich weniger offensichtlich.

Die Frage lautet daher nicht nur: Was wird mit den Daten gemacht?

Sondern auch: Wussten die Menschen, woran sie mitarbeiten?

„Die reale Welt als Trainingsdatenbank“

Ein oft zitierter Gedanke in der KI-Forschung lautet, dass Daten das neue Öl seien. Doch dieser Vergleich greift zu kurz.

Denn Öl wird gefördert. Daten hingegen werden erzeugt – oft von Menschen, ohne dass sie wissen, welchen Wert sie dabei schaffen.

Pokémon GO zeigt exemplarisch, wie diese Erzeugung aussehen kann: spielerisch, freiwillig, scheinbar nebensächlich – und gleichzeitig von enormem Wert.

Die reale Welt wird dabei zur Trainingsdatenbank. Jeder Spaziergang, jeder Scan, jede Bewegung kann potenziell Teil eines größeren Systems werden.

Ein Paradigmenwechsel

Was hier geschieht, ist mehr als nur ein technologischer Fortschritt. Es ist ein Paradigmenwechsel.

Bisher haben Menschen Maschinen programmiert.
Jetzt trainieren sie sie – oft indirekt.

Und in vielen Fällen, ohne genau zu wissen, was sie trainieren.

Das bedeutet nicht, dass hier bewusst Täuschung stattfindet. Aber es zeigt, wie komplex die Beziehung zwischen Nutzer und Technologie geworden ist – und wie sehr sich Verantwortung verschiebt.

Regulierung? Kaum vorhanden

Ein weiterer kritischer Punkt: Die Regulierung hinkt hinterher.

Während Datenschutzgesetze sich stark auf personenbezogene Daten konzentrieren, bewegen sich visuelle Weltmodelle in einer Grauzone. Ein gescannter Platz ist kein persönliches Datum – zumindest nicht im klassischen Sinne.

Doch in Kombination mit anderen Daten können daraus Systeme entstehen, die sehr wohl Rückschlüsse auf Verhalten, Bewegungen oder Nutzungsmuster erlauben.

Zudem stellt sich die Frage nach Kontrolle:
Wer entscheidet, wie solche Datensätze genutzt werden?
Wer hat Zugriff?
Und wer trägt Verantwortung bei Missbrauch?

Bislang gibt es darauf kaum klare Antworten.

Zwischen Fortschritt und Kontrollverlust

Es wäre zu einfach, diese Entwicklung pauschal zu verurteilen. Die Möglichkeiten sind real und teilweise beeindruckend.

Doch gerade deshalb ist eine kritische Betrachtung notwendig.

Denn je besser Maschinen die Welt verstehen, desto mehr verschiebt sich das Gleichgewicht zwischen Mensch und Technologie.

Was heute ein Lieferroboter ist, kann morgen ein komplexeres System sein. Und die Grundlage bleibt dieselbe: Daten über die reale Welt.

Fazit: Eine stille Transformation

Pokémon GO war nie nur ein Spiel. Es war ein Werkzeug zur Vermessung der Welt – gebaut von Millionen, genutzt von wenigen.

Die daraus entstehende Infrastruktur wird bleiben. Unsichtbar, allgegenwärtig, kaum reguliert.

Und vielleicht ist genau das die eigentliche Pointe dieser Geschichte:

Die Zukunft der Maschinen entsteht nicht in Laboren – sondern im Alltag der Menschen, die sie unbemerkt möglich machen.

Quellen und weiterführende Links

• Netzpiloten: https://www.netzpiloten.de/pokemon-go-daten-zum-training-von-robotern-genutzt/
• Decrypt: https://decrypt.co/361302/pokemon-go-map-world-now-data-training-robots
• Berliner Zeitung: https://www.berliner-zeitung.de/news/pokemon-go-die-unbezahlte-vermessung-der-welt-durch-smartphone-kameras-li.10024727
• GamesRadar: https://www.gamesradar.com/games/pokemon/with-over-30-billion-images-logged-pokemon-go-is-using-players-activity-to-train-its-spinout-ai-company-to-help-gps-pinpointing-im-very-focused-on-trying-to-re-create-the-real-world/
• TechSpot: https://www.techspot.com/news/111690-pokmon-go-ar-data-has-turned-centimeter-accurate.html

Der Beitrag Die unsichtbare Vermessung der Welt erschien zuerst auf Kunst & KI.