Die Warnung klang wie aus einem Science-Fiction-Roman. Das KI-Unternehmen Anthropic warnte jüngst vor der Möglichkeit einer rekursiven Selbstverbesserung künstlicher Intelligenz – also vor Systemen, die künftig an der Entwicklung ihrer eigenen Nachfolger mitwirken könnten. In den Medien war schnell von „Skynet-Szenarien“ die Rede. Gleichzeitig bereitet das Unternehmen Berichten zufolge seinen Börsengang vor. Die Botschaft an Öffentlichkeit und Investoren lautet damit sinngemäß: Unsere Technologie ist so bedeutend, dass sie die Welt verändern könnte – und so mächtig, dass sie möglicherweise kontrolliert werden muss.

Genau hier beginnt das eigentliche Problem.

Denn die Diskussion über KI wird derzeit von zwei scheinbar widersprüchlichen Erzählungen geprägt. Auf der einen Seite stehen die großen Verheißungen: Produktivitätssprünge, medizinische Durchbrüche, wissenschaftliche Revolutionen und milliardenschwere neue Märkte. Auf der anderen Seite warnen dieselben Unternehmen vor Kontrollverlust, gesellschaftlichen Verwerfungen und Risiken, deren Ausmaß niemand seriös abschätzen kann.

Das Ergebnis ist eine bemerkenswerte politische und gesellschaftliche Schieflage.

Während Bürger in vielen westlichen Ländern mit Verweis auf Klimaschutz, Energieeffizienz und Nachhaltigkeit zu Verhaltensänderungen angehalten werden, investiert die KI-Branche gleichzeitig gigantische Summen in Rechenzentren, Infrastruktur und Stromversorgung. Der Energiebedarf moderner KI-Systeme steigt rasant. Die größten Technologieunternehmen der Welt sichern sich zunehmend Zugriff auf Stromnetze, Rechenkapazitäten und teilweise sogar auf eigene Energieprojekte.

Die entscheidende Frage lautet daher nicht mehr nur, was KI kann.

Die Frage lautet: Wer entscheidet eigentlich darüber, welches Risiko eine Gesellschaft akzeptieren soll – und für welchen erwarteten Nutzen?

Eine Technologie mit unbekanntem Ziel

Besonders auffällig ist die Unsicherheit, die die gesamte Debatte durchzieht.

Anthropic-CEO Dario Amodei erklärte bereits 2024 gegenüber dem Magazin Time:

„The world is not ready for what is coming.“

Die Aussage wurde vielfach zitiert und steht exemplarisch für den Ton vieler KI-Debatten.

Auch OpenAI-Chef Sam Altman formulierte bereits 2023 gegenüber dem US-Senat:

„My worst fears are that we cause significant harm to the world.“

Es sind bemerkenswerte Aussagen.

Denn selten in der Geschichte wurden Technologien gleichzeitig mit solch weitreichenden Versprechen und solch weitreichenden Warnungen beworben.

Normalerweise wird eine neue Technologie eingeführt, weil ihr Nutzen relativ klar erscheint. Das Auto erleichterte Mobilität. Elektrizität ermöglichte industrielle Entwicklung. Das Internet beschleunigte Kommunikation.

Bei künstlicher Intelligenz hingegen entsteht zunehmend der Eindruck, dass selbst die Entwickler nicht genau wissen, wohin die Reise führt.

Das bedeutet nicht, dass KI nutzlos wäre. Bereits heute gibt es sinnvolle Anwendungen in Medizin, Forschung, Softwareentwicklung oder Verwaltung.

Doch die Größenordnung der versprochenen Revolution steht bislang in keinem klaren Verhältnis zu den bekannten Risiken und Kosten.

Warum plötzlich von „Skynet“ die Rede ist

Der Begriff „Skynet“ stammt aus der Terminator-Filmreihe. Dort entwickelt das militärische KI-System Skynet ein eigenes Bewusstsein, entzieht sich menschlicher Kontrolle und beginnt einen Krieg gegen die Menschheit.

Natürlich behauptet heute niemand ernsthaft, dass ein solches Szenario unmittelbar bevorsteht.

Der Begriff wird jedoch als Metapher verwendet, wenn über sogenannte rekursive Selbstverbesserung gesprochen wird. Gemeint sind KI-Systeme, die bei der Entwicklung leistungsfähigerer Nachfolgemodelle helfen und dadurch einen sich selbst verstärkenden Innovationsprozess in Gang setzen könnten.

Genau vor einem solchen Szenario warnen einige KI-Forscher. Nicht, weil sie morgen mit Killerrobotern rechnen, sondern weil sie befürchten, dass die Entwicklungsgeschwindigkeit irgendwann schneller wachsen könnte als die Fähigkeit von Politik, Gesellschaft und Aufsichtsbehörden, die Technologie noch wirksam zu kontrollieren.

Doch gerade hier entsteht ein bemerkenswerter Widerspruch:

Dieselben Unternehmen, die vor solchen Risiken warnen, investieren gleichzeitig Milliarden in die Beschleunigung genau dieser Entwicklung.

Die eigentliche Gefahr heißt Machtkonzentration

Die öffentliche Diskussion konzentriert sich häufig auf spektakuläre Szenarien einer außer Kontrolle geratenen Superintelligenz.

Dabei liegt eine viel realistischere Gefahr womöglich ganz woanders.

Nämlich in der Konzentration wirtschaftlicher und politischer Macht.

Der Aufbau moderner KI-Systeme erfordert enorme Investitionen. Nur wenige Unternehmen verfügen über die finanziellen Mittel, die Rechenleistung und die Datenmengen, um an der Spitze des Wettbewerbs mitzuspielen.

Dadurch entsteht ein Oligopol aus wenigen globalen Akteuren.

Diese Unternehmen entwickeln die Technologie.

Sie betreiben die Infrastruktur.

Sie prägen die öffentliche Debatte.

Und sie formulieren gleichzeitig die Warnungen vor den Risiken ihrer eigenen Produkte.

Genau darin liegt ein demokratisches Problem.

Denn die Frage, wie viel Risiko eine Gesellschaft akzeptiert, sollte nicht allein von denjenigen beantwortet werden, die wirtschaftlich von diesem Risiko profitieren.

Die Verantwortungslücke

Hinzu kommt ein weiteres Problem.

Selbst wenn man die dystopischen Vorstellungen einer rebellierenden Superintelligenz für übertrieben hält, bleibt die Frage der Verantwortung ungelöst.

Wer trägt die Verantwortung, wenn KI-Systeme künftig wissenschaftliche Forschung beschleunigen, Entscheidungen vorbereiten oder sogar Teile ihrer eigenen Weiterentwicklung übernehmen?

Juristisch ist die Antwort einfach: Unternehmen und Betreiber.

Praktisch wird die Lage schwieriger.

Wenn Systeme immer komplexer werden und selbst Experten nicht mehr vollständig nachvollziehen können, wie bestimmte Ergebnisse zustande kommen, entsteht eine Verantwortungslücke.

Menschen bleiben formal verantwortlich.

Faktisch verstehen sie die Entscheidungsprozesse jedoch möglicherweise nicht mehr vollständig.

Die Folge wäre keine Maschinenherrschaft.

Die Folge wäre eine schleichende Erosion menschlicher Kontrolle.

Der Energie-Widerspruch

Besonders deutlich wird die gesellschaftliche Spannung beim Thema Energie.

Politik und Öffentlichkeit diskutieren seit Jahren über CO₂-Fußabdrücke, Energieeinsparungen und Verhaltensänderungen.

Gleichzeitig wächst der Strombedarf der KI-Industrie in einem Ausmaß, das vor wenigen Jahren kaum vorstellbar gewesen wäre.

Befürworter argumentieren, dass der Nutzen dies rechtfertigen werde.

Kritiker halten dagegen, dass dieser Nutzen bislang weitgehend auf Erwartungen beruht.

Hier entsteht ein offensichtlicher Widerspruch.

Von Bürgern wird verlangt, heute Belastungen zu akzeptieren, um zukünftige Klimarisiken zu reduzieren.

Von der Gesellschaft wird gleichzeitig erwartet, heute enorme Investitionen und Ressourcenverbräuche zu akzeptieren, um mögliche zukünftige KI-Vorteile zu realisieren.

In beiden Fällen handelt es sich um Wetten auf die Zukunft.

Der Unterschied besteht darin, dass die wirtschaftlichen Gewinner der KI-Revolution bereits bekannt sind, während ihre gesellschaftlichen Gewinner bislang weitgehend hypothetisch bleiben.

Keine Technikfeindlichkeit, sondern Technikfolgenabschätzung

Die Kritik an dieser Entwicklung ist keineswegs technikfeindlich.

Im Gegenteil.

Gerade weil KI potenziell enorme Auswirkungen haben könnte, wäre eine breite gesellschaftliche Debatte notwendig.

Nicht nur über technische Risiken.

Sondern über Eigentum, Kontrolle, Haftung, Transparenz und demokratische Legitimation.

Wer entscheidet über den Einsatz solcher Systeme?

Wer profitiert von Produktivitätsgewinnen?

Wer trägt die Risiken?

Und welche Grenzen sollen gelten?

Diese Fragen sind wichtiger als jede Spekulation über „Skynet“.

Denn die wahrscheinlichsten Konflikte der kommenden Jahre werden nicht zwischen Menschen und Maschinen stattfinden.

Sie werden zwischen unterschiedlichen gesellschaftlichen Interessen stattfinden.

Fazit: Die eigentliche Bewährungsprobe

Die KI-Branche befindet sich an einem Wendepunkt.

Vielleicht erleben wir tatsächlich den Beginn einer technologischen Revolution.

Vielleicht erleben wir aber auch eine Phase übersteigerter Erwartungen, die in einigen Jahren deutlich nüchterner bewertet werden wird.

Beides ist möglich.

Gerade deshalb sollte Vorsicht kein Hindernis für Innovation sein, sondern ihre Voraussetzung.

Wer von der Gesellschaft verlangt, gewaltige Investitionen, steigenden Energieverbrauch und tiefgreifende Veränderungen zu akzeptieren, muss mehr liefern als Zukunftsvisionen und Marketingbotschaften.

Er muss nachvollziehbar erklären können, warum die Risiken beherrschbar sind, wie die Gewinne verteilt werden und wer die Verantwortung trägt.

Solange diese Fragen unbeantwortet bleiben, ist Skepsis kein Ausdruck von Technikfeindlichkeit.

Sie ist Ausdruck demokratischer Vernunft.

Quellen und weiterführende Links

• Heise: „Skynet-Szenario: Anthropic warnt vor KI, die sich selbst entwickelt“
  https://www.heise.de/news/Skynet-Szenario-Anthropic-warnt-vor-KI-die-sich-selbst-entwickelt-11319846.html
• Anthropic – Forschung zu rekursiver Selbstverbesserung
  https://www.anthropic.com
• Time Magazine – Interview mit Dario Amodei
  https://time.com
• US-Senat: Anhörung von Sam Altman (2023)
  https://www.judiciary.senate.gov
• Finanzen.net: „KI-Blase vor dem Platzen? Diese vier Gefahren bedrohen den Mega-Boom“
  https://www.finanzen.net/nachricht/aktien/risiken-fuer-den-hype-ki-blase-vor-dem-platzen-diese-vier-gefahren-bedrohen-den-mega-boom-00-15723132
• Reuters: Berichte zur IPO-Einreichung von Anthropic
  https://www.reuters.com
• AP News: Diskussion über KI-Sicherheitsmechanismen und Regulierung
  https://apnews.com

Der Beitrag Skynet als Geschäftsmodell? erschien zuerst auf Kunst & KI.

Die Begeisterung für generative Künstliche Intelligenz folgt einem einfachen Narrativ: Milliarden rein, Produktivität raus. Eine technologische Revolution, die sich nur noch rechnen muss.

Das Problem: Genau das tut sie in den meisten Fällen nicht.

Unternehmen investieren derzeit in einem Tempo, das eher an einen Goldrausch erinnert als an rationale Kapitalallokation. Laut IDC sollten die globalen Ausgaben für KI bis 2025 auf 644 Milliarden US-Dollar steigen. Gleichzeitig zeigt sich hinter den Kulissen ein anderes Bild: Projekte ohne messbaren Effekt, Budgets ohne klare Zielgröße, Strategien ohne belastbare Ergebnisse.

Eine vielbeachtete Untersuchung des MIT aus dem Sommer 2025 bringt es auf einen unbequemen Punkt: 95 Prozent der generativen KI-Pilotprojekte leisten keinen nachweisbaren Beitrag zur Gewinn- und Verlustrechnung. Fünf Prozent erzeugen echten wirtschaftlichen Wert. Der Rest produziert vor allem eines: Kosten.

Das ist kein Ausrutscher. Es ist ein Muster.

Denn die aktuelle KI-Euphorie basiert auf einer Rechnung, die so in keiner Bilanz steht. Sie überschätzt systematisch den kurzfristigen Nutzen, unterschätzt langfristige Risiken – und blendet einen entscheidenden Faktor vollständig aus: Ein erheblicher Teil der tatsächlichen Wertschöpfung entsteht dort, wo Unternehmen weder investieren noch kontrollieren. Und ein erheblicher Teil der Kosten fällt dort an, wo sie niemand verbucht.

Mit anderen Worten: Der KI-Boom funktioniert – aber nicht so, wie er erzählt wird.

Er funktioniert, weil Produktivität im Schatten entsteht, während Investitionen sichtbar bleiben.
Er funktioniert, weil Risiken in die Zukunft verschoben werden.
Und er funktioniert, weil ein Teil der Rechnung von Menschen bezahlt wird, die in keiner Kalkulation auftauchen.

Investitionen explodieren, Ergebnisse bleiben aus

Der sogenannte Return on Investment (ROI) – also das Verhältnis von Gewinn zu eingesetztem Kapital – ist eigentlich die zentrale Kennzahl jeder Investition. Im Fall von KI wird er erstaunlich oft gar nicht sauber berechnet.

Der Kyndryl Readiness Report 2025 zeigt: Unternehmen haben ihre KI-Ausgaben innerhalb eines Jahres um 33 Prozent erhöht. Gleichzeitig berichten 46 Prozent, keinen positiven ROI zu sehen. 62 Prozent stecken weiterhin in der Experimentierphase fest.

Auch Prognosen fallen ernüchternd aus. Das Analysehaus Gartner erwartete, dass mindestens 30 Prozent aller GenAI-Projekte bis Ende 2025 nach der Pilotphase eingestellt werden.

Deutschland bildet keine Ausnahme. Eine Studie von Deloitte verortet deutsche Unternehmen mit einer durchschnittlichen Rendite von 27 Prozent innerhalb von ein bis zwei Jahren im Mittelfeld.

Björn Bringmann, Managing Director des Deloitte AI Institute, sagt:
„Das volle Potenzial künstlicher Intelligenz wird derzeit nicht ausgeschöpft – unter anderem, weil klare Verantwortlichkeiten, gezielte Investitionen und systematische Qualifizierung fehlen.“

Noch deutlicher wird die Lage beim Institut der deutschen Wirtschaft: 81 Prozent der Unternehmen messen ihren KI-ROI nicht systematisch. Mehr als die Hälfte weiß nicht einmal, welche Anwendungsfälle für sie relevant wären.

Wer nicht misst, kann nicht scheitern. Aber er kann auch nicht erfolgreich sein.

Er kann nur ausgeben.

Der Widerspruch der Studien

Auf den ersten Blick passt das alles nicht zusammen. Während das MIT von massiven Fehlinvestitionen spricht, zeichnet eine Studie von IBM ein deutlich optimistischeres Bild.

Demnach berichten 62 Prozent der deutschen und 66 Prozent der europäischen Unternehmen von Produktivitätsgewinnen durch KI. Knapp die Hälfte erwartet, ihre Investitionen innerhalb eines Jahres wieder einzuspielen.

Der Widerspruch ist nur scheinbar einer.

IBM und Deloitte befragen Führungskräfte nach ihren Einschätzungen. Das sind Stimmungsbilder – keine überprüften Geschäftszahlen. Das MIT misst dagegen auf Projektebene, ob tatsächlich ein messbarer Effekt in der Gewinn- und Verlustrechnung entsteht.

Mit anderen Worten: Hier prallen Erwartung und Realität aufeinander.

Ein Befund aus der MIT-Untersuchung erklärt, warum diese beiden Welten so weit auseinanderliegen: Während nur rund 40 Prozent der Unternehmen offizielle KI-Tools bereitstellen, nutzen etwa 90 Prozent der Mitarbeiter täglich private Anwendungen wie ChatGPT oder Claude.

Ein Studienteilnehmer formuliert es so:
„Unsere Mitarbeiter nutzen ChatGPT privat jeden Tag für die Arbeit. Offiziell existiert das nicht, aber in der Praxis ist es effektiver als unsere lizenzierten Tools.“

Die Schatten-Produktivität

Das ist mehr als eine Anekdote. Es ist ein strukturelles Problem.

Die Produktivitätsgewinne durch KI existieren. Aber sie entstehen oft außerhalb der offiziellen Systeme. Mitarbeiter automatisieren Aufgaben, formulieren Texte, analysieren Daten – mit privaten Accounts, ohne dass diese Effizienzgewinne irgendwo erfasst werden.

Die Organisation zahlt für eigene Lösungen. Der tatsächliche Nutzen entsteht daneben.

Das Ergebnis ist eine paradoxe Situation:
Die Kosten sind sichtbar. Der Nutzen nicht.

Oder zugespitzt:
Unternehmen finanzieren eine Produktivitätsrevolution, die sie weder messen noch kontrollieren.

Diese „Schatten-KI“ ist kein Randphänomen. Sie ist derzeit der Normalfall.

Der Mythos vom Eigenbau

Als Reaktion darauf versuchen viele Unternehmen, die Kontrolle zurückzugewinnen – indem sie eigene KI-Lösungen entwickeln.

Doch auch hier zeigt sich: Die Rechnung geht selten auf.

Die MIT-Studie kommt zu dem Ergebnis, dass eingekaufte Lösungen in rund zwei Dritteln der Fälle funktionieren, während Eigenentwicklungen deutlich häufiger scheitern.

Aditya Challapally, Hauptautor der Untersuchung, sagt:
„In fast allen Unternehmen wurde versucht, eigene Tools zu bauen. Aber die Daten zeigen, dass zugekaufte Lösungen zuverlässiger funktionieren.“

Die Schlussfolgerung scheint klar: kaufen statt bauen.

Doch auch das ist eine Verkürzung.

Denn wer kauft, kauft nicht nur Technologie – sondern auch Abhängigkeit. Datenflüsse, Preismodelle, Weiterentwicklung: All das liegt bei externen Anbietern.

Das bestätigt indirekt auch die IBM-Studie. Zwei Drittel der Unternehmen nennen Sicherheits- und Vertrauensprobleme als größte Herausforderung.

Rolf Löwisch, Head of AI bei IBM DACH, formuliert es so:
„Der wahre Wert von KI liegt in der strategischen Transformation von Unternehmen.“

Die entscheidende Frage bleibt: Wer steuert diese Transformation – das Unternehmen selbst oder der Anbieter?

Die unsichtbaren Kosten

Die vielleicht größte Leerstelle in der gesamten Debatte liegt jedoch außerhalb der Unternehmensbilanzen.

Jedes große KI-Modell – ob von OpenAI, Google oder Meta – basiert auf massiver menschlicher Arbeit.

Millionen sogenannter Datenarbeiter sortieren Inhalte, bewerten Antworten und filtern problematische Daten heraus. Sie sehen Gewalt, Missbrauch und Extremismus – damit Maschinen diese Inhalte später nicht reproduzieren.

Die Weltbank schätzt, dass weltweit zwischen 154 und 435 Millionen Menschen in Online-Gig-Arbeit tätig sind. Viele verdienen dabei zwischen 1,50 und 2 US-Dollar pro Stunde.

Die kenianische Aktivistin Nerima Wako-Ojiwa beschreibt diese Realität so:
„Ehrlich gesagt fühlt es sich an wie moderne Sklaverei. Es ist billige Arbeit.“

Und weiter:
„Viele Unternehmen tun hier Dinge, die sie in ihren eigenen Ländern niemals tun würden.“

Das Fairwork-Projekt der University of Oxford hat Plattformarbeit in diesem Bereich untersucht – mit ernüchterndem Ergebnis: Kaum eine Plattform erfüllt grundlegende Standards bei Bezahlung, Sicherheit und Mitbestimmung.

Eine Studie der Organisation Equidem dokumentiert zudem zahlreiche Fälle psychischer Belastung – verursacht durch die tägliche Konfrontation mit extremen Inhalten.

Adio Dinika vom Distributed AI Research Institute sagt:
„Wenn Probleme öffentlich werden, trifft es meist die Zwischenhändler – nicht die Unternehmen, die am meisten profitieren.“

Die Lieferkette bleibt bewusst intransparent.

Und genau deshalb tauchen diese Kosten in keiner ROI-Berechnung auf.

Eine verzerrte Gesamtrechnung

Die aktuelle Debatte über den wirtschaftlichen Nutzen von KI ist unvollständig.

Sie unterschätzt systematisch drei Dinge:

Erstens die Schatten-Produktivität, die außerhalb offizieller Systeme entsteht.
Zweitens die langfristigen Risiken – Abhängigkeiten, Sicherheitsfragen, regulatorische Unsicherheiten.
Drittens die ausgelagerten Kosten – in Form prekärer Arbeit und psychischer Belastung.

Das Ergebnis ist eine verzerrte Rechnung.

Was als Effizienzgewinn erscheint, ist in Teilen eine Verschiebung:
von Kontrolle nach außen,
von Kosten in andere Regionen,
von Verantwortung in intransparente Strukturen.

Fazit

Solange sich daran nichts ändert, ist die KI-Revolution kein Fortschritt.

Sondern ein Verschieben von Grenzen – ökonomisch, politisch und moralisch.

Und wie bei jeder Verschiebung bleibt am Ende nur eine Frage:

Wer gewinnt – und wer hat keine Stimme?

Die Antwort entscheidet, ob KI Wert schafft – oder nur Kosten besser versteckt.

Die Rechnung der KI-Euphorie geht auf.

Nur nicht für alle.

Quellen und Links

• MIT NANDA – The GenAI Divide: State of AI in Business 2025
• Kyndryl – Readiness Report 2025
• Deloitte – https://www2.deloitte.com/
• IBM – https://www.ibm.com/reports
• Institut der deutschen Wirtschaft – https://www.iwkoeln.de/
• Gartner – https://www.gartner.com/
• Weltbank – https://www.worldbank.org/
• Oxford Universität – https://fair.work/
• Equidem – https://equidem.org/
• CBS News / 60 Minutes – Bericht zu KI-Arbeitern in Kenia
• Rest of World – https://restofworld.org/
• Brookings Institution – https://www.brookings.edu/

Der Beitrag Die teure KI-Illusion erschien zuerst auf Kunst & KI.