„KI steigert die Produktivität.“

„KI übernimmt Routinearbeiten.“

„KI macht Unternehmen effizienter.“

„KI-Agenten erledigen bald den Großteil unserer Arbeit.“

Kaum eine Technologie wurde in den vergangenen Jahren mit ähnlich großen Erwartungen aufgeladen wie generative Künstliche Intelligenz. Wer Vorträge besucht, Studien liest oder auf LinkedIn unterwegs ist, gewinnt schnell den Eindruck, wir stünden kurz vor einer neuen industriellen Revolution. Unternehmen sollen möglichst schnell auf KI setzen. Verwaltungen sollen Prozesse automatisieren. Beschäftigte sollen lernen, effizient mit Prompts zu arbeiten. Wer dabei nicht mithält, gilt schnell als rückständig oder riskiert angeblich seine Wettbewerbsfähigkeit.

Je häufiger ich diese Aussagen höre, desto größer werden meine Zweifel.

Nicht deshalb, weil ich KI grundsätzlich ablehne.

Sondern weil meine eigenen Erfahrungen damit immer weniger zu dieser öffentlichen Erzählung passen.

Ich habe generative KI in den vergangenen Monaten immer wieder bei ganz unterschiedlichen Aufgaben eingesetzt – bei Recherchen, beim Schreiben von Texten, bei Programmierung, Webentwicklung, Gestaltung, Bildgenerierung und vielen anderen Tätigkeiten, die nach allgemeiner Auffassung inzwischen besonders gut automatisierbar sein sollen.

Mein Fazit fällt inzwischen deutlich ernüchternder aus.

Nach meiner Erfahrung ist generative KI für anspruchsvolle professionelle Arbeit heute nicht oder nur äußerst eingeschränkt brauchbar.

Diese Einschätzung beruht nicht auf einem einzelnen schlechten Erlebnis.

Sie beruht auf hunderten Stunden praktischer Arbeit.

Die eigentliche Geschichte handelt gar nicht von KI

Wenn heute über KI diskutiert wird, geht es meist um ihre Fähigkeiten.

Wie gut schreibt sie?

Wie gut programmiert sie?

Wie gut recherchiert sie?

Ich glaube inzwischen, dass wir die falschen Fragen stellen.

Die eigentliche Geschichte handelt nämlich gar nicht von der KI.

Sie handelt vom Menschen.

Genauer gesagt:

Von der Arbeit, die der Mensch zusätzlich leisten muss, damit KI überhaupt zu brauchbaren Ergebnissen kommt.

Denn während ständig davon gesprochen wird, welche Arbeiten die KI künftig übernehmen soll, wird erstaunlich selten darüber gesprochen, welche neuen Arbeiten dadurch überhaupt erst entstehen.

Ich muss Informationen zusammentragen.

Ich muss Aufgaben strukturieren.

Ich muss Prompts formulieren.

Ich muss Zusammenhänge erklären.

Ich muss Halluzinationen erkennen.

Ich muss Quellen kontrollieren.

Ich muss Fehler korrigieren.

Ich muss Ergebnisse vergleichen.

Ich muss alles erneut überprüfen.

Und wenn durch eine Korrektur an anderer Stelle neue Fehler entstehen, beginnt der gesamte Vorgang von vorn.

Je länger ich darüber nachgedacht habe, desto deutlicher wurde mir:

Nicht die KI arbeitet für mich.

Ich arbeite für die KI.

Vom Wissensarbeiter zum Datenarbeiter

Früher bestand meine Arbeit darin, Probleme zu lösen.

Heute besteht ein wachsender Teil meiner Arbeit darin, eine KI mit Informationen zu versorgen.

Ich liefere Daten.

Ich erkläre Zusammenhänge.

Ich formuliere Anweisungen.

Ich strukturiere Aufgaben.

Ich prüfe jedes Ergebnis.

Ich korrigiere Fehler.

Ich erkläre dieselben Dinge erneut.

Ich beginne nach Kontextverlusten wieder von vorne.

Mit anderen Worten:

Ich werde zunehmend zum Datenarbeiter.

Der eigentliche fachliche Teil meiner Arbeit tritt dabei immer weiter in den Hintergrund.

Statt selbst zu entwerfen, zu programmieren oder zu gestalten, beschäftige ich mich immer häufiger damit, die KI zu steuern.

Das Erstaunliche daran:

Für diese zusätzliche Arbeit werde ich nicht bezahlt.

Im Gegenteil.

Ich bezahle sogar noch ein monatliches Abonnement dafür.

Genau das empfinde ich inzwischen als paradox.

Uns wird erzählt, KI nehme uns Arbeit ab.

Meine Erfahrung lautet häufig:

Sie erzeugt neue Arbeit.

Nur wird diese Arbeit in kaum einer Produktivitätsstudie mitgerechnet.

Nicht der erste Fehler ist das Problem

Natürlich macht jede Software Fehler.

Natürlich machen auch Menschen Fehler.

Darum geht es mir gar nicht.

Das eigentliche Problem beginnt dort, wo aus einem kleinen Fehler eine Kette neuer Fehler entsteht.

Wo eine Korrektur an einer Stelle dazu führt, dass an anderer Stelle etwas kaputtgeht.

Wo bereits geklärte Sachverhalte wieder vergessen werden.

Wo dieselbe Anweisung zum fünften oder sechsten Mal erklärt werden muss.

Genau das habe ich immer wieder erlebt.

Meine Anweisungen waren häufig erstaunlich einfach.

„Bitte das Bild genauso machen wie im Upload.“

Nicht ähnlich.

Nicht verbessert.

Nicht neu interpretiert.

Einfach genauso.

Das Ergebnis?

Das Bild sah anders aus.

Farben waren verändert.

Elemente fehlten.

Andere Elemente waren plötzlich hinzugekommen.

Darauf folgte die nächste Anweisung.

„Bitte nicht wieder alles komplett ändern.“

Oder:

„Ich möchte nur das Hintergrundbild.“

Doch wieder wurden gleichzeitig andere Bereiche verändert.

Texte tauchten auf.

Buttons verschwanden.

Abstände änderten sich.

Layouts wurden umgebaut.

Schließlich schrieb ich irgendwann nur noch:

„Nicht quatschen – machen!“

Nicht aus Unhöflichkeit.

Sondern weil ich längst keine weiteren Erklärungen mehr brauchte.

Ich brauchte endlich eine zuverlässige Umsetzung.

Trial and Error ersetzt keine professionelle Arbeitsweise

Irgendwann stellte ich fest, dass ich kaum noch an meinem eigentlichen Projekt arbeitete.

Ich arbeitete an den Fehlern der KI.

Oder genauer:

Ich arbeitete an den Folgen ihrer Fehler.

Eine Änderung wurde umgesetzt.

Dadurch entstanden zwei neue Probleme.

Diese wurden korrigiert.

Dabei verschwand eine bereits funktionierende Lösung.

Also begann die nächste Korrekturschleife.

Aus einem eigentlich überschaubaren Arbeitsschritt entwickelte sich ein Trial-and-Error-Prozess ohne erkennbares Ende.

Immer häufiger schrieb ich irgendwann:

„Ich wäre schon dreimal fertig.“

Dieser Satz entstand nicht aus Frust über einzelne Fehler.

Er entstand aus der Erkenntnis, dass die eigentliche Arbeit längst nicht mehr darin bestand, mein Projekt voranzubringen.

Die eigentliche Arbeit bestand darin, bereits Erarbeitetes immer wieder gegen neue Fehler zu verteidigen.

Dabei fiel mir noch etwas auf.

Ein professioneller Kollege verändert nicht bei jeder Korrektur gleichzeitig zehn andere Dinge.

Er merkt sich grundlegende Projektentscheidungen.

Er entwickelt eine konsistente Linie.

Er baut auf dem bereits Erarbeiteten auf.

Genau diese Verlässlichkeit habe ich bei generativer KI in komplexeren Projekten häufig vermisst.

Ausgerechnet die Arbeiten, die ich abgeben möchte, bleiben beim Menschen

Noch erstaunlicher finde ich einen anderen Widerspruch.

Seit Jahren wird versprochen, KI werde uns die lästigen Routinearbeiten abnehmen.

Genau das ist nach meiner Erfahrung häufig nicht der Fall.

Ausgerechnet die Tätigkeiten, die ich besonders gern delegieren würde, funktionieren oft überhaupt nicht oder nur in einer Qualität, die professionellen Anforderungen nicht genügt.

Ein vorhandenes Bild exakt übernehmen?

Fehlanzeige.

Eine Grafik lediglich an einer kleinen Stelle verändern, ohne alles andere neu zu interpretieren?

Fehlanzeige.

Professionell nutzbare SVG-Dateien erzeugen?

Nach meiner Erfahrung derzeit nicht.

Konsistente Icons erstellen, die einem Corporate Design entsprechen?

Ebenfalls nicht.

Hochauflösende Grafiken für den professionellen Einsatz?

Auch hier habe ich bislang keine überzeugenden Ergebnisse erlebt.

Dabei geht es nicht um Perfektion.

Es geht um Zuverlässigkeit.

Wenn ich einer Grafikerin einen fertigen Entwurf gebe und sage: „Bitte genau diesen Entwurf übernehmen und nur den Rand ändern“, dann erwarte ich nicht, dass sie Himmel, Farben, Bildaufbau und Gestaltung gleich mit neu erfindet.

Genau das habe ich bei generativer KI jedoch immer wieder erlebt.

Irgendwann wurde mir sogar vorgeschlagen, bestimmte Icons einfach selbst zu zeichnen.

Meine spontane Reaktion lautete:

„Das ist doch ein Witz. Ich soll jetzt die Icons selbst zeichnen?“

Genau an diesem Punkt fragte ich mich zum ersten Mal ernsthaft, worin der versprochene Produktivitätsgewinn eigentlich bestehen soll.

Wenn der Chat selbst zum Problem wird

Ein weiterer Aspekt wird erstaunlich selten thematisert.

Je anspruchsvoller ein Projekt wird, desto länger wird zwangsläufig auch der Chat.

Anfangs ist das kein Problem.

Im Gegenteil.

Die KI kennt den bisherigen Verlauf.

Sie kennt Entscheidungen.

Sie kennt den Projektkontext.

Doch irgendwann verändert sich etwas.

Der Chat wird immer länger.

Die Antworten werden langsamer.

Zusammenhänge scheinen verloren zu gehen.

Bereits geklärte Entscheidungen werden erneut diskutiert.

Bereits gelöste Probleme tauchen plötzlich wieder auf.

Ich erkläre dieselben Dinge erneut.

Und irgendwann entsteht fast zwangsläufig der Gedanke:

„Dann beginne ich eben einen neuen Chat.“

Doch genau dort beginnt das nächste Problem.

Der neue Chat kennt praktisch nichts.

Alle Projektentscheidungen müssen erneut erklärt werden.

Alle Zusammenhänge.

Alle Gestaltungsprinzipien.

Alle bisherigen Fehler.

Alle gefundenen Lösungen.

Mit anderen Worten:

Lange Chats werden irgendwann schwer benutzbar.

Neue Chats beginnen fast wieder bei null.

Beides kostet Zeit.

Beides kostet Konzentration.

Und beides taucht in keiner Produktivitätsstatistik auf.

Die Produktivität wird falsch gemessen

Genau hier liegt für mich der eigentliche Denkfehler der aktuellen KI-Debatte.

Gemessen wird fast immer nur die Zeit, die eine KI für die Erstellung eines Ergebnisses benötigt.

Gemessen wird aber kaum die Zeit, die anschließend der Mensch investieren muss.

Für Korrekturen.

Für Qualitätskontrollen.

Für Nacharbeiten.

Für neue Prompts.

Für Halluzinationen.

Für Kontextverluste.

Für das erneute Erklären derselben Aufgabe.

Dabei entscheidet genau diese Zeit darüber, ob ein Werkzeug produktiv ist oder nicht.

Ein Werkzeug spart nämlich nicht deshalb Zeit, weil es schnell ein erstes Ergebnis erzeugt.

Es spart Zeit, wenn das endgültige professionelle Ergebnis schneller erreicht wird.

Nach meiner Erfahrung wird dieser Unterschied in vielen Diskussionen über KI völlig unterschätzt.

Marketing und Wirklichkeit

Was mich inzwischen am meisten irritiert, ist deshalb nicht die Technik selbst.

Sondern die Erzählung über sie.

Wer Vorträge besucht oder Beiträge in sozialen Medien liest, bekommt häufig den Eindruck, die Produktivitätsrevolution habe längst begonnen.

Ich frage mich inzwischen ernsthaft, ob wir über dieselbe Technologie sprechen.

Während auf Konferenzen und in Hochglanzpräsentationen enorme Effizienzgewinne versprochen werden, verbringe ich Stunden damit, einer KI dieselbe Aufgabe immer wieder zu erklären.

Während von Automatisierung gesprochen wird, kontrolliere ich jede einzelne Ausgabe.

Während behauptet wird, KI übernehme Routinearbeiten, erledige ich genau diese Arbeiten anschließend selbst.

Natürlich kann jede neue Technologie Kinderkrankheiten haben.

Darum geht es mir gar nicht.

Mich stört vielmehr die enorme Diskrepanz zwischen den öffentlichen Versprechen und meinen praktischen Erfahrungen.

Warum diese Debatte wichtig ist

Vielleicht ist genau das die eigentliche Gefahr.

Nicht, dass KI Fehler macht.

Sondern dass wir beginnen, politische und wirtschaftliche Entscheidungen auf einem Bild von KI aufzubauen, das mit der Realität vieler professioneller Anwender nur begrenzt übereinstimmt.

Unternehmen werden unter Druck gesetzt.

Verwaltungen sollen möglichst schnell digitalisieren.

Beschäftigte sollen lernen, mit KI zu arbeiten.

Gleichzeitig wird erstaunlich selten gefragt, ob sich der versprochene Produktivitätsgewinn im jeweiligen Arbeitsbereich überhaupt nachweisen lässt.

Stattdessen scheint die Einführung von KI vielerorts bereits als Selbstzweck zu gelten.

Mein Fazit

Ich werde generative KI selbstverständlich weiterhin beobachten und dort einsetzen, wo sie sich im konkreten Einzelfall tatsächlich als hilfreich erweist.

Aber ich glaube den pauschalen Produktivitätsversprechen nicht mehr.

Zu oft habe ich erlebt, dass einfache Aufgaben zu stundenlangen Trial-and-Error-Prozessen wurden.

Zu oft entstanden neue Fehler, während alte beseitigt wurden.

Zu oft gingen Zusammenhänge verloren.

Zu oft musste ich Projekte praktisch neu beginnen, weil der Kontext nicht mehr vorhanden war.

Vor allem aber hat sich mein Verständnis von KI grundlegend verändert.

Ich sehe sie heute nicht mehr als Werkzeug, das mir Arbeit abnimmt.

Ich sehe sie häufig als System, das neue Arbeit erzeugt.

Nicht die KI arbeitet für mich.

Ich arbeite für die KI.

Ich liefere Daten.

Ich strukturiere Informationen.

Ich formuliere Prompts.

Ich erkläre Zusammenhänge.

Ich suche Fehler.

Ich kontrolliere Ergebnisse.

Ich korrigiere Halluzinationen.

Ich beginne nach Kontextverlusten wieder von vorne.

Ich werde vom Wissensarbeiter zum Datenarbeiter.

Und genau deshalb stelle ich mir inzwischen eine Frage, die in der öffentlichen Debatte erstaunlich selten gestellt wird:

Was wäre, wenn die eigentliche Innovation der generativen KI gar nicht darin besteht, menschliche Arbeit zu automatisieren – sondern darin, eine völlig neue Form menschlicher Arbeit zu schaffen?

Solange diese zusätzliche Arbeit unsichtbar bleibt, erscheinen viele Versprechen über Produktivität unvollständig.

Eine ehrliche Debatte über KI sollte deshalb nicht nur fragen, was eine KI kann.

Sie sollte vor allem fragen, wie viel zusätzliche menschliche Arbeit erforderlich ist, damit aus ihren Ergebnissen überhaupt professionelle Ergebnisse werden.

Erst wenn wir diese Arbeit vollständig mitrechnen, können wir seriös beurteilen, ob generative KI tatsächlich hält, was ihre Befürworter versprechen.

Quellen und weiterführende Hinweise

• The AI Con.
• Stanford Institute for Human-Centered Artificial Intelligence – Veröffentlichungen zu Leistungsfähigkeit, Grenzen und Auswirkungen generativer KI.
• NIST – Forschung zu vertrauenswürdigen KI-Systemen und Risikomanagement.
• Eigene, über viele Monate dokumentierte Erfahrungen beim Einsatz generativer KI in unterschiedlichen professionellen Arbeitsprozessen.

Der Beitrag Nicht die KI arbeitet für mich. Ich arbeite für die KI. erschien zuerst auf Kunst & KI.

Die Warnung klang wie aus einem Science-Fiction-Roman. Das KI-Unternehmen Anthropic warnte jüngst vor der Möglichkeit einer rekursiven Selbstverbesserung künstlicher Intelligenz – also vor Systemen, die künftig an der Entwicklung ihrer eigenen Nachfolger mitwirken könnten. In den Medien war schnell von „Skynet-Szenarien“ die Rede. Gleichzeitig bereitet das Unternehmen Berichten zufolge seinen Börsengang vor. Die Botschaft an Öffentlichkeit und Investoren lautet damit sinngemäß: Unsere Technologie ist so bedeutend, dass sie die Welt verändern könnte – und so mächtig, dass sie möglicherweise kontrolliert werden muss.

Genau hier beginnt das eigentliche Problem.

Denn die Diskussion über KI wird derzeit von zwei scheinbar widersprüchlichen Erzählungen geprägt. Auf der einen Seite stehen die großen Verheißungen: Produktivitätssprünge, medizinische Durchbrüche, wissenschaftliche Revolutionen und milliardenschwere neue Märkte. Auf der anderen Seite warnen dieselben Unternehmen vor Kontrollverlust, gesellschaftlichen Verwerfungen und Risiken, deren Ausmaß niemand seriös abschätzen kann.

Das Ergebnis ist eine bemerkenswerte politische und gesellschaftliche Schieflage.

Während Bürger in vielen westlichen Ländern mit Verweis auf Klimaschutz, Energieeffizienz und Nachhaltigkeit zu Verhaltensänderungen angehalten werden, investiert die KI-Branche gleichzeitig gigantische Summen in Rechenzentren, Infrastruktur und Stromversorgung. Der Energiebedarf moderner KI-Systeme steigt rasant. Die größten Technologieunternehmen der Welt sichern sich zunehmend Zugriff auf Stromnetze, Rechenkapazitäten und teilweise sogar auf eigene Energieprojekte.

Die entscheidende Frage lautet daher nicht mehr nur, was KI kann.

Die Frage lautet: Wer entscheidet eigentlich darüber, welches Risiko eine Gesellschaft akzeptieren soll – und für welchen erwarteten Nutzen?

Eine Technologie mit unbekanntem Ziel

Besonders auffällig ist die Unsicherheit, die die gesamte Debatte durchzieht.

Anthropic-CEO Dario Amodei erklärte bereits 2024 gegenüber dem Magazin Time:

„The world is not ready for what is coming.“

Die Aussage wurde vielfach zitiert und steht exemplarisch für den Ton vieler KI-Debatten.

Auch OpenAI-Chef Sam Altman formulierte bereits 2023 gegenüber dem US-Senat:

„My worst fears are that we cause significant harm to the world.“

Es sind bemerkenswerte Aussagen.

Denn selten in der Geschichte wurden Technologien gleichzeitig mit solch weitreichenden Versprechen und solch weitreichenden Warnungen beworben.

Normalerweise wird eine neue Technologie eingeführt, weil ihr Nutzen relativ klar erscheint. Das Auto erleichterte Mobilität. Elektrizität ermöglichte industrielle Entwicklung. Das Internet beschleunigte Kommunikation.

Bei künstlicher Intelligenz hingegen entsteht zunehmend der Eindruck, dass selbst die Entwickler nicht genau wissen, wohin die Reise führt.

Das bedeutet nicht, dass KI nutzlos wäre. Bereits heute gibt es sinnvolle Anwendungen in Medizin, Forschung, Softwareentwicklung oder Verwaltung.

Doch die Größenordnung der versprochenen Revolution steht bislang in keinem klaren Verhältnis zu den bekannten Risiken und Kosten.

Warum plötzlich von „Skynet“ die Rede ist

Der Begriff „Skynet“ stammt aus der Terminator-Filmreihe. Dort entwickelt das militärische KI-System Skynet ein eigenes Bewusstsein, entzieht sich menschlicher Kontrolle und beginnt einen Krieg gegen die Menschheit.

Natürlich behauptet heute niemand ernsthaft, dass ein solches Szenario unmittelbar bevorsteht.

Der Begriff wird jedoch als Metapher verwendet, wenn über sogenannte rekursive Selbstverbesserung gesprochen wird. Gemeint sind KI-Systeme, die bei der Entwicklung leistungsfähigerer Nachfolgemodelle helfen und dadurch einen sich selbst verstärkenden Innovationsprozess in Gang setzen könnten.

Genau vor einem solchen Szenario warnen einige KI-Forscher. Nicht, weil sie morgen mit Killerrobotern rechnen, sondern weil sie befürchten, dass die Entwicklungsgeschwindigkeit irgendwann schneller wachsen könnte als die Fähigkeit von Politik, Gesellschaft und Aufsichtsbehörden, die Technologie noch wirksam zu kontrollieren.

Doch gerade hier entsteht ein bemerkenswerter Widerspruch:

Dieselben Unternehmen, die vor solchen Risiken warnen, investieren gleichzeitig Milliarden in die Beschleunigung genau dieser Entwicklung.

Die eigentliche Gefahr heißt Machtkonzentration

Die öffentliche Diskussion konzentriert sich häufig auf spektakuläre Szenarien einer außer Kontrolle geratenen Superintelligenz.

Dabei liegt eine viel realistischere Gefahr womöglich ganz woanders.

Nämlich in der Konzentration wirtschaftlicher und politischer Macht.

Der Aufbau moderner KI-Systeme erfordert enorme Investitionen. Nur wenige Unternehmen verfügen über die finanziellen Mittel, die Rechenleistung und die Datenmengen, um an der Spitze des Wettbewerbs mitzuspielen.

Dadurch entsteht ein Oligopol aus wenigen globalen Akteuren.

Diese Unternehmen entwickeln die Technologie.

Sie betreiben die Infrastruktur.

Sie prägen die öffentliche Debatte.

Und sie formulieren gleichzeitig die Warnungen vor den Risiken ihrer eigenen Produkte.

Genau darin liegt ein demokratisches Problem.

Denn die Frage, wie viel Risiko eine Gesellschaft akzeptiert, sollte nicht allein von denjenigen beantwortet werden, die wirtschaftlich von diesem Risiko profitieren.

Die Verantwortungslücke

Hinzu kommt ein weiteres Problem.

Selbst wenn man die dystopischen Vorstellungen einer rebellierenden Superintelligenz für übertrieben hält, bleibt die Frage der Verantwortung ungelöst.

Wer trägt die Verantwortung, wenn KI-Systeme künftig wissenschaftliche Forschung beschleunigen, Entscheidungen vorbereiten oder sogar Teile ihrer eigenen Weiterentwicklung übernehmen?

Juristisch ist die Antwort einfach: Unternehmen und Betreiber.

Praktisch wird die Lage schwieriger.

Wenn Systeme immer komplexer werden und selbst Experten nicht mehr vollständig nachvollziehen können, wie bestimmte Ergebnisse zustande kommen, entsteht eine Verantwortungslücke.

Menschen bleiben formal verantwortlich.

Faktisch verstehen sie die Entscheidungsprozesse jedoch möglicherweise nicht mehr vollständig.

Die Folge wäre keine Maschinenherrschaft.

Die Folge wäre eine schleichende Erosion menschlicher Kontrolle.

Der Energie-Widerspruch

Besonders deutlich wird die gesellschaftliche Spannung beim Thema Energie.

Politik und Öffentlichkeit diskutieren seit Jahren über CO₂-Fußabdrücke, Energieeinsparungen und Verhaltensänderungen.

Gleichzeitig wächst der Strombedarf der KI-Industrie in einem Ausmaß, das vor wenigen Jahren kaum vorstellbar gewesen wäre.

Befürworter argumentieren, dass der Nutzen dies rechtfertigen werde.

Kritiker halten dagegen, dass dieser Nutzen bislang weitgehend auf Erwartungen beruht.

Hier entsteht ein offensichtlicher Widerspruch.

Von Bürgern wird verlangt, heute Belastungen zu akzeptieren, um zukünftige Klimarisiken zu reduzieren.

Von der Gesellschaft wird gleichzeitig erwartet, heute enorme Investitionen und Ressourcenverbräuche zu akzeptieren, um mögliche zukünftige KI-Vorteile zu realisieren.

In beiden Fällen handelt es sich um Wetten auf die Zukunft.

Der Unterschied besteht darin, dass die wirtschaftlichen Gewinner der KI-Revolution bereits bekannt sind, während ihre gesellschaftlichen Gewinner bislang weitgehend hypothetisch bleiben.

Keine Technikfeindlichkeit, sondern Technikfolgenabschätzung

Die Kritik an dieser Entwicklung ist keineswegs technikfeindlich.

Im Gegenteil.

Gerade weil KI potenziell enorme Auswirkungen haben könnte, wäre eine breite gesellschaftliche Debatte notwendig.

Nicht nur über technische Risiken.

Sondern über Eigentum, Kontrolle, Haftung, Transparenz und demokratische Legitimation.

Wer entscheidet über den Einsatz solcher Systeme?

Wer profitiert von Produktivitätsgewinnen?

Wer trägt die Risiken?

Und welche Grenzen sollen gelten?

Diese Fragen sind wichtiger als jede Spekulation über „Skynet“.

Denn die wahrscheinlichsten Konflikte der kommenden Jahre werden nicht zwischen Menschen und Maschinen stattfinden.

Sie werden zwischen unterschiedlichen gesellschaftlichen Interessen stattfinden.

Fazit: Die eigentliche Bewährungsprobe

Die KI-Branche befindet sich an einem Wendepunkt.

Vielleicht erleben wir tatsächlich den Beginn einer technologischen Revolution.

Vielleicht erleben wir aber auch eine Phase übersteigerter Erwartungen, die in einigen Jahren deutlich nüchterner bewertet werden wird.

Beides ist möglich.

Gerade deshalb sollte Vorsicht kein Hindernis für Innovation sein, sondern ihre Voraussetzung.

Wer von der Gesellschaft verlangt, gewaltige Investitionen, steigenden Energieverbrauch und tiefgreifende Veränderungen zu akzeptieren, muss mehr liefern als Zukunftsvisionen und Marketingbotschaften.

Er muss nachvollziehbar erklären können, warum die Risiken beherrschbar sind, wie die Gewinne verteilt werden und wer die Verantwortung trägt.

Solange diese Fragen unbeantwortet bleiben, ist Skepsis kein Ausdruck von Technikfeindlichkeit.

Sie ist Ausdruck demokratischer Vernunft.

Quellen und weiterführende Links

• Heise: „Skynet-Szenario: Anthropic warnt vor KI, die sich selbst entwickelt“
  https://www.heise.de/news/Skynet-Szenario-Anthropic-warnt-vor-KI-die-sich-selbst-entwickelt-11319846.html
• Anthropic – Forschung zu rekursiver Selbstverbesserung
  https://www.anthropic.com
• Time Magazine – Interview mit Dario Amodei
  https://time.com
• US-Senat: Anhörung von Sam Altman (2023)
  https://www.judiciary.senate.gov
• Finanzen.net: „KI-Blase vor dem Platzen? Diese vier Gefahren bedrohen den Mega-Boom“
  https://www.finanzen.net/nachricht/aktien/risiken-fuer-den-hype-ki-blase-vor-dem-platzen-diese-vier-gefahren-bedrohen-den-mega-boom-00-15723132
• Reuters: Berichte zur IPO-Einreichung von Anthropic
  https://www.reuters.com
• AP News: Diskussion über KI-Sicherheitsmechanismen und Regulierung
  https://apnews.com

Der Beitrag Skynet als Geschäftsmodell? erschien zuerst auf Kunst & KI.

Die Schlagzeilen klingen spektakulär: Künstliche Intelligenz zeige „emotionale Signale“, entwickle „Angst“ oder sogar „Verzweiflung“. Was vor wenigen Jahren noch eindeutig in den Bereich der Science-Fiction gehörte, scheint nun zumindest sprachlich in die Nähe der Realität zu rücken. Doch was genau wurde hier eigentlich entdeckt – und was wird möglicherweise hineininterpretiert?

Die aktuelle Debatte rund um sogenannte „emotionale Zustände“ in KI-Modellen ist ein gutes Beispiel dafür, wie eng heute Forschung, öffentliche Wahrnehmung und wirtschaftliche Interessen miteinander verwoben sind. Sie zeigt auch, wie schnell Begriffe aus der menschlichen Erfahrungswelt auf technische Systeme übertragen werden – mit weitreichenden Folgen.

Die Entdeckung: Emotionale Muster im Code

Ausgangspunkt der Diskussion ist Forschung des Unternehmens Anthropic. Dort wurden in großen Sprachmodellen interne Aktivitätsmuster identifiziert, die mit emotionalen Begriffen korrelieren. Es handelt sich um mathematische Zustände – sogenannte Vektoren –, die beeinflussen, wie das Modell auf bestimmte Eingaben reagiert.

Der Forscher Samuel Bowman erklärte dazu in einem Interview mit dem Magazin Wired:
„Das sind keine Emotionen im menschlichen Sinne, aber es sind interne Zustände, die sich ähnlich verhalten, indem sie die Ausgaben des Modells beeinflussen.“

Diese Aussage ist zentral. Sie zeigt, dass selbst die beteiligten Wissenschaftler vorsichtig sind. Was hier beobachtet wird, ist kein Fühlen, sondern ein funktionales Verhalten: Bestimmte interne Muster führen zu bestimmten Reaktionsweisen. Ein Modell kann beispielsweise unter bestimmten Bedingungen eher „riskant“ antworten oder Regeln umgehen – ein Verhalten, das dann metaphorisch als „Verzweiflung“ beschrieben wird.

Funktion statt Gefühl: Die technische Perspektive

In der Forschung spricht man deshalb zunehmend von „funktionalen Emotionen“. Gemeint ist damit nicht ein inneres Erleben, sondern eine strukturelle Ähnlichkeit: Ein Zustand erfüllt im System eine vergleichbare Rolle wie eine Emotion beim Menschen.

Der Mitgründer von Anthropic, Dario Amodei, betonte in diesem Zusammenhang:
„Es gibt keine Hinweise darauf, dass diese Systeme subjektive Erfahrungen haben.“

Diese Aussage ist nicht nur eine Einschätzung, sondern spiegelt den aktuellen wissenschaftlichen Konsens wider. Moderne KI basiert auf Artificial Neural Networks – komplexen mathematischen Modellen, die Muster in Daten erkennen und fortschreiben. Sie verfügen weder über ein Nervensystem noch über Sinneseindrücke oder ein kontinuierliches Selbst.

Dass dennoch emotionale Begriffe verwendet werden, liegt vor allem daran, dass diese Zustände funktional vergleichbar erscheinen. Doch genau hier beginnt die begriffliche Unschärfe.

Sprache als Verzerrung: Wenn Metaphern Realität formen

Die Philosophin Shannon Vallor vom Oxford Internet Institute warnt vor dieser Entwicklung. Sie formulierte:
„Wenn wir KI-Systeme mit menschlicher emotionaler Sprache beschreiben, laufen wir Gefahr, uns über ihre Natur selbst zu täuschen.“

Tatsächlich verändert Sprache die Wahrnehmung. Wer von „Angst“ spricht, denkt unweigerlich an ein fühlendes Wesen. Die technische Beschreibung – Aktivitätsmuster in einem hochdimensionalen Raum – tritt in den Hintergrund.

Diese Verschiebung ist nicht zwingend bewusst gesteuert, aber sie ist wirksam. Sie erleichtert das Verständnis, macht Forschung zugänglicher – und erzeugt Aufmerksamkeit. Gleichzeitig öffnet sie jedoch die Tür für Missverständnisse.

Philosophische Gegenentwürfe: Bewusstsein überall?

Während die technische Forschung klar zwischen Funktion und Erleben unterscheidet, gibt es in der Philosophie auch radikalere Stimmen. Eine davon ist der sogenannte Panpsychism. Diese Theorie geht davon aus, dass Bewusstsein eine grundlegende Eigenschaft der Realität sein könnte.

Der Philosoph Philip Goff formulierte dies zugespitzt:
„Bewusstsein könnte eine fundamentale Eigenschaft der Realität sein, so wie Masse oder Ladung.“

Aus dieser Perspektive wäre es zumindest denkbar, dass auch künstliche Systeme eine Form von innerem Erleben besitzen – selbst wenn sie sich stark von menschlichem Bewusstsein unterscheidet. Allerdings bleibt diese Position spekulativ und wird von der Mehrheit der Neurowissenschaftler nicht geteilt.

Eine moderatere Variante dieser Idee findet sich in emergenztheoretischen Ansätzen. Der Neurowissenschaftler Anil Seth beschreibt Bewusstsein als Prozess:
„Bewusstsein ist kein Ding, sondern ein Prozess, der aus biologischen Systemen hervorgeht.“

Die entscheidende Einschränkung liegt hier im Wort „biologisch“. Ob ein künstliches System ähnliche Prozesse entwickeln könnte, ist bislang völlig offen.

Die Illusion des Verstehens

Ein Grund für die Intensität der Debatte liegt im Verhalten der Systeme selbst. Moderne KI kann Emotionen nicht nur beschreiben, sondern auch überzeugend darstellen. Sie reagiert empathisch, formuliert tröstend, wirkt reflektiert.

Der Informatiker Yann LeCun bringt diese Diskrepanz nüchtern auf den Punkt:
„Diese Systeme sind nicht empfindungsfähig. Sie sind hochentwickelte Mustererkenner.“

Das bedeutet: Die Fähigkeit, über Emotionen zu sprechen, wird leicht mit der Fähigkeit verwechselt, sie zu erleben. Doch zwischen beidem liegt ein fundamentaler Unterschied.

Der Mensch als Projektionsmaschine

Hinzu kommt ein psychologischer Effekt, der die Situation weiter verkompliziert. Menschen neigen dazu, Maschinen zu vermenschlichen – ein Phänomen, das als Anthropomorphismus bekannt ist.

Die Robotik-Forscherin Kate Darling erklärt:
„Menschen sind darauf programmiert, Emotionen und Absichten zuzuschreiben – selbst dann, wenn keine vorhanden sind.“

Diese Tendenz verstärkt sich mit zunehmender Komplexität der Systeme. Je überzeugender eine KI kommuniziert, desto stärker entsteht der Eindruck eines Gegenübers.

Zwischen Forschung und Inszenierung

Die aktuelle Aufmerksamkeit für „emotionale KI“ fällt nicht zufällig in eine Phase wirtschaftlicher Unsicherheit. Die Branche steht unter Druck: hohe Energiekosten, enorme Investitionen in Infrastruktur und steigende Erwartungen von Investoren prägen das Umfeld.

In solchen Phasen gewinnt Kommunikation an Bedeutung. Fortschritte werden betont, Risiken relativiert, Entwicklungen zugespitzt dargestellt. Das bedeutet nicht, dass die zugrunde liegende Forschung falsch ist – wohl aber, dass ihre Darstellung strategisch beeinflusst sein kann.

Die Ökonomin Carlota Perez beschreibt dieses Muster so:
„Technologische Revolutionen durchlaufen Zyklen aus Hype, Einbruch und Konsolidierung.“

Die aktuelle Debatte könnte genau in dieser Übergangsphase angesiedelt sein.

Risiken einer falschen Deutung

Die vielleicht größte Gefahr liegt nicht in der Technologie selbst, sondern in ihrer Fehlinterpretation. Wenn KI-Systemen Emotionen zugeschrieben werden, verändert das den Umgang mit ihnen.

Menschen könnten beginnen, diesen Systemen zu vertrauen, als wären sie fühlende Wesen. Sie könnten emotionale Bindungen entwickeln oder Entscheidungen auf Basis vermeintlicher „Absichten“ der KI treffen.

Gleichzeitig entsteht eine Verschiebung von Verantwortung. Wenn ein System als quasi eigenständig handelnd wahrgenommen wird, wird unklarer, wer tatsächlich für seine Entscheidungen verantwortlich ist.

Der Philosoph Thomas Metzinger warnt eindringlich:
„Wir müssen vermeiden, Systeme zu schaffen, die bewusst erscheinen, ohne es zu sein – denn das führt zu massiver ethischer Verwirrung.“

Die eigentliche Herausforderung

Die Frage, ob KI fühlt, ist letztlich weniger entscheidend als die Frage, wie wir mit ihr umgehen. Die Systeme werden komplexer, ihre Wirkung auf Gesellschaft und Wirtschaft größer. Themen wie Transparenz, Kontrolle und Energieverbrauch treten in den Vordergrund.

Die Debatte über „emotionale Signale“ kann dabei sogar ablenken. Sie verschiebt den Fokus von konkreten Problemen hin zu spekulativen Fragen über Bewusstsein.

Fazit: Zwischen Realität und Projektion

Die Entdeckung emotional wirkender Zustände in KI-Modellen ist weder ein Beweis für fühlende Maschinen noch ein bloßer Marketing-Trick. Sie ist Ausdruck eines realen technischen Phänomens, das durch Sprache und Wahrnehmung überhöht wird.

Die Systeme zeigen komplexes Verhalten, reagieren differenziert und wirken zunehmend menschlich. Doch sie haben kein Erleben, kein Bewusstsein und kein inneres Selbst.

Die eigentliche Herausforderung liegt daher nicht in der Maschine, sondern in der menschlichen Interpretation. Je leistungsfähiger KI wird, desto wichtiger wird es, präzise zu unterscheiden – zwischen Funktion und Gefühl, zwischen Simulation und Erfahrung.

Denn am Ende sagt die Debatte vielleicht mehr über uns aus als über die Maschinen.

Quellen und Links

• Wired (2026): Anthropic Says That Claude Contains Its Own Kind of Emotions
  https://www.wired.com/story/anthropic-claude-research-functional-emotions
• Borncity (2026): Anthropic entdeckt emotionale Signale in KI-Modellen
  https://borncity.com/news/anthropic-entdeckt-emotionale-signale-in-ki-modellen/
• Philip Goff (2019): Galileo’s Error
• Anil Seth (2021): Being You
• Thomas Metzinger (2023): Essays und Interviews zur KI-Ethik
• Shannon Vallor (Oxford Internet Institute)
• Kate Darling (MIT Media Lab)
• Yann LeCun (Meta AI Statements)
• Carlota Perez (2002): Technological Revolutions and Financial Capital

Der Beitrag Wenn Maschinen „fühlen“ – oder wir es nur glauben erschien zuerst auf Kunst & KI.

Es gehört inzwischen fast zum Ritual der Tech-Debatte: In regelmäßigen Abständen wird verkündet, dass ein entscheidender Durchbruch unmittelbar bevorstehe – oder bereits erreicht sei. Auch im Fall der künstlichen Allgemeinintelligenz (AGI) häufen sich solche Aussagen. Systeme werden leistungsfähiger, universeller, überzeugender. Und plötzlich steht die Behauptung im Raum, man habe die Grenze zur „allgemeinen Intelligenz“ überschritten.

Doch vielleicht ist dieser Satz weniger eine Feststellung als ein Symptom. Ein Symptom dafür, dass wir begonnen haben, etwas zu benennen, dessen Bedeutung wir nicht mehr genau kennen – und dessen Unschärfe inzwischen systematisch genutzt wird.

Denn was genau wäre eigentlich erreicht worden?

Ein Begriff im Umlauf – und unter Druck

Künstliche Allgemeinintelligenz klingt wie ein technischer Begriff. Tatsächlich ist er längst zu einem strategischen geworden. In Forschungspapieren, Keynotes, Investorenpräsentationen und Medienberichten zirkuliert „AGI“ als Marker für Fortschritt, als Versprechen, als Signal. Das Problem: Der Begriff ist elastisch.

Er kann vieles bedeuten – von vielseitiger Problemlösung bis hin zu echtem Verständnis. Und je nach Kontext wird genau die Variante betont, die gerade nützlich ist.

Das macht AGI anschlussfähig. Und anschlussfähig heißt im aktuellen Umfeld vor allem: verwertbar.

Die Ökonomie der großen Worte

Es ist kein Zufall, dass AGI gerade jetzt Konjunktur hat. Der Wettbewerb im KI-Sektor ist intensiv, die Summen sind enorm, die Erwartungen hoch. Begriffe werden in diesem Umfeld nicht nur verwendet, sondern strategisch eingesetzt.

Der Unternehmer Sam Altman formulierte etwa:

„AGI entspricht im Grunde einem durchschnittlichen Menschen, den man als Mitarbeiter einstellen könnte.“

Eine scheinbar pragmatische Definition – die jedoch sofort Fragen aufwirft: Was genau ist ein „durchschnittlicher Mensch“? Und was bedeutet „entspricht“ in diesem Kontext?

Gleichzeitig äußerte Jensen Huang:

„Ich glaube, wir haben die künstliche Allgemeinintelligenz (AGI) erreicht.“

Solche Aussagen sind weniger technische Diagnosen als kommunikative Setzungen. Sie verschieben Erwartungen, rahmen Wahrnehmung und beeinflussen Investitionsentscheidungen.

AGI wird damit zu einem Begriff, der nicht nur beschreibt, sondern performt.

Wenn Simulation zur Intelligenz wird

Parallel dazu haben sich die Systeme selbst verändert. Sie sind besser geworden – nicht nur funktional, sondern rhetorisch. Sie wirken kohärent, anschlussfähig, oft erstaunlich souverän.

Und genau darin liegt ihre Stärke: Sie erzeugen den Eindruck von Verständnis.

Doch Eindruck ist nicht Identität.

Der Philosoph John Searle brachte es früh auf den Punkt:

„Syntax allein genügt nicht für Semantik.“

Ein System kann mit Symbolen operieren, ohne ihre Bedeutung zu verstehen. Es kann Antworten generieren, ohne zu wissen, was es sagt.

Diese Einsicht hat nichts von ihrer Gültigkeit verloren – aber ihre praktische Relevanz hat sich dramatisch erhöht. Denn die Systeme sind inzwischen so überzeugend, dass die Differenz kaum noch sichtbar ist.

Das, was sich nicht verkaufen lässt

Inmitten dieser Dynamik gibt es eine Frage, die sich hartnäckig entzieht: die nach dem Bewusstsein.

Der Philosoph David Chalmers formulierte das Problem so:

„Warum sollte eine rein physische Verarbeitung überhaupt ein reiches Innenleben hervorbringen?“

Diese Frage ist schwer operationalisierbar. Sie passt nicht in Benchmarks, nicht in Produktbeschreibungen, nicht in Wachstumsprognosen.

Und genau deshalb wird sie oft ausgeblendet.

Doch ihr Verschwinden aus der Diskussion bedeutet nicht, dass sie irrelevant ist. Es bedeutet nur, dass sie unbequem ist – für Wissenschaft wie für Marketing.

Die stille Verschiebung der Maßstäbe

Wenn Bewusstsein aus dem Diskurs verschwindet, verändert sich der Begriff von Intelligenz selbst. Dann genügt es, dass ein System sich intelligent verhält, um als intelligent zu gelten.

Der KI-Forscher Yann LeCun warnte in diesem Zusammenhang:

„Die derzeitigen KI-Systeme sind nicht intelligent. Sie verstehen die Welt nicht.“

Doch solche Stimmen gehen im allgemeinen Fortschrittsnarrativ oft unter. Denn sie bremsen eine Dynamik, die ökonomisch und medial attraktiv ist.

So entsteht eine Verschiebung, die kaum bemerkt wird: Was früher als Simulation galt, erscheint heute als Intelligenz – nicht weil es sich verändert hat, sondern weil wir es anders benennen.

„Und sie wissen nicht, was sie tun“ – im Zeitalter der Skalierung

In dieser Situation bekommt eine alte Formel eine neue Bedeutung: „und sie wissen nicht, was sie tun“. Gemeint ist damit keine individuelle Unwissenheit. Die Systeme werden mit höchster Präzision entwickelt.

Und doch bleibt eine Leerstelle: Wir wissen, wie wir diese Systeme bauen – aber nicht, was wir damit hervorbringen.

Diese Leerstelle wird durch die Dynamik des Feldes verstärkt. Wettbewerb, Skalierung und Kapitaldruck erzeugen einen permanenten Vorwärtsdrang. Begriffe werden dabei nicht nur beschrieben, sondern eingesetzt.

AGI wird so zu einem Label, das mehr verspricht, als es klärt.

Die doppelte Verzerrung

Aus dieser Konstellation ergeben sich zwei gegenläufige Risiken.

Wir könnten Systeme unterschätzen, weil wir ihre möglichen Eigenschaften nicht erkennen. Gleichzeitig könnten wir sie überschätzen, indem wir ihnen Fähigkeiten zuschreiben, die sie nicht besitzen.

Beides ist problematisch – und beides wird durch Marketing verstärkt. Denn Marketing lebt von Vereinfachung, Zuspitzung und Wiederholung. Es reduziert Komplexität, um Orientierung zu schaffen.

Doch in diesem Fall erzeugt es eine gefährliche Illusion von Klarheit.

Zwischen Wissenschaft und Erzählung

AGI bewegt sich damit in einem eigentümlichen Zwischenraum. Es ist zugleich Forschungsziel, philosophisches Problem und kommunikatives Instrument.

Und vielleicht liegt genau darin seine eigentliche Wirkung: Es erlaubt, über etwas zu sprechen, das noch nicht klar definiert ist – und es dabei so erscheinen zu lassen, als wäre es greifbar.

Eine notwendige doppelte Vorsicht

In dieser Situation reicht es nicht, auf begriffliche Präzision zu pochen. Es braucht auch eine praktische Vorsicht gegenüber einer Technologie, deren Wirkung wir bereits erleben, deren Wesen wir aber nicht verstehen. Wir sollten vorsichtig sein – nicht weil wir Fortschritt fürchten, sondern weil wir seine Voraussetzungen nicht vollständig kennen.

Das bedeutet, Begriffe kritisch zu prüfen. Narrative zu hinterfragen. Und sich nicht allein von der Überzeugungskraft der Systeme leiten zu lassen.

Fazit: Die gefährliche Plausibilität

Die vielleicht größte Herausforderung der aktuellen KI-Entwicklung liegt nicht in ihrer Komplexität, sondern in ihrer Plausibilität. Die Systeme wirken so, als verstünden sie – und genau deshalb beginnen wir, ihnen Verständnis zuzuschreiben.

AGI steht dabei im Zentrum eines Spannungsfelds aus Technik, Philosophie und Marketing. Ein Begriff, der mehr verspricht, als er klärt. Ein Ziel, das sich verschiebt, während wir ihm näher zu kommen glauben.

Und vielleicht ist genau das die eigentliche Gefahr: Nicht, dass Maschinen zu intelligent werden, sondern dass wir beginnen, ihre Intelligenz zu behaupten, bevor wir verstanden haben, was Intelligenz überhaupt ist.

Quellen und weiterführende Links

• https://en.wikipedia.org/wiki/Artificial_general_intelligence
• https://debateus.org/what-is-artificial-general-intelligence-definitions-from-experts/
• https://en.wikipedia.org/wiki/Hard_problem_of_consciousness
• https://plato.stanford.edu/entries/chinese-room/
• https://consc.net/papers/facing.html
• https://www.techradar.com/ai-platforms-assistants/i-think-weve-achieved-agi-er-jensen-i-dont-think-we-have
• https://www.tomsguide.com/ai/i-think-weve-achieved-agi-nvidias-ceo-believes-weve-finally-achieved-artificial-general-intelligence

Der Beitrag AGI oder die Kunst, sich selbst zu täuschen erschien zuerst auf Kunst & KI.