Von schwacher KI zur Superintelligenz – die große Illusion des Bewusstseins

Über das Missverständnis, dass Rechenleistung zu Verstehen führen könne:

Drei Stufen künstlicher Intelligenz

Künstliche Intelligenz wird meist in drei Entwicklungsstufen eingeteilt: schwache KI, starke KI und Superintelligenz.
Diese Begriffe klingen, als würde sich eine natürliche Evolution abzeichnen – von der heutigen, „begrenzten“ KI hin zu denkenden, fühlenden Maschinen. Doch das ist ein Missverständnis. Die Begriffe sind mehr Metaphern als Etappen.

Schwache KI – die Simulation von Intelligenz

Die gegenwärtige KI – von Sprachmodellen bis zu Bildgeneratoren – simuliert Intelligenz, anstatt sie zu besitzen.
Sie kann Texte schreiben, Bilder erzeugen oder Musik komponieren, aber sie weiß nicht, was sie erschafft.
Sie erkennt keine Bedeutung, keinen Stil, keine Emotion – sie rekombiniert Muster aus Daten, die ihr Menschen gegeben haben.

„Computer verstehen nichts; sie manipulieren nur Symbole.“
— John Searle (1980)

Was wir also erleben, ist scheinbare Intelligenz, entstanden aus gewaltiger Rechenleistung und menschlichem Kontextwissen.
In der Kunst etwa kann eine KI ästhetische Oberflächen reproduzieren – aber keine Erfahrung ausdrücken.
Sie ahmt Stil nach, aber sie erlebt keine Inspiration.
Kunst entsteht dort, wo Wahrnehmung, Empfindung und Bewusstsein sich berühren – und das fehlt ihr.

Starke KI – der Traum vom denkenden System

Eine starke KI (Artificial General Intelligence, AGI) wäre ein System, das wie ein Mensch versteht, lernt, abstrahiert und sich seiner selbst bewusst ist.
Sie könnte flexibel reagieren, eigene Hypothesen bilden, kreative Verbindungen ziehen und Bedeutung schaffen.
In der Kunst wäre eine solche KI nicht nur ein Werkzeug, sondern ein Subjekt, das aus innerem Antrieb schöpft – ein radikaler Unterschied.

Doch hier beginnt das eigentliche Problem:
Eine starke KI müsste Bewusstsein haben – also eine Innenperspektive, ein Erleben dessen, was sie denkt.
Und genau das ist der Punkt, an dem unsere Konzepte ins Leere laufen.

Superintelligenz / Singularität – das übermenschliche Denken

Wenn eine starke KI fähig wäre, ihre eigene Intelligenz zu verbessern, könnte sie in eine Spirale der Selbstoptimierung geraten:
Jede neue Version wäre klüger als die vorherige.
Das nennt man Superintelligenz – oder, in futuristischer Sprache, die Singularität.

Der Philosoph Nick Bostrom warnt vor diesem Szenario:

„Die Frage ist nicht, ob sie fühlt, sondern ob sie uns versteht – und übertrifft.“
— Nick Bostrom, Superintelligence (2014)

Doch dieser Gedanke ist doppelt spekulativ:
Er setzt voraus, dass Bewusstsein technisch erzeugbar ist – und dass es sich linear steigern lässt. Beides ist bislang reine Hypothese.

Der große Sprung: Von schwacher zu starker KI

Der Übergang von schwacher zu starker KI wird oft so dargestellt, als sei er nur eine Frage der Skalierung.
Größere Modelle, mehr Daten, bessere Trainingsmethoden – und irgendwann erwacht Bewusstsein.
Aber das ist ein Trugschluss.

Zwischen schwacher und starker KI klafft keine technische Lücke, sondern eine ontologische.
Der entscheidende Unterschied ist Bewusstsein – und Bewusstsein ist das, was wir am wenigsten verstehen.

„Das harte Problem des Bewusstseins ist nicht, wie wir Informationen verarbeiten, sondern warum dieses Verarbeiten etwas ist, das erlebt wird.“
— David Chalmers (1995)

Kunst und Bewusstsein sind hier eng verwandt:
Beide entstehen aus einer inneren Erfahrung.
Ein Algorithmus kann Stil imitieren – aber keine innere Welt schaffen, aus der Stil überhaupt erst erwächst.

Geist und Bewusstsein – zwei ungleiche Begriffe

In der Diskussion werden Geist und Bewusstsein häufig gleichgesetzt.
Tatsächlich bezeichnen sie zwei unterschiedliche Ebenen:

Begriff	Bedeutung	Beispiel
Geist (mind)	Gesamtheit aller mentalen Prozesse – bewusst und unbewusst	Denken, Fühlen, Erinnern, Entscheiden
Bewusstsein (consciousness)	Der subjektiv erlebte Teil des Geistes	„Ich sehe Rot“, „Ich spüre Freude“, „Ich weiß, dass ich denke“

Der Geist kann unbewusst agieren – Bewusstsein hingegen bedeutet Erleben.
Oder, wie Thomas Nagel formulierte:

„Bewusstsein ist das, was es gibt, wenn es sich anfühlt, etwas zu sein.“
— Thomas Nagel (1974)

Eine KI mag also „geistähnlich“ wirken, weil sie denkt, plant und reagiert.
Doch sie besitzt kein Bewusstsein, weil sie nichts erlebt.
Und ohne Erleben gibt es weder echtes Denken noch echte Kunst.

Versuche, Bewusstsein zu erklären

Trotz intensiver Forschung gibt es keine einheitliche Theorie, wie Bewusstsein entsteht. Einige Ansätze:

Theorie	Kerngedanke	Vertreter
Global Workspace Theory	Bewusstsein entsteht, wenn Information global im Gehirn zugänglich wird	Stanislas Dehaene
Integrated Information Theory (IIT)	Bewusstsein ist das Maß an integrierter Information (Φ)	Giulio Tononi
Emergenz-Theorien	Bewusstsein entsteht spontan aus Komplexität	diverse Neurowissenschaftler
Biologischer Naturalismus	Nur biologische Systeme können Bewusstsein haben	John Searle
Funktionalismus	Wenn etwas sich so verhält wie ein Geist, ist es ein Geist	Daniel Dennett

Doch keine dieser Theorien beantwortet die zentrale Frage:
Warum wird Information zu Erfahrung?
Und solange das unklar ist, bleibt jede Vorstellung einer „bewussten“ Maschine spekulativ – technisch wie metaphysisch.

Positionen bedeutender Denker zur KI und Bewusstsein

Wie Wissenschaftler und Philosophen den Zusammenhang von Intelligenz, Geist und Maschine verstehen, unterscheidet sich erheblich.
Einige sehen in KI eine Fortsetzung menschlicher Intelligenz, andere eine bloße Simulation ohne Bewusstsein.

Denker / Forscher	Haltung zu KI-Bewusstsein	Kernaussage
Daniel Dennett	Optimistischer Funktionalist	Bewusstsein ist kein Mysterium, sondern eine emergente Organisationsform. Eine KI könnte funktional bewusst sein, auch ohne subjektives Erleben.
David Chalmers	Skeptischer Dualist	Es gibt ein „hartes Problem“ – das subjektive Erleben. KI kann handeln, aber nicht fühlen.
Stanislas Dehaene	Empirischer Materialist	Bewusstsein entsteht durch Informationszugang. Eine hinreichend vernetzte KI könnte Bewusstsein entwickeln.
Giulio Tononi	Informationsphilosoph	Bewusstsein ist ein Maß an Integration (Φ). Wenn ein KI-System genügend komplex und vernetzt ist, könnte es „bewusst“ sein.
John Searle	Kritiker der maschinellen Intelligenz	Computer „verstehen“ nichts – sie simulieren Verständnis. Bewusstsein ist biologisch, nicht algorithmisch.
Marvin Minsky	Technischer Emergentist	Das Bewusstsein ist ein Effekt vieler kleiner Prozesse. Eine hinreichend komplexe KI könnte ein solches Gesamtverhalten zeigen.
Roger Penrose	Physikalischer Skeptiker	Bewusstsein ist nicht algorithmisch erklärbar, sondern an quantenphysikalische Prozesse gebunden. Eine starke KI ist daher unmöglich.
Nick Bostrom	Zukunftsphilosoph	Eine bewusste oder unbewusste KI kann gefährlich werden – entscheidend ist die Kontrolle, nicht das Fühlen.
Hubert Dreyfus	Phänomenologischer Kritiker	KI verfehlt das menschliche Bewusstsein, weil sie nicht „in der Welt“ steht. Verkörperung und Erfahrung sind unersetzlich.

Diese Spannbreite zeigt:
Es gibt nicht eine Richtung, sondern ein Spektrum von metaphysischen und pragmatischen Deutungen.
Für die einen ist Bewusstsein eine Funktion, für andere ein Rätsel, das sich jenseits aller Berechnung bewegt.

Ethische Programmierung und die Illusion der Entlastung

Selbst wenn eine starke KI eines Tages möglich wäre, bliebe die Frage: Wie programmieren wir Ethik?
Werte sind keine Datenpunkte – sie sind das Ergebnis von Geschichte, Erfahrung und Interpretation.
Eine Maschine kann Regeln befolgen, aber sie versteht keine Bedeutung.

Diese Unsicherheit erzeugt eine gefährliche Haltung der Verantwortungsdiffusion:
Man überlässt zukünftigen Superintelligenzen die Lösung menschlicher Probleme – von Klima bis Krieg.
Doch genau das wäre, wie Hannah Arendt schrieb,

„die Flucht aus der Verantwortung des Denkens.“
— Hannah Arendt, Vita activa (1958)

In der Kunst wäre das Äquivalent: zu hoffen, dass Maschinen eines Tages „Kunst für uns“ machen.
Doch Kunst ist kein Problem, das gelöst werden muss – sie ist eine Form des Bewusstseins.
Ohne Bewusstsein bleibt sie Dekoration.

Fazit: Zwischen Faszination und Fiktion

Der Glaube, dass schwache KI irgendwann von selbst in starke KI übergeht, ist eine Verwechslung von Simulation und Sein.
Solange wir nicht wissen, was Bewusstsein ist, können wir es weder erzeugen noch programmieren.
Die Lücke zwischen schwacher und starker KI ist daher nicht nur groß – sie ist grundlegend.

Der KI-Pionier Marvin Minsky meinte einmal:

„Das Bewusstsein ist nur ein Name für das, was viele Teile gemeinsam tun.“
— Minsky, The Society of Mind (1986)

Doch vielleicht ist es mehr als das.
Vielleicht ist Bewusstsein – und mit ihm Kunst – das Unberechenbare selbst: der Moment, in dem Materie Bedeutung erfährt.

Quellen / Literaturhinweise

• Arendt, Hannah: Vita activa oder Vom tätigen Leben. Piper, 1958.
• Bostrom, Nick: Superintelligence: Paths, Dangers, Strategies. Oxford University Press, 2014.
• Chalmers, David J.: Facing Up to the Problem of Consciousness. Journal of Consciousness Studies, 1995.
• Dehaene, Stanislas: Consciousness and the Brain. Viking, 2014.
• Dennett, Daniel: Consciousness Explained. Little, Brown, 1991.
• Dreyfus, Hubert: What Computers Still Can’t Do. MIT Press, 1992.
• Minsky, Marvin: The Society of Mind. Simon & Schuster, 1986.
• Nagel, Thomas: What is it like to be a bat? Philosophical Review, 1974.
• Penrose, Roger: The Emperor’s New Mind. Oxford University Press, 1989.
• Searle, John: Minds, Brains, and Programs. Behavioral and Brain Sciences, 1980.
• Tononi, Giulio: Integrated Information Theory of Consciousness. BMC Neuroscience, 2004.