Drei Stufen künstlicher Intelligenz

Künstliche Intelligenz wird meist in drei Entwicklungsstufen eingeteilt: schwache KI, starke KI und Superintelligenz.
Diese Begriffe klingen, als würde sich eine natürliche Evolution abzeichnen – von der heutigen, „begrenzten“ KI hin zu denkenden, fühlenden Maschinen. Doch das ist ein Missverständnis. Die Begriffe sind mehr Metaphern als Etappen.

Schwache KI – die Simulation von Intelligenz

Die gegenwärtige KI – von Sprachmodellen bis zu Bildgeneratoren – simuliert Intelligenz, anstatt sie zu besitzen.
Sie kann Texte schreiben, Bilder erzeugen oder Musik komponieren, aber sie weiß nicht, was sie erschafft.
Sie erkennt keine Bedeutung, keinen Stil, keine Emotion – sie rekombiniert Muster aus Daten, die ihr Menschen gegeben haben.

„Computer verstehen nichts; sie manipulieren nur Symbole.“
— John Searle (1980)

Was wir also erleben, ist scheinbare Intelligenz, entstanden aus gewaltiger Rechenleistung und menschlichem Kontextwissen.
In der Kunst etwa kann eine KI ästhetische Oberflächen reproduzieren – aber keine Erfahrung ausdrücken.
Sie ahmt Stil nach, aber sie erlebt keine Inspiration.
Kunst entsteht dort, wo Wahrnehmung, Empfindung und Bewusstsein sich berühren – und das fehlt ihr.

Starke KI – der Traum vom denkenden System

Eine starke KI (Artificial General Intelligence, AGI) wäre ein System, das wie ein Mensch versteht, lernt, abstrahiert und sich seiner selbst bewusst ist.
Sie könnte flexibel reagieren, eigene Hypothesen bilden, kreative Verbindungen ziehen und Bedeutung schaffen.
In der Kunst wäre eine solche KI nicht nur ein Werkzeug, sondern ein Subjekt, das aus innerem Antrieb schöpft – ein radikaler Unterschied.

Doch hier beginnt das eigentliche Problem:
Eine starke KI müsste Bewusstsein haben – also eine Innenperspektive, ein Erleben dessen, was sie denkt.
Und genau das ist der Punkt, an dem unsere Konzepte ins Leere laufen.

Superintelligenz / Singularität – das übermenschliche Denken

Wenn eine starke KI fähig wäre, ihre eigene Intelligenz zu verbessern, könnte sie in eine Spirale der Selbstoptimierung geraten:
Jede neue Version wäre klüger als die vorherige.
Das nennt man Superintelligenz – oder, in futuristischer Sprache, die Singularität.

Der Philosoph Nick Bostrom warnt vor diesem Szenario:

„Die Frage ist nicht, ob sie fühlt, sondern ob sie uns versteht – und übertrifft.“
— Nick Bostrom, Superintelligence (2014)

Doch dieser Gedanke ist doppelt spekulativ:
Er setzt voraus, dass Bewusstsein technisch erzeugbar ist – und dass es sich linear steigern lässt. Beides ist bislang reine Hypothese.

Der große Sprung: Von schwacher zu starker KI

Der Übergang von schwacher zu starker KI wird oft so dargestellt, als sei er nur eine Frage der Skalierung.
Größere Modelle, mehr Daten, bessere Trainingsmethoden – und irgendwann erwacht Bewusstsein.
Aber das ist ein Trugschluss.

Zwischen schwacher und starker KI klafft keine technische Lücke, sondern eine ontologische.
Der entscheidende Unterschied ist Bewusstsein – und Bewusstsein ist das, was wir am wenigsten verstehen.

„Das harte Problem des Bewusstseins ist nicht, wie wir Informationen verarbeiten, sondern warum dieses Verarbeiten etwas ist, das erlebt wird.“
— David Chalmers (1995)

Kunst und Bewusstsein sind hier eng verwandt:
Beide entstehen aus einer inneren Erfahrung.
Ein Algorithmus kann Stil imitieren – aber keine innere Welt schaffen, aus der Stil überhaupt erst erwächst.

Geist und Bewusstsein – zwei ungleiche Begriffe

In der Diskussion werden Geist und Bewusstsein häufig gleichgesetzt.
Tatsächlich bezeichnen sie zwei unterschiedliche Ebenen:

Der Geist kann unbewusst agieren – Bewusstsein hingegen bedeutet Erleben.
Oder, wie Thomas Nagel formulierte:

„Bewusstsein ist das, was es gibt, wenn es sich anfühlt, etwas zu sein.“
— Thomas Nagel (1974)

Eine KI mag also „geistähnlich“ wirken, weil sie denkt, plant und reagiert.
Doch sie besitzt kein Bewusstsein, weil sie nichts erlebt.
Und ohne Erleben gibt es weder echtes Denken noch echte Kunst.

Versuche, Bewusstsein zu erklären

Trotz intensiver Forschung gibt es keine einheitliche Theorie, wie Bewusstsein entsteht. Einige Ansätze:

Doch keine dieser Theorien beantwortet die zentrale Frage:
Warum wird Information zu Erfahrung?
Und solange das unklar ist, bleibt jede Vorstellung einer „bewussten“ Maschine spekulativ – technisch wie metaphysisch.

Positionen bedeutender Denker zur KI und Bewusstsein

Wie Wissenschaftler und Philosophen den Zusammenhang von Intelligenz, Geist und Maschine verstehen, unterscheidet sich erheblich.
Einige sehen in KI eine Fortsetzung menschlicher Intelligenz, andere eine bloße Simulation ohne Bewusstsein.

Diese Spannbreite zeigt:
Es gibt nicht eine Richtung, sondern ein Spektrum von metaphysischen und pragmatischen Deutungen.
Für die einen ist Bewusstsein eine Funktion, für andere ein Rätsel, das sich jenseits aller Berechnung bewegt.

Ethische Programmierung und die Illusion der Entlastung

Selbst wenn eine starke KI eines Tages möglich wäre, bliebe die Frage: Wie programmieren wir Ethik?
Werte sind keine Datenpunkte – sie sind das Ergebnis von Geschichte, Erfahrung und Interpretation.
Eine Maschine kann Regeln befolgen, aber sie versteht keine Bedeutung.

Diese Unsicherheit erzeugt eine gefährliche Haltung der Verantwortungsdiffusion:
Man überlässt zukünftigen Superintelligenzen die Lösung menschlicher Probleme – von Klima bis Krieg.
Doch genau das wäre, wie Hannah Arendt schrieb,

„die Flucht aus der Verantwortung des Denkens.“
— Hannah Arendt, Vita activa (1958)

In der Kunst wäre das Äquivalent: zu hoffen, dass Maschinen eines Tages „Kunst für uns“ machen.
Doch Kunst ist kein Problem, das gelöst werden muss – sie ist eine Form des Bewusstseins.
Ohne Bewusstsein bleibt sie Dekoration.

Fazit: Zwischen Faszination und Fiktion

Der Glaube, dass schwache KI irgendwann von selbst in starke KI übergeht, ist eine Verwechslung von Simulation und Sein.
Solange wir nicht wissen, was Bewusstsein ist, können wir es weder erzeugen noch programmieren.
Die Lücke zwischen schwacher und starker KI ist daher nicht nur groß – sie ist grundlegend.

Der KI-Pionier Marvin Minsky meinte einmal:

„Das Bewusstsein ist nur ein Name für das, was viele Teile gemeinsam tun.“
— Minsky, The Society of Mind (1986)

Doch vielleicht ist es mehr als das.
Vielleicht ist Bewusstsein – und mit ihm Kunst – das Unberechenbare selbst: der Moment, in dem Materie Bedeutung erfährt.

Quellen / Literaturhinweise

• Arendt, Hannah: Vita activa oder Vom tätigen Leben. Piper, 1958.
• Bostrom, Nick: Superintelligence: Paths, Dangers, Strategies. Oxford University Press, 2014.
• Chalmers, David J.: Facing Up to the Problem of Consciousness. Journal of Consciousness Studies, 1995.
• Dehaene, Stanislas: Consciousness and the Brain. Viking, 2014.
• Dennett, Daniel: Consciousness Explained. Little, Brown, 1991.
• Dreyfus, Hubert: What Computers Still Can’t Do. MIT Press, 1992.
• Minsky, Marvin: The Society of Mind. Simon & Schuster, 1986.
• Nagel, Thomas: What is it like to be a bat? Philosophical Review, 1974.
• Penrose, Roger: The Emperor’s New Mind. Oxford University Press, 1989.
• Searle, John: Minds, Brains, and Programs. Behavioral and Brain Sciences, 1980.
• Tononi, Giulio: Integrated Information Theory of Consciousness. BMC Neuroscience, 2004.

Der Beitrag Von schwacher KI zur Superintelligenz – die große Illusion des Bewusstseins erschien zuerst auf Kunst & KI.

Die Philosophie hat seit jeher dort begonnen, wo Gewissheiten enden. Sie ist die Kunst der unbequemen Frage, die bereit ist, komplexe und widersprüchliche Realitäten zu akzeptieren, anstatt sie zu glätten. Doch in der von Künstlicher Intelligenz (KI) geprägten Welt scheint diese fundamentale Fähigkeit zunehmend bedroht. Algorithmen, Daten und das Streben nach Effizienz drängen auf Eindeutigkeit und Konsens. Was Philosophen wie Rainer Mühlhoff, Dr. Michael Andrick und Gwendolin Kirchhoff uns zeigen, ist eine tiefgreifende Verschiebung: Die Logik der KI ist nicht nur ein neues Werkzeug, sondern eine Ideologie, die den Grundpfeilern unserer Demokratie – dem offenen Diskurs und der Pluralität – zuwiderläuft.

KI als Sortiermaschine und die schleichende Macht des digitalen Faschismus

Die vielleicht provokanteste, aber zugleich präziseste Diagnose über die Rolle der KI stammt vom Philosophen Rainer Mühlhoff. Er nennt sie eine „Menschensortiertechnologie“. Was dahintersteckt, ist mehr als nur die Personalisierung von Werbung. Prädiktive Analytik sortiert Individuen und Gruppen auf Basis von Daten in Kategorien, um sie unterschiedlich zu behandeln: Wer bekommt einen Kredit? Wer wird zum Vorstellungsgespräch eingeladen? Wer wird an der Grenze als niedriges oder hohes Risiko eingestuft?

Mühlhoffs These, „KI-Technologie und Faschismus basieren auf den gleichen ideologischen Wurzeln“, ist keine leichtfertige Gleichsetzung, sondern ein philosophischer Weckruf. Sie weist auf einen gemeinsamen Nenner hin: eine technokratische, auf Effizienz und Kontrolle fixierte Weltsicht. Der digitale Faschismus manifestiert sich nicht in traditioneller Gewalt, sondern in der unsichtbaren Automatisierung der Macht. Er schafft eine Gesellschaft, in der Individuen durch Algorithmen kategorisiert und ihr Verhalten vorhergesagt wird, was die freie Entfaltung des Einzelnen massiv einschränkt. Die KI wird so zum idealen Werkzeug für eine zentrale Macht, die die Bürger ohne physischen Zwang in einen „algoritmischen Korridor“ drängt.

Die Verengung des Meinungskorridors und die Entwertung des Widerspruchs

In einem zunehmend technokratischen Umfeld, das auf Daten und Algorithmen fixiert ist, erodiert auch der öffentliche Diskurs. Der Philosoph Dr. Michael Andrick kritisiert scharf, wie sich die politische und mediale Landschaft verändert hat. Er beschreibt, dass ein Großteil des Mainstreams, der Institutionen und der Politik zunehmend von einem „Wir“ spricht, das ein homogenes Kollektiv suggeriert. Dieses „Wir“ scheint nicht mehr aus dem grundlegenden, pluralistischen Konstrukt einer Republik oder einer Demokratie zu stammen, sondern vielmehr eine geschlossene, exklusive Gruppe zu repräsentieren. Sein Buchtitel „Ich bin nicht dabei…“ steht symbolisch für die Entfremdung und den Dissens vieler Bürger, die sich in diesem vorgefertigten „Wir“-Diskurs nicht mehr wiederfinden.

Die Philosophin Gwendolin Kirchhoff bringt diese Dynamik der Ausgrenzung mit einer provokanten Frage auf den Punkt: „Wo sind denn die Nazis, wenn sie raus sind?“ Diese rhetorische Frage ist keine Verharmlosung von Faschismus oder Nationalsozialismus. Sie ist vielmehr eine philosophische Hinterfragung des Prozesses, mit dem abweichende Meinungen und kritische Stimmen pauschal stigmatisiert und aus dem öffentlichen Diskurs gedrängt werden. Es ist die Kritik an einer Gesellschaft, die es sich zu leicht macht, Andersdenkende zu verurteilen und zu exkommunizieren, anstatt sich mit der Komplexität und den tatsächlichen Ursachen ihres Dissenses auseinanderzusetzen.

KI-Technologien verschärfen diese Verengung. Algorithmen zur Inhaltsmoderation, die auf maschinellem Lernen basieren, lernen aus bestehenden, oft voreingenommenen Datensätzen. Sie entfernen bestimmte Wörter, Tonlagen oder Themen und fördern so eine scheinbare Harmonie, die in Wahrheit eine Homogenisierung des Denkens ist. Das System ist darauf programmiert, Stabilität und Vorhersagbarkeit zu bevorzugen – und nicht das kritische, kreative und oft unordentliche Denken, das eine offene Gesellschaft ausmacht. Indem die KI Widerspruch als potenzielles Störsignal behandelt, trägt sie direkt zur Entwertung des Widerspruchs und zum Verlust einer vielfältigen Debattenkultur bei.

Superintelligenz: Die Utopie als Ablenkungsmanöver

Die Gefahr, unbequeme Wahrheiten zu verdrängen, zeigt sich auch in der Debatte um die Superintelligenz. Der Philosoph Richard David Precht kritisiert die Profitlogik, die den Großteil der KI-Entwicklung antreibt. Ethische Bedenken und philosophische Fragen sind für diesen Prozess oft störende „Bremsklötze“.

Eindrucksvoll illustriert wird diese Dynamik durch die scheinbare Kehrtwende des Transhumanisten Nick Bostrom. Über Jahre hat er mit seinem dystopischen „Büroklammer-Maximierer“-Gedankenexperiment vor existenziellen Risiken gewarnt. Heute jedoch skizziert er eine „Deep Utopia“. Kritiker fragen: War die ursprüngliche „Schwarzmalerei“ nur ein cleveres Manöver, um die Aufmerksamkeit auf das Thema zu lenken? Oder spiegelt diese Kehrtwende den gesellschaftlichen und marktstrategischen Druck wider, ein positives, glattes Narrativ zu schaffen, das die unangenehmen Risiken ausblendet? In der Jagd nach der perfekten Lösung könnte die KI-Entwicklung die komplexen philosophischen und ethischen Fragen, die unbequem sind und keine einfachen Antworten liefern, einfach ignorieren.

Fazit: Die Kunst des philosophischen Widerstands

Die von Mühlhoff, Andrick und Kirchhoff beschriebenen Gefahren sind keine Zukunftsszenarien, sondern Realitäten. KI ist bereits eine Sortiermaschine; der Meinungskorridor verengt sich; und die kritische Auseinandersetzung mit unbequemen Themen wird zugunsten von Effizienz und optimistischen Narrativen zurückgedrängt.

Die Kunst des Philosophierens, einst eine rein akademische Disziplin, wird in diesem Kontext zu einem Akt des Widerstands. Sie ist der Gegenentwurf zur algorithmischen Logik. Wir müssen aktiv die Vielfalt der Meinungen verteidigen, das kritische Fragenstellen kultivieren und uns weigern, uns von Algorithmen in einen vorbestimmten Korridor drängen zu lassen. Die Zukunft unserer demokratischen Gesellschaft hängt nicht von der Intelligenz unserer Maschinen ab, sondern von unserer Fähigkeit, ihnen philosophisch zu widerstehen.

Quellen und Thesen:

Rainer Mühlhoff: re:publica 2023, Vortrag zum Thema „KI als Menschensortiertechnologie.“

Michael Andrick: Buch „Ich bin nicht dabei: Denk-Zettel für einen freien Geist“, sowie zahlreiche öffentliche Äußerungen und Diskussionen.

Gwendolin Kirchhoff: Öffentliche Diskussionen und Vorträge, unter anderem mit Michael Andrick.

Richard David Precht: Diverse Publikationen und Interviews, wie in seinem Buch „Jäger, Hirten, Kritiker: Eine Utopie für die digitale Gesellschaft“

Nick Bostrom: Bücher „Superintelligenz: Szenarien einer kommenden Revolution“ und „Deep Utopia.“

Der Beitrag Im algorithmischen Korridor: Die Kunst des Philosophierens in der KI-Ära erschien zuerst auf Kunst & KI.