Die Digitalisierung schreitet voran – Verwaltung, Verkehr, Gesundheit, Bildung, Kultur: alles wird „smart“. Doch je digitaler die Welt wird, desto stärker wächst auch die Zahl der Menschen, die sich bewusst oder gezwungenermaßen entziehen. Sie sind nicht „technikfeindlich“, sondern verteidigen etwas, das zunehmend bedroht scheint: das Recht, analog zu leben.

Viele von ihnen fühlen sich inzwischen „app-gehängt“ – ein treffendes Wortspiel für eine Gesellschaft, die digitale Teilhabe zur Pflicht erhebt und analoge Alternativen abbaut.

Deutschland: Vom Digitalversprechen zum Digitalzwang

Deutschland hat sich die digitale Verwaltung auf die Fahnen geschrieben. Das Onlinezugangsgesetz (OZG) verpflichtet Bund und Länder, Verwaltungsleistungen digital anzubieten. Was positiv klingt, entwickelt sich vielerorts zu einer Einbahnstraße: immer öfter nur noch online, immer seltener persönlich, telefonisch oder schriftlich.

Der Datenschutzexperte Thilo Weichert warnt:

„Digital only kann diskriminierend, undemokratisch und unsozial sein.“
(taz, 2024)

Denn ausgeschlossen sind nicht nur Menschen ohne Geld, sondern auch jene, die Digitales aus Überzeugung meiden:
Menschen, die Datenschutzrisiken fürchten, ältere Bürger:innen, die analoge Kommunikation schätzen, Menschen mit sensorischen Einschränkungen oder psychischen Belastungen, Eltern, die ihre Kinder nicht früh digitalisieren wollen, oder einfach Menschen, die lieber mit einem Menschen sprechen als mit einem Chatbot.

Leena Simon, Netzphilosophin und Mitautorin des Gutachtens „Ein Recht auf analoge Teilhabe – Freiheit vor Digitalzwang“, bringt es auf den Punkt:

„Diese Menschen haben fast keine Wahl mehr. Terminvereinbarungen bei Behörden oder Fahrkartenkäufe ohne Smartphone sind erschwert oder teurer.“
(Deutschlandfunk Kultur, 2024)

Auch in Schulen wächst der Druck. KI-gestütztes Lernen, Tablets, Cloud-Plattformen – alles scheinbar modern. Doch Kinder, die durch Tun und sinnliche Erfahrung lernen, verlieren Erfahrungsräume. Eltern, die dies kritisch sehen, finden kaum noch Alternativen.

Und während die Verwaltung digitalisiert wird, verschwinden analoge Bürgerbüros, Papierformulare und Bargeld-Zahlungen.
Diejenigen, die lieber analog bleiben, geraten in eine stille Form von Diskriminierung – nicht wegen mangelnder Anpassung, sondern wegen eines anderen Verständnisses von Selbstbestimmung.

Europa: Digitale Inklusion ohne analoge Freiheit

In der EU wächst die Sorge über die digitale Kluft – die „digital divide“.
Programme wie der Digital Decade 2030 oder der European Accessibility Act wollen den Zugang zu Technologie erleichtern und Barrieren abbauen.
Doch was fast nirgends geregelt ist, ist das Recht auf Nicht-Digitalität: das Recht, sich Technologien zu entziehen, ohne gesellschaftliche Nachteile zu erleiden.

Gerade in Frankreich wird heftig darüber gestritten:
Ein Bericht des Sénat (2025) kritisierte die „dématérialisation“ – die vollständige Digitalisierung staatlicher Verfahren – als „un nouveau mur administratif“. Menschen ohne digitale Kompetenzen oder Geräte würden effektiv von Grundrechten ausgeschlossen.
Der Défenseur des droits forderte daraufhin, analoge Alternativen gesetzlich zu sichern.

In den nordischen Ländern wiederum wurde erkannt, dass zu viel Digitalisierung die Gesellschaft verletzlich macht:
Schweden führte 2021 neue Pflichten für Banken ein, Bargelddienste in allen Regionen bereitzustellen – als Reaktion auf eine Phase, in der viele Geschäfte keine Barzahlung mehr akzeptierten.

Global: Digitale Souveränität versus digitaler Zwang

Weltweit warnen Institutionen wie die UNESCO, UN-Menschenrechtsrat und UN-Behindertenrechtskonvention (UN-BRK) vor digitaler Ausgrenzung.
Sie betonen: Zugang zu Informationen und staatlichen Leistungen muss menschenrechtskonform sein – also auch analog möglich, wenn digitale Systeme unzugänglich oder unzumutbar sind.

Ein bemerkenswertes Beispiel liefert Indien:
Das biometrische Identifikationssystem Aadhaar wurde vom Obersten Gericht 2018 nur unter der Bedingung zugelassen, dass niemand benachteiligt werden darf, der keinen digitalen Zugang hat. Ein klares Signal gegen digitalen Zwang.

Institutionen und NGOs im Einsatz

Mehrere Organisationen in Deutschland und Europa setzen sich inzwischen für ein Recht auf analoge Teilhabe ein:

• Digitalcourage e. V. – kämpft für Datenschutz, Freiheitsrechte und gegen Digitalzwang.
• Netzwerk Datenschutzexpertise – erstellt juristische Gutachten zum Recht auf analogen Zugang.
• Der Paritätische Gesamtverband und Caritas – warnen vor sozialer Ausgrenzung durch rein digitale Verwaltungswege.
• Rosa-Luxemburg-Stiftung – betont, dass digitale Teilhabe soziale und demokratische Fragen berührt.
• European Disability Forum (EDF) – fordert EU-weit verbindliche Regeln, um Menschen mit Behinderung nicht von digitalen Prozessen auszuschließen.
• UNESCO / UNICEF – mahnen an, dass Digitalisierung Bildung nicht ersetzen darf, sondern ergänzen soll.

Nächste Schritte: Ein Plädoyer für Wahlfreiheit

1. Gesetzliches Recht auf analoge Teilhabe in Verwaltung, Gesundheit, Verkehr und Bildung.
2. Verpflichtende analoge Alternativen bei digitalen Pflichtdiensten.
3. Partizipative Entscheidungsprozesse, in denen Bürger:innen mitgestalten, wie viel Digitalisierung sie wollen.
4. EU-Initiative „Right to Remain Analog“, die Wahlfreiheit europaweit schützt.
5. Kulturelle Neubewertung des Analogen – nicht als Rückschritt, sondern als Teil menschlicher Vielfalt.

Fazit: Das Analoge ist kein Relikt – es ist ein Freiheitsraum

Digitalisierung ist kein Selbstzweck.
Wenn sie Teilhabe nur für jene ermöglicht, die digital bereit sind, dann ist sie kein Fortschritt, sondern eine neue Form der Ausgrenzung.

„Freiheit bedeutet auch, Nein sagen zu können –
zu Technologien, die uns mehr beherrschen als befreien.“
– Leena Simon, Netzphilosophin

Ein demokratischer Staat muss beides schützen:
das Recht auf digitale Teilhabe – und das Recht, analog zu bleiben.
Denn wer keine Wahl mehr hat, ist nicht modernisiert, sondern entmündigt.

Quellen

• Netzwerk Datenschutzexpertise: Ein Recht auf analoge Teilhabe – Freiheit vor Digitalzwang (2024)
• Digitalcourage e. V.: Rechtsgutachten zum Digitalzwang (2024)
• Deutschlandfunk Kultur: „Analog statt app-gehängt“ (Interview mit Leena Simon, 2024)
• taz: Leben ohne Smartphone und Computer (Interview mit Thilo Weichert, 2024)
• Bundestag: WD-Gutachten zur Zulässigkeit digital-only-Verfahren (2024)
• Sénat (Frankreich): Rapport sur la dématérialisation et l’exclusion administrative (2025)
• European Disability Forum: Digital Accessibility and Inclusion Report (2024)
• UNESCO / UNICEF: Reimagining Education in the Digital Age (2023)
• Oberster Gerichtshof Indien: Aadhaar Judgement (2018)

Der Beitrag App-gehängt: Die stille Kybernetisierung der Gesellschaft erschien zuerst auf Kunst & KI.

Künstliche Intelligenz ist längst zum Dauerthema geworden – Politiker fordern sie, Unternehmen werben mit ihr, und Verwaltungen wollen effizienter durch sie werden. Doch der Wettlauf um den schnellsten Einsatz birgt Risiken: verfassungswidrige Datenanalysen, diskriminierende Bewerbungsfilter, millionenschwere Deepfake-Betrugsfälle und gravierende Sicherheitsvorfälle bei Start-ups.

Die Lektion ist klar: Wer bei KI aufs Gaspedal tritt, ohne Bremsen und Airbags zu haben, riskiert nicht nur den eigenen Schaden, sondern auch das Vertrauen der Gesellschaft. Sicherheit, Transparenz und speziell geschulte Fachkräfte sind kein Bremsklotz – sie sind das Fundament für verantwortungsvollen Fortschritt.

Künstliche Intelligenz (KI) beschreibt Systeme, die selbstständig Texte schreiben, Bilder erzeugen, Entscheidungen vorbereiten oder Daten analysieren können. Chatbots, Übersetzungsdienste, Gesichtserkennung oder auch automatische Bewerbungsfilter sind bereits weit verbreitet.

Doch neben all den Chancen gibt es Gefahren, die für Laien oft schwer durchschaubar sind:

• Halluzinationen: KI erfindet Informationen, die falsch sind, aber sehr überzeugend klingen.
• Pakethalluzinationen: Ganze „Päckchen“ konsistenter, aber frei erfundener Inhalte – z. B. erfundene Gerichtsurteile mit scheinbar realistischen Aktenzeichen.
• Datenvergiftung: Trainingsdaten werden manipuliert, sodass die KI falsche Muster lernt.
• Prompt Injection / ASCII Smuggling: Unsichtbare Befehle werden in Texte eingeschleust, die KI manipuliert diese versteckten Anweisungen.
• Deepfakes: KI-generierte Stimmen oder Videos täuschen Identitäten vor, etwa bei Betrugsversuchen.
• Supply-Chain-Angriffe: Manipulierte Bibliotheken oder Modelle schleusen Schadsoftware über scheinbar vertrauenswürdige Quellen ein.

Kritische Vorfälle als Warnsignal

Dass diese Risiken real sind, zeigen mehrere dokumentierte Fälle in Deutschland und Europa:

1. Hessendata (Deutschland)
   Das Bundesverfassungsgericht erklärte im Februar 2023 den Einsatz automatisierter Datenanalysen zur Polizeiarbeit in Hessen und Hamburg für verfassungswidrig. Grund: unklare Eingriffsschwellen und massive Grundrechtsrisiken. „KI-Systeme dürfen nicht zu Black Boxes im Rechtsstaat werden – Transparenz und Rechtsgrundlagen sind zwingend.“
   (Prof. Ulrich Kelber, Bundesdatenschutzbeauftragter)
2. SCHUFA-Urteil (Deutschland/EU)
   Der Europäische Gerichtshof entschied 2023, dass automatisierte Bonitäts-Scores nicht allein Grundlage für Vertragsentscheidungen sein dürfen. Rein KI-gesteuerte Ablehnungen sind unzulässig. „Die DSGVO schützt uns vor intransparenten Maschinenurteilen – Menschen müssen das letzte Wort behalten.“
   (Johannes Caspar, Ex-Landesdatenschutzbeauftragter Hamburg)
3. Amazon Recruiting-KI (international)
   Amazons Bewerbungsfilter bevorzugte Männer, weil historische Trainingsdaten vorwiegend männliche Erfolge abbildeten. Das Projekt wurde gestoppt – ein Beispiel für algorithmische Diskriminierung. „KI übernimmt immer die Vorurteile ihrer Daten. Wer Fairness will, muss gezielt gegensteuern.“
   (Dr. Katharina Zweig, Algorithm Watch)
4. Localmind.ai (Österreich, Oktober 2025)
   Durch eine Fehlkonfiguration erhielt ein Beta-Testkonto Administratorrechte. Ein Angreifer konnte interne Wikis, Passwörter und Kundensysteme einsehen. Teile der Infrastruktur mussten abgeschaltet werden. „Das Beispiel zeigt: Die größten Risiken liegen oft nicht in der KI selbst, sondern in der Infrastruktur drumherum.“
   (Prof. Haya Shulman, Fraunhofer SIT)
5. Deepfake-Betrug („CEO-Fraud“)
   Angreifer nutzten KI-generierte Stimmen oder Videos von Führungskräften, um Überweisungen auszulösen. Solche Fälle haben bereits zu Millionenverlusten geführt. „Deepfakes sind die Spear-Phishing-Mails der Zukunft – nur überzeugender.“
   (Linus Neumann, Chaos Computer Club)

Warum speziell geschulte KI-Sicherheitsmitarbeiter unverzichtbar sind

Klassische IT-Sicherheitsabteilungen sind auf Netzwerkschutz und Malware spezialisiert. Doch KI bringt neue Angriffsflächen:

• Manipulation durch unsichtbare Zeichen (Prompt Injection).
• Erfundene Bibliotheken (Supply Chain).
• Bias und Diskriminierung in automatisierten Entscheidungen.

Hier braucht es eigene Rollen wie einen KI-Sicherheitsbeauftragten oder AI Security Officer, der:

• KI-spezifische Risiken versteht und testet.
• Schnittstelle zwischen IT, Recht, Datenschutz und Fachbereichen ist.
• Mitarbeitende schult und Awareness aufbaut.
• sicherstellt, dass Compliance (DSGVO, AI Act) eingehalten wird.

„Wer KI sicher einsetzen will, muss Spezialisten an Bord holen. Klassische IT-Security reicht nicht mehr.“
(Martin Bichler, Regional Country Manager DACH, Climb Channel Solutions)

Diese Rolle bedeutet Verantwortung statt Rückschritt: Wer nicht sofort auf jeden KI-Trend aufspringt, handelt nicht altmodisch, sondern verantwortungsvoll – ähnlich wie man beim Straßenverkehr auch nicht ohne Führerschein losfährt.

Und was ist mit Privatpersonen?

Privatnutzer sind besonders verwundbar, weil:

• Sie nicht geschult sind, KI-Ausgaben kritisch zu prüfen.
• Viele bereits von der allgemeinen Digitalisierung überfordert sind.
• Sie oft bedenkenlos persönliche Daten in Chatbots eingeben.

Welche Gesetze greifen hier?

• DSGVO (Datenschutz-Grundverordnung): schützt persönliche Daten – auch, wenn sie in KI-Systeme eingegeben werden.
• EU AI Act (verabschiedet 2024, in Kraft ab 2025/26): verbietet Hochrisiko-Einsatz von KI ohne Auflagen, verlangt Transparenz und Risikoabschätzungen.
• Produkthaftungsrecht: Anbieter von KI-Systemen können haftbar gemacht werden, wenn fehlerhafte Entscheidungen Schaden verursachen.
• Verbraucherschutzgesetze: greifen bei Irreführung oder intransparenten AGB von KI-Diensten.

„Privatnutzer sind die schwächste Stelle der Kette – ohne Aufklärung wird KI im Alltag schnell zum Risiko.“
(Dr. Constanze Kurz, Informatikerin und Bürgerrechtlerin)

Exkurs: Analog bleiben dürfen – Das Recht auf Verzicht im KI-Zeitalter

Sicherheit und Transparenz sind die eine Seite der Medaille – die andere ist die Freiheit, KI nicht nutzen zu müssen.

Viele Menschen sind digital überfordert oder wollen Technologien wie KI aus Überzeugung meiden. Hier stellt sich eine grundlegende Frage: Muss Teilhabe am gesellschaftlichen Leben künftig zwingend über digitale und KI-gestützte Systeme erfolgen?

Aktuelle Lage

• Ein ausdrückliches „Recht auf Verzicht“ gibt es noch nicht.
• Indirekt greifen aber Schutzmechanismen: DSGVO (Recht auf menschliches Eingreifen), AI Act (Transparenzpflichten), Barrierefreiheitsgesetz (Zugang für alle), Grundrechte (Würde, Gleichbehandlung).
• Trotzdem: In der Praxis werden viele Dienstleistungen digital-only – und damit für Nicht-Nutzer unerreichbar.

Fallbeispiel: Praktische Ausgrenzung

Ein Beispiel liefert der öffentliche Verkehr in Deutschland: Für bestimmte günstige Tickets (z. B. „Super-Sparpreise“ oder Sonderaktionen der Deutschen Bahn) ist die Buchung ausschließlich online oder per App möglich. Wer kein Smartphone oder Internetzugang hat, kann diese Angebote faktisch nicht nutzen.
Ähnlich wird es in einigen Kommunen gehandhabt, wo Terminbuchungen im Bürgeramt nur digital erfolgen. Wer keinen Zugang hat, muss Umwege gehen – oder wird schlicht ausgeschlossen.

Verantwortung

Ein modernes Gemeinwesen muss Technologiefreiheit garantieren:

• Wer KI nutzen will, soll es können.
• Wer darauf verzichtet, darf nicht ausgeschlossen werden – sei es beim Bürgeramt, beim Banking oder beim Kauf eines Tickets.

„Gerade deshalb erwarten Verbraucher:innen, im digitalen Raum geschützt zu sein. Es braucht klare, verbraucherfreundliche Regeln, die konsequent durchgesetzt werden.“
(Lina Ehrig, Leiterin Team Digitales & Medien, Verbraucherzentrale Bundesverband)

Dies ist keine „Anti-Digitalisierung“, sondern ein Gebot von Würde, Inklusion und Gerechtigkeit.

Fazit: Verantwortung vor Geschwindigkeit

• Unternehmen und Verwaltung: sollten nicht aus Angst, den „KI-Zug zu verpassen“, blind Technologien einführen, sondern geschulte Spezialisten einsetzen und klare Sicherheits- und Compliance-Strukturen schaffen.
• Privatpersonen: brauchen Aufklärung und Werkzeuge, um KI sicher nutzen zu können – und die Freiheit, darauf zu verzichten.
• Gesetzgeber: hat mit DSGVO und AI Act Grundlagen geschaffen, muss aber auch sicherstellen, dass analoge Alternativen bestehen bleiben.

Der vorsichtige, sicherheitsbewusste Umgang mit KI ist kein Bremsklotz – er ist ein Zeichen von Professionalität, Verantwortung und Resilienz.

Quellen

Bundesverfassungsgericht, Urteil zu Hessendata (16.02.2023)

EuGH, Urteil zu SCHUFA-Scoring (07.12.2023)

Heise, „Sicherheitsvorfall bei localmind.ai“ (Oktober 2025)

Borncity-Blogreihe zu localmind.ai (Oktober 2025)

Climb Channel Solutions, Studie zu KI-Einsatz in Unternehmen (2025)

Deutschlandfunk, „KI und Wahlen: Gefahr durch Deepfakes“ (2024)

EU-Kommission, Text zum AI Act (2024)

Verbraucherzentrale Bundesverband, Statement von Lina Ehrig (2024)

Der Beitrag Der gefährliche KI-Hype: Wer zu schnell fährt, riskiert den Crash erschien zuerst auf Kunst & KI.

Millionen unsichtbarer Hände: Datenarbeit für die KI

Die schönen neuen KI-Welten, in denen Texte, Bilder und Videos auf Knopfdruck entstehen, haben eine unsichtbare Grundlage: Millionen von Menschen, die weltweit als Datenarbeiter beschäftigt sind. Laut Schätzungen der Weltbank gibt es zwischen 150 und 430 Millionen Menschen, die zumindest gelegentlich sogenannte „Mikroarbeit“ erledigen – also kurze digitale Aufgaben. Viele davon arbeiten direkt oder indirekt am Training von KI-Systemen.

Eine realistische Zahl für jene, die regelmäßig an KI-Annotationen beteiligt sind, liegt wahrscheinlich im zweistelligen Millionenbereich – etwa 10 bis 20 Millionen Menschen weltweit. Sie sitzen in Indien, auf den Philippinen, in Venezuela oder in Kenia. Plattformen wie Appen, Clickworker, Scale AI oder Amazon Mechanical Turk vermitteln diese Jobs.

Ein bekannt gewordenes Beispiel ist Sama in Nairobi, Kenia: Hunderte Menschen klassifizierten für weniger als 2 Dollar pro Stunde Texte mit extrem verstörenden Inhalten, um ChatGPT „toxische“ Sprache abzutrainieren. Arbeiter bekamen extrem belastende Texte zu sehen: Gewaltfantasien, Kinderpornografie-Beschreibungen und Folterszenarien. Ihre Aufgabe war es, Inhalte in Kategorien einzuordnen wie „Sexueller Missbrauch“, „Hassrede“ oder „Selbstverletzung“. Für viele war es ein Job ohne Sicherheit, ohne psychologische Betreuung, mit extrem belastenden Auswirkungen. Manche sprachen von „Traumatisierung am Fließband“. Das klingt pervers: Um die Künstliche „Intelligenz“ überhaupt nutzbar zu machen, werden massenhaft unterbezahlte Arbeiter:innen traumatisiert?

Wie KI wirklich trainiert wird

Die Entwicklung von KI ist nicht magisch, sondern ein aufwändiger und arbeitsintensiver Prozess:

1. Datensammlung: Milliarden Texte, Bilder und Videos werden aus dem Internet gesaugt oder gezielt eingekauft.
2. Annotation durch Menschen: Crowdworker markieren, ob Inhalte beleidigend, informativ, korrekt oder irrelevant sind.
3. Vortrainierung: Das Modell lernt statistische Muster auf gewaltigen Datenmengen.
4. Feintuning: Mit Methoden wie „Reinforcement Learning from Human Feedback“ (RLHF) bewerten Menschen Antworten des Modells und geben Korrekturen vor.
5. Evaluation: Auch hier sind wieder Menschen im Einsatz, die prüfen, wie „gut“ das System arbeitet.

Ohne diese menschliche Vorarbeit wären heutige Sprach- oder Bildmodelle schlicht nicht funktionsfähig. Diese Tatsache verdeutlicht, die dem Begriff künstliche „Intelligenz“ innewohnende Täuschung.

Der ökologische Preis: Energie und Wasser

Neben der menschlichen Arbeitskraft ist es vor allem die Energiefrage, die nachdenklich stimmt.

• Das Training von GPT-3 soll etwa 1,3 Gigawattstunden Strom benötigt haben – genug, um über 100 US-Haushalte ein Jahr lang zu versorgen.
• GPT-4 dürfte noch weitaus mehr verbraucht haben, Schätzungen sprechen von mehreren Gigawattstunden.
• Datenzentren verschlingen zusätzlich enorme Mengen an Wasser: Microsoft gab 2023 bekannt, dass der Wasserverbrauch seiner Rechenzentren um 34 % gestiegen ist – unter anderem durch KI-Anwendungen.

Der CO₂-Ausstoß eines einzigen großen Modells kann leicht mehrere hundert Tonnen erreichen, vergleichbar mit hunderten Transatlantikflügen.

Der Slop-Kreislauf: Wie Content verdirbt

Wenn die Modelle einmal im Einsatz sind, beginnt der nächste problematische Prozess: der Slop-Kreislauf.

1. KI-Tools erzeugen massenhaft Content: Blogartikel, SEO-Texte, Produktbeschreibungen, Fake-Rezensionen.
2. Zunehmend kommen auch Deepfakes hinzu – manipulierte Bilder, Stimmen und Videos, die täuschend echt wirken.
3. Plattform-Algorithmen wie die von Google, TikTok oder Meta belohnen Masse und Reichweite, nicht Qualität. Sie verstärken also genau jenen billigen KI-Content, der Klicks bringt.
4. Hochwertige Inhalte von echten Autor:innen, Journalist:innen oder Künstler:innen geraten ins Hintertreffen, weil sie in der Flut untergehen oder vom Algorithmus schlechter ausgespielt werden.
5. Neue KI-Systeme greifen dann wieder auf diese Daten zurück – und trainieren zunehmend auf KI-generiertem Müll.

So entsteht ein Degenerationskreislauf: KI produziert Slop, dieser Slop wird von Plattformen verstärkt, verdrängt gute Inhalte und füttert am Ende wieder die nächste KI-Generation.

Die Folge:

• Autor:innen und Künstler:innen verlieren Reichweite und Einkommen, weil ihre Werke im Datenrauschen untergehen oder von KI-Plagiaten kopiert werden.
• Kulturelle Vielfalt und kritische Stimmen werden geschwächt.
• Das Internet verkommt von einem Raum menschlicher Kreativität zu einer Müllhalde automatisierter Beliebigkeit.

Finanzblase und Superintelligenz-Hype

Parallel dazu erleben wir eine Spekulationswelle an den Finanzmärkten. Nvidia ist 2025 das wertvollste börsennotierte Unternehmen der Welt, während Start-ups mit Milliarden bewertet werden, ohne tragfähiges Geschäftsmodell. Viele Ökonom:innen warnen vor einer KI-Blase, vergleichbar mit der Dotcom-Euphorie um 2000.

Dazu kommt die Erzählung von der baldigen AGI (Artificial General Intelligence) oder gar ASI (Artificial Superintelligence). Schon in den 1950er Jahren sagte der Informatiker I.J. Good voraus, dass bald eine „intelligence explosion“ eintreten werde, bei der Maschinen alle Probleme lösen. Seitdem wiederholt sich die Geschichte: In den 1970ern, 1980ern, 2000ern und heute – stets hieß es, die Superintelligenz stehe vor der Tür.

Doch bis heute sind wir weit davon entfernt. Kritische Stimmen machen das deutlich:

• Rodney Brooks (MIT): „Wir verwechseln Demos mit Intelligenz.“ KI sei weit von menschlicher Flexibilität entfernt.
• Gary Marcus (NYU): „Deep Learning allein reicht nicht. Ohne Kausalität und Commonsense bleibt AGI Illusion.“
• Emily Bender (University of Washington): Sprachmodelle sind „stochastische Papageien“ – sie verstehen nicht, was sie sagen.
• Abeba Birhane (ETH Zürich): AGI-Hype ist ein „koloniales Narrativ“, das Ausbeutung im Globalen Süden verschleiert.
• Yann LeCun (Meta AI): „Niemand weiß, wie man AGI baut. Wir sind nicht nah dran.“

Die Erzählung von der Superintelligenz dient oft weniger der Wissenschaft als dem Marketing und der Kapitalbeschaffung.

Fortschritt – oder Scheinfortschritt?

Die Frage ist daher: Können wir das wirklich Fortschritt nennen?

• Millionen Datenarbeiter schuften für Centbeträge und sehen traumatisierenden Content.
• Das Klima wird durch den Energiehunger der Modelle belastet.
• Das Internet droht im Slop zu ersticken.
• Finanzblasen und Mythen von Superintelligenz verschieben Aufmerksamkeit und Kapital.

Wenn Fortschritt bedeutet, die Lebensqualität zu erhöhen, Ungleichheit zu verringern und die Umwelt zu schützen, dann ist das, was wir derzeit erleben, eher Scheinfortschritt.

Was wir tun könnten

Gibt es Wege, gegenzusteuern? Gibt es politische, wirtschaftliche und gesellschaftliche Hebel? Darüber sollten wir dringend nachdenken. Eine kurze Liste zentraler Ansätze:

• Transparenz: KI-Firmen müssen offenlegen, welche Daten sie nutzen und wie viel Energie sie verbrauchen.
• Faire Arbeit: Mindeststandards, gerechte Bezahlung, psychologische Betreuung für Crowdworker.
• Urheberrechte: Künstler:innen müssen ein Opt-out haben und für die Nutzung ihrer Werke entschädigt werden.
• Ökologische Regeln: Rechenzentren verpflichten, auf erneuerbare Energien und effiziente Kühlung zu setzen.
• Kennzeichnungspflicht: KI-generierte Inhalte müssen klar erkennbar sein.
• Gemeinwohl-KI: Öffentliche Investitionen in KI für Medizin, Bildung und Klimaforschung – statt reiner Profitorientierung.
• Wettbewerbspolitik: Maßnahmen gegen Monopole, Förderung offener Modelle.

Fazit

Technisch und oberflächlich wirkt KI beeindruckend. Aber Fortschritt misst sich nicht an Rechenleistung, sondern daran, ob sie das Leben der Menschen verbessert. Bisher sehen wir vor allem Kosten: menschliche, ökologische und kulturelle.

Echter Fortschritt entstünde erst, wenn KI fair, nachhaltig und gemeinwohlorientiert entwickelt wird. Nicht als Werkzeug für die Machtkonzentration weniger Konzerne, sondern als Technologie, die die Lebensqualität aller steigert.

Quellen- und Literaturliste

Dokumentarfilme / Medien

• Arte-Doku: KI: Der Tod des Internets (Regie: Mario Sixtus, 2024).
• Arte-Doku: KI – Die letzte Erfindung? (Arte, 2024).

Journalistische Quellen

• Perrigo, Billy: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. TIME Magazine, 18.01.2023.
  👉 time.com

• Perrigo, Billy: AI Gig Workers Face ‘Unfair Working Conditions,’ Study Says. TIME Magazine, 2023.
• The Guardian: ‘It’s destroyed me completely’: The human cost of training AI. 02.08.2023.
• VICE: OpenAI Used Kenyan Workers Making $2 an Hour to Filter Traumatic Content From ChatGPT. 2023.
• CBS News / 60 Minutes: The hidden costs of AI: Underpaid Kenyan workers and the toll of content moderation. 2023.
• Economist: The Hidden Workforce Behind AI. 10.04.2025.
• WeeTracker: OpenAI Paid Sama $12 an Hour Per Worker—Kenyans Only Got $2. 25.11.2024.

Wissenschaftliche Arbeiten

• Bender, Emily M.; Gebru, Timnit; McMillan-Major, Angelina; Mitchell, Margaret:
  On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21). Association for Computing Machinery, 2021. DOI: 10.1145/3442188.3445922
• Marcus, Gary: Deep Learning Is Hitting a Wall. Substack / garymarcus.substack.com, 2022.
• Crawford, Kate: Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press, 2021.
• Birhane, Abeba: Algorithmic Colonization of Africa. SCRIPTed, Vol. 17, No. 2, 2020. DOI: 10.2966/scrip.170220.389
• Brooks, Rodney: The Seven Deadly Sins of AI Predictions. MIT Technology Review, 2017.
• Chomsky, Noam; Roberts, Ian; Watumull, Jeffrey: The False Promise of ChatGPT. The New York Times, 08.03.2023.

Studien und Reports

• Weltbank: The Global Gig Economy. Washington, 2021.
• Fairwork Project: Fairwork Cloudwork Report. Oxford Internet Institute, 2023.
• International Labour Organization (ILO): World Employment and Social Outlook 2021 – The role of digital labour platforms in transforming the world of work. Genf, 2021.

Online-Dossiers

• Privacy International: Humans in the AI Loop – The Data Labelers Behind Some of the Most Powerful LLMs. 2023.
• AlgorithmWatch: AI and the Hidden Human Labour Behind It. 2022.

Der Beitrag Slop, Superintelligenz und Scheinfortschritt erschien zuerst auf Kunst & KI.

Die Philosophie hat seit jeher dort begonnen, wo Gewissheiten enden. Sie ist die Kunst der unbequemen Frage, die bereit ist, komplexe und widersprüchliche Realitäten zu akzeptieren, anstatt sie zu glätten. Doch in der von Künstlicher Intelligenz (KI) geprägten Welt scheint diese fundamentale Fähigkeit zunehmend bedroht. Algorithmen, Daten und das Streben nach Effizienz drängen auf Eindeutigkeit und Konsens. Was Philosophen wie Rainer Mühlhoff, Dr. Michael Andrick und Gwendolin Kirchhoff uns zeigen, ist eine tiefgreifende Verschiebung: Die Logik der KI ist nicht nur ein neues Werkzeug, sondern eine Ideologie, die den Grundpfeilern unserer Demokratie – dem offenen Diskurs und der Pluralität – zuwiderläuft.

KI als Sortiermaschine und die schleichende Macht des digitalen Faschismus

Die vielleicht provokanteste, aber zugleich präziseste Diagnose über die Rolle der KI stammt vom Philosophen Rainer Mühlhoff. Er nennt sie eine „Menschensortiertechnologie“. Was dahintersteckt, ist mehr als nur die Personalisierung von Werbung. Prädiktive Analytik sortiert Individuen und Gruppen auf Basis von Daten in Kategorien, um sie unterschiedlich zu behandeln: Wer bekommt einen Kredit? Wer wird zum Vorstellungsgespräch eingeladen? Wer wird an der Grenze als niedriges oder hohes Risiko eingestuft?

Mühlhoffs These, „KI-Technologie und Faschismus basieren auf den gleichen ideologischen Wurzeln“, ist keine leichtfertige Gleichsetzung, sondern ein philosophischer Weckruf. Sie weist auf einen gemeinsamen Nenner hin: eine technokratische, auf Effizienz und Kontrolle fixierte Weltsicht. Der digitale Faschismus manifestiert sich nicht in traditioneller Gewalt, sondern in der unsichtbaren Automatisierung der Macht. Er schafft eine Gesellschaft, in der Individuen durch Algorithmen kategorisiert und ihr Verhalten vorhergesagt wird, was die freie Entfaltung des Einzelnen massiv einschränkt. Die KI wird so zum idealen Werkzeug für eine zentrale Macht, die die Bürger ohne physischen Zwang in einen „algoritmischen Korridor“ drängt.

Die Verengung des Meinungskorridors und die Entwertung des Widerspruchs

In einem zunehmend technokratischen Umfeld, das auf Daten und Algorithmen fixiert ist, erodiert auch der öffentliche Diskurs. Der Philosoph Dr. Michael Andrick kritisiert scharf, wie sich die politische und mediale Landschaft verändert hat. Er beschreibt, dass ein Großteil des Mainstreams, der Institutionen und der Politik zunehmend von einem „Wir“ spricht, das ein homogenes Kollektiv suggeriert. Dieses „Wir“ scheint nicht mehr aus dem grundlegenden, pluralistischen Konstrukt einer Republik oder einer Demokratie zu stammen, sondern vielmehr eine geschlossene, exklusive Gruppe zu repräsentieren. Sein Buchtitel „Ich bin nicht dabei…“ steht symbolisch für die Entfremdung und den Dissens vieler Bürger, die sich in diesem vorgefertigten „Wir“-Diskurs nicht mehr wiederfinden.

Die Philosophin Gwendolin Kirchhoff bringt diese Dynamik der Ausgrenzung mit einer provokanten Frage auf den Punkt: „Wo sind denn die Nazis, wenn sie raus sind?“ Diese rhetorische Frage ist keine Verharmlosung von Faschismus oder Nationalsozialismus. Sie ist vielmehr eine philosophische Hinterfragung des Prozesses, mit dem abweichende Meinungen und kritische Stimmen pauschal stigmatisiert und aus dem öffentlichen Diskurs gedrängt werden. Es ist die Kritik an einer Gesellschaft, die es sich zu leicht macht, Andersdenkende zu verurteilen und zu exkommunizieren, anstatt sich mit der Komplexität und den tatsächlichen Ursachen ihres Dissenses auseinanderzusetzen.

KI-Technologien verschärfen diese Verengung. Algorithmen zur Inhaltsmoderation, die auf maschinellem Lernen basieren, lernen aus bestehenden, oft voreingenommenen Datensätzen. Sie entfernen bestimmte Wörter, Tonlagen oder Themen und fördern so eine scheinbare Harmonie, die in Wahrheit eine Homogenisierung des Denkens ist. Das System ist darauf programmiert, Stabilität und Vorhersagbarkeit zu bevorzugen – und nicht das kritische, kreative und oft unordentliche Denken, das eine offene Gesellschaft ausmacht. Indem die KI Widerspruch als potenzielles Störsignal behandelt, trägt sie direkt zur Entwertung des Widerspruchs und zum Verlust einer vielfältigen Debattenkultur bei.

Superintelligenz: Die Utopie als Ablenkungsmanöver

Die Gefahr, unbequeme Wahrheiten zu verdrängen, zeigt sich auch in der Debatte um die Superintelligenz. Der Philosoph Richard David Precht kritisiert die Profitlogik, die den Großteil der KI-Entwicklung antreibt. Ethische Bedenken und philosophische Fragen sind für diesen Prozess oft störende „Bremsklötze“.

Eindrucksvoll illustriert wird diese Dynamik durch die scheinbare Kehrtwende des Transhumanisten Nick Bostrom. Über Jahre hat er mit seinem dystopischen „Büroklammer-Maximierer“-Gedankenexperiment vor existenziellen Risiken gewarnt. Heute jedoch skizziert er eine „Deep Utopia“. Kritiker fragen: War die ursprüngliche „Schwarzmalerei“ nur ein cleveres Manöver, um die Aufmerksamkeit auf das Thema zu lenken? Oder spiegelt diese Kehrtwende den gesellschaftlichen und marktstrategischen Druck wider, ein positives, glattes Narrativ zu schaffen, das die unangenehmen Risiken ausblendet? In der Jagd nach der perfekten Lösung könnte die KI-Entwicklung die komplexen philosophischen und ethischen Fragen, die unbequem sind und keine einfachen Antworten liefern, einfach ignorieren.

Fazit: Die Kunst des philosophischen Widerstands

Die von Mühlhoff, Andrick und Kirchhoff beschriebenen Gefahren sind keine Zukunftsszenarien, sondern Realitäten. KI ist bereits eine Sortiermaschine; der Meinungskorridor verengt sich; und die kritische Auseinandersetzung mit unbequemen Themen wird zugunsten von Effizienz und optimistischen Narrativen zurückgedrängt.

Die Kunst des Philosophierens, einst eine rein akademische Disziplin, wird in diesem Kontext zu einem Akt des Widerstands. Sie ist der Gegenentwurf zur algorithmischen Logik. Wir müssen aktiv die Vielfalt der Meinungen verteidigen, das kritische Fragenstellen kultivieren und uns weigern, uns von Algorithmen in einen vorbestimmten Korridor drängen zu lassen. Die Zukunft unserer demokratischen Gesellschaft hängt nicht von der Intelligenz unserer Maschinen ab, sondern von unserer Fähigkeit, ihnen philosophisch zu widerstehen.

Quellen und Thesen:

Rainer Mühlhoff: re:publica 2023, Vortrag zum Thema „KI als Menschensortiertechnologie.“

Michael Andrick: Buch „Ich bin nicht dabei: Denk-Zettel für einen freien Geist“, sowie zahlreiche öffentliche Äußerungen und Diskussionen.

Gwendolin Kirchhoff: Öffentliche Diskussionen und Vorträge, unter anderem mit Michael Andrick.

Richard David Precht: Diverse Publikationen und Interviews, wie in seinem Buch „Jäger, Hirten, Kritiker: Eine Utopie für die digitale Gesellschaft“

Nick Bostrom: Bücher „Superintelligenz: Szenarien einer kommenden Revolution“ und „Deep Utopia.“

Der Beitrag Im algorithmischen Korridor: Die Kunst des Philosophierens in der KI-Ära erschien zuerst auf Kunst & KI.

Im öffentlichen Diskurs wird künstliche Intelligenz oft als eine allwissende, fast magische Entität dargestellt. Diese Vorstellung ist jedoch irreführend und verschleiert, worum es bei der KI-Technologie im Kern wirklich geht. Das größte Missverständnis liegt in der Bezeichnung selbst: Der Begriff „Intelligenz“ verleitet dazu, der Technologie menschliche kognitive Fähigkeiten wie Bewusstsein oder Kreativität zuzuschreiben. Die Realität ist jedoch weit weniger fantastisch, aber nicht weniger beeindruckend. Die KI, die wir heute kennen und täglich nutzen, ist im Grunde ein hochentwickeltes Werkzeug, das auf einem einzigen, zentralen Prinzip basiert: der Mustererkennung. Es ist eine aufgabenspezifische Technologie, die keine allgemeinen Fähigkeiten besitzt, aber in ihrem eng definierten Fachgebiet unübertroffene Leistungen erbringen kann.

Hype vs. Realität: Die zwei Gesichter der KI

Die Fachwelt unterscheidet künstliche Intelligenz grob in zwei Hauptkategorien, um der Kluft zwischen technischem Stand und öffentlicher Wahrnehmung gerecht zu werden.

Schwache KI: Die unsichtbaren Helfer im Alltag

Die Schwache KI (auch als Narrow AI bezeichnet) ist die einzige Form der künstlichen Intelligenz, die heute existiert. Sie ist auf ein einziges, eng definiertes Aufgabengebiet spezialisiert und kann ihr Wissen nicht auf andere Bereiche übertragen. Auf ihrem Spezialgebiet ist sie oft sogar besser als der Mensch, aber außerhalb davon ist sie nutzlos. Schwache KI besitzt kein Bewusstsein und keine Emotionen; sie trifft ihre Entscheidungen auf Grundlage vorab definierter Algorithmen und umfangreicher Trainingsdaten.

Beispiele für schwache KI begegnen uns unzählige Male pro Tag:

• Sprachassistenten wie Siri und Alexa verarbeiten und beantworten spezifische Fragen. Obwohl sie „menschlich“ wirken mögen, verstehen sie den Kontext einer Unterhaltung nicht wirklich, sondern analysieren und ordnen lediglich Sprachmuster zu.
• Empfehlungssysteme auf Streaming-Diensten wie Netflix analysieren das Kauf- oder Sehverhalten, um Muster zu erkennen und auf dieser Basis Produkte oder Filme vorzuschlagen.
• Autonome Fahrzeuge sind extrem komplexe Systeme, aber sie sind auf das definierte Gebiet des Fahrens beschränkt. Auch ein hochentwickeltes selbstfahrendes Auto würde nicht wissen, wie es auf eine E-Mail antworten soll.
• E-Mail-Spam-Filter und Betrugserkennung im Finanzsektor sind weitere klassische Beispiele, die spezifische Muster in Datenmengen identifizieren.

Starke KI: Das theoretische Ideal ohne reale Beispiele

Im krassen Gegensatz dazu steht die Starke KI (auch Artificial General Intelligence, AGI). Sie ist das theoretische Konzept einer menschenähnlichen, vielseitigen Intelligenz, die jede intellektuelle Aufgabe bewältigen könnte, die auch ein Mensch kann. Eine Starke KI wäre in der Lage, Wissen von einem Bereich auf einen anderen zu übertragen, abstrakt zu denken, kreativ Probleme zu lösen und wäre theoretisch sogar mit Selbstwahrnehmung ausgestattet. Bisher ist eine solche KI jedoch rein spekulativ und existiert nicht.

Künstliche Superintelligenz (ASI)

Künstliche Superintelligenz (ASI) ist ein hypothetisches Intelligenzniveau, das die kognitiven Fähigkeiten der klügsten menschlichen Gehirne in nahezu allen Bereichen, einschließlich wissenschaftlicher Kreativität, allgemeiner Weisheit und sozialer Fähigkeiten, bei Weitem übertrifft. Sie ist eine Form der Künstlichen allgemeinen Intelligenz (AGI), die nicht nur eine breite Palette von Aufgaben auf menschlichem Niveau lösen kann, sondern dies auch in einem Ausmaß tut, das die menschliche Leistungsfähigkeit bei weitem übersteigt. ASI ist in der Lage, sich selbst zu verbessern und neues Wissen auf eine Weise zu generieren, die uns unvorstellbar erscheint.

Die Spielarten der KI: Von Regeln bis hin zu Agenten

KI ist ein Teilgebiet der Informatik und umfasst eine Vielzahl unterschiedlicher Ansätze.

Regelbasierte Systeme und Expertensysteme

Die einfachste Form der KI basiert auf einem festen, regelbasierten Ansatz. Diese Systeme lernen nicht aus Daten und verbessern sich nicht über die Zeit. Sie treffen ihre Entscheidungen strikt nach vordefinierten Regeln. Eine fortgeschrittenere Variante sind Expertensysteme, die das Entscheidungsvermögen von menschlichen Experten in einem bestimmten Bereich simulieren.

Maschinelles Lernen (ML) und seine Unterarten

Der Großteil der heute existierenden KI fällt in den Bereich des Maschinellen Lernens (ML). Hierbei werden Algorithmen nicht explizit programmiert, sondern lernen selbstständig aus riesigen Datensätzen.

Es gibt drei Hauptmethoden des Maschinellen Lernens:

• Überwachtes Lernen (Supervised Learning): Hierbei wird die KI mit gelabelten Datensätzen trainiert, also mit Paaren aus Input und der korrekten Antwort. Die KI lernt, diese Paare zuzuordnen. Ein Spam-Filter ist ein Beispiel dafür: Er lernt anhand von Nachrichten, die als „Spam“ oder „Nicht-Spam“ markiert wurden, künftig neue E-Mails selbstständig zu klassifizieren.
• Unüberwachtes Lernen (Unsupervised Learning): Bei dieser Methode erhält die KI ungelabelte Daten ohne die richtigen Antworten. Ihre Aufgabe ist es, selbstständig Muster und Strukturen in den Daten zu erkennen. Empfehlungssysteme auf Netflix oder Amazon sind ein Paradebeispiel: Sie analysieren das Verhalten von Millionen von Nutzern, um Ähnlichkeiten zu finden und daraufhin Empfehlungen zu generieren.
• Bestärkendes Lernen (Reinforcement Learning): Bei diesem Ansatz lernt ein „Agent“ durch Ausprobieren in einer simulierten Umgebung. Er führt Aktionen aus und erhält dafür positive „Belohnungen“ oder negative „Strafen“. Dadurch entwickelt er eine Strategie, um seine Belohnungen zu maximieren. Dieses Prinzip wird oft im Gaming angewendet, wie bei der Entwicklung von Spiel-KI, die gegen menschliche Meister im Schach oder Go antreten kann.

Neuronale Netze und Deep Learning

Die beeindruckendsten Fortschritte im Maschinellen Lernen sind auf den Einsatz von Künstlichen Neuronalen Netzen zurückzuführen. Diese Netze sind eine vereinfachte Nachbildung des menschlichen Gehirns, bestehend aus miteinander verbundenen Knotenpunkten, den sogenannten „Neuronen“. Sie sind in Schichten aufgebaut, die den Lernprozess unterteilen: eine Eingabeschicht, eine oder mehrere versteckte Schichten (hidden layers) und eine Ausgabeschicht.

Deep Learning ist ein Spezialgebiet des Maschinellen Lernens, das tiefe neuronale Netze verwendet, also Netzwerke mit einer Vielzahl von versteckten Schichten. Dadurch können sie noch komplexere Probleme lösen, etwa in der Bild- und Sprachverarbeitung.

Generative KI und GANs

Generative Modelle sind eine spezielle Art von KI, die auf Maschinelles Lernen und Deep Learning zurückgreifen, um neue, originäre Daten zu erzeugen. Sie können Texte, Bilder oder Musik erschaffen.

Eine wichtige Unterkategorie sind Generative Adversarial Networks (GANs). Sie bestehen aus zwei neuronalen Netzen, die gegeneinander arbeiten:

• Der Generator erzeugt „gefälschte“ Daten, beispielsweise ein realistisches Bild einer Person.
• Der Diskriminator vergleicht die gefälschten Daten mit echten und versucht, die Fälschungen zu identifizieren.

Durch diesen Wettbewerb lernt der Generator, immer realistischere Inhalte zu erzeugen, die der Diskriminator nicht mehr von echten unterscheiden kann. Ein bekanntes, aber kontroverses Anwendungsbeispiel sind „Deepfakes“, täuschend echte Videos von Personen.

Skizze 1: Die Arbeitsweise eines GANs

Code-Snippet:

graph LR
    subgraph "Generator (Erzeuger)"
        A[Zufällige Eingabe] --> B(Erstellt 'gefälschte' Daten)
    end
    subgraph "Diskriminator (Klassifizierer)"
        C(Echte Daten)
        D(Klassifiziert Daten als 'echt' oder 'gefälscht')
    end
    B -- füttert --> D
    C -- füttert --> D
    D -- sendet Feedback --> B

Agenten und Multiagentensysteme

Ein Agent in der KI ist ein System, das seine Umgebung wahrnimmt und eigenständig Aktionen ausführt, um ein Ziel zu erreichen. Ein einfacher Rauchdetektor ist ein Beispiel für einen Agenten: Er nimmt Rauch wahr und löst einen Alarm aus. Auch ein Roboter an einem Fließband, der seine Umgebung wahrnimmt, um effizienter zu arbeiten, kann ein Agent sein.

Noch komplexer sind Multiagentensysteme (MAS), in denen mehrere KI-Agenten zusammenarbeiten, um eine Aufgabe zu lösen. Sie können große und komplexe Probleme bewältigen, die ein einzelner Agent nicht lösen könnte. Beispiele sind intelligente Verkehrsmanagement-Systeme, bei denen Agenten die Verkehrsströme optimieren, oder die Logistik in der Lieferkette, wo sie die Abläufe von der Beschaffung bis zur Auslieferung koordinieren.

Mensch vs. Algorithmus: Wo die wahren Unterschiede liegen

Der entscheidende Unterschied zwischen menschlicher und künstlicher Intelligenz liegt nicht in der Fähigkeit, Aufgaben zu erledigen, sondern im „Warum“ und „Wie“. Während die KI auf der effizienten Verarbeitung von Daten basiert, sind die menschliche Kreativität und das Bewusstsein von Absicht, Emotion und Erfahrung geprägt.

Kreativität: Intention vs. Iteration

Menschliche Kreativität ist ein mysteriöser, vielschichtiger Prozess, der aus Emotionen, persönlichen Erfahrungen und einem tiefen Verständnis für kulturelle Kontexte entsteht. Sie hat das Potenzial, etwas wirklich Originelles und Neues zu schaffen.

Die KI-Kreativität ist demgegenüber eine Iteration: Sie beruht auf der statistischen Rekombination von Mustern aus den ihr bekannten Daten. Eine KI kann lernen, den Stil eines Van Gogh zu imitieren oder Musik im Stil von Mozart zu komponieren. Sie hat jedoch keine persönliche Absicht oder künstlerische Intention.

Eine Studie der Max-Planck-Gesellschaft fand eine überraschende Ähnlichkeit in den kreativen Strategien von Menschen und KI-Modellen, nämlich einen Kompromiss zwischen Flexibilität (Ideen in der Breite suchen) und Beharrlichkeit (Ideen in der Tiefe ausloten). Doch während die menschlichen Testpersonen ihre Strategie anpassten, zeigten die KI-Modelle eine konsequente Präferenz für einen einzigen Ansatz. Dies unterstreicht, dass die maschinelle Herangehensweise mechanisch bleibt, während die menschliche situationsbezogen und adaptiv ist.

Bewusstsein und Emotion: Die unüberwindbare Grenze

Der vielleicht fundamentalste Unterschied liegt in der Existenz von Bewusstsein und Emotionen. Das menschliche Bewusstsein ist komplex und beinhaltet ein EGO und Selbstwahrnehmung. Unsere Handlungen sind von Empathie, Mitgefühl und einem tiefen Verständnis für die sozialen und moralischen Konsequenzen unseres Handelns geprägt.

KI-Systeme besitzen hingegen kein Bewusstsein, keine Gefühle oder einen moralischen Kompass. Sie können menschliche Reaktionen simulieren, basierend auf Mustern aus riesigen Datenmengen, aber ihnen fehlt die eigene emotionale Tiefe und die Fähigkeit, echte soziale Beziehungen aufzubauen.

Das wahre Potenzial liegt daher nicht darin, dass KI den Menschen ersetzt, sondern in der Mensch-Maschine-Kollaboration. Die KI kann als effizienter „Sparringspartner“ und „Katalysator“ fungieren, der repetitive Aufgaben übernimmt. Der Mensch wiederum steuert die entscheidenden Aspekte bei: die Intentionalität, den Kontext, die emotionale Tiefe und das kreative Schaffen aus dem „Nichts“.

Das kritische Auge: Kontroversen, Gefahren und Kritik

Mit dem rasanten Fortschritt der KI-Entwicklung wachsen auch die Kritikpunkte und ethischen Herausforderungen, die nicht nur technischer, sondern auch gesellschaftlicher Natur sind.

Der Algorithmus-Bias: Wenn Vorurteile digital werden

Eines der größten ethischen Probleme ist der „Algorithmus-Bias“, ein systematischer Fehler in KI-Algorithmen, der zu unfairen oder diskriminierenden Ergebnissen führt. Die technologische Abhängigkeit der KI von riesigen Datensätzen ist die direkte Ursache dieses Problems.

Die Hauptursachen für Bias sind:

• Daten-Bias: Voreingenommene Trainingsdaten, die gesellschaftliche Vorurteile wie Rassismus oder Sexismus widerspiegeln. Wenn eine KI mit historischen Einstellungsdaten trainiert wird, die Männer bevorzugen, wird sie diese Benachteiligung fortsetzen.
• Design-Bias: Unbewusste Vorurteile der Entwickler können sich in den Algorithmen selbst wiederfinden.

KI-Systeme spiegeln somit nicht nur unsere gesellschaftlichen Vorurteile wider, sondern können sie auch aktiv verstärken.

Skizze 2: Der Bias-Kreislauf

Code-Snippet:

graph TD
    A[Gesellschaftliche Vorurteile] --> B
    B --> C
    C --> D
    D --> E[Verstärkung gesellschaftlicher Vorurteile]
    E --> A

Die „Black Box“: Mangel an Transparenz

Viele komplexe KI-Systeme gelten als „Black Box“, da ihre Entscheidungsprozesse für den Menschen oft nicht mehr nachvollziehbar sind. Dies ist in kritischen Bereichen problematisch, da die Grundlagen für eine Entscheidung transparent sein müssen.

Die Arbeitswelt im Wandel: Gefahr oder Chance?

Die Angst vor massivem Jobverlust durch KI ist weit verbreitet. Doch während ein Teil der Befragten in Umfragen angibt, Angst vor dem Jobverlust zu haben oder diesen bereits erlebt zu haben, sehen andere die KI als notwendiges Werkzeug. Die Technologie kann repetitive und zeitaufwendige Aufgaben übernehmen und somit Freiräume für kreativere, menschliche Aufgaben schaffen. Ironischerweise könnte das Ignorieren der KI-Möglichkeiten eher zum Jobverlust führen, als sie zu nutzen.

Ethik, Haftung und Urheberrecht: Die ungelösten Fragen

Die technologische Entwicklung hat das Recht in vielen Bereichen überholt. Es fehlen noch klare Rahmenbedingungen für grundlegende ethische und rechtliche Fragen.

• Haftung: Wer haftet bei Fehlentscheidungen eines autonomen KI-Systems?
• Transparenz: Es gibt mangelnde Transparenzpflichten gegenüber den betroffenen Individuen, die den Entscheidungen der KI ausgesetzt sind.
• Urheberrecht: Wem gehört ein Werk, das von einer KI erzeugt wurde, die auf der Analyse bestehender Daten trainiert wurde?

Fazit: Ein Werkzeug in menschlicher Hand

Die künstliche Intelligenz ist heute eine „schwache“ Form, deren beeindruckende Leistungen auf hochentwickelter Mustererkennung basieren. Sie ist ein äußerst mächtiges Werkzeug, aber keine dem Menschen ebenbürtige Intelligenz. Sie hat kein Bewusstsein, keine Emotionen und keine echte Kreativität. Ihre Fähigkeiten sind beeindruckend, aber stets auf die Daten beschränkt, mit denen sie trainiert wurde.

Die Zukunft der KI hängt von einer reflektierten und verantwortungsvollen Nutzung durch den Menschen ab. Es geht darum, die Technologie als Partner zu sehen, ihre Stärken in der Datenverarbeitung und Effizienz zu nutzen und ihre Schwächen – den Mangel an Kreativität, Bewusstsein und Emotion – durch menschliche Aufsicht und Intentionalität auszugleichen.

Quellen

Studie der Max-Planck-Gesellschaft: https://www.mpg.de/24920933/0623-nepf-nimmt-ki-die-welt-auf-dieselbe-weise-wahr-wie-der-mensch-und-versteht-sie-149575-x

Der Beitrag KI für Einsteiger: Was künstliche Intelligenz wirklich ist – und was nicht erschien zuerst auf Kunst & KI.

Künstliche Intelligenz (KI) gilt vielen als Motor von Innovation und Fortschritt. Doch je stärker die Systeme in unseren Alltag, in Politik, Kultur und Wirtschaft eingreifen, desto lauter werden auch die Stimmen des Protests. Von London bis Berlin, von New York bis Grünheide formieren sich Künstler:innen, Bürgerrechtsgruppen und Umweltschützer:innen, die vor den Risiken der Technologie warnen und klare Grenzen einfordern.

Künstler:innen weltweit gegen den „Datenraub“

Eine der sichtbarsten globalen Aktionen kam aus der Musikszene: Über 1.000 Künstler:innen in Großbritannien veröffentlichten 2025 ein „stilles Album“ auf Spotify und Apple Music – jede Spur 30 Sekunden absolute Stille.

Die Musikerin Imogen Heap, eine Mitinitiatorin, erklärte:

„Wir sind keine Datenquelle, wir sind Menschen. Wenn unsere Stimmen und Melodien in Maschinen verschwinden, ohne dass wir zustimmen oder beteiligt werden, verlieren wir unsere Kunst.“

Auch in den USA haben sich prominente Autor:innen gegen den Einsatz ihrer Texte in KI-Modellen gewehrt. Der Schriftsteller Jonathan Franzen formulierte es so:

„KI ist wie ein gigantischer Staubsauger für geistiges Eigentum. Sie saugt alles auf – und hinterlässt leere Räume dort, wo Kreativität war.“

Aktuell sorgt auch die Band Massive Attack für Schlagzeilen: Sie zog ihre Musik von Spotify zurück – aus Protest gegen Investitionen von CEO Daniel Ek in militärische KI-Projekte.

Proteste gegen KI-Überwachung und Kriegstechnologie

Medienwirksam war auch der Protest in Genf während des „AI for Good Summit“ 2024. Aktivist:innen hielten Schilder mit der Aufschrift „AI for War“ in die Kameras. Eine Sprecherin der Gruppe erklärte:

„Solange Unternehmen wie Google und Microsoft an Projekten mit militärischem Nutzen beteiligt sind, ist KI nicht ‚for good‘ – sondern ein Werkzeug des Krieges.“

In Deutschland warnt die NGO AlgorithmWatch seit Jahren vor biometrischer Überwachung. Sprecherin Angela Müller sagte im Frühjahr 2025:

„Gesichtserkennung im öffentlichen Raum ist das Ende der Anonymität. Wer auf einer Demo steht, darf nicht für immer in Datenbanken landen.“

Auch global formieren sich Bewegungen wie die Kampagne „Stop Killer Robots“, die ein internationales Verbot autonomer Waffensysteme fordert.

Arbeitskämpfe: Wenn KI Jobs ersetzt

Neben kulturellen und ethischen Fragen geht es zunehmend auch um Arbeitsplätze. TikTok-Moderator:innen in Berlin traten 2025 in den Streik, nachdem ihre Stellen durch KI-gestützte Moderationssysteme bedroht waren.

Noch drastischer agierten Aktivist:innen in London und den USA: Sie traten im September 2025 in den Hungerstreik vor den Büros von DeepMind und Anthropic – mit der Forderung, die Entwicklung besonders mächtiger KI-Systeme zu pausieren, bis deren Sicherheit geprüft ist.

Umwelt und Energiehunger der KI im Fokus

Auch die ökologischen Folgen der KI werden zunehmend zum Thema. In Grünheide bei Berlin, wo Tesla seine Gigafactory betreibt, sprechen Aktivist:innen offen von einer „Digitalisierung auf Kosten der Natur“.

Die Initiative „Tesla stoppen“ schreibt:

„Der Wasserverbrauch dieser Fabrik ist gigantisch. Wenn jetzt noch Rechenzentren dazukommen, die KI antreiben, trocknet unsere Region buchstäblich aus.“

Ähnliche Stimmen werden international laut. In Dublin blockierten Aktivist:innen 2024 den Bau eines neuen Rechenzentrums. Einer von ihnen erklärte gegenüber der Presse:

„Wir können nicht gleichzeitig Klimaneutralität versprechen und Energie-Monster wie diese bauen. KI braucht Strom – und dieser Strom fehlt dann woanders.“

Medien und Demokratie im Spannungsfeld

Die Medienbranche erhebt ebenfalls ihre Stimme. In Berlin kritisierte eine Allianz aus Verlagen und Sendern Googles neue KI-Zusammenfassungen („AI Overviews“).

Ein Sprecher des Bundesverbands Digitalpublisher und Zeitungsverleger sagte dazu:

„Wenn Google Inhalte einfach zusammenfasst, verschwinden die Originalquellen. Das ist Gift für unabhängigen Journalismus – und am Ende für die Demokratie.“

Auch international klingen die Warnungen ähnlich. Maria Ressa, philippinische Journalistin und Friedensnobelpreisträgerin, erklärte:

„Ohne Regeln wird KI zur größten Desinformationsmaschine, die wir je gesehen haben. Sie bedroht freie Wahlen auf der ganzen Welt.“

Fazit: Ein globaler Chor der Skepsis

Ob „stilles Album“, Hollywood-Streiks, Hungerstreiks, Anti-Überwachungs-Petitionen oder Umweltproteste: Der Widerstand gegen KI ist vielstimmig und international. Während Künstler:innen ihre Rechte verteidigen, warnen Bürgerrechtsgruppen vor Überwachung, und Umweltbewegungen kritisieren die gigantische Infrastruktur.

Deutschland – und besonders Berlin-Brandenburg – steht mitten in diesem Diskurs. Die Proteste gegen Googles KI-Angebote, gegen Überwachung in Hamburg oder gegen Tesla in Grünheide zeigen, dass sich die globalen Debatten hierzulande in lokales Handeln übersetzen. KI ist längst nicht nur eine Frage der Technik, sondern ein gesellschaftlicher Konflikt, der weltweit auf den Straßen, in Gerichtssälen und in den Medien ausgetragen wird.

Quellen & weiterführende Links

• BasicThinking: Technophobie – der KI-Widerstand wächst
• Publishing Scotland: Creative industries protest EU’s AI Act implementation
• AlgorithmWatch: 50.000 gegen Gesichtserkennung
• WeAct / Campact: Stoppt die KI-Überwachung in Hamburg
• AA.com.tr: Protest in Geneva slams AI for Good Summit
• Wikipedia: Tesla Gigafactory Berlin-Brandenburg – Proteste
• Euronews: TikTok-Moderator:innen in Deutschland streiken wegen KI
• India Today: Hungerstreik vor DeepMind-Büros
• The Guardian: Massive Attack ziehen Musik von Spotify zurück
• Stop Killer Robots: Globale Kampagne gegen autonome Waffensysteme
• Deutschlandfunk: Medien-Allianz geht gegen Googles KI-Zusammenfassungen vor

Der Beitrag Widerstand gegen die Maschine erschien zuerst auf Kunst & KI.

Kaum ein Thema hat in den letzten Jahren für so viel Aufmerksamkeit gesorgt wie die Künstliche Intelligenz (KI). Sprachmodelle wie ChatGPT, Bildgeneratoren oder Automatisierungssysteme werden als revolutionäre Technologien gefeiert, die unsere Arbeitswelt und Gesellschaft tiefgreifend verändern sollen. Doch die Euphorie wird zunehmend von kritischen Stimmen begleitet: Handelt es sich bei der KI-Welle tatsächlich um den Beginn einer neuen industriellen Revolution – oder um eine Blase, die bald platzen könnte?

Produktivitätseffekte: viel Hoffnung, wenig Realität

Studien, u. a. von der Österreichischen Akademie der Wissenschaften, zeigen: Die realwirtschaftlichen Effekte von KI sind bislang überschaubar. Unternehmen setzen KI derzeit vor allem in klar abgegrenzten Routinebereichen ein, etwa bei Standardanfragen im Kundenservice oder in der Datenanalyse. Dort lassen sich durchaus Einsparungen erzielen. Doch sobald es um komplexere Aufgaben geht, überwiegt der Aufwand der Qualitätssicherung: Halluzinationen, fehlerhafte Ergebnisse und rechtliche Unsicherheiten führen dazu, dass Menschen weiterhin intensiv kontrollieren und korrigieren müssen. Ein durchschlagender Produktivitätseffekt bleibt aus.

Energiehunger und Nachhaltigkeit

Ein weiteres Problem ist der enorme Energieverbrauch. Große Sprachmodelle benötigen für Training und Betrieb gewaltige Rechenressourcen. Prognosen gehen davon aus, dass Rechenzentren bis 2030 bis zu 8 % des weltweiten Stromverbrauchs verursachen könnten. Damit droht KI nicht nur, bestehende Nachhaltigkeitsziele zu konterkarieren, sondern verschärft auch die Abhängigkeit von hochspezialisierten Infrastrukturen.

Rückschläge in Unternehmen

Zwar setzen viele Firmen auf KI, doch erste Rückschläge zeigen die Grenzen deutlich auf. So hatte der Zahlungsanbieter Klarna Hunderte Mitarbeiter durch KI ersetzt, rudert aber inzwischen zurück, da die Qualität der Ergebnisse nicht ausreichte. Auch in der Verwaltung führen neue KI-Systeme häufig nicht zu Entlastung, sondern zu Mehrarbeit durch zusätzliche Schnittstellen und Prüfungen. Die viel beschworene Effizienzsteigerung lässt bislang auf sich warten.

Parallelen zur Dotcom-Blase

Die Diskussionen erinnern stark an die Dotcom-Ära um die Jahrtausendwende: Damals wie heute existiert eine enorme Diskrepanz zwischen Unternehmensbewertungen und realwirtschaftlichen Erträgen. Milliarden fließen in KI-Startups, die zum Teil noch kein tragfähiges Geschäftsmodell vorweisen können. Die Gefahr einer Überhitzung des Marktes ist offensichtlich.

Um diese Parallelen greifbar zu machen, haben wir eine Infografik erstellt:

Auswertung der Infografik

• Unternehmensbewertungen: Sowohl in der Dotcom-Ära als auch heute im KI-Sektor extrem hoch – aktuell sogar noch ausgeprägter.
• Reale Umsätze und Produktivitätseffekte: In beiden Fällen vergleichsweise gering. Trotz Investitionen zeigen sich kaum messbare Fortschritte.
• Medienhype: Dotcom wie KI wurden und werden von einer starken öffentlichen Euphorie begleitet.
• Nachhaltige Geschäftsmodelle: Erst die Zeit wird zeigen, welche Player überleben. Während aus der Dotcom-Blase am Ende Google, Amazon & Co. hervorgingen, ist bei KI noch offen, welche Unternehmen den Sprung schaffen.

Die Infografik verdeutlicht: Die Parallelen sind frappierend – und sie mahnen zur Vorsicht.

Krypto-Parallelen

Auch zur Kryptowährungsblase lassen sich zahlreiche Parallelen ziehen. 2017 und 2021 stiegen die Bewertungen von Bitcoin und zahllosen Altcoins ins Unermessliche – oft ohne realwirtschaftlichen Nutzen. Ähnlich wie bei KI spielte die Angst, „den nächsten großen Trend zu verpassen“, eine zentrale Rolle. Während Krypto vor allem als spekulatives Finanzprodukt galt, ist KI stärker in Unternehmen und Verwaltung eingebettet. Doch das Muster der Übertreibung, Intransparenz und regulatorischen Unsicherheit ist nahezu identisch.

Um diese Dreier-Konstellation darzustellen, haben wir eine zweite Infografik ergänzt:

Gesellschaftliche Risiken und Machtkonzentration

Selbst wenn am Ende einige wenige Unternehmen die „KI-Revolution“ überleben und dominieren, bedeutet das nicht automatisch Fortschritt für die Gesellschaft. Im Gegenteil: Innovation ist nicht gleichzusetzen mit gesellschaftlichem Fortschritt.

• Privatsphäre: KI braucht enorme Datenmengen. Je zentralisierter die Datenmacht, desto größer das Risiko für Überwachung und Verlust der informationellen Selbstbestimmung.
• Einschränkung von Rechten: Von Urheberrechtsverletzungen durch ungefragte Nutzung kreativer Werke bis zu automatisierten Entscheidungen über Bewerbungen, Beförderungen oder Kündigungen.
• Monopolisierung: Nur wenige Unternehmen können sich die teuren Rechenressourcen und Infrastrukturen leisten. Das führt zu Oligopolen, die Standards diktieren.
• Ungleichheit: Gewinne konzentrieren sich bei den Plattformen und Investoren, während die breite Bevölkerung kaum profitiert. Auch global wächst die Kluft zwischen Norden und Süden.

Damit ist klar: Innovation bedeutet nicht automatisch Fortschritt für die Menschheit. Entscheidend ist, wie Technologien reguliert, verteilt und eingesetzt werden.

Von Science zu Systemics – Heinz von Foerster und die Rolle der Kybernetik

Heinz von Foerster hat schon früh darauf hingewiesen, dass moderne Wissenschaft immer stärker zu einer Erzählmaschine wird. Nicht mehr die Realität selbst stehe im Zentrum, sondern die Frage: „Wer erzählt die plausibelste Geschichte, von der alle sofort glauben: Das muss es gewesen sein?“

Von Foerster unterschied zwischen Science – dem Trennen, Analysieren, Isolieren – und Systemics – dem Integrieren, Vernetzen, Verknüpfen. Während Science die Welt zerlegt, sieht Systemics sie als dynamisches, selbstorganisierendes Ganzes. Kybernetik und Systemtheorie wurden zu Grundlagen, die uns bis heute begleiten: Rückkopplung, Selbstreferenz, Emergenz.

Genau hier liegt die Verbindung zur KI: Sprachmodelle und neuronale Netze sind keine „Wahrheitsmaschinen“, sondern Kohärenzmaschinen. Sie erzeugen Texte und Bilder, die plausibel wirken – unabhängig davon, ob sie faktisch korrekt sind. In diesem Sinn ist KI selbst Ausdruck von Systemics: Sie integriert, verbindet, produziert Narrative.

„Realität? – Wo ist die Realität, wo haben Sie die? Heute geht es nicht mehr um Wahrheit, sondern darum: Wer erfindet eine lustige, amüsante und interessante Geschichte, von der jeder sofort glaubt: Das muss es gewesen sein.“
– Heinz von Foerster

Das erklärt, warum KI so empfänglich für Hype und Blasen ist: Sie liefert keine Realität, sondern Geschichten. Gesellschaft, Medien und Märkte nehmen diese Geschichten auf, glauben daran – und verstärken sie. Kybernetik und Systemtheorie helfen, diesen Mechanismus zu verstehen: KI ist weniger ein Werkzeug der Wahrheit als ein Spiegel unserer Sehnsucht nach Sinn und Ordnung in einer komplexen Welt.

Meta-Reflexion: Von Hütchenspielern zu Poeten

Die Muster des Hypes – Übertreibung, „die Angst, etwas zu verpassen“, Narrativbildung – erinnern nicht nur an ökonomische Blasen, sondern auch an die Mechanismen von Hütchenspielern und Strukturvertrieben. Heinz von Foerster hat dies zugespitzt: Aus Wissenschaftlern werden Erzähler, Poeten und Schauspieler, die Geschichten entwerfen, die wir für Realität halten wollen.

Damit schließt sich der Kreis: KI ist weniger ein neutrales Werkzeug, sondern Teil einer kulturellen und ökonomischen Bühne. Ob wir diese Bühne für Täuschung und Machtkonzentration nutzen – oder für neue Formen der Kreativität und Zusammenarbeit – liegt nicht in der Maschine selbst, sondern in den Händen der Gesellschaft.

Der Beitrag Künstliche Intelligenz – Innovation oder nächste Blase? erschien zuerst auf Kunst & KI.

Künstliche Intelligenz (KI) hält zunehmend Einzug in Schulen – auch in den Kunstunterricht. Was zunächst nach aufregenden Möglichkeiten klingt, entpuppt sich bei genauerem Hinsehen oft als riskantes Spiel mit der Substanz von Bildung und Kreativität. Denn zwischen kreativer Erweiterung und gefährlicher Abkürzung liegt nur ein schmaler Grat.

Verlockende Möglichkeiten

KI-Bildgeneratoren wie DALL·E oder Stable Diffusion können in Sekundenschnelle Bilder in verschiedenen Stilen erzeugen – von Comic über Impressionismus bis hin zu Pixel Art. Für den Unterricht heißt das: Schülerinnen und Schüler können sich inspirieren lassen, eigene Bildideen entwickeln oder mit visuellen Stilen experimentieren, die sie handwerklich (noch) nicht beherrschen. Auch neue Unterrichtsformate entstehen: KI als „Partner“ bei Designaufgaben, als Werkzeug, um Kunstgeschichte scheinbar lebendig zu vermitteln, oder sogar als kreativer Sparringspartner für Gruppenarbeiten.

Gerade für Kinder und Jugendliche kann der spielerische Zugang faszinierend sein. Sie erleben, dass Technik nicht nur trockenes Rechnen bedeutet, sondern auch visuelle Welten erschaffen kann. KI macht so manche Hürde leichter zugänglich – und genau darin steckt ihre Faszination.

Pädagogische Gefahren

Doch genau hier beginnt die Gefahr: Der Kunstunterricht lebt von der Auseinandersetzung mit Materialien, vom handwerklichen Ringen, von Fehlern und Umwegen. Wer jemals Ton geformt, Leinwand bemalt oder Holz bearbeitet hat, weiß: Kunst entsteht auch im Widerstand des Materials. Wenn KI diese Lernprozesse ersetzt, verkommt Kreativität zur banalen Prompt-Eingabe. Der mühsame, aber wertvolle Prozess des Ausprobierens und Scheiterns wird verdrängt – und damit das Fundament echter Kreativität.

Eine Studie der Universität Koblenz (2025) zeigt: Viele Lehrkräfte fürchten, dass Schülerinnen und Schüler durch KI weniger eigene Ausdrucksformen entwickeln und stattdessen standardisierte Lösungen akzeptieren. Ohne klare Leitlinien und Fortbildungen droht KI so zur bequemen Abkürzung zu werden, die zwar Ergebnisse liefert, aber kaum Lernprozesse anstößt.

Künstlerische und ästhetische Kritik

Auch aus künstlerischer Sicht lohnt ein kritischer Blick. KI produziert Bilder in unendlicher Masse – ästhetisch gefällig, aber oft austauschbar. Diese Standardisierung lässt den Wert individueller Ausdruckskraft verblassen. Kunst war immer auch ein Widerstand gegen das Offensichtliche, ein Bruch mit Konventionen. Doch KI reproduziert vor allem das, was sie gelernt hat: bestehende Stile, gängige Bildwelten, populäre Ästhetiken.

Die Folge: ein Schein von Originalität, der jedoch auf Simulation beruht. Der Kulturwissenschaftler Oliver Grau warnt in diesem Zusammenhang, dass „KI die Kunstästhetik nivellieren“ könnte, wenn sie unreflektiert als Standardwerkzeug genutzt wird. Vielfalt droht zur Illusion zu werden.

Rechtliche und ethische Fragen

Hinzu kommt eine rechtliche Grauzone: Viele KI-Systeme basieren auf Trainingsdaten, die ohne Einwilligung von Künstler:innen genutzt wurden. Laut der Goldmedia-Studie im Auftrag der Stiftung Kunstfonds (2024) äußerten 56 % der befragten Künstler:innen Sorgen über Einkommensverluste durch KI, 53 % sahen ihre berufliche Existenz bedroht. Schülerinnen und Schüler geraten so schnell in urheberrechtliche Konflikte, ohne es zu merken.

Die Eigentumsfrage ist ebenso ungeklärt: Wem gehört ein KI-generiertes Werk? Dem Schüler, der Schule, der Plattform? Ohne verbindliche Regeln droht Chaos – und ein stiller Angriff auf das Urheberrecht. Für den Unterricht bedeutet das: Lehrkräfte bewegen sich in einem rechtlich unsicheren Terrain, sobald KI-Bilder Teil von Projekten, Ausstellungen oder Wettbewerben werden.

Gesellschaftliche Dimension

Auch gesellschaftlich sind die Gefahren offensichtlich: KI-Bilder können für Desinformation und Manipulation eingesetzt werden. Deepfakes und täuschend echte visuelle Fälschungen zeigen, wie brisant diese Entwicklung ist. Gerade im Kunstunterricht müsste daher die kritische Medienbildung im Zentrum stehen: Wie unterscheiden wir Echtes von Generiertem? Welche Verantwortung haben wir als Bildschaffende?

Darüber hinaus droht eine neue Bildungsungleichheit. Während einige Schulen mit modernen Geräten und KI-Zugängen experimentieren können, fehlt es anderen an Ressourcen. Der Bildungsserver Deutschland (2025) betont, dass dieser digitale Graben nicht nur technische Ausstattung betrifft, sondern auch die Fähigkeit, KI kritisch und kreativ einzuordnen.

Fazit: Reflexion statt Euphorie

KI im Kunstunterricht ist kein harmloses Werkzeug, sondern ein Spiegel gesellschaftlicher Spannungen. Sie eröffnet spannende Chancen, bedroht aber zugleich zentrale Werte von Bildung und Kunst. Damit die Technik nicht zur gefährlichen Abkürzung wird, braucht es klare didaktische Konzepte, verbindliche rechtliche Orientierung und eine kritische Auseinandersetzung mit Fragen nach Kreativität, Urheberschaft und Verantwortung.

Denn wenn der Kunstunterricht eines nicht verlieren darf, dann ist es die Fähigkeit, Kreativität als echten, menschlichen Prozess zu begreifen – einen Prozess, der aus Handwerk, Ausdruck, Irrtum und Intuition lebt. KI kann diesen Prozess ergänzen – aber niemals ersetzen.

Der Beitrag KI im Kunstunterricht: Zwischen kreativer Chance und gefährlicher Abkürzung erschien zuerst auf Kunst & KI.

Künstliche Intelligenz wird als Gamechanger der Musikbranche verkauft: Songs auf Knopfdruck, Stimmenklone in Studioqualität, smarte Tools, die angeblich kreative Prozesse revolutionieren. Doch hinter den großen Werbeversprechen steckt oft Ernüchterung – und nicht selten der Vorwurf von Täuschung und Abzocke.

Täuschung durch Marketing

Viele Plattformen locken mit großen Worten: „Jeder kann sofort eigene Musik erschaffen“ oder „professioneller Sound ohne Vorkenntnisse“. In der Realität wirken die Ergebnisse häufig monoton, leblos oder schlicht unbrauchbar für ernsthafte Produktionen. Was nach kreativer Freiheit klingt, entpuppt sich oft als Sammlung generischer Loops.

Besonders problematisch: Nutzerinnen und Nutzer berichten von Abo-Modellen, deren Kosten in keinem Verhältnis zur Qualität stehen. Hinter glänzenden Oberflächen verbirgt sich nicht selten ein Geschäftsmodell, das mehr auf Marketing als auf Substanz setzt.

Probleme beim Promten

Ein weiteres Ärgernis ist die mangelnde Steuerbarkeit durch Promts.

• Viele User schildern, dass ihre detaillierten Eingaben kaum Wirkung zeigen. Ein Beispiel: Wer „ruhige akustische Ballade ohne Schlagzeug“ eingibt, erhält nicht selten einen voll orchestrierten Track mit wuchtigen Drums.
• Andere berichten, dass Negativpromts wie „ohne Gesang“ oder „kein Synthesizer“ ignoriert werden.
• Häufig entsteht der Eindruck, dass die KI mehr zufällig generiert als wirklich auf die Vorgaben reagiert.

Das Ergebnis: Frust statt Kreativität – und die Erkenntnis, dass „Prompting“ bei Musik weitaus schwieriger ist als in der Bildgenerierung.

Stimmenklon & KI-Gesang: Emotion bleibt aus

Auch beim Stimmenklonen oder KI-Gesang zeigen sich deutliche Grenzen. Nutzerforen sind voll von Berichten, in denen Stimmen als „blechern“, „roboterhaft“ oder „gefühllos“ beschrieben werden.

Besonders deutlich wird dies bei längeren Projekten: Während die ersten Sekunden oft erstaunlich realistisch wirken, kippt die Illusion schnell ins Künstliche. Emotionale Nuancen wie ein leichtes Zittern, Atempausen oder der natürliche Ausdruck einer Sängerin fehlen meist völlig.

Kostenfallen und Abzocke

Viele Anwender fühlen sich von den Preisstrukturen in die Irre geführt:

• „Kostenlose“ Versionen erweisen sich als stark eingeschränkt – etwa auf wenige Sekunden Musik oder eine Handvoll Stimmsamples.
• Wer ein Projekt ernsthaft umsetzen möchte, landet schnell bei teuren Abos. Nutzer berichten von Kosten im dreistelligen Bereich pro Jahr – für Ergebnisse, die nicht annähernd den Preis rechtfertigen.
• In Online-Communities tauchen immer wieder Vorwürfe von „Abzocke“ auf, weil die Tools im Marketing überhöhte Erwartungen wecken, die in der Praxis nicht eingelöst werden.

Erfahrungsberichte aus der Community

Einige typische Stimmen aus Diskussionen in Musiker-Foren und Review-Plattformen:

• „Ich habe ein Abo abgeschlossen, weil die Demos so gut klangen. Aber meine eigenen Ergebnisse wirken flach und austauschbar.“
• „Negativpromts werden komplett ignoriert. Egal, was ich eingebe – ich bekomme immer denselben Pop-Sound mit Schlagzeug und Vocals.“
• „Für ein paar Minuten brauchbares Material zahle ich hier mehr als für echte Studiomusiker.“
• „Nach ein paar Wochen habe ich gekündigt – die Tools helfen vielleicht zum Experimentieren, aber ernsthafte Musik kann man so nicht machen.“

Diese Stimmen zeigen: Viele Nutzer fühlen sich getäuscht, wenn Marketing und Realität auseinanderklaffen.

Fazit: Zwischen Potenzial und Misstrauen

KI hat ohne Zweifel das Potenzial, Musikproduktion zu bereichern – als Inspirationsquelle, zum schnellen Skizzieren von Ideen oder als technisches Hilfsmittel. Doch im Moment überwiegt vielerorts der Eindruck von unausgereiften Tools, gebrochenen Versprechen und fragwürdigen Geschäftsmodellen.

Musikerinnen und Musiker sollten daher mit Skepsis an KI-Angebote herangehen: Versprechen kritisch hinterfragen, Kostenmodelle genau prüfen – und sich bewusst machen, dass KI derzeit eher ein Experimentierfeld ist als ein verlässlicher Partner im kreativen Prozess.

Der Beitrag Musik & KI – Innovation oder teure Illusion? erschien zuerst auf Kunst & KI.