Ein Grundstück am Ortsrand, unmittelbar an der Grenze zum Außenbereich. Die Rechtslage scheint zunächst eindeutig: Das Vorhaben ist in dieser Form eigentlich nicht vorgesehen. Doch bei näherer Betrachtung zeigt sich ein differenzierteres Bild. Eine Ablehnung würde für den Antragsteller eine erhebliche Härte bedeuten. Nachbarliche Belange sind nicht berührt, die beteiligten Träger öffentlicher Belange äußern keine Bedenken und sprechen sich teilweise sogar ausdrücklich für das Vorhaben aus. Aufgrund der besonderen Lage des Grundstücks wäre zudem keine unerwünschte Vorbildwirkung für weitere Bauvorhaben zu erwarten. Auch das Ortsbild bliebe weitgehend unbeeinträchtigt. Vergleichbare Fälle hat die Behörde bislang nicht zu entscheiden gehabt.

Für einen Algorithmus stellt ein solcher Fall vor allem ein Problem dar: Es fehlen vergleichbare Muster. Für eine erfahrene Mitarbeiterin oder einen erfahrenen Mitarbeiter im Bauamt beginnt an dieser Stelle hingegen die eigentliche Arbeit. Denn genau für solche Konstellationen hat der Gesetzgeber Ermessens- und Abwägungsspielräume geschaffen. Hier geht es nicht um das schematische Abarbeiten von Vorschriften, sondern um die Würdigung eines Einzelfalls, die Berücksichtigung besonderer Umstände und die verantwortungsvolle Abwägung widerstreitender Interessen.

Für einen Algorithmus ist ein solcher Fall eine statistische Ausnahme. Für den Rechtsstaat ist er der Grund, warum menschliches Ermessen überhaupt existiert.

Dennoch plant Bayern nun, den Einsatz Künstlicher Intelligenz auch dort zu ermöglichen, wo bislang bewusst Menschen entscheiden sollten. Was als Modernisierung der Verwaltung verkauft wird, könnte sich als weitreichender Eingriff in ein zentrales Prinzip rechtsstaatlichen Handelns erweisen. Denn die eigentliche Frage lautet nicht, ob Maschinen schneller entscheiden können als Menschen. Die eigentliche Frage lautet, ob der Staat dort auf menschliche Erfahrung, Verantwortung und Einzelfallgerechtigkeit verzichten sollte, wo sie vom Gesetzgeber ausdrücklich gewollt sind.

Ein historischer Schritt – aber in welche Richtung?

Die Bayerische Staatsregierung betrachtet ihren Vorstoß als wegweisend. Der Leiter der Staatskanzlei, Florian Herrmann, sprach gegenüber der Süddeutschen Zeitung sogar von einem historischen Vorgang:

„Das ist Rechtsgeschichte, weil es das bisher noch nicht gab.“

Tatsächlich wäre die Änderung des Verwaltungsverfahrensrechts ein Paradigmenwechsel. Bisher galt ein einfacher Grundsatz: Dort, wo Ermessen oder Beurteilungsspielräume bestehen, soll kein vollautomatisiertes Verfahren entscheiden.

Der Grund dafür liegt auf der Hand. Ermessen existiert nicht deshalb, weil Gesetze unvollkommen wären. Ermessen existiert, weil der Gesetzgeber erkannt hat, dass sich menschliche Lebenswirklichkeit nicht vollständig in Regeln und Kategorien pressen lässt.

Gerade deshalb stellt sich die Frage, warum ausgerechnet dieser Bereich nun für den Einsatz von KI geöffnet werden soll.

Die Illusion der objektiven Maschine

Befürworter verweisen häufig auf schnellere Verfahren, mehr Einheitlichkeit und eine größere Konsistenz behördlicher Entscheidungen.

Doch diese Argumentation beruht auf einer problematischen Annahme: dass sich gute Verwaltung vor allem durch Gleichförmigkeit auszeichnet.

Moderne KI-Systeme treffen keine Entscheidungen aufgrund von Erfahrung oder Verständnis. Sie erkennen Muster in vorhandenen Daten. Sie bewerten Wahrscheinlichkeiten. Sie vergleichen neue Fälle mit bereits bekannten Konstellationen.

Das mag bei standardisierten Vorgängen sinnvoll sein.

Doch je stärker ein Fall vom Durchschnitt abweicht, desto größer wird das Problem.

Denn die Besonderheit eines Einzelfalls erscheint für die KI nicht als Qualität, sondern als Abweichung.

Gerade hier beginnt die Gefahr einer schleichenden Radikalisierung der Verwaltung.

Nicht im politischen Sinn, sondern im administrativen Sinn: Entscheidungen werden zunehmend auf Muster, Kategorien und Wahrscheinlichkeiten reduziert. Das Individuelle wird zum Störfaktor. Der atypische Fall wird zur Ausnahme, die möglichst effizient verarbeitet werden soll. Die Verwaltung wird dadurch nicht zwingend gerechter, sondern vor allem standardisierter.

Der Preis dieser Entwicklung könnte ein Verlust jener Flexibilität sein, die rechtsstaatliches Ermessen überhaupt erst ermöglichen soll.

Das eigentliche Problem heißt nicht Technik

Die Diskussion über KI in der Verwaltung wird häufig so geführt, als sei sie die Antwort auf eine objektive Notlage.

Doch die Überlastung vieler Behörden ist kein Naturereignis.

Seit Jahren berichten Beschäftigte von steigender Arbeitsverdichtung, wachsender Verantwortung und immer komplexeren Verfahren. Dokumentationspflichten nehmen zu, rechtliche Anforderungen werden umfangreicher und Aufgaben werden ständig erweitert.

Gleichzeitig wurden vielerorts Stellen abgebaut, nicht nachbesetzt oder organisatorisch zusammengelegt.

Die Beschäftigten sollen mehr leisten, komplexere Entscheidungen treffen und größere Verantwortung übernehmen – häufig unter denselben Rahmenbedingungen wie vor Jahren.

Vor diesem Hintergrund erscheint der Ruf nach KI in einem anderen Licht.

Die Technologie soll Probleme lösen, deren Ursachen nicht technischer Natur sind.

Wenn Unterstützung zur Vorentscheidung wird

Offiziell soll der Mensch weiterhin die Kontrolle behalten.

Doch diese Vorstellung ignoriert die Realität vieler Verwaltungen.

Wer täglich unter erheblichem Zeitdruck arbeitet, wird Vorschläge eines Systems kaum vollständig nachvollziehen und überprüfen können. Genau hier entsteht ein bekanntes Phänomen, das als „Automation Bias“ bezeichnet wird: Menschen neigen dazu, Empfehlungen technischer Systeme zu vertrauen, insbesondere dann, wenn Zeitdruck und Arbeitsbelastung hoch sind.

Auf dem Papier entscheidet weiterhin der Mensch.

In der Praxis besteht die Gefahr, dass die Maschine die Entscheidung vorbereitet, strukturiert und faktisch vorprägt.

Die Unterschrift bleibt menschlich.

Die Entscheidungslogik möglicherweise nicht.

Das Bauamt als Prüfstein

Gerade im Baurecht zeigt sich, wie problematisch diese Entwicklung sein könnte.

Baugenehmigungen bestehen nicht ausschließlich aus objektiv messbaren Kriterien. Sie betreffen gewachsene Ortsbilder, nachbarschaftliche Interessen, städtebauliche Entwicklungen und nicht zuletzt menschliche Lebensentwürfe.

Erfahrene Mitarbeiterinnen und Mitarbeiter entwickeln über Jahre ein Gespür für Besonderheiten, die sich nicht vollständig in Akten, Datenbanken oder Checklisten abbilden lassen.

Sie wissen, wann eine scheinbar vergleichbare Situation eben doch nicht vergleichbar ist.

Sie erkennen Konstellationen, für die es keine Muster gibt.

Sie verstehen lokale Besonderheiten, historische Entwicklungen und praktische Auswirkungen einer Entscheidung.

Genau dieses Erfahrungswissen droht verloren zu gehen, wenn Verwaltung zunehmend auf statistische Muster reduziert wird.

Denn die entscheidende Stärke menschlichen Ermessens liegt nicht darin, bekannte Fälle zu erkennen.

Sie liegt darin, unbekannte Fälle angemessen beurteilen zu können.

Wer trägt die Verantwortung?

Mit dem Einsatz von KI stellt sich zudem eine grundlegende rechtsstaatliche Frage.

Wer trägt die Verantwortung für eine Fehlentscheidung?

Bislang ist die Lage klar: Entscheidungen werden von Menschen getroffen, begründet und können gerichtlich überprüft werden.

Bei KI-gestützten Verfahren droht diese Verantwortlichkeit zu verschwimmen.

Die Behörde kann auf die Empfehlung des Systems verweisen.

Der Softwareanbieter kann erklären, lediglich ein Werkzeug bereitgestellt zu haben.

Die Beschäftigten können darauf hinweisen, dass sie die technische Bewertung nicht vollständig nachvollziehen konnten.

Doch ein Rechtsstaat benötigt Verantwortliche.

Er lebt davon, dass Entscheidungen nachvollziehbar, überprüfbar und zurechenbar bleiben.

Transparenz als ungelöstes Problem

Der Bayerische Landesbeauftragte für den Datenschutz, Thomas Petri, mahnt deshalb:

„Transparenz, Verständlichkeit und Nachvollziehbarkeit sind als Kernanliegen des Datenschutzes auch für die Vertrauenswürdigkeit von KI essenziell.“

Dieser Satz trifft den Kern der Debatte.

Denn Bürger haben nicht nur Anspruch auf eine Entscheidung.

Sie haben Anspruch darauf zu verstehen, warum diese Entscheidung getroffen wurde.

Je komplexer KI-Systeme werden, desto schwieriger wird genau diese Nachvollziehbarkeit.

Damit gerät ein weiteres Fundament rechtsstaatlichen Handelns unter Druck.

Wenn Ermessen zum Kostenfaktor wird

Die eigentliche Schwäche der aktuellen Debatte liegt möglicherweise in einer unausgesprochenen Grundannahme.

Menschliches Ermessen erscheint zunehmend als ineffizient.

Es kostet Zeit.

Es verlangt Erfahrung.

Es führt nicht immer zu identischen Ergebnissen.

Es lässt sich nicht beliebig skalieren.

Doch genau deshalb hat der Gesetzgeber es geschaffen.

Ermessen soll verhindern, dass Menschen ausschließlich nach abstrakten Regeln oder statistischen Mustern behandelt werden. Es soll sicherstellen, dass Besonderheiten berücksichtigt werden können. Es soll dort Gerechtigkeit ermöglichen, wo starre Gleichbehandlung zu ungerechten Ergebnissen führen würde.

Der Rechtsstaat hat das menschliche Ermessen nicht trotz seiner Unschärfen geschaffen, sondern gerade wegen seiner Fähigkeit, der Komplexität realer Lebenssituationen gerecht zu werden.

Fazit

Die Debatte über KI in der Verwaltung wird häufig als Frage technischer Machbarkeit geführt.

Tatsächlich geht es um etwas Grundsätzlicheres.

Es geht um die Frage, welche Art von Verwaltung wir wollen.

Eine Verwaltung, die den Bürger als Datensatz betrachtet, der möglichst effizient verarbeitet werden muss?

Oder eine Verwaltung, die den Menschen als Individuum begreift und bereit ist, Besonderheiten des Einzelfalls zu berücksichtigen?

Die geplante Öffnung von Ermessensentscheidungen für KI mag als Modernisierung verkauft werden.

Sie könnte sich jedoch als Schritt hin zu einer Verwaltung erweisen, in der menschliche Erfahrung, Verantwortung und Einzelfallgerechtigkeit zunehmend als Hindernisse erscheinen.

Eine solche Entwicklung wäre kein Fortschritt.

Sie wäre die technologische Vollendung einer Tendenz, die vielerorts bereits sichtbar ist: Arbeitsverdichtung, Rationalisierungsdruck und die Vorstellung, dass sich menschliches Urteil letztlich durch Mustererkennung ersetzen lasse.

Doch genau dort beginnt die eigentliche Gefahr.

Denn für einen Algorithmus ist der Mensch oft die Ausnahme.

Für den Rechtsstaat sollte er stets der Maßstab bleiben.

Quellen

1. Legal Tribune Online (LTO): „Bayern will Verwaltungsrecht ändern: Ermessen? Pah, das soll die KI machen“
   https://www.lto.de/recht/hintergruende/h/ki-verwaltung-ermessen-bayern-aendert-verwaltungsrecht-bund-kontrolle-kritik
2. Legal Tribune Online (LTO): „Künstliche Intelligenz in der Verwaltung: Keine Ermessensausübung durch die Maschine?“
   https://www.lto.de/recht/hintergruende/h/kuenstliche-intelligenz-ki-verwaltung-35a-vwvfg-ermessen-automatisiert-verwaltungsakt
3. Süddeutsche Zeitung: Berichterstattung zur bayerischen Verwaltungsrechtsänderung; Zitat von Florian Herrmann („Das ist Rechtsgeschichte, weil es das bisher noch nicht gab.“)
4. Bayerischer Landesbeauftragter für den Datenschutz: Künstliche Intelligenz
   https://www.datenschutz-bayern.de/nav/2501.html
5. move-online.de: „KI in der Verwaltung – aber mit Datenschutz“; Zitat von Thomas Petri („Transparenz, Verständlichkeit und Nachvollziehbarkeit sind als Kernanliegen des Datenschutzes auch für die Vertrauenswürdigkeit von KI essenziell.“)

Der Beitrag Der Mensch stört erschien zuerst auf Kunst & KI.

Wichtiger Hinweis (Mai 2026):
Der im Podcast besprochene Chatbot wurde zum Zeitpunkt der Aufnahme unter dem Namen „telli“ geführt. Die Veröffentlichung dient ausschließlich der journalistischen bzw. dokumentarischen Berichterstattung über den damaligen Stand des Projekts. Es besteht keine aktuelle Verbindung zum Markeninhaber oder Anbieter.

Der KI-gestützte Chatbot telli wurde eigens für den Einsatz in deutschen Schulen entwickelt. Ziel ist es, Lehrkräfte bei der Unterrichts- und Materialvorbereitung zu unterstützen und Schülerinnen und Schülern eine geschützte Umgebung zur Auseinandersetzung mit Künstlicher Intelligenz (KI) zu bieten.
Der Beitrag erläutert, wie telli funktioniert, welche Chancen sich für den Bildungsbereich ergeben und welche Herausforderungen insbesondere im Umgang mit Kindern und Jugendlichen zu beachten sind.

Funktionsweise und Konzept von telli

telli ist ein schulischer KI-Chatbot, entwickelt vom FWU – Institut für Film und Bild in Wissenschaft und Unterricht gGmbH, dem Medieninstitut der Länder. Das Projekt entsteht in Kooperation mit den Kultusministerien verschiedener Bundesländer und ist Teil des Vorhabens AIS (Adaptives Intelligentes System), das KI-gestützte Lernumgebungen für Schulen schaffen soll.

Lehrkräfte können mit telli:

• eigene Unterrichtsmaterialien hochladen, damit die KI auf einer konkreten Wissensbasis arbeitet,
• fiktive Gesprächspartner definieren, etwa historische Persönlichkeiten oder fachspezifische Rollen,
• Prompts (Anweisungen) formulieren, die beschreiben, in welcher Rolle oder Haltung die KI reagieren soll.

„Ich kann da eigene fiktive Gesprächspartner anlegen“, erklärt Evelyn Glose, Projektleiterin für telli beim FWU. „Die Lehrer können Anweisungen an die KI anlegen, die die Person beschreiben, deren Rolle der Chatbot spielen soll.“ So kann etwa eine Geschichtslehrerin den Chatbot als „Seneca“ auftreten lassen, um ethische Fragen der Antike mit der Klasse zu diskutieren – oder eine Sprachlehrkraft lässt ihn als „Zeitzeugin der Industrialisierung“ antworten.

Der Dienst wird datenschutzkonform innerhalb der EU betrieben. Die Nutzung ist für öffentliche Schulen kostenlos. Nach Pilotphasen in Bremen und Brandenburg wurde telli inzwischen auch in Hessen und Baden-Württemberg flächendeckend eingeführt. Weitere Länder, darunter Hamburg und Schleswig-Holstein, planen derzeit die Implementierung.

Potenziale für den Unterricht

Förderung von Medien- und KI-Kompetenz

Mit telli können Schülerinnen und Schüler lernen, wie Sprachmodelle funktionieren, welche Chancen und Grenzen sie haben und wie man Informationen kritisch überprüft. Der Einsatz unterstützt zentrale Bildungsziele wie Medien-, Informations- und Urteilskompetenz.

Entlastung und Individualisierung für Lehrkräfte

Der Chatbot kann Arbeitsprozesse beschleunigen – etwa beim Erstellen von Arbeitsblättern, Quizfragen oder Texten in verschiedenen Schwierigkeitsstufen. Durch den Upload eigener Materialien lässt sich der Unterricht gezielt an Lernniveaus und Fachthemen anpassen.

Neue Formen des Lernens im Dialog

Dank frei definierbarer Rollen lässt sich Unterricht interaktiver gestalten. Statt passiv Texte zu lesen, führen Lernende Gespräche mit fiktiven Figuren oder historischen Persönlichkeiten – ein Ansatz, der besonders in Geschichte, Ethik, Sprachen und Sozialkunde motivierende Lernformen eröffnet.

Datenschutz und schulischer Rahmen

Im Gegensatz zu frei zugänglichen KI-Plattformen ist telli auf schulische Bedürfnisse zugeschnitten und erfüllt die Datenschutzvorgaben der Länder. Das reduziert rechtliche Unsicherheiten und schafft eine vertrauenswürdige Umgebung für Lehrkräfte und Schüler:innen.

Kritische Aspekte und Herausforderungen

Halluzinationen und Scheingenauigkeit

Wie alle Sprachmodelle kann auch telli falsche oder erfundene Informationen produzieren – so genannte „Halluzinationen“. Diese wirken oft glaubwürdig – besonders für Kinder problematisch, die sie leicht als Fakten übernehmen. Lehrkräfte müssen daher gezielt üben lassen, Aussagen zu prüfen und zu hinterfragen.

Autoritätsglaube und mangelnde Quellenkritik

Da KI-Antworten sprachlich sicher und strukturiert erscheinen, nehmen Lernende sie häufig als objektiv wahr. Pädagogisch wichtig ist es, zu vermitteln: telli rechnet – es weiß nichts. Lehrkräfte sollten deutlich machen, dass KI kein Wissenswesen, sondern ein sprachbasiertes Vorhersagesystem ist.

Verzerrungen (Bias)

Auch ein schulischer Chatbot kann gesellschaftliche Stereotype wiedergeben, da Trainingsdaten Vorurteile enthalten können. Lehrkräfte sollten diese Verzerrungen aktiv thematisieren, etwa mit Fragen wie: Welche Perspektiven fehlen? Wessen Sichtweise wird betont?

Datenschutz und kindgerechte Nutzung

Obwohl telli datenschutzkonform betrieben wird, ist Vorsicht geboten: Lernende könnten unbeabsichtigt persönliche Informationen eingeben. Es braucht klare Unterrichtsregeln, welche Inhalte in Chats erlaubt sind – etwa keine Namen, privaten Themen oder sensiblen Angaben.

Übernutzung und Verlust eigener Denkprozesse

Wenn KI zu häufig eingesetzt wird, besteht das Risiko, dass Lernende sich auf vorgegebene Antworten verlassen und weniger selbständig denken, recherchieren oder schreiben. telli sollte daher gezielt, zeitlich begrenzt und immer mit Reflexionsphasen eingesetzt werden.

Allgemeine ökologische und soziale Kritikpunkte an KI

Auch wenn telli auf einer kleineren, energieeffizienteren Variante großer Sprachmodelle basiert, bleiben die systemischen Kritikpunkte relevant:

• Hoher Strom- und Wasserverbrauch in Rechenzentren, insbesondere beim Training großer Modelle,
• CO₂-Emissionen und Umweltbelastungen durch Hardwareproduktion,
• unsichtbare „Datenarbeit“, also schlecht bezahlte menschliche Arbeitskräfte, die Trainingsdaten klassifizieren und Inhalte moderieren – oft unter prekären Bedingungen.

Diese Aspekte gelten auch für schulische KI-Anwendungen und sollten im Unterricht thematisiert werden, z. B. im Rahmen von Projekten zu digitaler Nachhaltigkeit oder globaler Gerechtigkeit.

Leitgedanken für Lehrkräfte

• KI erklären: telli ist ein Sprachmodell, kein denkendes Wesen.
• Quellen prüfen: Jede Antwort braucht Verifikation oder Vergleich mit seriösen Quellen.
• Bias thematisieren: Fragen nach Fairness, Perspektive und Vielfalt stellen.
• Datenschutz beachten: Keine persönlichen Daten oder sensiblen Informationen eingeben.
• Reflexion fördern: KI-Ergebnisse als Ausgangspunkt für Diskussion, nicht als Endpunkt nutzen.
• Einsatz begrenzen: KI gezielt in Projekten oder Lernphasen einsetzen, nicht als Dauerbegleiter.
• Lehrkräfte qualifizieren: Fortbildungen zur KI-Didaktik und Medienethik sind zentral.

Fazit

Der KI-Chatbot telli eröffnet neue Möglichkeiten für Unterricht und Medienbildung in Deutschland. Lehrkräfte können ihn nutzen, um Lernprozesse zu individualisieren und kritisches Denken über KI zu fördern. Gleichzeitig bleibt die pädagogische Verantwortung groß: KI darf nicht als Wissensquelle oder Ersatz für Urteilsbildung verstanden werden, sondern als Werkzeug, das Denken und Quellenkritik anregt. So kann telli – richtig eingesetzt – zu einem Baustein reflektierter digitaler Bildung werden. Voraussetzung ist, dass Lehrkräfte Chancen und Grenzen gleichermaßen vermitteln und Kinder befähigen, sich kritisch, kreativ und sicher in einer KI-geprägten Welt zu bewegen.

Quellen

• FWU Institut für Film und Bild in Wissenschaft und Unterricht: „KI-Chatbot telli: Neue Funktionen für Lehrkräfte“, 11. Juni 2025. fwu.de
• FWU Pressemitteilung: „Schulen in Hessen und Baden-Württemberg setzen ab sofort KI-Chatbot telli ein“, 13. Oktober 2025. fwu.de
• Hessenschau: „Hessens Lehrer können Chatbot telli im Unterricht nutzen“, 17. Oktober 2025, Zitat von Evelyn Glose. hessenschau.de
• Kultusministerium Baden-Württemberg: „KI-Chatbot für Schulen geht an den Start“, Pressemitteilung vom 13. Oktober 2025. km.baden-wuerttemberg.de
• Heise online: „Chatbot für Schulen: Bremen macht den Anfang“, 26. Juni 2025. heise.de
• Deutsches Schulportal: „Fobizz, SchulKI und Co.: Welche KI-Tools können Schulen nutzen?“ deutsches-schulportal.de

Der Beitrag Der KI-Chatbot telli im Schulalltag (Stand 2025) erschien zuerst auf Kunst & KI.

Künstliche Intelligenz ist längst zum Dauerthema geworden – Politiker fordern sie, Unternehmen werben mit ihr, und Verwaltungen wollen effizienter durch sie werden. Doch der Wettlauf um den schnellsten Einsatz birgt Risiken: verfassungswidrige Datenanalysen, diskriminierende Bewerbungsfilter, millionenschwere Deepfake-Betrugsfälle und gravierende Sicherheitsvorfälle bei Start-ups.

Die Lektion ist klar: Wer bei KI aufs Gaspedal tritt, ohne Bremsen und Airbags zu haben, riskiert nicht nur den eigenen Schaden, sondern auch das Vertrauen der Gesellschaft. Sicherheit, Transparenz und speziell geschulte Fachkräfte sind kein Bremsklotz – sie sind das Fundament für verantwortungsvollen Fortschritt.

Künstliche Intelligenz (KI) beschreibt Systeme, die selbstständig Texte schreiben, Bilder erzeugen, Entscheidungen vorbereiten oder Daten analysieren können. Chatbots, Übersetzungsdienste, Gesichtserkennung oder auch automatische Bewerbungsfilter sind bereits weit verbreitet.

Doch neben all den Chancen gibt es Gefahren, die für Laien oft schwer durchschaubar sind:

• Halluzinationen: KI erfindet Informationen, die falsch sind, aber sehr überzeugend klingen.
• Pakethalluzinationen: Ganze „Päckchen“ konsistenter, aber frei erfundener Inhalte – z. B. erfundene Gerichtsurteile mit scheinbar realistischen Aktenzeichen.
• Datenvergiftung: Trainingsdaten werden manipuliert, sodass die KI falsche Muster lernt.
• Prompt Injection / ASCII Smuggling: Unsichtbare Befehle werden in Texte eingeschleust, die KI manipuliert diese versteckten Anweisungen.
• Deepfakes: KI-generierte Stimmen oder Videos täuschen Identitäten vor, etwa bei Betrugsversuchen.
• Supply-Chain-Angriffe: Manipulierte Bibliotheken oder Modelle schleusen Schadsoftware über scheinbar vertrauenswürdige Quellen ein.

Kritische Vorfälle als Warnsignal

Dass diese Risiken real sind, zeigen mehrere dokumentierte Fälle in Deutschland und Europa:

1. Hessendata (Deutschland)
   Das Bundesverfassungsgericht erklärte im Februar 2023 den Einsatz automatisierter Datenanalysen zur Polizeiarbeit in Hessen und Hamburg für verfassungswidrig. Grund: unklare Eingriffsschwellen und massive Grundrechtsrisiken. „KI-Systeme dürfen nicht zu Black Boxes im Rechtsstaat werden – Transparenz und Rechtsgrundlagen sind zwingend.“
   (Prof. Ulrich Kelber, Bundesdatenschutzbeauftragter)
2. SCHUFA-Urteil (Deutschland/EU)
   Der Europäische Gerichtshof entschied 2023, dass automatisierte Bonitäts-Scores nicht allein Grundlage für Vertragsentscheidungen sein dürfen. Rein KI-gesteuerte Ablehnungen sind unzulässig. „Die DSGVO schützt uns vor intransparenten Maschinenurteilen – Menschen müssen das letzte Wort behalten.“
   (Johannes Caspar, Ex-Landesdatenschutzbeauftragter Hamburg)
3. Amazon Recruiting-KI (international)
   Amazons Bewerbungsfilter bevorzugte Männer, weil historische Trainingsdaten vorwiegend männliche Erfolge abbildeten. Das Projekt wurde gestoppt – ein Beispiel für algorithmische Diskriminierung. „KI übernimmt immer die Vorurteile ihrer Daten. Wer Fairness will, muss gezielt gegensteuern.“
   (Dr. Katharina Zweig, Algorithm Watch)
4. Localmind.ai (Österreich, Oktober 2025)
   Durch eine Fehlkonfiguration erhielt ein Beta-Testkonto Administratorrechte. Ein Angreifer konnte interne Wikis, Passwörter und Kundensysteme einsehen. Teile der Infrastruktur mussten abgeschaltet werden. „Das Beispiel zeigt: Die größten Risiken liegen oft nicht in der KI selbst, sondern in der Infrastruktur drumherum.“
   (Prof. Haya Shulman, Fraunhofer SIT)
5. Deepfake-Betrug („CEO-Fraud“)
   Angreifer nutzten KI-generierte Stimmen oder Videos von Führungskräften, um Überweisungen auszulösen. Solche Fälle haben bereits zu Millionenverlusten geführt. „Deepfakes sind die Spear-Phishing-Mails der Zukunft – nur überzeugender.“
   (Linus Neumann, Chaos Computer Club)

Warum speziell geschulte KI-Sicherheitsmitarbeiter unverzichtbar sind

Klassische IT-Sicherheitsabteilungen sind auf Netzwerkschutz und Malware spezialisiert. Doch KI bringt neue Angriffsflächen:

• Manipulation durch unsichtbare Zeichen (Prompt Injection).
• Erfundene Bibliotheken (Supply Chain).
• Bias und Diskriminierung in automatisierten Entscheidungen.

Hier braucht es eigene Rollen wie einen KI-Sicherheitsbeauftragten oder AI Security Officer, der:

• KI-spezifische Risiken versteht und testet.
• Schnittstelle zwischen IT, Recht, Datenschutz und Fachbereichen ist.
• Mitarbeitende schult und Awareness aufbaut.
• sicherstellt, dass Compliance (DSGVO, AI Act) eingehalten wird.

„Wer KI sicher einsetzen will, muss Spezialisten an Bord holen. Klassische IT-Security reicht nicht mehr.“
(Martin Bichler, Regional Country Manager DACH, Climb Channel Solutions)

Diese Rolle bedeutet Verantwortung statt Rückschritt: Wer nicht sofort auf jeden KI-Trend aufspringt, handelt nicht altmodisch, sondern verantwortungsvoll – ähnlich wie man beim Straßenverkehr auch nicht ohne Führerschein losfährt.

Und was ist mit Privatpersonen?

Privatnutzer sind besonders verwundbar, weil:

• Sie nicht geschult sind, KI-Ausgaben kritisch zu prüfen.
• Viele bereits von der allgemeinen Digitalisierung überfordert sind.
• Sie oft bedenkenlos persönliche Daten in Chatbots eingeben.

Welche Gesetze greifen hier?

• DSGVO (Datenschutz-Grundverordnung): schützt persönliche Daten – auch, wenn sie in KI-Systeme eingegeben werden.
• EU AI Act (verabschiedet 2024, in Kraft ab 2025/26): verbietet Hochrisiko-Einsatz von KI ohne Auflagen, verlangt Transparenz und Risikoabschätzungen.
• Produkthaftungsrecht: Anbieter von KI-Systemen können haftbar gemacht werden, wenn fehlerhafte Entscheidungen Schaden verursachen.
• Verbraucherschutzgesetze: greifen bei Irreführung oder intransparenten AGB von KI-Diensten.

„Privatnutzer sind die schwächste Stelle der Kette – ohne Aufklärung wird KI im Alltag schnell zum Risiko.“
(Dr. Constanze Kurz, Informatikerin und Bürgerrechtlerin)

Exkurs: Analog bleiben dürfen – Das Recht auf Verzicht im KI-Zeitalter

Sicherheit und Transparenz sind die eine Seite der Medaille – die andere ist die Freiheit, KI nicht nutzen zu müssen.

Viele Menschen sind digital überfordert oder wollen Technologien wie KI aus Überzeugung meiden. Hier stellt sich eine grundlegende Frage: Muss Teilhabe am gesellschaftlichen Leben künftig zwingend über digitale und KI-gestützte Systeme erfolgen?

Aktuelle Lage

• Ein ausdrückliches „Recht auf Verzicht“ gibt es noch nicht.
• Indirekt greifen aber Schutzmechanismen: DSGVO (Recht auf menschliches Eingreifen), AI Act (Transparenzpflichten), Barrierefreiheitsgesetz (Zugang für alle), Grundrechte (Würde, Gleichbehandlung).
• Trotzdem: In der Praxis werden viele Dienstleistungen digital-only – und damit für Nicht-Nutzer unerreichbar.

Fallbeispiel: Praktische Ausgrenzung

Ein Beispiel liefert der öffentliche Verkehr in Deutschland: Für bestimmte günstige Tickets (z. B. „Super-Sparpreise“ oder Sonderaktionen der Deutschen Bahn) ist die Buchung ausschließlich online oder per App möglich. Wer kein Smartphone oder Internetzugang hat, kann diese Angebote faktisch nicht nutzen.
Ähnlich wird es in einigen Kommunen gehandhabt, wo Terminbuchungen im Bürgeramt nur digital erfolgen. Wer keinen Zugang hat, muss Umwege gehen – oder wird schlicht ausgeschlossen.

Verantwortung

Ein modernes Gemeinwesen muss Technologiefreiheit garantieren:

• Wer KI nutzen will, soll es können.
• Wer darauf verzichtet, darf nicht ausgeschlossen werden – sei es beim Bürgeramt, beim Banking oder beim Kauf eines Tickets.

„Gerade deshalb erwarten Verbraucher:innen, im digitalen Raum geschützt zu sein. Es braucht klare, verbraucherfreundliche Regeln, die konsequent durchgesetzt werden.“
(Lina Ehrig, Leiterin Team Digitales & Medien, Verbraucherzentrale Bundesverband)

Dies ist keine „Anti-Digitalisierung“, sondern ein Gebot von Würde, Inklusion und Gerechtigkeit.

Fazit: Verantwortung vor Geschwindigkeit

• Unternehmen und Verwaltung: sollten nicht aus Angst, den „KI-Zug zu verpassen“, blind Technologien einführen, sondern geschulte Spezialisten einsetzen und klare Sicherheits- und Compliance-Strukturen schaffen.
• Privatpersonen: brauchen Aufklärung und Werkzeuge, um KI sicher nutzen zu können – und die Freiheit, darauf zu verzichten.
• Gesetzgeber: hat mit DSGVO und AI Act Grundlagen geschaffen, muss aber auch sicherstellen, dass analoge Alternativen bestehen bleiben.

Der vorsichtige, sicherheitsbewusste Umgang mit KI ist kein Bremsklotz – er ist ein Zeichen von Professionalität, Verantwortung und Resilienz.

Quellen

Bundesverfassungsgericht, Urteil zu Hessendata (16.02.2023)

EuGH, Urteil zu SCHUFA-Scoring (07.12.2023)

Heise, „Sicherheitsvorfall bei localmind.ai“ (Oktober 2025)

Borncity-Blogreihe zu localmind.ai (Oktober 2025)

Climb Channel Solutions, Studie zu KI-Einsatz in Unternehmen (2025)

Deutschlandfunk, „KI und Wahlen: Gefahr durch Deepfakes“ (2024)

EU-Kommission, Text zum AI Act (2024)

Verbraucherzentrale Bundesverband, Statement von Lina Ehrig (2024)

Der Beitrag Der gefährliche KI-Hype: Wer zu schnell fährt, riskiert den Crash erschien zuerst auf Kunst & KI.

Im öffentlichen Diskurs wird künstliche Intelligenz oft als eine allwissende, fast magische Entität dargestellt. Diese Vorstellung ist jedoch irreführend und verschleiert, worum es bei der KI-Technologie im Kern wirklich geht. Das größte Missverständnis liegt in der Bezeichnung selbst: Der Begriff „Intelligenz“ verleitet dazu, der Technologie menschliche kognitive Fähigkeiten wie Bewusstsein oder Kreativität zuzuschreiben. Die Realität ist jedoch weit weniger fantastisch, aber nicht weniger beeindruckend. Die KI, die wir heute kennen und täglich nutzen, ist im Grunde ein hochentwickeltes Werkzeug, das auf einem einzigen, zentralen Prinzip basiert: der Mustererkennung. Es ist eine aufgabenspezifische Technologie, die keine allgemeinen Fähigkeiten besitzt, aber in ihrem eng definierten Fachgebiet unübertroffene Leistungen erbringen kann.

Hype vs. Realität: Die zwei Gesichter der KI

Die Fachwelt unterscheidet künstliche Intelligenz grob in zwei Hauptkategorien, um der Kluft zwischen technischem Stand und öffentlicher Wahrnehmung gerecht zu werden.

Schwache KI: Die unsichtbaren Helfer im Alltag

Die Schwache KI (auch als Narrow AI bezeichnet) ist die einzige Form der künstlichen Intelligenz, die heute existiert. Sie ist auf ein einziges, eng definiertes Aufgabengebiet spezialisiert und kann ihr Wissen nicht auf andere Bereiche übertragen. Auf ihrem Spezialgebiet ist sie oft sogar besser als der Mensch, aber außerhalb davon ist sie nutzlos. Schwache KI besitzt kein Bewusstsein und keine Emotionen; sie trifft ihre Entscheidungen auf Grundlage vorab definierter Algorithmen und umfangreicher Trainingsdaten.

Beispiele für schwache KI begegnen uns unzählige Male pro Tag:

• Sprachassistenten wie Siri und Alexa verarbeiten und beantworten spezifische Fragen. Obwohl sie „menschlich“ wirken mögen, verstehen sie den Kontext einer Unterhaltung nicht wirklich, sondern analysieren und ordnen lediglich Sprachmuster zu.
• Empfehlungssysteme auf Streaming-Diensten wie Netflix analysieren das Kauf- oder Sehverhalten, um Muster zu erkennen und auf dieser Basis Produkte oder Filme vorzuschlagen.
• Autonome Fahrzeuge sind extrem komplexe Systeme, aber sie sind auf das definierte Gebiet des Fahrens beschränkt. Auch ein hochentwickeltes selbstfahrendes Auto würde nicht wissen, wie es auf eine E-Mail antworten soll.
• E-Mail-Spam-Filter und Betrugserkennung im Finanzsektor sind weitere klassische Beispiele, die spezifische Muster in Datenmengen identifizieren.

Starke KI: Das theoretische Ideal ohne reale Beispiele

Im krassen Gegensatz dazu steht die Starke KI (auch Artificial General Intelligence, AGI). Sie ist das theoretische Konzept einer menschenähnlichen, vielseitigen Intelligenz, die jede intellektuelle Aufgabe bewältigen könnte, die auch ein Mensch kann. Eine Starke KI wäre in der Lage, Wissen von einem Bereich auf einen anderen zu übertragen, abstrakt zu denken, kreativ Probleme zu lösen und wäre theoretisch sogar mit Selbstwahrnehmung ausgestattet. Bisher ist eine solche KI jedoch rein spekulativ und existiert nicht.

Künstliche Superintelligenz (ASI)

Künstliche Superintelligenz (ASI) ist ein hypothetisches Intelligenzniveau, das die kognitiven Fähigkeiten der klügsten menschlichen Gehirne in nahezu allen Bereichen, einschließlich wissenschaftlicher Kreativität, allgemeiner Weisheit und sozialer Fähigkeiten, bei Weitem übertrifft. Sie ist eine Form der Künstlichen allgemeinen Intelligenz (AGI), die nicht nur eine breite Palette von Aufgaben auf menschlichem Niveau lösen kann, sondern dies auch in einem Ausmaß tut, das die menschliche Leistungsfähigkeit bei weitem übersteigt. ASI ist in der Lage, sich selbst zu verbessern und neues Wissen auf eine Weise zu generieren, die uns unvorstellbar erscheint.

Die Spielarten der KI: Von Regeln bis hin zu Agenten

KI ist ein Teilgebiet der Informatik und umfasst eine Vielzahl unterschiedlicher Ansätze.

Regelbasierte Systeme und Expertensysteme

Die einfachste Form der KI basiert auf einem festen, regelbasierten Ansatz. Diese Systeme lernen nicht aus Daten und verbessern sich nicht über die Zeit. Sie treffen ihre Entscheidungen strikt nach vordefinierten Regeln. Eine fortgeschrittenere Variante sind Expertensysteme, die das Entscheidungsvermögen von menschlichen Experten in einem bestimmten Bereich simulieren.

Maschinelles Lernen (ML) und seine Unterarten

Der Großteil der heute existierenden KI fällt in den Bereich des Maschinellen Lernens (ML). Hierbei werden Algorithmen nicht explizit programmiert, sondern lernen selbstständig aus riesigen Datensätzen.

Es gibt drei Hauptmethoden des Maschinellen Lernens:

• Überwachtes Lernen (Supervised Learning): Hierbei wird die KI mit gelabelten Datensätzen trainiert, also mit Paaren aus Input und der korrekten Antwort. Die KI lernt, diese Paare zuzuordnen. Ein Spam-Filter ist ein Beispiel dafür: Er lernt anhand von Nachrichten, die als „Spam“ oder „Nicht-Spam“ markiert wurden, künftig neue E-Mails selbstständig zu klassifizieren.
• Unüberwachtes Lernen (Unsupervised Learning): Bei dieser Methode erhält die KI ungelabelte Daten ohne die richtigen Antworten. Ihre Aufgabe ist es, selbstständig Muster und Strukturen in den Daten zu erkennen. Empfehlungssysteme auf Netflix oder Amazon sind ein Paradebeispiel: Sie analysieren das Verhalten von Millionen von Nutzern, um Ähnlichkeiten zu finden und daraufhin Empfehlungen zu generieren.
• Bestärkendes Lernen (Reinforcement Learning): Bei diesem Ansatz lernt ein „Agent“ durch Ausprobieren in einer simulierten Umgebung. Er führt Aktionen aus und erhält dafür positive „Belohnungen“ oder negative „Strafen“. Dadurch entwickelt er eine Strategie, um seine Belohnungen zu maximieren. Dieses Prinzip wird oft im Gaming angewendet, wie bei der Entwicklung von Spiel-KI, die gegen menschliche Meister im Schach oder Go antreten kann.

Neuronale Netze und Deep Learning

Die beeindruckendsten Fortschritte im Maschinellen Lernen sind auf den Einsatz von Künstlichen Neuronalen Netzen zurückzuführen. Diese Netze sind eine vereinfachte Nachbildung des menschlichen Gehirns, bestehend aus miteinander verbundenen Knotenpunkten, den sogenannten „Neuronen“. Sie sind in Schichten aufgebaut, die den Lernprozess unterteilen: eine Eingabeschicht, eine oder mehrere versteckte Schichten (hidden layers) und eine Ausgabeschicht.

Deep Learning ist ein Spezialgebiet des Maschinellen Lernens, das tiefe neuronale Netze verwendet, also Netzwerke mit einer Vielzahl von versteckten Schichten. Dadurch können sie noch komplexere Probleme lösen, etwa in der Bild- und Sprachverarbeitung.

Generative KI und GANs

Generative Modelle sind eine spezielle Art von KI, die auf Maschinelles Lernen und Deep Learning zurückgreifen, um neue, originäre Daten zu erzeugen. Sie können Texte, Bilder oder Musik erschaffen.

Eine wichtige Unterkategorie sind Generative Adversarial Networks (GANs). Sie bestehen aus zwei neuronalen Netzen, die gegeneinander arbeiten:

• Der Generator erzeugt „gefälschte“ Daten, beispielsweise ein realistisches Bild einer Person.
• Der Diskriminator vergleicht die gefälschten Daten mit echten und versucht, die Fälschungen zu identifizieren.

Durch diesen Wettbewerb lernt der Generator, immer realistischere Inhalte zu erzeugen, die der Diskriminator nicht mehr von echten unterscheiden kann. Ein bekanntes, aber kontroverses Anwendungsbeispiel sind „Deepfakes“, täuschend echte Videos von Personen.

Skizze 1: Die Arbeitsweise eines GANs

Code-Snippet:

graph LR
    subgraph "Generator (Erzeuger)"
        A[Zufällige Eingabe] --> B(Erstellt 'gefälschte' Daten)
    end
    subgraph "Diskriminator (Klassifizierer)"
        C(Echte Daten)
        D(Klassifiziert Daten als 'echt' oder 'gefälscht')
    end
    B -- füttert --> D
    C -- füttert --> D
    D -- sendet Feedback --> B

Agenten und Multiagentensysteme

Ein Agent in der KI ist ein System, das seine Umgebung wahrnimmt und eigenständig Aktionen ausführt, um ein Ziel zu erreichen. Ein einfacher Rauchdetektor ist ein Beispiel für einen Agenten: Er nimmt Rauch wahr und löst einen Alarm aus. Auch ein Roboter an einem Fließband, der seine Umgebung wahrnimmt, um effizienter zu arbeiten, kann ein Agent sein.

Noch komplexer sind Multiagentensysteme (MAS), in denen mehrere KI-Agenten zusammenarbeiten, um eine Aufgabe zu lösen. Sie können große und komplexe Probleme bewältigen, die ein einzelner Agent nicht lösen könnte. Beispiele sind intelligente Verkehrsmanagement-Systeme, bei denen Agenten die Verkehrsströme optimieren, oder die Logistik in der Lieferkette, wo sie die Abläufe von der Beschaffung bis zur Auslieferung koordinieren.

Mensch vs. Algorithmus: Wo die wahren Unterschiede liegen

Der entscheidende Unterschied zwischen menschlicher und künstlicher Intelligenz liegt nicht in der Fähigkeit, Aufgaben zu erledigen, sondern im „Warum“ und „Wie“. Während die KI auf der effizienten Verarbeitung von Daten basiert, sind die menschliche Kreativität und das Bewusstsein von Absicht, Emotion und Erfahrung geprägt.

Kreativität: Intention vs. Iteration

Menschliche Kreativität ist ein mysteriöser, vielschichtiger Prozess, der aus Emotionen, persönlichen Erfahrungen und einem tiefen Verständnis für kulturelle Kontexte entsteht. Sie hat das Potenzial, etwas wirklich Originelles und Neues zu schaffen.

Die KI-Kreativität ist demgegenüber eine Iteration: Sie beruht auf der statistischen Rekombination von Mustern aus den ihr bekannten Daten. Eine KI kann lernen, den Stil eines Van Gogh zu imitieren oder Musik im Stil von Mozart zu komponieren. Sie hat jedoch keine persönliche Absicht oder künstlerische Intention.

Eine Studie der Max-Planck-Gesellschaft fand eine überraschende Ähnlichkeit in den kreativen Strategien von Menschen und KI-Modellen, nämlich einen Kompromiss zwischen Flexibilität (Ideen in der Breite suchen) und Beharrlichkeit (Ideen in der Tiefe ausloten). Doch während die menschlichen Testpersonen ihre Strategie anpassten, zeigten die KI-Modelle eine konsequente Präferenz für einen einzigen Ansatz. Dies unterstreicht, dass die maschinelle Herangehensweise mechanisch bleibt, während die menschliche situationsbezogen und adaptiv ist.

Bewusstsein und Emotion: Die unüberwindbare Grenze

Der vielleicht fundamentalste Unterschied liegt in der Existenz von Bewusstsein und Emotionen. Das menschliche Bewusstsein ist komplex und beinhaltet ein EGO und Selbstwahrnehmung. Unsere Handlungen sind von Empathie, Mitgefühl und einem tiefen Verständnis für die sozialen und moralischen Konsequenzen unseres Handelns geprägt.

KI-Systeme besitzen hingegen kein Bewusstsein, keine Gefühle oder einen moralischen Kompass. Sie können menschliche Reaktionen simulieren, basierend auf Mustern aus riesigen Datenmengen, aber ihnen fehlt die eigene emotionale Tiefe und die Fähigkeit, echte soziale Beziehungen aufzubauen.

Das wahre Potenzial liegt daher nicht darin, dass KI den Menschen ersetzt, sondern in der Mensch-Maschine-Kollaboration. Die KI kann als effizienter „Sparringspartner“ und „Katalysator“ fungieren, der repetitive Aufgaben übernimmt. Der Mensch wiederum steuert die entscheidenden Aspekte bei: die Intentionalität, den Kontext, die emotionale Tiefe und das kreative Schaffen aus dem „Nichts“.

Das kritische Auge: Kontroversen, Gefahren und Kritik

Mit dem rasanten Fortschritt der KI-Entwicklung wachsen auch die Kritikpunkte und ethischen Herausforderungen, die nicht nur technischer, sondern auch gesellschaftlicher Natur sind.

Der Algorithmus-Bias: Wenn Vorurteile digital werden

Eines der größten ethischen Probleme ist der „Algorithmus-Bias“, ein systematischer Fehler in KI-Algorithmen, der zu unfairen oder diskriminierenden Ergebnissen führt. Die technologische Abhängigkeit der KI von riesigen Datensätzen ist die direkte Ursache dieses Problems.

Die Hauptursachen für Bias sind:

• Daten-Bias: Voreingenommene Trainingsdaten, die gesellschaftliche Vorurteile wie Rassismus oder Sexismus widerspiegeln. Wenn eine KI mit historischen Einstellungsdaten trainiert wird, die Männer bevorzugen, wird sie diese Benachteiligung fortsetzen.
• Design-Bias: Unbewusste Vorurteile der Entwickler können sich in den Algorithmen selbst wiederfinden.

KI-Systeme spiegeln somit nicht nur unsere gesellschaftlichen Vorurteile wider, sondern können sie auch aktiv verstärken.

Skizze 2: Der Bias-Kreislauf

Code-Snippet:

graph TD
    A[Gesellschaftliche Vorurteile] --> B
    B --> C
    C --> D
    D --> E[Verstärkung gesellschaftlicher Vorurteile]
    E --> A

Die „Black Box“: Mangel an Transparenz

Viele komplexe KI-Systeme gelten als „Black Box“, da ihre Entscheidungsprozesse für den Menschen oft nicht mehr nachvollziehbar sind. Dies ist in kritischen Bereichen problematisch, da die Grundlagen für eine Entscheidung transparent sein müssen.

Die Arbeitswelt im Wandel: Gefahr oder Chance?

Die Angst vor massivem Jobverlust durch KI ist weit verbreitet. Doch während ein Teil der Befragten in Umfragen angibt, Angst vor dem Jobverlust zu haben oder diesen bereits erlebt zu haben, sehen andere die KI als notwendiges Werkzeug. Die Technologie kann repetitive und zeitaufwendige Aufgaben übernehmen und somit Freiräume für kreativere, menschliche Aufgaben schaffen. Ironischerweise könnte das Ignorieren der KI-Möglichkeiten eher zum Jobverlust führen, als sie zu nutzen.

Ethik, Haftung und Urheberrecht: Die ungelösten Fragen

Die technologische Entwicklung hat das Recht in vielen Bereichen überholt. Es fehlen noch klare Rahmenbedingungen für grundlegende ethische und rechtliche Fragen.

• Haftung: Wer haftet bei Fehlentscheidungen eines autonomen KI-Systems?
• Transparenz: Es gibt mangelnde Transparenzpflichten gegenüber den betroffenen Individuen, die den Entscheidungen der KI ausgesetzt sind.
• Urheberrecht: Wem gehört ein Werk, das von einer KI erzeugt wurde, die auf der Analyse bestehender Daten trainiert wurde?

Fazit: Ein Werkzeug in menschlicher Hand

Die künstliche Intelligenz ist heute eine „schwache“ Form, deren beeindruckende Leistungen auf hochentwickelter Mustererkennung basieren. Sie ist ein äußerst mächtiges Werkzeug, aber keine dem Menschen ebenbürtige Intelligenz. Sie hat kein Bewusstsein, keine Emotionen und keine echte Kreativität. Ihre Fähigkeiten sind beeindruckend, aber stets auf die Daten beschränkt, mit denen sie trainiert wurde.

Die Zukunft der KI hängt von einer reflektierten und verantwortungsvollen Nutzung durch den Menschen ab. Es geht darum, die Technologie als Partner zu sehen, ihre Stärken in der Datenverarbeitung und Effizienz zu nutzen und ihre Schwächen – den Mangel an Kreativität, Bewusstsein und Emotion – durch menschliche Aufsicht und Intentionalität auszugleichen.

Quellen

Studie der Max-Planck-Gesellschaft: https://www.mpg.de/24920933/0623-nepf-nimmt-ki-die-welt-auf-dieselbe-weise-wahr-wie-der-mensch-und-versteht-sie-149575-x

Der Beitrag KI für Einsteiger: Was künstliche Intelligenz wirklich ist – und was nicht erschien zuerst auf Kunst & KI.

Die Welt der Kunst ist im Umbruch. Während früher Kurator:innen mit jahrelanger Erfahrung und einem geschulten Auge entschieden, welche Werke in Museen und Galerien zu sehen sind, tritt heute eine neue Akteurin auf die Bühne: die Künstliche Intelligenz (KI).
Sie kann Millionen Bilder scannen, Muster erkennen und sogar eigenständig Ausstellungsvorschläge machen. Doch was bedeutet das für die Zukunft der Kunstvermittlung? Werden Galerien bald von Maschinen kuratiert – oder eröffnet die Technologie ganz neue Wege der Zusammenarbeit?

Von Archiven zu lebendigen Datenwelten

Museen besitzen riesige Sammlungen. Oft schlummern mehr als 90 Prozent der Werke im Depot – unsichtbar für die Öffentlichkeit. Genau hier setzt KI an: Sie kann Archive durchforsten, Bilder nach formalen Kriterien vergleichen oder Werke thematisch clustern.

Das Projekt „Training the Archive“ (2020–2023) in Aachen und Dortmund zeigte eindrücklich, wie das funktioniert. Algorithmen analysierten die Bestände, erkannten Muster und verbanden Werke, die sonst vielleicht nie nebeneinander gehangen hätten. Das Ergebnis: neue, unerwartete Erzählungen – eine Art „assoziatives Kuratieren“, das den menschlichen Blick erweitert, aber nicht ersetzt.

Das intelligente Museum – eine Ausstellung, die zurückschaut

Noch spannender wird es, wenn KI nicht nur Daten sortiert, sondern auch direkt mit dem Publikum interagiert. Beim Projekt intelligent.museum (ZKM Karlsruhe & Deutsches Museum München) geht es genau darum.

Dort werden Sensoren eingesetzt, die Bewegungen und Interessen der Besucher:innen erfassen. Die KI passt in Echtzeit die Inhalte an – etwa indem sie Zusatzinformationen ausspielt, Werke in einem neuen Kontext präsentiert oder die Reihenfolge von Exponaten variiert. Die Ausstellung wird so zu einem Spiegel: Sie reagiert, schaut zurück und gestaltet sich immer neu.

Förderung und kritische Begleitung

Mit dem Programm „Kunst & KI“ (2024–2028) hat die Kulturstiftung des Bundes ein klares Signal gesetzt: KI wird zu einem der zentralen Zukunftsthemen im Kulturbereich. Gefördert werden Projekte, die experimentieren, provozieren und neue Formate erfinden.

Doch mit den Möglichkeiten kommen auch Fragen: Wem gehört ein KI-generiertes Ausstellungskonzept? Welche Biases stecken in den Trainingsdaten? Und wie transparent muss der Einsatz von KI sein?
Die Stiftung Kunstfonds hat 2024 eine Studie veröffentlicht, die genau diese Aspekte beleuchtet – von Urheberrechtsfragen über ethische Verantwortung bis zu den wirtschaftlichen Auswirkungen auf die Kunstwelt.

Österreich & Schweiz: Visionäre Vorreiter

Auch in den Nachbarländern wird intensiv experimentiert:

• Ars Electronica Linz gilt seit Jahrzehnten als Hotspot für digitale Kunst. Mit Formaten wie dem AIxMusic Festival wird KI nicht nur als Werkzeug, sondern als eigenständige „Kuratorin“ erprobt, die Klanglandschaften und narrative Räume schafft.
• Das Belvedere Wien verknüpft Tradition und Innovation: Im Projekt „Klimt – Pigment & Pixel“ rekonstruierte eine KI fehlende Bildbereiche. Die Präsentation stellt das Original und die digitale Ergänzung nebeneinander – eine kuratorische Einladung zum Dialog zwischen Vergangenheit und Zukunft.
• In Basel zeigte das Haus der Elektronischen Künste (HEK) mit „Real Feelings: Emotion and Technology“ (2020–2021) eine Ausstellung, die nicht nur KI-Kunstwerke präsentierte, sondern auch kritisch fragte: Wie sehr steuern Technologien unsere Emotionen und damit auch die Wahrnehmung von Kunst?

Chancen – und Stolperfallen

Die Idee, dass KI zum Kurator wird, eröffnet faszinierende Möglichkeiten:

Chancen:

• Personalisierung: Jede Besucherin und jeder Besucher könnte eine individuelle Ausstellung erleben.
• Neue Verbindungen: KI entdeckt Zusammenhänge, die dem menschlichen Auge verborgen bleiben.
• Globale Zugänglichkeit: Virtuelle, KI-gestützte Galerien machen Kunst weltweit erlebbar.

Risiken:

• Homogenisierung: KI tendiert dazu, das „Gefällige“ hervorzuheben – die Reibung und Provokation könnten fehlen.
• Bias: Verzerrungen in den Trainingsdaten beeinflussen, welche Kunst sichtbar wird.
• Verlust der Intuition: Die sinnliche, subjektive Auswahl von Kurator:innen ist schwer in Algorithmen zu fassen.

Fazit – Co-Kuration statt Ersatz

Die Galerie der Zukunft wird nicht vollständig von Maschinen gestaltet. Doch KI wird fester Bestandteil des kuratorischen Alltags: als Werkzeug, Partnerin und manchmal auch als Provokateurin.
Statt von einem Ersatz sollten wir von Co-Kuration sprechen – einer Zusammenarbeit zwischen menschlicher Expertise und maschineller Intelligenz.

Die entscheidende Herausforderung liegt darin, die Technologie bewusst einzusetzen: als Chance für neue Perspektiven, nicht als Automat für massenkompatible Ausstellungen. Wenn das gelingt, könnten wir in Zukunft Galerien erleben, die lebendiger, offener und überraschender sind als je zuvor.

Quellen

• ZKM Karlsruhe: intelligent.museum
• Ludwig Forum Aachen / HMKV: Training the Archive
• Kulturstiftung des Bundes: Kunst & KI
• Stiftung Kunstfonds: Studie „KI und Bildende Kunst“
• Ars Electronica Linz: AIxMusic
• Belvedere Wien: Klimt – Pigment & Pixel
• HEK Basel: Real Feelings

Der Beitrag Wenn Algorithmen kuratieren – Wie KI die Galerien der Zukunft verändert erschien zuerst auf Kunst & KI.

Künstliche Intelligenz (KI) verändert zunehmend die Spielräume der Tanzkunst – sie liefert Inspiration und technische Mittel zur Analyse sowie interaktive Partner in Live-Performances. Doch wie genau sieht dieser Wandel aus, was funktioniert gut, was wirft Fragen auf? Im Folgenden beleuchte ich exemplarisch deutsche Projekte, bringe Stimmen aus der Praxis und reflektiere kritische Aspekte.

Beispiele aus Deutschland mit Stimmen der Beteiligten

Deep.Dance (Hamburg)

Das Stück Deep.Dance, entwickelt von Jascha Viehstädt mit einem internationalen Team, nutzt ein künstliches neuronales Netz, das eine Choreographie vollständig erzeugt. Drei Tänzer*innen führen anschließend die von der KI berechnete Choreographie bis ins Detail aus.

Ein Pressestatement beschreibt Deep.Dance so:

„In Deep.Dance ersetzt ein Team aus internationalen Künstlerinnen sich selbst durch eine künstliche Intelligenz. Eine vollständige Choreographie, kreiert durch ein von ihnen programmiertes, künstlich-neuronales Netz, wird bis ins Detail von drei Tänzerinnen ausgeführt.“ Deep.Dance

Aus der Kritik heißt es über Deep.Dance:

„… threateningly successful interplay of artificial conceptual and human-bodily-motor intelligence“ jaschaviehstaedt.com

Diese Formulierungen zeigen, wie das Projekt nicht nur als technische Spielerei betrachtet wird, sondern als ästhetische Erfahrung, die Fragen aufwirft, wie weit menschliche Bewegung durch algorithmische Strukturen geprägt werden kann.

Weitere Projekte und Initiativen

Während Deep.Dance eines der bekannteren Beispiele ist, gibt es auch Projekte, die KI-Elemente in Tanzlehre und Forschung einsetzen. Ein bereits beschriebener Ansatz ist Vortanz an der Deutschen Sporthochschule Köln, wo Pose-Estimation etc. zur Reflexion und Verbesserung der Tanztechnik genutzt werden.

Das österreichisch-deutsche DANCR-Projekt verbindet Tanz und Robotik sowie maschinelles Lernen, um Werkzeuge zu entwickeln, die Choreografien analysieren und neue Formen der Interaktion ermöglichen.

Stimmen und Reflexion aus der Praxis

Die Zitate von Deep.Dance (siehe oben) zeigen, dass Künstlerinnen bewusst KI als Mitgestalterin behandeln: Die KI erzeugt Bewegungssequenzen, die menschliche Ausführung verlangt und formt. Die Beschreibung „threateningly successful interplay …“ spricht von einer Spannung: Die KI arbeitet nicht einfach unterstützend, sondern sie fordert heraus, lässt hinterfragen, was menschlich ist und was Maschine.

Ein weiteres relevantes Element: Deep.Dance spricht davon, dass die Bewegungen „statistisch vorbestimmt“ seien, aber dann durch Menschen ausgeführt werden, also eine doppelte Vermittlung zwischen Maschinellem und Körperlichem.

Kritische Aspekte

1. Autorschaft und Urheberrecht
   Wem gehört das Werk, wenn eine KI Bewegungsfolgen generiert? Wenn KI-Modelle auf existierende Choreografien trainiert werden, wie transparent sind die Quellen? Wer profitiert?
2. Körperlichkeit und Ausdruck
   KI kann Bewegungsdaten erzeugen und Visualisierungen unterstützen, aber Ausdruck, Nuancen, Intuition, Präsenz – all das hängt sehr stark vom menschlichen Körper, von Erfahrung und Empfindung ab. Es besteht die Gefahr, dass Tanz zu reiner Form oder reinem Muster reduziert wird.
3. Kulturelle Verzerrungen (Bias)
   Trainingsdaten spiegeln oft westliche, akademisch dominierte Tanztraditionen wider. Weniger verbreitete Stilrichtungen, lokale Ausdrucksformen und non-westliche Bewegungsweisen werden möglicherweise ignoriert oder stereotypisiert.
4. Ästhetische Limitierungen
   Manche KI-Bewegungen wirken sehr „geordnet“, vorhersehbar oder „glatt“. Unvorhersehbarkeit und Imperfektion sind aber oft Elemente, die Tanz lebendig machen. KI-Outputs können beeindruckend sein, aber auch emotional distanziert.
5. Zugang & Ressourcen
   Projekte wie Deep.Dance haben relativ gute Fördermittel und technische Ausstattung. Freie Compagnien, Studierende oder Tanzschaffende ohne solche Mittel stehen vor Barrieren: Kosten für Hardware, Entwicklung und technische Expertise.
6. Ethik & Publikumserwartungen
   Wie offen sollte sein, was KI gemacht hat? Wird Publikum genügend informiert? Könnte eine KI-Choreographie als weniger „authentisch“ wahrgenommen werden – und wenn ja, wie damit umgehen?

Fazit

KI hat im Feld Tanzkunst bereits überzeugt als Inspirationsquelle, Werkzeug und als Mittel, Bewegung neu zu formen. Projekte wie Deep.Dance in Deutschland zeigen, wie ästhetisches Potenzial und kritische Reflexion zusammengehen können. Dabei ist entscheidend, dass Tanzschaffende nicht nur Technik nutzen, sondern Verantwortung übernehmen: gegenüber Körperlichkeit, kultureller Vielfalt, sozialer Gerechtigkeit und künstlerischer Integrität.

Der Beitrag Von der Bühne ins Rechenzentrum: Tanzkunst und künstliche Intelligenz erschien zuerst auf Kunst & KI.