Als die EU im Frühjahr 2024 den AI Act verabschiedete, war die Rhetorik groß. Europa wolle „weltweit Maßstäbe setzen“. Man schaffe „vertrauenswürdige KI“. Man verbinde Innovation mit Grundrechten.

Doch hinter den Pressemitteilungen und Feierbildern in Brüssel begann sofort eine andere Debatte — leiser, schärfer, konfliktreicher.

Start-ups warnten vor Abwanderung.
Bürgerrechtsorganisationen sprachen von aufgeweichten Verboten.
Juristen rätseln bis heute über zentrale Definitionen.

Je näher der August 2026 rückt — der Zeitpunkt, an dem viele zentrale Vorschriften greifen — desto deutlicher wird: Der AI Act ist kein konsensuales Prestigeprojekt. Er ist ein politischer Drahtseilakt mit offenem Ausgang.

Der große Anspruch: Europas Antwort auf das Silicon Valley

Der AI Act ist das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Sein Kern: ein risikobasierter Ansatz.

Was gefährlich ist, wird verboten.
Was riskant ist, wird streng reguliert.
Was harmlos ist, bleibt weitgehend frei.

Im Gesetz heißt es:

„Das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das unterschwellige Techniken nutzt, die sich dem Bewusstsein einer Person entziehen […], ist verboten.“

Social Scoring? Verboten.
Bestimmte Formen manipulativer KI? Verboten.
Biometrische Massenüberwachung? Grundsätzlich untersagt.

Auf dem Papier wirkt der Rahmen klar. Doch die Konfliktlinien beginnen dort, wo das Gesetz auf politische Realität trifft.

Kritik von rechts der Regulierung: „Europa stranguliert sich selbst“

Im Sommer 2023 veröffentlichten mehr als 150 europäische Start-up-Gründer einen offenen Brief. Ihre Forderung:

„Wir fordern eine Pause bei der Umsetzung des AI Act, da die Vorschriften die Innovation in Europa zu ersticken drohen.“

Hinter verschlossenen Türen wird der Ton noch deutlicher. Investoren sprechen von „regulatorischem Overkill“. Gründer berichten von Unsicherheit: Was gilt als KI? Wann wird ein System „hochriskant“? Welche Dokumentation ist ausreichend?

Der KI-Bundesverband warnte im Deutschlandfunk vor „großen Unklarheiten bei der Anwendung neuer Vorgaben“.

Die Sorge ist strategisch: Während Europa komplexe Compliance-Strukturen aufbaut, entwickeln Unternehmen in den USA milliardenschwere Foundation Models. China kombiniert staatliche Kontrolle mit massiver Förderung.

Ein Branchenkommentar formulierte es scharf:

„Die Luft auf dem hohen moralischen Ross, auf dem Europa reitet, wird dünner. Ethik ist wichtig – aber kein Altar, auf dem wir unsere Wirtschaft opfern sollten.“

Der Vorwurf: Der AI Act schafft ein Klima der Vorsicht statt der Geschwindigkeit. Und Geschwindigkeit ist im KI-Rennen ein Standortfaktor.

Kritik von links der Regulierung: „Ein Verbot mit Hintertür ist kein Verbot“

Doch während Wirtschaftsvertreter Überregulierung beklagen, argumentieren Bürgerrechtsorganisationen genau gegenteilig.

Besonders umstritten: biometrische Fernidentifizierung im öffentlichen Raum — also Gesichtserkennung durch Sicherheitsbehörden.

Zwar verbietet der AI Act solche Systeme grundsätzlich. Doch er lässt Ausnahmen zu, etwa bei Terrorismusbekämpfung oder schweren Straftaten.

European Digital Rights (EDRi) sprach deshalb von einer

„verpassten Chance, Massenüberwachung in Europa klar und dauerhaft zu verbieten.“

Amnesty International warnte, die Ausnahmeregelungen stellten „ein erhebliches Risiko für Grundrechte“ dar.

Die Kritik ist substanziell: Ein Verbot, das politische Ausnahmen zulässt, könnte in Krisenzeiten schnell ausgeweitet werden. Gerade Sicherheitsargumente haben in der europäischen Gesetzgebungsgeschichte oft expansive Wirkung entfaltet.

Generative KI: Die mächtigsten Systeme, die weichsten Regeln?

Ein weiterer neuralgischer Punkt sind sogenannte General Purpose AI-Modelle — große Basissysteme wie Sprach- oder Bildgeneratoren.

Für sie gelten Transparenzpflichten: Anbieter müssen Zusammenfassungen ihrer Trainingsdaten veröffentlichen, Risiken bewerten und technische Schutzmaßnahmen implementieren.

Doch Access Now kritisierte, die Regelungen setzten stark auf freiwillige Verhaltenskodizes und ließen zentrale Fragen offen.

Das Kernproblem:
Wer kontrolliert tatsächlich, womit diese Modelle trainiert wurden?
Wie lassen sich Urheberrechtsverletzungen nachvollziehen?
Wer prüft algorithmische Verzerrungen?

Kritiker sprechen von einer strukturellen Asymmetrie: Je größer und mächtiger ein System, desto stärker verlässt sich das Gesetz auf Selbstverpflichtungen.

Manipulation und politische Beeinflussung: Die hohe Hürde des „erheblichen Schadens“

Der AI Act verbietet KI-Systeme, die erheblichen Schaden verursachen können. Doch genau diese Formulierung sorgt für juristische Debatten.

Was ist „erheblich“?
Wie wird Schaden gemessen?
Reicht demokratische Verzerrung — oder braucht es nachweisbaren Individualschaden?

Rechtswissenschaftler warnen vor einem möglichen „Beweislastproblem“: Betroffene müssten erst den Schaden nachweisen, bevor ein Verbot greift.

Gerade im Bereich politischer Microtargeting-Techniken oder emotionaler Verhaltenssteuerung sehen Kritiker hier eine Grauzone.

Der politische Kompromiss: Ein Gesetz, das niemanden ganz zufriedenstellt

Interne Verhandlungsdokumente zeigen, wie stark der AI Act von politischen Interessen geprägt war.

Frankreich drängte auf innovationsfreundliche Regeln für Foundation Models. Deutschland wollte seine Industrie schützen. Das EU-Parlament pochte stärker auf Grundrechte.

Das Ergebnis ist ein komplexer Kompromiss:

• strikte Verbote
• umfangreiche Hochrisiko-Auflagen
• freiwillige Codes of Conduct
• gestaffelte Übergangsfristen

Politisch betrachtet ist der AI Act ein Balanceakt. Regulatorisch betrachtet ist er ein vielschichtiges Hybridmodell.

Genau darin liegt seine Stärke — oder seine Schwäche.

Die große Unbekannte: Durchsetzung

Theoretisch drohen Bußgelder von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes.

Praktisch stellt sich die Frage:
Wer kontrolliert komplexe neuronale Netzwerke?
Wer verfügt über die technische Expertise?
Wie viele spezialisierte Prüfer wird es geben?

Erfahrungen mit der DSGVO zeigen: Ambitionierte Rechtsrahmen stoßen schnell an Kapazitätsgrenzen.

Ohne ausreichende personelle Ausstattung könnten zentrale Regelungen symbolisch bleiben.

Fazit: 2026 – Der Moment der Wahrheit

Ab August 2026 werden viele Kernvorschriften verbindlich anwendbar.

Dann wird sich zeigen:

• Wandern Start-ups ab?
• Entstehen neue Compliance-Dienstleistungsmärkte?
• Oder schafft Europa tatsächlich einen Wettbewerbsvorteil durch Vertrauen?

Der AI Act ist mehr als ein Gesetz. Er ist ein Testfall für Europas Selbstverständnis im digitalen Zeitalter.

Will Europa Geschwindigkeit — oder Gestaltung?
Risiko — oder Regulierung?
Wettbewerb — oder Werte?

Die eigentliche Antwort wird nicht in Brüssel gegeben, sondern im Markt, in Gerichten und in der gesellschaftlichen Akzeptanz.

Bis dahin bleibt der AI Act das, was er jetzt schon ist:
Ein politisches Experiment mit globaler Signalwirkung — und offenem Ausgang.

Quellen

• Verordnung (EU) 2024/1689 über künstliche Intelligenz (AI Act), Amtsblatt der Europäischen Union
• Offener Brief europäischer Start-ups zur KI-Regulierung (2023)
• Deutschlandfunk: Debatte um Auswirkungen des AI Act
• European Digital Rights (EDRi): Stellungnahmen zur biometrischen Überwachung
• Amnesty International: Kritik an Ausnahmen bei Gesichtserkennung
• Access Now: Analyse zu General Purpose AI-Regelungen
• Pressemitteilungen der Europäischen Kommission zum AI Act

Der Beitrag AI Act: Innovationsbremse – oder verpasste Chance für echten Grundrechtsschutz? erschien zuerst auf Kunst & KI.

Die Digitalisierung schreitet voran – Verwaltung, Verkehr, Gesundheit, Bildung, Kultur: alles wird „smart“. Doch je digitaler die Welt wird, desto stärker wächst auch die Zahl der Menschen, die sich bewusst oder gezwungenermaßen entziehen. Sie sind nicht „technikfeindlich“, sondern verteidigen etwas, das zunehmend bedroht scheint: das Recht, analog zu leben.

Viele von ihnen fühlen sich inzwischen „app-gehängt“ – ein treffendes Wortspiel für eine Gesellschaft, die digitale Teilhabe zur Pflicht erhebt und analoge Alternativen abbaut.

Deutschland: Vom Digitalversprechen zum Digitalzwang

Deutschland hat sich die digitale Verwaltung auf die Fahnen geschrieben. Das Onlinezugangsgesetz (OZG) verpflichtet Bund und Länder, Verwaltungsleistungen digital anzubieten. Was positiv klingt, entwickelt sich vielerorts zu einer Einbahnstraße: immer öfter nur noch online, immer seltener persönlich, telefonisch oder schriftlich.

Der Datenschutzexperte Thilo Weichert warnt:

„Digital only kann diskriminierend, undemokratisch und unsozial sein.“
(taz, 2024)

Denn ausgeschlossen sind nicht nur Menschen ohne Geld, sondern auch jene, die Digitales aus Überzeugung meiden:
Menschen, die Datenschutzrisiken fürchten, ältere Bürger:innen, die analoge Kommunikation schätzen, Menschen mit sensorischen Einschränkungen oder psychischen Belastungen, Eltern, die ihre Kinder nicht früh digitalisieren wollen, oder einfach Menschen, die lieber mit einem Menschen sprechen als mit einem Chatbot.

Leena Simon, Netzphilosophin und Mitautorin des Gutachtens „Ein Recht auf analoge Teilhabe – Freiheit vor Digitalzwang“, bringt es auf den Punkt:

„Diese Menschen haben fast keine Wahl mehr. Terminvereinbarungen bei Behörden oder Fahrkartenkäufe ohne Smartphone sind erschwert oder teurer.“
(Deutschlandfunk Kultur, 2024)

Auch in Schulen wächst der Druck. KI-gestütztes Lernen, Tablets, Cloud-Plattformen – alles scheinbar modern. Doch Kinder, die durch Tun und sinnliche Erfahrung lernen, verlieren Erfahrungsräume. Eltern, die dies kritisch sehen, finden kaum noch Alternativen.

Und während die Verwaltung digitalisiert wird, verschwinden analoge Bürgerbüros, Papierformulare und Bargeld-Zahlungen.
Diejenigen, die lieber analog bleiben, geraten in eine stille Form von Diskriminierung – nicht wegen mangelnder Anpassung, sondern wegen eines anderen Verständnisses von Selbstbestimmung.

Europa: Digitale Inklusion ohne analoge Freiheit

In der EU wächst die Sorge über die digitale Kluft – die „digital divide“.
Programme wie der Digital Decade 2030 oder der European Accessibility Act wollen den Zugang zu Technologie erleichtern und Barrieren abbauen.
Doch was fast nirgends geregelt ist, ist das Recht auf Nicht-Digitalität: das Recht, sich Technologien zu entziehen, ohne gesellschaftliche Nachteile zu erleiden.

Gerade in Frankreich wird heftig darüber gestritten:
Ein Bericht des Sénat (2025) kritisierte die „dématérialisation“ – die vollständige Digitalisierung staatlicher Verfahren – als „un nouveau mur administratif“. Menschen ohne digitale Kompetenzen oder Geräte würden effektiv von Grundrechten ausgeschlossen.
Der Défenseur des droits forderte daraufhin, analoge Alternativen gesetzlich zu sichern.

In den nordischen Ländern wiederum wurde erkannt, dass zu viel Digitalisierung die Gesellschaft verletzlich macht:
Schweden führte 2021 neue Pflichten für Banken ein, Bargelddienste in allen Regionen bereitzustellen – als Reaktion auf eine Phase, in der viele Geschäfte keine Barzahlung mehr akzeptierten.

Global: Digitale Souveränität versus digitaler Zwang

Weltweit warnen Institutionen wie die UNESCO, UN-Menschenrechtsrat und UN-Behindertenrechtskonvention (UN-BRK) vor digitaler Ausgrenzung.
Sie betonen: Zugang zu Informationen und staatlichen Leistungen muss menschenrechtskonform sein – also auch analog möglich, wenn digitale Systeme unzugänglich oder unzumutbar sind.

Ein bemerkenswertes Beispiel liefert Indien:
Das biometrische Identifikationssystem Aadhaar wurde vom Obersten Gericht 2018 nur unter der Bedingung zugelassen, dass niemand benachteiligt werden darf, der keinen digitalen Zugang hat. Ein klares Signal gegen digitalen Zwang.

Institutionen und NGOs im Einsatz

Mehrere Organisationen in Deutschland und Europa setzen sich inzwischen für ein Recht auf analoge Teilhabe ein:

• Digitalcourage e. V. – kämpft für Datenschutz, Freiheitsrechte und gegen Digitalzwang.
• Netzwerk Datenschutzexpertise – erstellt juristische Gutachten zum Recht auf analogen Zugang.
• Der Paritätische Gesamtverband und Caritas – warnen vor sozialer Ausgrenzung durch rein digitale Verwaltungswege.
• Rosa-Luxemburg-Stiftung – betont, dass digitale Teilhabe soziale und demokratische Fragen berührt.
• European Disability Forum (EDF) – fordert EU-weit verbindliche Regeln, um Menschen mit Behinderung nicht von digitalen Prozessen auszuschließen.
• UNESCO / UNICEF – mahnen an, dass Digitalisierung Bildung nicht ersetzen darf, sondern ergänzen soll.

Nächste Schritte: Ein Plädoyer für Wahlfreiheit

1. Gesetzliches Recht auf analoge Teilhabe in Verwaltung, Gesundheit, Verkehr und Bildung.
2. Verpflichtende analoge Alternativen bei digitalen Pflichtdiensten.
3. Partizipative Entscheidungsprozesse, in denen Bürger:innen mitgestalten, wie viel Digitalisierung sie wollen.
4. EU-Initiative „Right to Remain Analog“, die Wahlfreiheit europaweit schützt.
5. Kulturelle Neubewertung des Analogen – nicht als Rückschritt, sondern als Teil menschlicher Vielfalt.

Fazit: Das Analoge ist kein Relikt – es ist ein Freiheitsraum

Digitalisierung ist kein Selbstzweck.
Wenn sie Teilhabe nur für jene ermöglicht, die digital bereit sind, dann ist sie kein Fortschritt, sondern eine neue Form der Ausgrenzung.

„Freiheit bedeutet auch, Nein sagen zu können –
zu Technologien, die uns mehr beherrschen als befreien.“
– Leena Simon, Netzphilosophin

Ein demokratischer Staat muss beides schützen:
das Recht auf digitale Teilhabe – und das Recht, analog zu bleiben.
Denn wer keine Wahl mehr hat, ist nicht modernisiert, sondern entmündigt.

Quellen

• Netzwerk Datenschutzexpertise: Ein Recht auf analoge Teilhabe – Freiheit vor Digitalzwang (2024)
• Digitalcourage e. V.: Rechtsgutachten zum Digitalzwang (2024)
• Deutschlandfunk Kultur: „Analog statt app-gehängt“ (Interview mit Leena Simon, 2024)
• taz: Leben ohne Smartphone und Computer (Interview mit Thilo Weichert, 2024)
• Bundestag: WD-Gutachten zur Zulässigkeit digital-only-Verfahren (2024)
• Sénat (Frankreich): Rapport sur la dématérialisation et l’exclusion administrative (2025)
• European Disability Forum: Digital Accessibility and Inclusion Report (2024)
• UNESCO / UNICEF: Reimagining Education in the Digital Age (2023)
• Oberster Gerichtshof Indien: Aadhaar Judgement (2018)

Der Beitrag App-gehängt: Die stille Kybernetisierung der Gesellschaft erschien zuerst auf Kunst & KI.