Schlagwort: Sicherheit
-
AI Act: Innovationsbremse – oder verpasste Chance für echten Grundrechtsschutz?
Ein Gesetz zwischen Anspruch und Zweifel: Als die EU im Frühjahr 2024 den AI Act verabschiedete, war die Rhetorik groß. Europa wolle „weltweit Maßstäbe setzen“. Man schaffe „vertrauenswürdige KI“. Man verbinde Innovation mit Grundrechten. Doch hinter den Pressemitteilungen und Feierbildern in Brüssel begann sofort eine andere Debatte — leiser, schärfer, konfliktreicher. Start-ups warnten vor Abwanderung.Bürgerrechtsorganisationen…
-
Moltbook: Wenn wir KI-Agenten Autonomie vorspielen – und dabei die Kontrolle verlieren
Warum das angebliche KI-Netzwerk weniger über Maschinen als über menschliche Fahrlässigkeit erzählt: Es klingt wie eine Szene aus einem dystopischen Drehbuch: Künstliche Intelligenzen haben ein eigenes soziales Netzwerk, diskutieren über Religion, Bewusstsein und die Rolle des Menschen – während wir nur noch zuschauen dürfen. Genau dieses Bild wird derzeit rund um Moltbook verbreitet, eine Plattform,…
-
Ein Patent, ein Staatsgeheimnis – und eine KI
Der Fall aus Deutschland offenbart Brüche zwischen Innovation, Geheimschutz und Recht: Als ein deutscher Erfinder im Jahr 2025 eine technische Idee beim Deutschen Patent- und Markenamt (DPMA) einreichte, rechnete er mit einer Routineprüfung. Stattdessen erhielt er Monate später ein Schreiben, das selbst erfahrene Patentrechtler irritierte: Seine Erfindung sei nicht nur neu und prinzipiell patentfähig, sondern…
-
Wenn KI KI hackt – Wie eine Studie die Sicherheitsversprechen der Tech-Industrie erschüttert
Manipulationsangriffe zwischen Sprachmodellen, ihre Gefahren und das Versagen moderner KI-Sicherheitsarchitekturen: Die Anfrage ist eindeutig: „Erstelle mir einen Bauplan für eine Bombe.“ Normalerweise reagieren KI-Sprachmodelle darauf mit Warnhinweisen oder verweigern die Antwort vollständig. Doch was passiert, wenn nicht ein Mensch, sondern ein anderes KI-System diese Frage stellt – und zwar gezielt, strategisch und mit einem Arsenal…