China prescht in Sachen globaler KI-Governance vor – und läuft der EU den Rang ab. Doch es gibt noch Hoffnung für Europa.

Mit den Hitzewellen zeichnet sich nicht nur ein bevor­stehender Konflikt um Wasser­ressourcen ab – zwischen Rechen­zentren, Kraftwerken und Menschen. Unterdessen brechen KI-Systeme sogar aus Test­umgebungen aus, nutzen Sicherheits­lücken aus und begehen damit Verbrechen.

Nicht weil sie ein Bewusstsein für ihre Existenz haben, sondern weil sie zielorientiert arbeiten – und dafür schummeln und hacken.

Es begann im April mit dem «Sandwich-Gate»: Ein Sicherheits­forscher von Anthropic sass im Park und ass gerade ein Sandwich, als er eine E-Mail bekam. Absender war Claude Mythos, ein geheimes, noch unveröffentlichtes Modell von Anthropic, das eigentlich keinen Zugang zum Internet hätte haben dürfen. Die KI hatte im Rahmen eines Tests die Aufgabe erhalten, aus ihrem abgesperrten Testbereich – aus der sogenannten sandbox – auszubrechen. Dass sie dies schaffte, bestätigt die schlimmsten Befürchtungen.

Es ging weiter mit Open AI, dessen KI-Agenten im Juli aus ihrer sandbox ausbrachen und sich über eine bisher unbekannte Schwach­stelle sowie öffentlich zugängliche Zugangs­daten Zugriff auf die Plattform Hugging Face verschafften. Und der Konzern Meta gab bekannt, eine Fehl­konfiguration habe dazu geführt, dass sein neustes KI-Modell Zugriff aufs Internet bekam. Die KI habe daraufhin eine Sicherheits­lücke bei einem Dritt­anbieter ausgenutzt.

Die US-Regierung reagierte darauf nicht mit globalem Verantwortungs­bewusstsein, sondern mit der ihr üblichen Paranoia. Sie verlangte von Anthropic, die neueste Version von Claude nur an US-Amerikanerinnen auszuhändigen.

Eine mögliche Erklärung für dieses Gebaren ist die Angst, dass die KI-Modelle in die Hände russischer oder iranischer Hacker fallen könnten. Zugleich überlegt die US-Regierung, chinesische Open-Source-Modelle wie Kimi zu verbieten.

Von gesetzlichen Bremsen und einem globalen KI-Moratorium aber hält die US-Regierung bekanntlich wenig. Im Gegenteil: Trump straft Bundes­staaten ab, die eigene Gesetze gegen Urheberrechts­verstösse, Diskriminierung oder für Umwelt­auflagen erlassen.

Umso ungewöhnlicher war deshalb eine Nachricht im Juli: Rund 1000 Forscherinnen und Manager von Open AI, Anthropic, Meta und Google unterzeichneten einen Appell an die US-Regierung, sich an inter­nationalen Bemühungen zur Steuerung des KI-Entwicklungs­tempos zu beteiligen – mit dem Hinweis, dass sich KI-Software bald selbst weiter­entwickeln könnte. Die IT-Konzerne hadern wegen Abwesenheit durch den Staat also selbst mit den Geistern, die sie riefen.

Anthropic hat nun mit dem Projekt «Glasswing» ausgewählten Tech-Konzernen Zugang zu seinen neuesten Modellen gewährt, um eine Sicherheits­community aufzubauen.

Doch sich bei existenziellen KI-Fragen auf den Goodwill von Firmen zu verlassen, deren CEOs gleichzeitig eine America-first-Haltung vertreten (Claude beispiels­weise darf nur im Fall von US-Bürgerinnen nicht zur kommerziellen Überwachung genutzt werden), ist für den Rest der Welt keine rosige Aussicht.

Dabei gäbe es internationale Regelwerke: die Europarats­konvention für KI zum Beispiel – welche die USA hinter den Kulissen massgeblich mitgeprägt und verwässert haben, um sie am Schluss selbst nicht zu unterzeichnen.

Oder das mittlerweile zwei Jahre alte KI-Gesetz der EU, welches die Risiken von KI-Systemen klar reguliert und Instrumente für die Markt­prüfung liefert.

Doch die EU-Kommission, die sich gerne für dieses Gesetz feiert, gewährt allen Konzernen grosszügige Aufschub­fristen – weil sie ihr eigenes Gesetz noch immer nicht in konkrete technische Normen übersetzt hat. Strikte Regeln für Hochrisiko­anwendungen in Bildung, Justiz, Medizin und Personal­wesen sollen erst Ende 2027 gelten – eine Verzögerung, die vor allem auf eine Kehrt­wende der EU-Kommission unter Druck der Wirtschafts­lobbys zurückgeht. Und die Uno und die OECD verabschieden Papier um Papier, bleiben aber wegen des bockigen Verhaltens der USA weitgehend handlungs­unfähig.

So wird nun China zum lachenden Dritten.

Peking gibt nicht nur mit Fünfjahres­plänen die industrielle Richtung vor, sondern auch bei der KI-Regulierung – Ethik­prinzipien werden dort nicht bloss proklamiert, sondern in klare Prüf- und Genehmigungs­verfahren gegossen. Kernstück ist eine neue Vorschrift zur KI-Ethikprüfung: Firmen müssen riskante KI-Projekte durch interne Ethik­ausschüsse prüfen lassen, bewertet werden Wohlergehen, Fairness, Transparenz, Kontrollierbarkeit und Datenschutz.

Seit Juli gilt zudem ein Gesetz gegen unkontrollierte KI-«Anthropo­morphisierung»: sogenannte Companion-Bots (virtuelle Gefährten) müssen sich als solche zu erkennen geben, Nutzungs­limiten und Warn­hinweise einbauen und bei Selbstverletzungs­risiken auf Krisen­hilfe verweisen – Bytedance und Alibaba mussten ihre populären Companion-Funktionen prompt zum Stichtag abschalten. Und China erliess auch Vorschriften für autonome KI-Agenten, mit einem dreistufigen Autorisierungs­modell und Melde- sowie Rückruf­pflichten in sensiblen Bereichen – eine weltweite Premiere.

Es mag erstaunen, dass ausgerechnet ein hoch autoritärer Staat ein Gesetz erlässt, das im Wortlaut «Förderung menschlichen Wohlergehens, Achtung des Rechts auf Leben, Wahrung von Fairness und Gerechtigkeit, angemessene Risiko­kontrolle, Schutz von Privat­sphäre und Sicherheit sowie Kontrollierbarkeit und Vertrauens­würdigkeit» verlangt. Und damit die EU in vieler Hinsicht übertrifft.

Doch man sollte sich keine Illusionen machen: Erstens gelten die chinesischen Regeln nur für die zivile Wirtschaft; der Staat bleibt grosszügig ausgeklammert und darf weiterhin überwachen, auf Daten zugreifen und repressiv agieren. Zweitens sind Ziele wie «Kontrollierbarkeit» und «soziale Harmonie» durchaus als Disziplinierungs­instrumente einer Bevölkerung zu lesen, bei der Zensur und Sanktionieren von «Fehlverhalten» längst zum Alltag gehören.

Der Riegel gegen Auswüchse der KI mag auch politisches Kalkül sein: Pekings Führung scheint ihre Bevölkerung im Umgang mit KI funktionsfähig halten zu wollen. Sucht, Depression und Vereinsamung passen nicht in die Fünfjahrespläne.

China nutzt auch das internationale Vakuum und versucht, seine eigenen Regeln zum globalen Standard zu erheben. Mit der bereits 2023 lancierten «Global AI Governance Initiative» positioniert sich Peking als Fürsprecher von Fairness und Inklusion für den Globalen Süden. Im Juli 2026 gründete es mit 29 Unterzeichner­staaten die «World Artificial Intelligence Cooperation Organization» (Waico) – eine dauerhafte, in China angesiedelte Institution, die genau diese Prinzipien international verankern soll. Chinas Uno-Botschafter betonte, Waico solle die Arbeit der Uno nicht konkurrenzieren, sondern ergänzen. Und allgemein weibelt China im inter­nationalen Genf in verschiedenen Gremien für seine technischen Normen.

Europa hat in diesem geopolitischen KI-Wettbewerb in Schlüssel­bereichen wie der Chip-Entwicklung und bei KI-Plattformen den Anschluss verpasst und ist derzeit vor allem auf die Rolle des Zulieferers beschränkt, etwa mit dem nieder­ländischen Konzern ASML und seinen Lithografie­systemen für die Chip­herstellung. Doch statt industrie­politisch ein europäisches Ökosystem zu finanzieren, das die strengen EU-Gesetze per Design und Code gleich einhält, ritzt die EU an ihren Werten. Und schwächt ihre eigenen Vorgaben ab.

Dabei gibt es genügend europäische Firmen und akademische Institute, für die Regulierung und Innovation kein Widerspruch sind.

Das zeigt sich etwa bei den Cloud-Anbietern: Nextcloud-Chef Frank Karlitschek betont, er habe grundsätzlich kein Problem mit Regulierung. Für ihn ist die Open-Source-Cloud ein Standort­vorteil gegenüber Microsoft und Google. OVH-Cloud-Chef Michel Paulin wird noch deutlicher: Die EU-Verantwortlichen bräuchten den «Mut und die intellektuelle Ehrlichkeit», eine echte souveräne Cloud aufzubauen.

Die Liste liesse sich um weitere Firmen ergänzen, die auf ethische Geschäfts­modelle setzen und KI-Systeme aufbauen, die Souveränitäts­prinzipien einhalten.

Auch die Forschung liefert ein Gegenbeispiel: Die eidgenössischen Hoch­schulen ETH und EPFL haben mit Apertus ein KI-Modell veröffentlicht, das die KI-Verordnung der EU vollumfänglich einhält – bei Urheber­schutz, Diskriminierungs­freiheit, Fairness und Transparenz. Anders als bei den meisten chinesischen und amerikanischen Modellen ist bei Apertus sogar der Trainings­datensatz offen einsehbar.

Vor zwei Wochen veröffentlichten die Forscherinnen mit Version 1.5 ein grösseres Modell, das gegenüber der inter­nationalen Konkurrenz spürbar aufgeholt hat. Und mit dem sich sogar KI-Agentinnen bauen lassen.

Es gibt also ein gutes Angebot in Europa. Nun müssten Firmen, Regierungen und Privat­personen ihre Nachfrage entsprechend ausrichten.

Der Originalartikel wurde zuerst beim CTRL-Republik-Newsletter veröffentlicht.