Der Streit zwischen dem Pentagon und Anthropic sollte den Europäern eine Warnung sein. Die geplante Deregulierung von KI durch die EU-Kommission ist ein Irrweg, den das Parlament dringend korrigieren muss.

Wie stolz war die EU lange Zeit auf ihren Brussels effect.

Gemeint sind damit Digitalgesetze, die in der Welt Schule machten: So wurde etwa die Europäische Datenschutz-Grund­verordnung (DSGVO) in Japan kopiert und auch in Kalifornien in groben Zügen übernommen. Das Datenschutz­gesetz setzte die Standards und wurde sogar von Tech-CEOs respektiert.

Der «AI Act» sollte dieselbe Wirkung haben. Er war zwar keine gesetz­geberische Glanzleistung. Nachdem das Gesetz im August 2024 in Kraft getreten ist, sind viele Pflichten für Unternehmen bis heute noch nicht definiert. Der «AI Act» enthielt aber einen wichtigen Grundsatz: Je mehr Risiken ein KI-System auslöst, desto mehr Rechenschafts­pflichten hat ein Unter­nehmen gegenüber der Gesellschaft.

Doch das aktuelle geopolitische Klima hat das Mindset der EU-Kommission komplett geändert. Statt weiterhin die Vision einer ethischen KI-Gegenmacht zu verfolgen, treibt Kommissions­präsidentin Ursula von der Leyen wegen des KI-Hypes klassisches «Fomo» um: fear of missing out – also die Angst, etwas zu verpassen. Die EU-Digital­gesetze sind angeblich der Grund dafür, dass es in Europa wenige florierende Tech-Unternehmen gibt. Deshalb müssen diese Gesetze wieder rückgängig gemacht werden.

Brüssel setzt mit dem sogenannten «Digital Omnibus» den Rotstift bei seinen eigenen Regeln an. Die EU-Kommission nennt es eine Vereinfachung ihrer Regeln. De facto handelt es sich um einen Deregulierungs­plan – diktiert von den amerikanischen Tech-Konzernen, die alle anderen Branchen in Sachen Lobbying übertreffen.

So zeigt eine Analyse der NGOs «Corporate Europe Observatory» und «Lobby Control», wie die EU-Kommission Satz um Satz die Interessen von Big-Tech-Konzernen übernimmt: KI-Unter­nehmen sollen einfacher Daten verwenden können für das Training ihrer Modelle, alles unter dem Label «legitimes Geschäfts­interesse». Dabei sollen sie selber entscheiden können, ob ihre KI-Systeme unter die Kategorie Hochrisiko fallen oder nicht.

Der «AI Act» wird damit immer mehr zur Farce.

Denn was geschieht, wenn KI-Unternehmen selber über ihre Regulierung entscheiden dürfen, zeigt die aktuelle Debatte in den USA.

Alle amerikanischen Silicon-Valley-Konzerne haben spätestens seit Beginn der zweiten Trump-Regierung ihre pazifistische Grund­gesinnung über Bord geworfen. Jedes IT-Unternehmen mit Rang und Namen möchte nun zum militärischen Handlanger der US-Regierung werden. Auch das relativ junge Unternehmen Anthropic hat mit dem Verteidigungs­departement (im trumpschen Regierungs­sprech: department of war) einen Vertrag für militärische Einsätze. Das Anthropic-KI-System Claude war beim Aufspüren des venezolanischen Präsidenten relevant.

Der Anthropic-CEO nannte jedoch zwei rote Linien für das Militär: kein Einsatz in Form von autonomen Systemen – Claude soll also nicht selbst­ständig über Tötungen entscheiden. Und: keine Über­wachung von Ameri­kanerinnen (Europäer auszuspionieren, ist für Anthropic kein Problem).

US-Verteidigungs­minister Pete Hegseth feuerte daraufhin wütende Salven ab, Präsident Trump verordnete einen Boykott – kein einziges Unternehmen, das Verträge mit dem Pentagon unterhält, dürfe mit Anthropics KI-Modell arbeiten (das US-Militär hielt sich mit dem Iran-Einsatz schon mal nicht an die Weisung).

Dass Anthropic nun für seine standhafte Haltung von den Medien und Kundinnen heroisch gefeiert wird, lenkt aber vom Kernproblem ab: Hier verhandelt ein nicht vom Volk gewählter CEO eines KI-Unternehmens ohne irgendwelche Legitimität direkt mit der US-Regierung über existenzielle Fragen der Menschheit.

Wie kam es so weit?

Dank den Deregulierungs­turbos und den dystopischen Visionen der Trump-Regierung gilt: KI-Systeme sollen ohne Leitplanken, Schutz­vorkehrungen und Wahrung von Konsumenten­rechten auf die Menschheit losgelassen werden. Der US-Präsident hat in seinen ersten Amtstagen die milden Regeln seines Vorgängers Joe Biden direkt abgeschafft. Via Regierungs­dekrete verordnete er den ungebremsten Bau von Datenzentren ohne Rücksicht auf Energie- und Wasser­ressourcen. Er überstimmt den Kongress und will KI-Gesetze einzelner Bundes­staaten übersteuern (was sogar Republikaner nicht gutheissen). Die Festigung Europas als digitale Kolonie ist Teil der Sicherheits­strategie der US-Regierung.

Das Parlament in den USA ist in all diesen Fragen ausgeschaltet worden. Und scheint keinen Plan zu haben, wie es diesen entfesselten Tech-Faschismus wieder wirksam eindämmen könnte.

In Europa ist es jedoch noch nicht zu spät: Das EU-Parlament wird sich bald den Deregulierungs­plan «Digital Omnibus» vorknöpfen.

Und den eingeschlagenen Kurs hoffentlich wieder korrigieren: Nicht Tech-Unternehmen – ob sie aus Europa stammen oder nicht – sollen darüber entscheiden können, wo die ethischen Grenzen liegen. Schliesslich regulieren sich die Flug­industrie und die Tabak­branche auch nicht selbst.

Das machen gewählte Volks­vertreterinnen, die die roten Linien und klare Pflichten vorgeben. Und auch ihre Exekutive in die Schranken weisen.

👀 Diese Klicks lohnen sich

• Lesen: Meta hat seine smart glasses lanciert. Daten­arbeiterinnen in Kenia helfen den KI-Systemen, Objekte und Gesichter zu erkennen, die die Brille aufzeichnet. Dabei bekommen sie Videos von nackten Personen zu sehen und private Szenen der Brillen­trägerinnen. Metas Brille ist der dystopische Inbegriff der privaten Überwachung. Das «Svenska Dagbladet» hat ein furcht­erregendes Lesestück dazu publiziert.
• Ansehen: In einer Kooperation hat das Recherche­kollektiv «Paper Trail Media» zusammen mit weiteren Medien­partnern herausgefunden, mit welchen russischen Technologien die Mullahs im Iran ihre Bevölkerung ausspähen. Zum ersten Mal bekommt die Welt­öffentlichkeit einen Einblick in diesen Teil der Überwachungs­maschinerie. Handys werden geortet und ausgespäht. Drohnen schiessen Fotos aus der Luft und schüchtern Protestierende ein. Und gefühlt überall im Iran hängen Kameras. Der TV-Beitrag.
• Lesen: Die Bundes­verwaltung will sich von amerikanischen IT-Konzernen lösen. Das gefällt einem als «besorgter Staats­bürger» getarnten US-Lobbyisten offensichtlich nicht. Seine Intervention wird aber vermutlich das Gegenteil dessen bewirken, was er wollte. Mein Beitrag in der Republik.