Kaum jemand versteht Tech-Konzerne wie Open AI so gut wie Karen Hao. Die Journalistin erklärt, wieso KI-Modelle die Probleme der Welt nicht lösen werden.
Frau Hao, in Ihrem Buch «Empire of AI» beschreiben Sie den Wandel von Open AI von einer wertegetriebenen Organisation zu einer profitorientierten Firma. Ein Wandel, der intern für enorme Spannungen sorgte. Vor dem Launch von Chat GPT im Jahr 2022 kam es zum offenen Konflikt. Was geschah genau?
Im Grunde genommen gab es keinen Wandel. Open AI war von Anfang an als eine Organisation konzipiert, die die dominierende KI-Akteurin in der Welt sein will. Anfangs ergab es Sinn, dieses Ziel über eine gemeinnützige Organisation zu verfolgen, da sie als einzige Anbieterin auf dem Markt mit Google konkurrieren konnte und auf diesem Weg zuerst zu den nötigen Ressourcen kam.
Wann war der Wendepunkt?
Ich würde das Jahr 2019 als Wendepunkt bezeichnen, als Sam Altman der CEO von Open AI wurde. Um die geschaffenen Sprachmodelle zu skalieren, brauchte die Firma Kapital. Und sie benötigte immer grössere Rechenzentren, deren Bau sehr teuer gewesen wäre. Daher gründete Altman einen gewinnorientierten Zweig des Unternehmens und schloss einen Vertrag mit Microsoft ab. Mit diesem gingen sie die Verpflichtung ein, dass sie etwas entwickeln müssen, was für den IT-Konzern Rendite abwerfen wird.
Sie haben umfassend zur Rolle Altmans recherchiert. Er scheint keine besonders ehrliche Person zu sein. Altman hat seinem Team, das für Ethik zuständig war, etwas anderes erzählt als dem Team, das sich um Profit kümmerte. Er wusste genau, was eine Person hören wollte. Ist Altman ein Menschenfänger? Oder was ist sein Rezept?
Sam Altman ist ein phänomenaler Geschichtenerzähler. Er beherrscht zwei Dinge: Er weiss, was Menschen motiviert, was sie wollen – und auch, wovor sie Angst haben. Er ist in der Lage, Geschichten zu erzählen, die fesselnd sind. Und: Er ist Milliardär. Er hat ein riesiges Netzwerk. Er überzeugt Investoren, ihm Geld zu geben. Und bringt Talente dazu, dass sie bei ihm arbeiten wollen. Er kann politische Entscheidungsträgerinnen dafür gewinnen, das zu tun, was er will – dank seiner Fähigkeit, Menschen einzuschätzen.
Er scheint ein Wendehals zu sein. Zuerst verlangte er mehr Regulierung von der Biden-Regierung, jetzt gehört er zu den grössten Unterstützern Trumps und lobbyiert für die Befreiung von allen Auflagen.
Altman forderte mehr Regulierung, weil die Biden-Regierung damals genau das hören wollte. Sie kannten ihn auch nicht wirklich. Er war nicht Mark Zuckerberg. Er war nicht Elon Musk. Er war der neue, aufrichtige Typ aus San Francisco. Altman hat die Aufmerksamkeit der Biden-Regierung also gezielt auf Extremszenarien und Verbote gelenkt, die für die heutigen Probleme völlig irrelevant sind.
Wie etwa: Die Regierung solle lediglich die Entwicklung von KI für die Herstellung von Biowaffen oder Killerrobotern verbieten.
Genau, und dafür sorgen, dass die KI nicht aus den Rechenzentren entweicht.
Was meinen Sie damit?
Hierbei geht es um die Vorstellung, dass KI ein Bewusstsein entwickeln und aus dem Rechenzentrum «entkommen» kann.
Das ist ja völlig lachhaft.
Wegen solcher Schauergeschichten hat sich auch die Biden-Regierung nie mit den echten Problemen von KI beschäftigt: mit Fragen zum geistigen Eigentum, Fragen rund um den Datenschutz oder zur algorithmischen Diskriminierung, mit Umweltfragen und schon gar nicht mit dem Thema Verlust von Arbeitsplätzen oder Ausbeutung von Arbeitskräften für das Training dieser Modelle.
Und jetzt, mit Trump an seiner Seite, ist Altmans Macht erst recht entfesselt.
Genau, weil die Trump-Regierung die Macht des Silicon Valley stärken will, statt die KI-Imperien zur Rechenschaft zu ziehen, kann Altman einfach alles von ihnen verlangen, was er will. Er sagt: Verbietet staatliche Gesetze. Gebt mir viel Land für den Bau von Rechenzentren. Das ist es, was mir helfen wird, mich zu etablieren. Gebt mir Zugang zu riesigen Energiemengen. Und das hat er mit den Regierungsdekreten von Trump letztes Jahr auch erhalten. Dadurch verfestigt sich die Macht der KI-Imperien.
Kommen wir auf den Zwist zwischen Sam Altman und Dario Amodei von Anthropic zu sprechen, den Sie «die Scheidung» nennen. Amodei hatte Open AI im Jahr 2020 verlassen, weil er nicht mit der Kommerzialisierung von GPT-Modellen einverstanden war. Er wollte stattdessen eine sichere KI-Alternative entwickeln. Diese kennen wir unter dem Namen «Claude».
Dabei geht es Anthropic aber um eine sehr enge Definition von Sicherheit. Sie wollen verhindern, dass KI ausser Kontrolle gerät und die Menschheit tötet oder zu katastrophalen Schäden für die Zivilisation führt. Aber: Sie bauen Rechenzentren genauso schnell wie Open AI. Sie missachten das Urheberrecht genauso wie Open AI. Sie machen dasselbe wie Open AI und betreiben einfach Schönfärberei.
Das Marketing scheint gut zu funktionieren. Nun pflegt Anthropic eine Partnerschaft mit dem Pentagon und erlaubt damit den Einsatz für militärische Operationen. Warum denkt die Welt trotzdem: Anthropic sind die good guys?
Weil Anthropic ein sehr gutes PR-Team hat. Und weil es dieses weitverbreitete Missverständnis gibt, dass nur eine Form von KI existiert, nämlich generative KI-Modelle. Anthropic positioniert sich somit als die «saubere Kohle». Aber es ist halt immer noch Kohle, und eigentlich könnten wir stattdessen erneuerbare Energien haben, metaphorisch gesprochen. Es gibt eine grosse Auswahl an KI-Systemen. Die Menschen müssen sich nicht mit einem schrecklichen Unternehmen zufriedengeben, nur weil ein anderes noch viel schrecklicher erscheint.
Das gesamte Interview bei der republik.ch
