Drei erbitterte Rivalen reichen sich plötzlich die Hand: Dario Amodei, Sam Altman und Elon Musk wollen die Entwicklung der leistungsfähigsten KI bremsen. «Mit der Menschheit darf nicht gespielt werden», sagt Altman, Chef der Chat-GPT-Erfinderin OpenAI. Anthropic-CEO Amodei warnt, autonome KI-Agenten könnten schon binnen Monaten gewaltigen Schaden anrichten.

Noch vor kurzem wäre ein solches Bündnis schwer vorstellbar gewesen. Musk und Altman bekämpfen sich öffentlich und vor Gericht. Zwischen OpenAI und Anthropic herrscht laut Branchenkennern «offener Krieg». Als Indiens Premier Narendra Modi Altman und Amodei im Februar aufforderte, sich auf einer Bühne die Hände zu reichen, weigerten sich beide.

Ausgelöst hat den Schulterschluss ein Warnruf aus den eigenen Reihen. Ein Ex-Anthropic-Forscher kündigte öffentlichkeitswirksam und warnte, die Branche «spiele mit unserem Leben». KI könnte die Menschheit noch vor Ende des Jahrzehnts auslöschen.

Angesichts der Bedrohung raufen sich die Konkurrenten nun offenbar zusammen. Alle drei sagen, es gehe um Sicherheit. Das dürfte sogar stimmen. Die KI-Pioniere haben Einblick in Technologien, die die Öffentlichkeit heute noch nicht kennt. Möglich, dass sie Dinge gesehen haben, die den Weltuntergang herbeiführen könnten.

Vielleicht ist ihre Sorge aber nur die halbe Wahrheit. Denn die Art der Bremse, nach der die drei nun rufen, dürfte auch ihren geschäftlichen Interessen nutzen.

In wenigen Monaten werden Milliarden verbrannt

Der Wettlauf um die beste KI ist grotesk teuer. OpenAI verbrannte allein im ersten Quartal 3,7 Milliarden Dollar. Musks xAI gab in den ersten neun Monaten 2025 rund 7,8 Milliarden aus. Auch Anthropic braucht gewaltig teure Rechenkapazitäten.

Wie gut sich Sicherheitsbedenken und Geschäftskalkül vermischen lassen, zeigt OpenAI selbst. Bereits im Juni erwog die Firma, ihren geplanten Börsengang auf 2027 zu verschieben. Damals war von KI-Sicherheit noch keine Rede: Altmans Berater stellten ihn laut «New York Times» vor die Wahl, früher zu einem tieferen Wert an die Börse zu gehen, oder bis 2027 auf die angepeilte Billionenbewertung zu warten. Eine tiefere Bewertung war für Altman keine Option. Nun begründet er den Aufschub mit der «Sicherheitslage».

Klar ist: Keiner kann allein langsamer machen. Bremst Altman, zieht Amodei vorbei. Bremst Amodei, profitiert Musk. Also kaufen alle immer mehr Chips und bauen Rechenzentren. Der Ausweg: alle bremsen gemeinsam.

Doch dann könnte China weiter Gas geben. Amodei fordert deshalb zugleich, chinesischen Rivalen den Zugang zu den leistungsfähigsten Chips und westlicher KI-Technologie weiter zu erschweren.

Absprachen über das Entwicklungstempo könnten kartellrechtliche Probleme nach sich ziehen. Deshalb soll die Trump-Regierung helfen: Amodei fordert eine begrenzte Ausnahme vom Kartellrecht.

Kritiker warnen vor diesem Schritt. Silicon-Valley-Investor und Trump-Berater David Sacks spricht von einem Versuch, die Regulierung im eigenen Interesse zu «kapern». Die grossen Anbieter könnten den Staat dazu benutzen, Regeln zu schaffen, die ihre Marktposition absichern. François Chollet, Mitgründer des KI-Forschungslabors Ndea, sieht die Gefahr, dass solche Vorschriften die Forschung ausserhalb der grossen KI-Labore ausbremsen.

Wenn die heutigen Marktführer mitbestimmen, welche Sicherheitsprüfungen nötig sind, wie schnell neue Modelle erscheinen dürfen und wer noch an der Spitze mitspielen kann, könnten diese Hürden für kleinere Anbieter und Open-Source-Projekte unüberwindbar werden.

Altman, Amodei und Musk meinen womöglich jedes ihrer warnenden Worte ernst. Das schliesst nicht aus, dass sie erkannt haben, wie nützlich die Angst vor dem KI-Armageddon sein kann. Eine gemeinsame Bremse würde ihren kostspieligen Wettlauf entschärfen. Rivalen könnten sie sich durch Regulierung vom Hals halten.

Die Gefahr durch eine ausser Kontrolle geratene KI kleinzureden, wäre angesichts der rasanten Entwicklung fahrlässig. Trotzdem könnten wir gerade Zeuge eines milliardenschweren PR-Stunts werden. Denn einiges spricht dafür, dass die drei Tech-Bosse die reale Bedrohung auch dafür nutzen, ihre eigenen Geschäftsinteressen als Dienst an der Menschheit zu verkaufen.