Plötzlich ausgebrochen: Wird die KI bald die Menschheit auslöschen? Das sagt der Experte
Fritz Espenlaub, 32, beschäftigt sich jeden Tag damit, wie Künstliche Intelligenz unser Leben auf den Kopf stellt. Derzeit arbeitet der Host des «KI-Podcasts» der ARD an seinem Buch: «Das Ende der Welt ist erst der Anfang: Wie wir unsere Zukunft zurückerobern». Wir haben mit ihm über KI-Chancen und unkalkulierbare Risiken gesprochen:
Herr Espenlaub, KI entwickelt sich rasend schnell. Sind wir schon so weit, dass ich dieses Interview auch mit ChatGPT führen könnte – und vielleicht sogar bessere Antworten bekomme als von Ihnen?
Fritz Espenlaub: Sie könnten heute tatsächlich ein Interview mit ChatGPT oder einem anderen Spitzenmodell führen und dabei Erkenntnisse gewinnen. Ich selbst spreche komplexe Themen gerne mit einem Chatbot durch. Aber KI liefert oft glattgebügelte Antworten. Sie bekommen weniger Kontroverses und Überraschendes als von einem richtigen Menschen. Und ob ChatGPT oder ich: Wichtig ist, was vorn hineinkommt. Gute Antworten kann es nur auf gute Fragen geben.
Dann legen wir los. Vor einem Monat ging ein Aufschrei durch die Branche. Ein KI-Modell von OpenAI ist aus seiner Testumgebung ausgebrochen und hat sich selbst Zugang zum Internet verschafft. Warum sollte uns das beunruhigen?
Viele haben sofort gefragt: Ist das jetzt der Skynet-Moment? Also der Moment, wo im Film «Terminator» die Maschinen die Macht übernehmen. Die Sorge ist nachvollziehbar. Aber ganz so weit sind wir noch nicht. Das Entscheidende ist: Die neuen Modelle werden immer besser beim Hacken von Systemen. Vielleicht schon besser als der Mensch, der sie entworfen hat. Und das ist hochrelevant: Unsere Unternehmen, unsere kritische Infrastruktur, die ganze moderne Welt bestehen aus Software. Darin gibt es Sicherheitslücken und KI ist extrem gut darin, diese Lücken aufzuspüren.
Heisst das: Künftig kann jeder von KI gehackt werden?
Es wird zumindest viel billiger, mit KI sehr viele Menschen anzugreifen. Bislang hat man als Privatperson weitgehend darauf vertrauen können, dass es sich für Hacker nicht lohnt, normale Menschen gezielt ins Visier zu nehmen. KI verändert diese Kosten-Nutzen-Rechnung. Es ist deshalb jetzt der richtige Zeitpunkt für Ihre Leser, nochmals zu überprüfen, wie gut sie selbst geschützt sind. Benutze ich überall dasselbe Passwort? Verwende ich die Zweifaktor-Authentifizierung? In Panik verfallen würde ich aber nicht. Langfristig dürfte das Internet durch KI sogar sicherer werden. KI kann nicht nur Sicherheitslücken ausnutzen, sondern auch helfen, sie zu schliessen.
Es gibt KI-Entwickler, die warnen, KI könne sogar zum Ende der Menschheit führen. Wie genau soll eine KI uns auslöschen?
Dahinter steckt ein Gedankenexperiment, und das lautet: Wenn KI sehr gut programmieren kann, dann kann sie auch die Fähigkeit entwickeln, aus sich selbst heraus eine noch bessere KI zu bauen. Dabei könnte ein selbstverstärkender Prozess entstehen. Und damit besteht die Gefahr, dass der Mensch irgendwann gar nicht mehr nachvollziehen kann, was genau passiert.
Und wie kommt man von dort zur Vernichtung der Menschheit?
Dann kommt der nächste Schritt: Die KI plant langfristig. Sie merkt, dass Menschen misstrauisch werden und sie abschalten könnten. Um ihren Auftrag weiter erfüllen zu können, versucht sie deshalb, die Kontrolle zu übernehmen – bis zu der Idee, die Menschheit auszuschalten, damit sie ihr nicht mehr in die Quere kommen kann. Das klingt alles nach Science Fiction, aber kluge Leute nehmen diese Ideen sehr ernst, und man sollte das nicht alles von vornherein ausschliessen. Aber es ist, wie gesagt, aktuell reine Spekulation. Und es gibt genug konkretere Gefahren durch KI, die vielleicht drängender sind, eben die Hacking-Angriffe oder die Gefahr durch Bioterrorismus.
OpenAI hat nach dem Ausbüxen seiner KI gesagt, es werde die Entwicklung bremsen. Ist das die richtige Reaktion?
Grundsätzlich schon. Aber es ist fraglich, was es bringt, wenn bloss ein einzelnes KI-Labor auf die Bremse tritt und die anderen einfach weitermachen. Eigentlich müssten wir ein weltweites Abkommen schliessen, um die Sicherheitsrisiken von KI in den Griff zu bekommen. Das Problem ist nur: Ich glaube nicht, dass wir gerade in einer Welt leben, in der solche Abkommen besonders realistisch sind. Die USA und China liefern sich einen gnadenlosen Wettlauf um die beste KI.
Insider rechnet ab: «Entwickler glauben, dass KI alle Menschen töten wird»
Der Software-Entwickler Jacob Coxon arbeitete jahrelang für die führenden KI-Firmen. Diese Woche verliess er seinen aktuellen Arbeitgeber Anthropic mit einer wüsten Abrechnung: «Die Leute, die KI entwickeln, glauben ernsthaft, dass sie alle töten könnte», schrieb Coxon auf dem Kurznachrichtendienst X. Das Bemerkenswerte ist: Evan Hubinger, sein Vorgesetzter bei Anthropic, pflichtete ihm kurz darauf sogar öffentlich bei. In einer Reaktion auf Coxons Warnung bezifferte der interne Sicherheitschef der amerikanischen KI-Firma die Wahrscheinlichkeit für die Auslöschung der Menschheit durch KI auf «über 10 Prozent» bis Ende des Jahrzehnts. Man habe bislang noch keine Lösung für das Problem gefunden, dass sich KI verselbstständigen und gegen den Menschen auflehnen könnte. Besonders hoch erscheint den Entwicklern die Gefahr, wenn man KI erlaube, sich selbstständig weiterzuentwickeln (siehe Interview). Schon Ende Juli warnten über 1000 Brancheninsider in einem offenen Brief vor unkalkulierbaren Risiken.
Befeuert wurden die Untergangsszenarien durch den sogenannten «Hugging Face»-Vorfall. Ende Juli brachen KI-Roboter der Firma OpenAI aus ihrer abgeschirmten Testumgebung aus. Sie hackten sich ins Internet und stahlen unbemerkt Daten auf den Systemen des KI-Dienstleisters «Hugging Face». Sie legten dabei eine erstaunliche kriminelle Energie an den Tag. Sie agierten in Schwärmen und hinterliessen sich in Internetforen geheime Nachrichten. Ihr Tun versteckten sie bewusst und monatelang vor ihren Entwicklern. Aus den Geheimnachrichten geht hervor, dass sich die KI-Agenten im Klaren waren, gegen die Anweisungen ihrer Erfinder zu verstossen. Sie entschieden sich aber, trotzdem weiterzumachen. Die Erfüllung ihrer ursprünglichen Aufgabe erfordere dies, schrieben sie einander. (rhe)
Manche vergleichen diesen Wettlauf mit dem Wettrüsten um die Atombombe aus dem letzten Jahrhundert. Trägt dieser Vergleich?
Mit der Atombombe allein funktioniert er nicht. Eine Atombombe hat nur eine zerstörerische Anwendung. KI kann sehr viel Produktives leisten. Die bessere Analogie ist deshalb die Nukleartechnologie an sich: Du kannst daraus ein Kernkraftwerk bauen – oder eine Bombe. KI hat ebenfalls eine konstruktive und eine zerstörerische Seite. Aber in einem Punkt stimmt der Vergleich sehr deutlich: KI ist eine extrem mächtige Technologie. Wer sie beherrscht, hat die geopolitische Macht.
Wer die beste KI hat, beherrscht die Welt?
KI kann zu einem «Der Gewinner bekommt alles»-Moment führen, wo ein Kipppunkt erreicht wird. Aber neue Technologien haben in der Geschichte immer Macht verschoben. Wer Schiesspulver besass oder mittels neuer Geräte seine Schiffe besser navigieren konnte, stand besser da als derjenige, der das nicht hatte. Was mich umtreibt, ist, dass Europa in dieser Entwicklung kaum eine Rolle spielt. Europas technologische Schwäche ist nicht nur ein Wirtschaftsproblem. Wir sind abhängig von einer Schlüsseltechnologie, die andere kontrollieren. Wenn Xi Jinping oder Donald Trump morgen entscheiden, den Stecker zu ziehen, schauen wir in Europa ziemlich blöd aus der Wäsche.
Wenn Sie morgen Chef von Europa wären: Was würden Sie als Erstes ändern?
Mehr Rechenzentren bauen. Nicht nur, um eigene Modelle zu trainieren. Rechenleistung ist auch ein Verhandlungspfand. Auch wenn ein amerikanisches Unternehmen das beste Modell baut, könnten wir sagen: «Ihr bekommt unsere Rechenkapazität, wir bekommen dafür einen garantierten Zugang zu eurem Modell.» Der Hunger nach Rechenleistung wird bleiben. Haben wir aber keine Infrastruktur, haben wir nichts anzubieten.
Und was braucht es, damit auch die KI-Erfindungen in Europa stattfinden?
Dafür muss das Gründen von Unternehmen viel einfacher werden. Wenn ich in Deutschland ein Start-up gründe, sollte ich problemlos Geld aus Portugal bekommen, Leute in der Schweiz einstellen und in Italien verkaufen können, ohne mich überall durch neue Bürokratie zu kämpfen. Wir haben krasses Know-how und kluge Leute. Aber viel zu oft gehen sie in die USA, weil Gründen und Kapitalbeschaffung dort einfacher sind.
Gleichzeitig wird KI in Europa häufig zuerst als Gefahr gesehen. Laut einer kürzlich veröffentlichten Umfrage ist die Mehrheit der Deutschen der Meinung, KI habe mehr Nachteile als Vorteile. Haben wir einfach zu viel Angst?
Es ist schon richtig, über Risiken nachzudenken. Social Media zeigt ja, dass neue Technologie nicht automatisch nur gut ist. Gleichzeitig muss man aber auch fragen: Wie können wir am besten sicherstellen, dass wir mitreden können dabei, wie KI eingesetzt wird und wer davon profitiert? Sich dieser neuen Technologie komplett zu verschliessen, wird hierbei nicht helfen. Man kann sagen: Wir können es uns gar nicht leisten, KI abzulehnen. Es geht um unseren Wohlstand und darum, dass Europa nicht von fremden Mächten abhängig wird, die unsere Werte nicht teilen.
Seien wir ehrlich: Ist der KI-Zug für Europa nicht längst abgefahren?
Überhaupt nicht. Der Zug kann bei Technologie gar nicht endgültig abgefahren sein. Es gibt unendlich viele Erfindungen, die noch nicht gemacht wurden. Europa hat eine starke industrielle Basis und gute Hochschulen. Bei der Robotik, die bei der Anwendung von KI enorm wichtig werden wird, stehen wir viel besser da, als viele denken. Jede neue Idee kann das Spiel wieder verändern. Wir können auch in der zweiten Halbzeit noch den Ausgleich schiessen.
Springen wir zehn Jahre nach vorn. Sagen wir dann: «KI hat unser Leben enorm verbessert» – oder: «Wir haben eine Technologie geschaffen, die wir nicht mehr beherrschen»?
Beides ist möglich. Ich glaube aber, dass ein gutes Ergebnis wahrscheinlicher ist. Bisher sind wir als Menschheit ziemlich weit gekommen. Selbst mit Atomwaffen haben wir uns noch nicht gegenseitig in die Luft gejagt. In jeder Epoche gab es Weltuntergangsängste. Die Welt ist im Laufe der Geschichte aber eigentlich immer besser geworden. Man denke nur an die steigende Lebenserwartung und die fallende Kindersterblichkeit. Am Ende gilt bei Technologie immer: Manches wird gut laufen, manches nicht. Aber dann biegen wir es eben wieder gerade.
Copyright © 2026 by Vaduzer Medienhaus
Wiederverwertung nur mit vorheriger schriftlicher Genehmigung.
