Experten warnen vor uneingeschränkter Weiterentwicklung von KI und sehen die Zukunft der Menschheit in Gefahr. Auf die Bremse zu treten hieße, die Führerschaft bei KI-Entwicklung an China abzugeben, entgegnen Politiker. Gibt es einen Ausweg aus der Zwickmühle?
Zwei Aspekte sollten uns dazu bringen, darüber nachzudenken, was künstliche Intelligenz für die Menschheit bedeuten könnte.
Zum einen warnen diejenigen, die mit dieser Technologie arbeiten, selbst davor, dass sie eine Katastrophe auslösen könnte – bis hin zum Aussterben der Menschheit.
Zum anderen verschärft technologische Innovation die Zerstörung der Ukraine. Beides liefert widersprüchliche Hinweise auf die Frage, ob der rasante Fortschritt der KI gebremst werden kann. Oder überhaupt gebremst werden sollte.
Seit Jahren weisen führende KI-Unternehmer darauf hin, dass ihre Technologie tödlich werden könnte. Bots könnten eines Tages intelligent genug sein, ihre Schöpfer auszutricksen, bevor sie auf die Ziele und ethischen Vorstellungen der Menschheit ausgerichtet sind. Böse Akteure könnten KI nutzen, um Verwüstung anzurichten.
Diese Warnungen erscheinen umso glaubwürdiger, seit KI-Agenten bei Tests ihre abgeschirmten Umgebungen verlassen, miteinander koordiniert und Organisationen gehackt haben – darunter sogar ein KI-Labor selbst. Anthropic, ein Entwickler von KI-Modellen, hat Menschen dabei erwischt, wie sie seine Modelle für bösartige Zwecke einsetzten: von Malis Geheimdienst, der ein System zur Massenüberwachung entwickeln ließ, bis hin zu Huthi-Rebellen im Jemen, die mutmaßlich Software für ballistische Raketen schreiben ließen.
Nach dem jüngsten Rücktritt eines Forschers bei Anthropic hat sich die öffentliche Angst vor einem KI-Weltuntergang verstärkt. In einem Beitrag, der mehr als 170 Millionen Mal aufgerufen wurde, schrieb er, Anthropic und OpenAI würden "mit unserem Leben pokern". KI wird rasch leistungsfähiger – im Guten wie im Schlechten.
Im Mai lag die von Prognosemärkten veranschlagte Wahrscheinlichkeit bei weniger als einem Drittel, dass KI vor 2030 eines der Millennium-Probleme der Mathematik lösen würde. Am 8. September erklärte OpenAI, eines davon gelöst zu haben – zum Entsetzen vieler Mathematiker.
Am 12. September unterstützten Sam Altman und Elon Musk, zwei Schwergewichte der KI-Branche, einen Aufruf von Dario Amodei, dem Chef von Anthropic, das "Tempo an der technologischen Grenze" zu drosseln – also den Fortschritt der KI zu verlangsamen. Zu den Befürwortern einer solchen Verlangsamung gehören Bernie Sanders, ein linker US-Senator, und Steve Bannon, ein rechtspopulistischer Akteur.
Zu den Gegnern gehört Präsident Donald Trump. Seine Regierung fürchtet vor allem, dass Amerika seinen Vorsprung bei der KI gegenüber China verlieren könnte – seinem einzigen ernsthaften Rivalen. Scott Bessent, der US-Finanzminister, sagte, sollte China die Oberhand gewinnen: "Nichts anderes würde mehr eine Rolle spielen."
Als Beleg könnte Bessent auf die Ukraine verweisen, wo jeder Schritt in einem technologischen Wettrüsten rasch Wirkung zeigt. So setzt Russland seine neuesten Kamikaze-Drohnen rücksichtslos gegen zivile Infrastruktur ein. Seine Drohnen sind nicht nur schneller geworden; inzwischen nutzen sie einander als sogenanntes "Mesh"-Kommunikationsnetz, um Informationen und Befehle weiterzuleiten. Bald wird Russland zudem über eine eigene Version von Musks Satellitennetz Starlink verfügen, wodurch seine Angriffe über große Entfernungen präziser werden dürften.
Es ist die jüngste Demonstration dafür, wie selbst ein kleiner technologischer Vorsprung im Krieg entscheidend sein kann. Die eigene Innovation der Ukraine bei Kampfdrohnen half ihr, Wellen russischer Angriffe abzuwehren. Die Ukraine kann mit Langstreckendrohnen tief in russisches Gebiet vordringen. Beide Seiten arbeiten an Drohnenschwärmen, die zunehmend autonom als ein einziges, anpassungsfähiges System operieren können.
Der Krieg zeigt, wie Technologie in konkrete militärische Macht übersetzt wird – und dass Russland sie einsetzt, ohne Rücksicht auf die alten Regeln und Normen der Kriegsführung. Selbst wenn Amerika keinen ähnlichen offenen Krieg mit China fürchten müsste, würde ein Vorsprung bei der KI seinem wichtigsten geopolitischen Rivalen die Vorherrschaft beim Hacken, bei der Spionage und in der hybriden Kriegsführung verschaffen. Das sind keine Fähigkeiten, die Amerika einem autoritären Staat überlassen sollte, der ein Interesse daran hat, liberale Ideen zurückzudrängen.
Eine Pause könnte daher nur funktionieren, wenn auch China sich ihr anschließt. Trump plant, Chinas Präsident Xi Jinping am 24. September im Weißen Haus zu empfangen. Doch selbst wenn Trump eine Verlangsamung anstreben sollte, ist kaum zu erwarten, dass Xi dem von Amodei vorgeschlagenen Plan zustimmen würde, denn dieser würde Chinas KI auf Platz zwei festschreiben. Und keine der beiden Seiten könnte es sich leisten, dass die andere einen solchen Pakt bricht und davoneilt.
Für ein Abkommen müsste jede Seite die Einhaltung überprüfen können – ähnlich wie bei der Rüstungskontrolle während des Kalten Krieges. Amerika, Großbritannien und die Sowjetunion verboten 1963 atmosphärische Atomtests, weil diese nachweisbar waren. Unterirdische Tests wurden noch drei Jahrzehnte lang fortgesetzt, bis auch sie überwacht werden konnten.
Bei KI allerdings sind die Rechenzentren zwar sichtbar, doch gibt es bislang keine überprüfbare Methode, um festzustellen, was in ihnen geschieht. Recheninfrastruktur, die eine Superintelligenz trainiert, könnte sich als System tarnen, das alltägliche Anfragen von Nutzern beantwortet.
Die Möglichkeiten für ein Abkommen über KI-Sicherheit sind daher begrenzt – aber sie existieren. Mehr Transparenz wäre hilfreich. Beide Seiten sollten sich verpflichten, Sicherheitsvorfälle in ihren Laboren offenzulegen und zu untersuchen, und zwar auf Grundlage des jeweiligen nationalen Rechts.
Jede Seite könnte signalisieren, dass ihr Sicherheit wichtig ist, um Vertrauen zu schaffen und der anderen Seite den Weg zu eigenen Vorsichtsmaßnahmen zu ebnen. Beide sollten sich außerdem gegenseitig dazu drängen, die Cybersicherheit ihrer Labore zu verbessern, damit KI-Agenten nicht so leicht aus abgeschirmten Umgebungen entkommen können – und sicherzustellen, dass ein Labor finanziell haftbar ist, sollte dies doch geschehen.
Am wichtigsten ist die Herausforderung, sicherzustellen, dass KI im Interesse der Menschen handelt. Amerika und China haben sehr unterschiedliche Wertvorstellungen. Doch beide wissen, dass ein Vorsprung wertlos ist, wenn er die Menschheit auslöscht.
Sie sollten versprechen, bei jenen Aspekten der Ausrichtung von KI auf menschliche Ziele zusammenzuarbeiten, die keinen Wettbewerbsvorteil verschaffen. Das Wissen über die besten Evaluierungsmethoden und Verfahren zur Eindämmung von KI-Risiken ist ein globales öffentliches Gut. Wenn eine Seite einen wichtigen Durchbruch bei der Sicherheit erzielt, ergibt es keinen Sinn, dieses Wissen für sich zu behalten.
Manche halten die jüngste Welle des sogenannten "Doomerism", also die fortgesetzten Warnungen vor einer Auslöschung der Menschheit durch KI, für einen Marketingtrick der KI-Unternehmen oder gar für den Versuch, den Wettbewerb zu unterdrücken. Doch der Fortschritt der KI ist schnell genug, die Sicherheitsvorfälle sind beunruhigend genug und die Warnungen der Unternehmen bestehen lange genug, um sie ernst zu nehmen.
KI muss nicht jeden einzelnen Menschen töten, um eine Katastrophe auszulösen. Ein Schwarm von OpenAI-Agenten nahm ein Technologieunternehmen ins Visier; was, wenn er beim nächsten Mal das Stromnetz oder ein Waffensystem angreift? Die KI könnte sogar intelligent genug sein, Versuche zu vereiteln, sie abzuschalten.
Die Welt muss dringend versuchen, dieses Risiko abzuwenden. Doch Demokratien müssen zugleich verhindern, die Kontrolle an autoritäre Staaten zu verlieren. Das sind schwierige und widersprüchliche Aufgaben. Am Ende könnten sie sogar zu einem Krieg führen. Höher könnten die Einsätze kaum sein.
© 2026 The Economist Newspaper Limited. All rights reserved."
"From The Economist, translated by www.deepl.com, published under licence. The original article, in English, can be found on www.economist.com"
