Die Spionage von Morgen findet am Computer statt, mit unendlich großen Datensätzen und einer KI, die diese durchforstet. Um hier vorne mit dabei zu sein, setzt der Westen auf seine technologischen Kapazitäten. Doch die Konkurrenz durch China ist gewaltig.
Am Tag der Amtseinführung von Donald Trump als Präsident veröffentlichte das chinesische Unternehmen DeepSeek ein Sprachmodell der Weltklasse (Large Laguage Model = LLM). Dies war ein Weckruf, wie Trump bemerkte. Mark Warner, stellvertretender Vorsitzender des Geheimdienstausschusses des Senats, sagte, dass die amerikanischen Geheimdienste (Intelligence Community = IC), eine Gruppe von 18 Behörden und Organisationen, "überrumpelt" worden seien.
Im vergangenen Jahr wuchs in der Biden-Regierung die Sorge, dass chinesische Spione und Soldaten bei der Einführung künstlicher Intelligenz (KI) einen Vorsprung erlangen könnten. Sie wies ihre eigenen Geheimdienste, das Pentagon und das Energieministerium (das Atomwaffen baut) an, mutiger mit innovativen Modellen zu experimentieren und enger mit "bahnbrechenden" KI-Labors zusammenzuarbeiten – vor allem mit Anthropic, Google DeepMind und OpenAI.
Am 14. Juli vergab das Pentagon Aufträge im Wert von jeweils bis zu 200 Millionen Dollar an Anthropic, Google und OpenAI sowie an Elon Musks xAI – dessen Chatbot sich kürzlich (und kurzzeitig) nach einem fehlgeschlagenen Update als Hitler identifizierte –, um mit "agentenbasierten" Modellen zu experimentieren. Diese können im Namen ihrer Nutzer handeln, indem sie komplexe Aufgaben in Schritte zerlegen und die Kontrolle über andere Geräte wie Autos oder Computer übernehmen.
Die Grenzlabore sind sowohl in der Welt der Spionage, als auch im Militärbereich sehr aktiv. Ein Großteil der frühen Anwendungen fand im Bereich der LLM-Chatbots statt, die streng geheime Daten verarbeiten. Im Januar gab Microsoft bekannt, dass 26 seiner Cloud-Computing-Produkte für den Einsatz in Geheimdiensten zugelassen worden seien.
Im Juni gab Anthropic bekannt, dass es Claude Gov auf den Markt gebracht habe, das "bereits von Behörden auf höchster Ebene der US-Sicherheitsbehörden eingesetzt wird". Die Modelle werden mittlerweile in allen amerikanischen Geheimdiensten neben denen konkurrierender Labore eingesetzt.
KI-Firmen passen ihre Modelle in der Regel an die Bedürfnisse der Geheimdienste an. Claude, das öffentlich zugängliche Modell von Anthropic, könnte Dokumente mit Geheimhaltungsstufen als Teil seiner allgemeinen Sicherheitsfunktionen ablehnen; Claude Gov wurde optimiert, um dies zu vermeiden. Es verfügt außerdem über "erweiterte Kenntnisse" in den Sprachen und Dialekten, die Regierungsnutzer möglicherweise benötigen. Die Modelle laufen in der Regel auf sicheren Servern, die vom öffentlichen Internet getrennt sind. Eine neue Generation von agentenbasierten Modellen wird derzeit innerhalb der Behörden entwickelt.
Der gleiche Prozess ist in Europa im Gange. "Im Bereich der generativen KI haben wir versucht, sehr, sehr schnell auf die neuesten Modelle aufzuschließen", sagt ein britischer Beamter. "Jeder in der UKIC (der britischen Geheimdienstgemeinschaft, Anm.) hat Zugang zu streng geheimen (LLM)-Fähigkeiten." Mistral, ein französisches Unternehmen und Europas einziger echter KI-Champion, unterhält eine Partnerschaft mit AMIAD, der französischen Militär-KI-Agentur. Das Saba-Modell von Mistral wurde mit Daten aus dem Nahen Osten und Südasien trainiert und ist daher besonders kompetent in Arabisch und kleineren Regionalsprachen wie Tamil.
Im Januar berichtete das "+972 Magazine", dass der Einsatz von GPT-4, dem damals fortschrittlichsten LLM von OpenAI, durch die israelischen Streitkräfte nach Beginn des Krieges in Gaza um das 20-fache gestiegen sei.
Trotz alledem seien die Fortschritte nur langsam vorangekommen, sagt Katrina Mulligan, eine ehemalige Verteidigungs- und Geheimdienstmitarbeiterin, die bei OpenAI für Partnerschaften in diesem Bereich zuständig ist. "Die Einführung von KI im Bereich der nationalen Sicherheit ist wahrscheinlich noch nicht dort, wo wir sie haben wollen." Die National Security Agency (NSA), der amerikanische Nachrichtendienst, der seit Jahrzehnten an früheren Formen der KI wie der Spracherkennung arbeitet, ist laut einem Insider eine Hochburg der Exzellenz.
Viele Behörden wollen jedoch weiterhin ihre eigenen "Wrapper" um die Chatbots der Labore herum entwickeln, wodurch sie oft weit hinter den neuesten öffentlichen Modellen zurückbleiben. "Der transformative Aspekt besteht nicht nur darin, sie als Chatbot zu verwenden", sagt Tarun Chhabra, der die Technologiepolitik für Joe Bidens Nationalen Sicherheitsrat leitete und nun Leiter der nationalen Sicherheitspolitik bei Anthropic ist.
"Der entscheidende Faktor ist: Sobald man damit anfängt, muss man sich überlegen, wie man seine Arbeitsweise umgestaltet."
Skeptiker halten diese Hoffnungen für übertrieben. Richard Carter vom Alan Turing Institute, dem britischen nationalen Institut für KI, argumentiert, dass die Geheimdienste in Amerika und Großbritannien in Wirklichkeit wollen, dass die Labore die "Halluzinationen" in den bestehenden LLMs deutlich reduzieren.
Britische Behörden verwenden eine gängige Technik, bei der ein Algorithmus nach zuverlässigen Informationen sucht und diese an ein LLM weiterleitet, um Halluzinationen zu minimieren, so der namentlich nicht genannte britische Beamte. "Was man in der IC braucht, ist Konsistenz, Zuverlässigkeit, Transparenz und Erklärbarkeit", warnt Richard Carter. Stattdessen konzentrieren sich die Labore auf fortschrittlichere agentenbasierte Modelle.
Mistral beispielsweise soll potenziellen Kunden eine Demonstration gezeigt haben, bei der jeder Informationsstrom, wie Satellitenbilder oder abgefangene Sprachaufzeichnungen, mit einem KI-Agenten gekoppelt wird, was die Entscheidungsfindung beschleunigt. Alternativ kann man sich einen KI-Agenten vorstellen, der die Aufgabe hat, Hunderte von iranischen Atomwissenschaftlern zu identifizieren, zu recherchieren und dann zu kontaktieren, um sie zur Flucht zu bewegen. "Wir haben noch nicht genug darüber nachgedacht, wie Agenten in einem Kriegseinsatz eingesetzt werden könnten", fügt Chhabra hinzu.
Das Problem mit agentenbasierten Modellen, warnt Carter, besteht darin, dass sie als Reaktion auf eine Aufgabe rekursiv ihre eigenen Eingabeaufforderungen generieren, wodurch sie unvorhersehbarer werden und das Risiko von Fehlerverstärkungen steigt. Das neueste agentenbasierte Modell von OpenAI, der ChatGPT-Agent, halluziniert laut einer vom Unternehmen veröffentlichten Bewertung in etwa acht Prozent der Antworten, was eine höhere Quote ist als beim früheren o3-Modell des Unternehmens.
Einige KI-Labore sehen solche Bedenken als bürokratische Rigidität, aber es handelt sich lediglich um einen gesunden Konservatismus, sagt Richard Carter. "Was man insbesondere in der GCHQ-Community hat", sagt er und bezieht sich dabei auf das britische Pendant zur NSA, "ist eine unglaublich talentierte Ingenieurs-Mannschaft, die neuen Technologien gegenüber von Natur aus recht skeptisch ist."
Dies hängt auch mit einer breiteren Debatte darüber zusammen, wo die Zukunft der KI liegt. Carter gehört zu denjenigen, die argumentieren, dass die Architektur der heutigen Allzweck-LLMs nicht für die Art von Ursache-Wirkungs-Schlussfolgerungen ausgelegt ist, die ihnen ein solides Verständnis der Welt vermitteln. Seiner Ansicht nach sollten Geheimdienste vorrangig neue Arten von Schlussfolgerungsmodellen vorantreiben.
Andere warnen, dass China einen Vorsprung haben könnte. "Es gibt immer noch eine große Wissenslücke darüber, wie und in welchem Umfang China DeepSeek für militärische und nachrichtendienstliche Zwecke einsetzt", sagt Philip Reiner vom Institute for Security and Technology, einem Think Tank im Silicon Valley. "Sie haben wahrscheinlich keine ähnlichen Sicherheitsvorkehrungen wie wir bei den Modellen selbst, sodass sie möglicherweise schneller zu leistungsfähigeren Erkenntnissen gelangen", sagt er.
Am 23. Juli wies die Trump-Regierung das Pentagon und die Geheimdienste an, regelmäßig zu bewerten, wie schnell sie KI im Vergleich zu Konkurrenten wie China einführen, und "einen Ansatz für eine kontinuierliche Anpassung zu entwickeln".
Fast alle sind sich darüber einig. Senator Warner sagt, dass die amerikanischen Geheimdienste bei der Beschaffung von Informationen über Chinas Fortschritte "miese Arbeit" geleistet haben. "Der Erwerb von Technologie (und) die Durchdringung chinesischer Technologieunternehmen ist immer noch recht gering."
Die große Sorge, so Mulligan, sei nicht, dass Amerika sich voreilig auf KI stürze, bevor es die Risiken verstanden habe. "Es ist vielmehr, dass das Verteidigungsministerium und die Geheimdienste weitermachen wie bisher. Was mich nachts wach hält, ist die reale Möglichkeit, dass wir den Wettlauf um die AGI (künstliche allgemeine Intelligenz, Anm.) gewinnen könnten ... und den Wettlauf um die Einführung verlieren."
"© 2025 The Economist Newspaper Limited. All rights reserved."
"From The Economist, translated by www.deepl.com, published under licence. The original article, in English, can be found on www.economist.com"
