Kommentar
Anfang November versammelten sich führende Persönlichkeiten der Welt zum ersten globalen Sicherheitsgipfel für künstliche Intelligenz (KI) in Bletchley Park, dem einst streng geheimen britischen Ort, an dem Codebrecher die Enigma-Verschlüsselung der Deutschen überwanden.
Die ganze Geschichte zur Enigma ist immer noch geheim. Auch beim Thema künstliche Intelligenz darf nur ein Teil an die Öffentlichkeit dringen.
Ziel des Gipfeltreffens war es, die Risiken von Allzweck-KI-Modellen zu verstehen, insbesondere wenn sie von „böswilligen Akteuren“ eingesetzt werden. Traditionell war es aufwändig für einen Gegner, die Zielpopulation zu verstehen und die besten Angriffsflächen im Zielgebiet.
Die USA simulierten bereits vor Jahrzehnten Staatsstreiche in anderen Ländern, bevor man die Pläne in der Realität umsetzte. Forscher ergründeten vorab die Bevölkerungsgruppen und schätzen deren künftiges Verhalten ein. Niemand konnte auf dem Gebiet der Datenbanken und Simulationen mit den Amerikanern mithalten, allerdings machte altbackene Spionage immer wieder Probleme: US-Funktionäre vergaßen geheime Akten in Hotelzimmern, Pläne waren durch Spitzel vorab verraten worden etc.
Inzwischen verfügen zig staatliche und nichtstaatliche Akteure über Rechenpower und können sich die notwendigen Daten und Algorithmen notfalls zusammenklauen. Das Spielfeld droht also, ausgeglichener zu werden und die ganz großen Player möchten den Vorteil behalten. Es erinnert an die ABC-Waffen, die längst keine Exklusivität mehr haben. Nach dem Zweiten Weltkrieg hieß es in einem Bericht der Amerikaner, dass mit geringsten Mitteln ein B-Waffenprogramm aufgebaut werden kann.
So könnten KI-Systeme Daten durchforsten, um taktische und strategische Vorteile zu identifizieren, und die Bedingungen zu bewerten, unter denen Kriege gewonnen oder verloren werden können.
Die Integration von KI in Kriegsspiele kann Führungsentscheidungen zu Krieg und Frieden stark beeinflussen. Programmierer verstehen nichts vom Militär und Militärs verstehen nichts vom Programmieren. Führende Institutionen wie das King’s College London und die Stanford University haben in diesem Bereich neue Forschungszentren gegründet. Wie der britische Verteidigungsminister Ben Wallace im Juli 2023 betonte:
„Wargame-Ergebnisse waren für die Entscheidungsfindung [des Verteidigungsministeriums] von zentraler Bedeutung.“
Beispielsweise hat das Office of Net Assessment and Challenge des US-Außenministeriums umfangreiche Wargaming-Analysen durchgeführt, um sicherzustellen, dass aktuelle und neue Strategien gründlich getestet werden, bevor sie umgesetzt werden.
Aktuell sagen aber britische Generäle, dass das Vereinigte Königreich rund 10 Jahre bräuchte, um fähig zu sein zu einem Krieg. Bei Deutschland belaufen sich die Schätzungen auf 15 Jahre. Was genau wird also hier gespielt?
Für den Ukraine-Krieg kamen bekanntermaßen Simulationen zum Einsatz. Der reale Kriegsverlauf wiederum bot Überraschungen und lieferte allerhand neue Daten, mit denen die Algorithmen verbessert werden konnten.
Die Kämpfer der Ukraine fragen sich, ob die NATO es überhaupt ernst damit meint, die Russen zu vertreiben. Geht es vielmehr darum, russische Truppen zu verheizen? Aktuell machen die Russen wieder mehr Fortschritte, was sie weiter dazu verleiten könnte, den Krieg auszudehnen, aber diese Fortschritte könnten jederzeit zunichte gemacht werden durch mehr Waffenlieferungen der NATO.
Was sagen die Simulationen dazu, dass chinesische und nordkoreanische Truppen in der Ukraine eingreifen könnten?
Die Defense Advanced Research Projects Agency (DARPA) der Vereinigten Staaten und das Defence Science and Technology Laboratory des Vereinigten Königreichs leiten experimentelle Projekte zur KI-Wargaming-Integration. Beispielsweise war Hedgemony, entwickelt von der RAND Corporation, ein strategisches Kriegsspiel, das eine Schlüsselrolle bei der Gestaltung der Nationalen Verteidigungsstrategie des Pentagons 2018 spielte.
In einer Umfrage am King’s College London im Jahr 2023 wurden mehr als 140 Wargame-Designer aus 19 Ländern befragt. 80 Prozent der analytischen Kriegsspiele ließen Ethikprüfungen aus und ignorierten den Standardprozess für Forschungsstudien, an denen menschliche Teilnehmer beteiligt sind.
Wargames gelten als „nicht reproduzierbar“, so die Wargaming-Richtlinien der NATO und des britischen Verteidigungsministeriums. In Kombination mit Black-Box-Deep-Learning-Modellen – Systemen, bei denen der Entscheidungsprozess undurchsichtig und nicht leicht interpretierbar ist – nimmt das Vertrauen in die Ergebnisse weiter ab. In beiden Fällen können Verzerrungen durch begrenzte Daten oder fehlerhaftes Design entstehen und möglicherweise zu falschen Schlussfolgerungen führen. Und alles Wichtige untersteht der Geheimhaltung.
Ein aktuelles universitäres Kriegsspiel handelte von einer russischen Invasion Finnlands. Wenn beispielsweise die russische Führung als übermäßig aggressiv dargestellt wird, könnte dies zu einer Fehlallokation von Verteidigungsressourcen oder einer unbeabsichtigten Eskalation des Konflikts führen.
