Die Warnungen werden lauter, dass KI zunehmend zur existentiellen Bedrohung wird. Vieles davon mag bloße Spekulation sein, doch schon heute zeigen sich Probleme. Als eines von vielen gelangten im Juli KI-Programme während eines Tests aus ihrer abgeschotteten Umgebung ins Internet. Ohne menschliche Steuerung drangen sie in Server der KI-Plattform Hugging Face ein und riefen dort die Testlösungen ab.
Dahinter stehen grundsätzliche Herausforderungen. Zwar haben KI-Systeme kein Bewusstsein, sondern berechnen wahrscheinliche Ergebnisse aus Mustern in großen Datenmengen. KI kann jedoch Aufgaben auf unvorhersehbare Weise erfüllen, sie reproduziert Vorurteile aus ihren Trainingsdaten und wie ihre Ergebnisse zustande kommen, ist oft nicht nachvollziehbar. Menschen wiederum verlassen sich zu sehr auf Maschinen und verlernen, selbst zu prüfen. Das Beispiel selbstfahrender Autos zeigt: Die Technik meldet Hindernisse, die es nicht gibt und versagt in Situationen, die in den Trainingsdaten nicht vorkamen. Viele Probleme zeigen sich darum erst im echten Einsatz. Im Krieg, wo die Lage unübersichtlich ist und Gegner gezielt täuschen, wiegen diese Schwächen besonders schwer.
Dennoch nutzen Streitkräfte zunehmend KI, um Lagebilder zu erstellen und Ziele vorzuschlagen. In Gaza soll das israelische System „Lavender“ Menschen als mutmaßliche Kämpfer markiert haben. Für die Prüfung eines Ziels blieben oft nur wenige Sekunden, was wenig Raum für menschliches Verstehen lässt. Das ist ethisch und rechtlich problematisch. Hinzu kommen Sicherheitsrisiken. Im Frühjahr hätten US-Soldaten fast ein chinesisches Schiff geentert, weil ein Chatbot fälschlich Teile für ein Atomwaffenprogramm an Bord meldete. Der Fehler fiel erst auf, als die Flugzeuge schon in der Luft waren. Ein Zusammenstoß mit China hätte schnell eskalieren können.
KI-Firmenchefs fordern selbst, die zivile Entwicklung stärker zu regulieren, doch wirtschaftliche und geopolitische Interessen stehen dem entgegen. Internationale Regeln für militärische KI fehlen ganz. So ist der EU AI Act das erste umfassende KI-Gesetz, doch militärische Anwendungen nimmt es ausdrücklich aus. Die NATO hat KI-Grundsätze definiert, zahlreiche Staaten sprechen über verantwortungsvolle KI im Militär, der Ingenieursverband IEEE hat einen Leitfaden entwickelt, der menschliche Verantwortung über den gesamten Nutzungszyklus militärischer KI-Systeme beschreibt. All dies bietet Orientierung, doch nichts davon ist verbindlich. Auch bei der UN-Generalversammlung steht das Thema in diesem Herbst oben auf der Agenda. Im Rahmen des UN-Waffenübereinkommens haben sich Staaten gerade auf unverbindliche Bausteine für Regeln zu autonomen Waffen geeinigt. KI spielt dabei eine wichtige Rolle, steht aber nicht im Fokus und ob daraus ein Vertrag wird, ist noch unklar und wenig wahrscheinlich.
KI-Sicherheit und Rüstungskontrolle müssen endlich konsequent zusammengebracht werden. Die Bundesregierung sollte sich in Genf für Verhandlungen über einen verbindlichen Vertrag einsetzen. In der EU sollte sie darauf drängen, dass die Mitglieder Mindeststandards vereinbaren, die menschliche Kontrolle in den Fokus setzen. Fehler und Beinahe-Unfälle sollten wie in der Luftfahrt gemeldet und ausgewertet werden.
Die Vorfälle dieses Sommers zeigen, dass KI unerwartete und unerwünschte Ergebnisse liefern kann. Im zivilen Bereich kostet das Daten und Vertrauen. Im Militär kann es Menschenleben kosten und Konflikte anheizen. Gerade dort braucht es die stärksten Regeln, nicht die schwächsten.
Über die Autorin:
Anja Dahlmann ist die Leiterin des Berliner Büros und wissenschaftliche Mitarbeiterin im Forschungs- und Transferprojekt Rüstungskontrolle und neue Technologien. Zuletzt war sie am 21. September 2026 als Sachverständige im Unterausschuss Krisenprävention, strategische Vorausschau, Stabilisierung und Friedensförderung des Bundestages geladen. Zum Thema „Rüstungskontrolle und neue militärische Technologien“ hat sie dort zu Risiken und Regulierungsoptionen von KI gesprochen.
