Ethisch und einsatzfähig

Die Web-Version dieses Berichts enthält keine Fußnoten. Für die Quellenangaben laden Sie bitte die PDF-Version der Studie hier herunter.

Einleitung

Der russische Angriffskrieg gegen die Ukraine hat Deutschland aufgerüttelt und dazu veranlasst, seine Verteidigungspolitik drastisch anzupassen. Nach jahrzehntelangem Stillstand füllt die Bundeswehr nun Lücken bei grundlegenden militärischen Fähigkeiten. Zudem setzt sich in der deutschen Politik zunehmend die Erkenntnis durch, dass eine stärkere Integration intelligenter Systeme, die organisatorische Ausrichtung an Hightech-Kriegsführung und die Verschmelzung von Cyber- und ­physischem ­Raum für die künftige Leistungsfähigkeit des deutschen Militärs von entscheidender Bedeutung sind.

Dennoch verharrt der deutsche politische Diskurs noch in einem konzeptionellen, institutionellen und ethischen Silodenken, das wenig Innovation zulässt und zu Entkopplungen zwischen dem Verteidigungs- und Technologiesektor ebenso wie zu Diskrepanzen zwischen Deutschland und seinen Verbündeten führt. Für die Modernisierung der deutschen Streitkräfte ist es von zentraler Bedeutung, dass ethische Bedenken mit (zukünftigen) Einsatzrealitäten abgeglichen werden und politische Entscheidungen der engen Verknüpfung zwischen Entwicklung und Nutzung militärischer und ziviler Technologien Rechnung tragen.

Status quo

Aufkommende und disruptive Technologien (Emerging and Disruptive Technologies, EDTs) wie künstliche Intelligenz, 5G/6G-Mobilfunktechnologie, Low Earth Orbit (LEO) Satelliten-Konnektivität sowie Quantencomputing und -kommunikation werden das Umfeld für Bundeswehr-Operationen nachhaltig verändern. Die Bundeswehr sieht die stärkere Integration von maschineller Intelligenz in militärische Operationen, insbesondere durch den massenhaften Einsatz unbemannter Systeme, als eine der zentralen Herausforderungen in diesem Jahrzehnt an. Hochautomatisierte unbemannte Luftfahrtsysteme (Unmanned Aerial System, UAS) spielten in den jüngsten Konflikten wie dem Krieg um Bergkarabach eine wichtige Rolle. Auch im Bereich der strategischen Planung und Vorausschau werden EDTs unverzichtbar, wo etwa KI-Algorithmen Erkenntnisse aus den von immer mehr Sensoren erzeugten Datenmengen gewinnen. Das Weltraumkommando der Bundeswehr setzt zum Beispiel bereits zwei Machine-Learning-Anwendungen bei der Erstellung von Lagebildern ein.

In diesem sich wandelnden Umfeld hängt die Fähigkeit der Bundeswehr, die Möglichkeiten von EDTs bei künftigen Einsätzen auszuschöp­fen, ­entscheidend von der engen Kooperation mit Verbündeten Deutschlands in der EU und der NATO ab, und damit auch von der fortlaufenden Investition von politischem Kapital in gemeinsame Initiativen. Deutschlands derzeitige Bemühungen, EDTs zu nutzen, sind eng verbunden mit gemeinsamen europäischen Verteidigungsprojekten für zukünftige Kampfsysteme, darunter das Future Combat Air System (FCAS) mit Frankreich und Spanien und das Main Ground Combat System (MGCS) mit Frankreich. Beide Systeme werden voraussichtlich erst in den 2040er Jahren einsatzbereit sein, der Bundeswehr aber erweiterte Funktionen zur Verfügung stellen, zum Beispiel die tiefgreifende Integration in eine gemeinsame Combat Cloud und intelligente Mensch-Maschine-Kooperation.

Das deutsche Verteidigungswesen sieht sich mit der Herausforderung konfrontiert, sich organisatorisch auf die High-Tech-Kriegsführung vorzubereiten. Konflikte werden zunehmend in Maschinengeschwindigkeit ausgetragen, was eine schnellere Entscheidungsfindung an der Front erfordert. Dies bedarf dezentraler Kommandostrukturen mit hochvernetzten Einheiten in der Bundeswehr. Die Bundes­wehr führt auch deshalb ein Battle Management System (BMS) ein – ein neues digitales Führungssystem, das den Zugriff auf Echtzeitinformationen und somit eine digital vernetzte Kampfführung ermöglicht. Sie möchte das BMS bis 2023 einsatz­bereit machen, sobald sie Führungs­verantwortung in der Very High Readiness Joint Task Force der NATO übernimmt.

Die Bundesregierung hat außerdem wichtige Schritte unternommen, um sich auf die Verschmelzung von Cyber- und physischem Raum vorzubereiten, die mit aktuellen verteidigungstechnologischen Entwicklungen einhergeht. So hat Deutschland beispielsweise sein Netzwerk an Cyber-Institutionen erheblich ausgebaut und eine hohe Position in Ranglisten nationaler Cyber-Fähigkeiten errungen. Mit der zunehmenden Nutzung digitaler Technologien in Systemen und Kommandostrukturen hat die Bundeswehr ihre Ressourcen in einem eigenen militärischen Organisationsbereich, dem Cyber- und Informationsraum (CIR), gebündelt. Zudem baut das Bundesministerium der Verteidigung seine Fähigkeiten im Bereich sicherer Quantenkommunikationsnetze aus, unter anderem durch ein spezielles Labor in seinem Forschungsinstitut für Cybersicherheit, CODE. Dieses Labor entwickelt MuQuaNet, einen Prototypen eines solchen Netzes.

Gerade weil die Bundeswehr mit einer potenziellen militärischen Eskalation im Cyberraum umgehen muss, gewinnen auch ethische Bedenken an Relevanz. KI kann beispielsweise zur Automatisierung von Cyberaktivitäten eingesetzt werden, was einen größeren Umfang und eine höhere Häufigkeit von Cyberangriffen ermöglicht.Außerdem könnte sie die Risikobereitschaft steigern, da Abwehrtechniken möglicherweise langsamer entwickelt und skaliert werden können als offensive Techniken. Gleichzeitig ist die Zuordnung von Cyberangriffen kompliziert und zeitaufwändig. Die Bundeswehr könnte sich beispielsweise gezwungen sehen, auf der Grundlage von uneindeutigen Informationen über Verantwortung oder Absicht (wie z. B. Spionage vs. Sabotage) gegen einen vermeintlichen böswilligen (staatlichen oder nichtstaatlichen) Akteur vorzugehen. Während KI und andere EDTs die Risiken im Cyberraum erhöhen, befindet sich Deutschland noch im Prozess zur Entwicklung einer kohärenten und angemessene Antwort auf diese Herausforderungen.

Die Zusammenarbeit zwischen dem Verteidigungs- und Technologiesektor sowie die organisationale Anpassung der Bundeswehr stellen nach wie vor große Herausforderungen dar. Die erheblichen ethischen Bedenken der deutschen Gesellschaft hinsichtlich der Reduzierung menschlicher Beteiligung und Verantwortung durch die Nutzung von EDTs erschwert dies ebenfalls. Die Bundeswehr ist sich dieser Bedenken bewusst und versucht, sie mit realen Bedingungen auf dem Kampffeld, Kommandostrukturen und  Entscheidungsprozessen in Einklang zu bringen. Ein Beispiel hierfür ist die explizite Abbildung ethisch-rechtlicher Implikationen in der KI-gestützten Simulationsumgebung „GhostPlay“. Gleichzeitig kann die Abweichung Deutschlands von der robusteren und pragmatischeren Herangehensweise seiner Bündnispartner an Dual-Use EDTs, also EDTs mit doppeltem Verwendungszweck, die gemeinsame Planung – und insbesondere die Bestimmung der technischen Merkmale – von gemeinsamen ­Verteidigungsprojekten wie FCAS, die die Nutzung fortschrittlicher maschineller Intelligenz ­beinhalten, erschweren

Aktueller politischer Ansatz

Mit der Ankündigung einer sicherheits- und verteidigungspolitischen Zeitenwende durch den Bundeskanzler im Februar 2022 soll der jahrelange Sparkurs des deutschen Militärs umgekehrt werden. Doch das zugewiesene Sondervermögen in Höhe von 100 Milliarden Euro deckt kaum den Grundbedarf der Bundeswehr. Deutschland ist auf einen weitaus systematischeren haushaltspolitischen – und ethisch-kulturellen – Wandel angewiesen, wenn es über diesen Grundbedarf hinausgehen und sich auf zukünftige Anforderungen einstellen möchte. Zunächst muss die Bundesregierung eine einheitliche Vision für den Einsatz von EDTs in der Bundeswehr entwickeln.

Im 20. Jahrhundert wurden die Kernkraft und die Tarnkappentechnik, ja sogar das Internet, für militärische Zwecke entwickelt. Zivile Nutzungsmöglichkeiten folgten dem. Inzwischen hat sich dieser Trend umgekehrt: Zivile Technologien entwickeln sich zu einer zentralen Dimension militärischer Leistungsfähigkeit. Das Weißbuch (2016) zur Sicherheitspolitik und Zukunft der Bundeswehr und das jüngste Positionspapier (2021) zur Zukunft der Bundeswehr gehen jedoch kaum auf das disruptive Potenzial von Technologien ein, die in erster Linie von zivilen Innovationen angetrieben werden, darunter KI, Quantencomputing und 5G/6G-Konnektivität.

Zudem zeigen Deutschlands wichtigste technologiepolitischen Papiere, dass die Bundesregierung selbst bei Technologien mit eindeutigem Dual-Use-Potenzial weiterhin eine künstliche Trennung zwischen ziviler und militärischer Sphäre beibehält, sowohl hinsichtlich Entwicklung als auch Regulierung. Die deutsche Hightech-Strategie 2025 (2018) und die Industriestrategie 2030 (2019) befassen sich mit volkswirtschaftlichen Dimensionen, verteidigungspolitische Aspekte kommen in der Hightech-Strategie jedoch überhaupt nicht und in der Industriestrategie nur am Rande vor. Das trifft auch auf die deutsche KI-Strategie (2017, 2020) und 5G-Strategie (2017) zu. In der deutschen Cyberstrategie (2021) wird die Cybersicherheit in erster Linie aus der zivilen Perspektive der Strafverfolgung und der Justiz betrachtet.

Die isolierte Betrachtung dieser Technologien im militärischen Kontext spiegelt die Dynamik schwieriger ethischer Debatten in Deutschland wider. Die politische Haltung des Landes zu militärischen Technologien war bislang überwiegend reaktiv, risikoscheu und von gesellschaftlichen Kontroversen geprägt. Mit der Entscheidung für die Bewaffnung der Heron-Drohne im April 2022 beendete die Bundesregierung eine fast zehnjährige Diskussion, in der Begriffe wie unbemannte und autonome ­Systeme häufig fälschlicherweise als Substitute verwendet wurden. Gleichzeitig schließt Deutschland den Einsatz von vollautonomen Drohnen weiterhin aus und gehört zu den entschiedensten Befürwortern eines völkerrechtlichen Verbots solcher Systeme.

Die jüngsten Bemühungen, die Wettbewerbsfähigkeit in der Verteidigungstechnologie zu stärken, bedeuten einen Bruch mit der üblichen Praxis, künstliche Grenzen zwischen militärischer und ziviler Sphäre zu ziehen. Das Strategiepapier der Bundesregierung aus dem Jahr 2020 zur Stärkung der Sicherheits- und Verteidigungsindustrie verdeutlicht die zunehmende Bedeutung von ziviler Forschung und Entwicklung (FuE) als treibende Kraft für militärische EDT-Anwendungen. Deutschland hat in den vergangenen fünf Jahren auch beträchtliche Summen in neue Institutionen investiert, deren Aufgabe es ist, Forschung und Innovation im Verteidigungsbereich zu fördern (siehe Tabelle).

Dennoch ist die Kluft zwischen ziviler und militärischer FuE in Deutschland nach wie vor größer als in verbündeten Staaten wie Frankreich, dem Vereinigten Königreich und den USA. Obwohl die US-amerikanische Defense Advanced Research Projects Agency im deutschen politischen Diskurs häufig erwähnt wird, hält die deutsche Regierung an einer klaren Trennung zwischen ihren eigenen neuen Innovationsinstitutionen im Sicherheits- und Verteidigungsbereich und der zivilen Innovationsagentur SPRIND fest. Außerdem ist es vielsagend, dass die Unterstützung des Bundesministeriums für Verteidigung für Hochschulforschung bei derzeit rund 50 Millionen Euro jährlich stagniert.

 Schwierigkeit, seine umfangreichen FuE-Tätigkeiten zu EDTs für das Verteidigungs­wesen zu nutzen, untergräbt seine Bemühungen, zu einem zukunftsfähigen europäischen Verteidigungssektor beizutragen. Die Debatte über die militärische Nutzung von EDTs auf EU-Ebene ist zukunftsorientiert, aber es besteht dennoch weiterhin eine Umsetzungslücke. Der von der deutschen EU-Ratspräsidentschaft 2020 initiierte Strategische Kompass der EU (2022) unterstreicht die zentrale Bedeutung einer starken gemeinsamen technologisch-industriellen Basis Europas. Die industrielle Fragmentierung entlang nationaler Grenzen behindert jedoch weiterhin die stärkere Skalierung von Verteidigungstechnologie und damit verbundene Vorteile.

Auch gelingt es den EU-Mitgliedstaaten nicht, ausreichende Ressourcen zu mobilisieren. Der „Koordinierte Jahresbericht zur Verteidigung“ (CARD, Coordinated Annual Review on Defence) der EU aus dem Jahr 2020 warnt davor, dass der Verteidigungstechnologie unzureichende Mittel zugewiesen werden. Initiativen wie der Europäische Verteidigungsfonds (European Defence Fund, EDF), die disruptive Technologien fördern, sind wichtige Schritte zur Stärkung verteidigungsbezogener Forschung. Der ursprünglich für den Zeitraum 2021 bis 2027 vorgesehene EDF-Haushalt in Höhe von 13 Milliarden Euro wurde jedoch um fast die Hälfte auf 8 Milliarden Euro gekürzt. Zudem halten sich lediglich zwei EU-Mitgliedstaaten an die Vereinbarung, zwei Prozent ihres Verteidigungshaushalts in Forschung und ­Technologie zu investieren.

Angesichts dieser Einschränkungen bleibt die Koordinierung der EU mit der umfangreichen Arbeit der NATO im Bereich der EDTs ein zentraler Bestandteil der deutschen Politik. Im Mittelpunkt des ­Strategischen Konzepts 2030 der NATO stehen EDTs und die Widerstandsfähigkeit gegen ­Cyber-, weltraumbasierte und hybride Bedrohungen. Die NATO-Verteidigungsminister haben im vergangenen Jahr zudem einen Strategieplan verabschiedet, der die Entwicklung von EDTs durch das Bündnis in sieben Kernbereichen leiten soll, darunter KI, Autonomie und Quantentechnologie. Ferner treiben Deutschland und andere Mitgliedstaaten im Rahmen der NATO-Agenda 2030 ein transatlantisches Ökosystem für Verteidigungstechnologie und -industrie voran. Sie haben vereinbart, einen Defence Innovation Accelerator for the North Atlantic (DIANA) zu etablieren und einen NATO-Innovationsfonds (NIF) einzurichten, über den in den nächsten 15 Jahren mindestens eine Milliarde Euro investiert werden soll.

Empfehlungen

Die vom Bundeskanzler angekündigte ­Zeitenwende muss einen Ausgleich zwischen den ethischen Bedenken und militärischen Erfordernissen in Bezug auf EDTs in der Bundeswehr vorantreiben, wenn diese ein starker Pfeiler der europäischen Sicher­heit sein soll. Um dies zu erreichen, sollte die Bundesregierung:

Zwei Prozent des 100-Milliarden-Euro-Sondervermögens für die Förderung disruptiver Verteidigungstechnologien bereitstellen. Die Bundesregierung sollte die Möglichkeit nutzen, mit dem Sondervermögen einen zukunftsfähigen verteidigungstechnologischen Sektor aufzubauen. Obwohl künftige Kampfsysteme wie das FCAS einen beträchtlichen Teil des 100-Milliarden-Euro-Budgets ausmachen, sind derzeit nur 422 Millionen Euro direkt für FuE im Bereich der EDTs, insbesondere für KI-Fähigkeiten, veranschlagt.  Die Bundesregierung sollte ­mindestens 2 Prozent des Sondervermögens für die Förderung disruptiver Verteidigungstechnologien bereitstellen, um Anreize für den Zufluss von Risikokapital in neue Start-ups im Verteidigungssektor und höhere FuE-Ausgaben etablierter deutscher Verteidigungsunternehmen zu setzen.

Die ethische Debatte über militärische Anwendungen von EDTs mit Einsatzrealitäten verbinden. In Deutschland werden Diskussionen rund um das Thema Ethik häufig stark abstrahiert von der Realität militärischer Einsätze geführt. Dabei sollten sich Diskussionen auf die Bestimmung eines angemessenen Maßes an maschineller Autonomie und die Festlegung von vertretbaren Zwecken für den Einsatz von EDTs konzentrieren. Denkbar wären interaktive Workshops, bei denen sich politische Entscheidungsträgerinnen und Entscheidungsträger und/oder Bürgerinnen und Bürger mit wahrscheinlichen Szenarien – zum Beispiel dem Einsatz von Drohnenschwärmen – befassen. Dies könnte die Diskussion über mögliche Gegenmaßnahmen fördern, einschließlich Methoden zur Auswahl von Zielobjekten, wenn die menschliche Reaktionszeit zu langsam ist.

Dual-Use Implikationen von EDTs mit innovationsorientierter Industriepolitik verknüpfen. Ministerien, die Innovations- und Industriepolitik gestalten, insbesondere das Bundesministerium für Digitales und Verkehr (BMDV), das Bundesministerium für Wirtschaft und Klimaschutz (BMWK) und das Bundesministerium für Bildung und Forschung (BMBF), sollten mit dem Bundesministerium der Verteidigung (BMVg) zusammenarbeiten, um das Dual-­­Use-Potenzial von EDTs wie KI und Quantum in ihren Strategien zu berücksichtigen.  neue Nationale Sicherheitsstrategie sollte einen Abschnitt enthalten, der die technologie- und innovationsbezogene Industriepolitik, einschließlich ihrer für die Verteidigung relevanten Aspekte, zusammenführt – und zwar im Rahmen einer regierungsübergreifenden Bewertung zentraler Bedrohungen für die ­nationale Sicherheit.

Wissenstransfer zwischen militärischer und ziviler FuE verbessern. Zivile Forschung und Entwicklung im technologischen Bereich bestimmt zunehmend den militärischen Vorsprung. Dem sollte die Bundesregierung Rechnung tragen, indem sie das Münchner Zentrum für Digitalisierungs- und Technologieforschung der Bundeswehr (dtec.bw) stärker mit den bayerischen Hightech-Start-ups vernetzt. Die Regierung sollte eine separate Track-II-Plattform einrichten, die Innovatoren bei der Entdeckung von Dual-Use-Anwendungen von EDTs unterstützt, welche mit der Förderung von Innovationsagenturen wie SPRIND und dem Cyber Innovation Hub entwickelt werden. Außerdem sollte sie Anreize für deutsche und europäische Risikokapitalinvestitionen in Start-ups im Bereich der Verteidigungstechnologie setzen, etwa durch Ko-Finanzierungen.

Die Beschaffung von Verteidigungsgütern an technologische Innovationszyklen anpassen. Schwankungen im Verteidigungshaushalt erschweren die Unterstützung längerer EDT-Innovationszyklen. Die Regierung sollte einen bis 2030 laufenden Spezial-Fonds für disruptive Verteidigungstechnologien mit jährlichen Mindestbudgetgarantien einrichten. Der Verteidigungsausschuss des Bundestages sollte außerdem ein Mitglied benennen, das über die Projektergebnisse berichtet, die Debatte über Ausgaben für Verteidigungsinnovationen fördert und Möglichkeiten der Zusammenarbeit mit anderen Ausschüssen, einschließlich des Auswärtigen Ausschusses und des Ausschusses für Digitales, ermittelt.

Die Interoperabilität mit Verbündeten durch gemeinsame Grundsätze und militärische ­Formationen aufrechterhalten. Die Bundesregierung muss sicherstellen, dass die EDT-bezogene Transformation der Bundeswehr nicht die Interoperabilität mit verbündeten Streitkräften untergräbt. Sie sollte die Entwicklung gemeinsamer ethischer Grundsätze und Verhaltenskodizes fördern, wie etwa in der KI-Strategie der NATO geschehen. Deutschland sollte auch die Einführung experimenteller Technologien in binationalen Verbänden und Einheiten (z. B. im Rahmen der Deutsch-Französischen Brigade oder des Deutsch-Niederländischen Korps) fördern und seine Rolle als Teilnehmer am Rahmennationenkonzept der NATO nutzen, um Testumgebungen für militärische Innovationen in multinationalen ­Formationen zu schaffen.

Über dieses Projekt

Der vorliegende Bericht stellt einen integrierten Politikansatz für Deutschlands digitale Kapazitäten und Zielsetzungen vor. Eine solche Strategie sollte die industriellen Stärken und Digital Governance-Prioritäten des Landes mit seinen geopolitischen Interessen verknüpfen.

Dies ist der siebte Teil einer Reihe von Berichten, welche auf der Grundlage von sieben miteinander verbundenen Teilen eines „Technologiepolitik-Stacks“ einen solchen integrierten Ansatz entwirft. Für dieses Projekt hat die DGAP 30 Fachleute dazu eingeladen, einer Arbeitsgruppe beizutreten und zwischen Juli und Oktober 2021 an sieben vertraulichen Workshops über die entscheidenden strategischen Dimensionen von Deutschlands internationaler Digitalpolitik teilzunehmen. Zu den Mitgliedern der Arbeitsgruppe gehörten: politische Mandatsträgerinnen und -träger sowie Kandidatinnen und Kandidaten, hochrangige deutsche Regierungsvertreterinnen und -vertreter, Parteimitarbeiterinnen und -mitarbeiter, die für digitale Plattformen und die Ausarbeitung von Koalitionsverträgen zuständig sind, Expertinnen und Experten für Technologie und Außenpolitik, Vordenkerinnen und Vordenker im Digitalbereich, Managerinnen und Manager von Technologieunternehmen, Akademikerinnen und Akademiker aus den Technik-, Wirtschafts- und Politikwissenschaften sowie Vertreterinnen und Vertreter der Zivilgesellschaft und von Organisationen, die sich für digitale Rechte einsetzen. Außerdem luden wir weitere Expertinnen und Experten dazu ein, an einzelnen Workshops teilzunehmen. Jeder Workshop befasste sich mit jeweils einem Teil von Deutschlands „Technologiepolitik-Stack“. Darüber hinaus wurden während der Entstehung dieser Reihe von Berichten Mitglieder der Arbeitsgruppe periodisch konsultiert.

Wir bedanken uns bei der Open Society Initiative for Europe für ihre großzügige Unterstützung, die dieses Projekt ermöglicht hat.