Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Dr. Petra Sitte, Anke Domscheit-Berg, Jessica Tatti, weiterer Abgeordneter und der Fraktion DIE LINKE. – Drucksache 19/12504 – Einflussnahme von Interessenvertreterinnen und Interessenvertretern auf die Umsetzung der KI-Strategie im Bundesministerium der Verteidigung V o r b e m e r k u n g d e r F r a g e s t e l l e r Die Bundesregierung hat im November 2018 ihre Strategie Künstliche Intelligenz vorgestellt (Bundestagsdrucksache 19/5880). Erste Maßnahmen der Umsetzung sind bereits angelaufen. Auch für den Zuständigkeitsbereich des Bundesministeriums der Verteidigung (BMVg) sind in der Strategie Potenziale von KI benannt, z. B. für die Gefahrenabwehr, Schutz und Aufklärung. Die Vor- und Nachteile möglicher Auswirkungen auf die Streitkräfte sollen laut KI-Strategie einer umfassenden Bewertung unterzogen werden. Wie aus der Antwort der Bundesregierung auf die Kleine Anfrage der Fraktion DIE LINKE. (Bundestagsdrucksache 19/5678 mit Verweis auf Bundestagsdrucksache 19/4734) hervorging, beteiligte die Bundesregierung bereits bei der Entwicklung der KI-Strategie die Roland Berger GmbH als externes Beratungsunternehmen . Es ist daher fraglich, ob bei der Umsetzungsplanung und -durchführung der KI-Strategie ebenfalls externe Berater oder andere Dritte beteiligt werden. Grundsätzlich sind nach Ansicht der Fragesteller der Austausch der Bundesregierung mit externen Dritten und die Kenntnis, Abwägung und ggf. Berücksichtigung der im Laufe der Erstellung von Strategien und Umsetzungsplänen geäußerten Stellungnahmen nicht falsch, sondern ganz im Gegenteil: Das ist sogar wichtig. Die Bundesregierung kann und soll sich mit den in der Gesellschaft vorhandenen Auffassungen, Positionen und Interessen auseinandersetzen und diese im Rahmen der Erstellung von Strategien und Umsetzungsplänen ggf. berücksichtigen. Unterschiedliche gesellschaftliche Positionen sollten nach Auffassung der Fragestellerinnen und Fragesteller grundsätzlich gleiches Gehör bei der Bundesregierung finden. Der Deutsche Bundestag kann nach Auffassung der Fragestellerinnen erwarten , dass die Bundesregierung von sich aus offenlegt, auf welcher Stellungnahme oder Forderung welches externen Dritten die Umsetzungspläne der KI- Strategie der Bundesregierung gegebenenfalls beruhen und ob gegebenenfalls eine Formulierung oder Maßnahme entgegen der ursprünglich vorgesehenen Fassung des Umsetzungsplans nach der Beteiligung externer Dritter oder aufgrund anderweitig eingegangener Stellungnahme geändert worden ist. Deutscher Bundestag Drucksache 19/12992 19. Wahlperiode 04.09.2019 Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums der Verteidigung vom 2. September 2019 übermittelt. Die Drucksache enthält – in kleinerer Schrifttype – den Fragetext. V o r b e m e r k u n g d e r B u n d e s r e g i e r u n g Die Bundesregierung nimmt die Vorbemerkungen der Fragesteller zur Kenntnis . Sie stimmt weder den darin enthaltenen Wertungen zu, noch bestätigt sie die enthaltenen Feststellungen oder dargestellten Sachverhalte. Die Beantwortung der Fragen 1 bis 6 sowie 8 bis 12 zu Umsetzungsmaßnahmen der Strategie Künstliche Intelligenz der Bundesregierung im Bundesministerium der Verteidigung erfolgt bezugnehmend auf die Antwort der Bundesregierung auf Bundestagsdrucksache 19/12395 und den darin bereits enthaltenen Antwortbeiträgen für das Bundesministerium der Verteidigung. Wie in der Beantwortung der Bundestagsdrucksache 19/12395 durch die Bundesregierung bereits festgestellt, ergeben sich für das Bundesministerium der Verteidigung aus der Strategie Künstliche Intelligenz der Bundesregierung keine Umsetzungsmaßnahmen.  1. Wurden durch das BMVg, dem BMVg nachgelagerte Behörden oder bei Gremien und Projekten, die unter der Federführung des BMVg stehen, bereits Maßnahmen zur Umsetzung der KI-Strategie angestoßen, und wenn ja, welche?  2. Wurden zur Umsetzung der KI-Strategie im oder durch das BMVg externe Dritte aus Forschung, Wirtschaft oder der Zivilgesellschaft für die Entwicklung eines Umsetzungsplans oder zur Durchführung, Begleitung, Evaluation und/oder Zuarbeit von Maßnahmen beauftragt, und falls ja, a) wer wurde mit Aufgaben beauftragt, mit welchem Budget, und mit welcher Anzahl an Mitarbeiterinnen und Mitarbeitern wurde der Auftrag seitens des Auftragnehmers angenommen (bitte Namen der Auftragnehmer je mit Höhe des Budgets und Anzahl der Mitarbeiterinnen und Mitarbeiter nennen), b) welche der in Frage 2a genannten Aufträge wurden gemäß den vergaberechtlichen Vorschriften ausgeschrieben (bitte pro Auftrag beantworten ), und c) wie oft und in welchen Fällen wurde von einer öffentlichen Ausschreibung der in Frage 2a genannten Aufträge mit welcher Begründung abgesehen ?  3. Fanden beim BMVg, bei nachgelagerten Behörden des BMVg oder bei Gremien und Projekten, die unter der Federführung des BMVg stehen, Workshops oder Arbeitskreise statt zur Umsetzung der KI-Strategie, und wenn ja, wann, wo, und mit welcher Beteiligung (bitte tabellarisch auflisten )?  4. Sind im BMVg weitere Gremien und Projekte geplant, in denen Maßnahmen der KI-Strategie umgesetzt werden sollen? Wenn ja, welche, und wann?  5. Welche Stellungnahmen, Gutachten, Studien, Expertisen, Untersuchungen , Prüfberichte, Empfehlungen, Vorschläge, Positionspapiere oder Ähnliches mit Bezug zur Umsetzung der KI-Strategie sind beim BMVg, bei nachgelagerten Behörden des BMVg oder bei Gremien und Projekten, die unter der Federführung des BMVg stehen, eingegangen (bitte alle Stellungnahmen etc. mit Angabe der bzw. des Einreichenden, des Eingangsdatums , des Empfängers und dem Stand des Umsetzungsplans dieser Stellungnahme etc. auflisten)? a) Wurden diese jeweils von der Bundesregierung veröffentlicht, und wenn ja, wo, und wenn nein, warum nicht (bitte jeweils einzeln ausführen und bei Nichtveröffentlichung bitte begründen)? Drucksache 19/12992 – 2 – Deutscher Bundestag – 19. Wahlperiode b) Welche Formulierung oder Maßnahmenplanung wurde (teil-)identisch , also (teilweise) wortgleich oder inhaltsgleich übernommen (bitte ggf. jeweils im Einzelnen darlegen, wessen Vorschlag wann zu welcher Einfügung im bzw. Änderung des Umsetzungsplans der KI- Strategie geführt hat, und warum)?  6. Welche vereinbarten dienstlichen Kontakte (alle nicht bloß zufälligen oder privaten Gespräche und Treffen bei Veranstaltungen, Sitzungen, Beratungen , Dienstreisen etc.) von Mitarbeiterinnen, Mitgliedern und/oder Vertreterinnen und Vertretern des BMVg, nachgelagerter Behörden des BMVg oder von Gremien und Projekten, die unter der Federführung des BMVg stehen, mit externen Dritten haben im Zusammenhang mit der Umsetzung der KI-Strategie (beispielsweise Initiierung, Erstellung, Änderung, Ablehnung, Vorbereitung, Ausarbeitung, Befassung, Beratung, Bewertung, Empfehlung oder Formulierung von Maßnahmen) mit welchem Ergebnis bezogen auf den Umsetzungsplan der KI-Strategie stattgefunden (bitte tabellarisch mit Datum, Ort, teilnehmenden Personen und Thema bzw. genauen Umsetzungsvorschlag und unter Beantwortung der nachfolgenden Fragen aufführen)? a) Wann fand der Kontakt statt? b) Welcher externe Dritte nahm bzw. welche externen Dritten nahmen teil? c) Wer nahm auf Seiten des BMVg, nachgelagerter Behörden des BMVg oder von Gremien und Projekten, die unter der Federführung des BMVg stehen, teil? d) Welchen Formulierungsvorschlag, sonstigen Vorschlag, welche Stellungnahme o. Ä. im Zusammenhang mit dem Kontakt hat welcher externe Dritte bzw. haben welche externen Dritten ggf. wann zu welchem Teil des Umsetzungsplans der KI-Strategie abgegeben? e) Wurde ggf. der in Frage 6d genannte (alternative) Formulierungsvorschlag o. Ä. im Umsetzungsplan der KI-Strategie positiv berücksichtigt , und falls ja, inwieweit, und ist dieser Umstand ggf. im Umsetzungsplan der KI-Strategie dokumentiert worden (bitte ggf. jeweils für jede Stellungnahme und jede alternative Formulierung einzeln ausführen )? f) Wurden Aufzeichnungen im Zusammenhang mit den jeweiligen Treffen angefertigt, und wenn ja, welche (z. B. Vorlagen zur Vorbereitung, Vermerke, Protokolle o. Ä.)? g) Auf wessen Initiative fand jeweils der Kontakt statt (Initiative der externen Dritten oder Stelle im BMVg, in nachgelagerten Behörden des BMVg oder in Gremien und Projekten, die unter der Federführung des BMVg stehen)? h) Hatte ggf. die beteiligte Stelle im BMVg, in der nachgelagerten Behörde des BMVg oder im Gremium oder Projekt, das unter der Federführung des BMVg steht, zum Zeitpunkt des jeweiligen Kontaktes nähere Kenntnisse über das Geschäftsfeld bzw. den Tätigkeitsbereich und die jeweiligen finanziellen und/oder wirtschaftlichen Interessen der Kontaktperson an dem Umsetzungsplan der KI-Strategie, und falls ja, welche genau (bitte einzeln ausführen)? i) Handelten nach Kenntnis des BMVg, der nachgelagerten Behörden des BMVg oder der Gremien und Projekte, die unter der Federführung des BMVg stehen, ggf. die externen Dritten bzw. der externe Dritte in fremdem Auftrag, und falls ja, haben sie bzw. hat er diesen Umstand selbständig offengelegt, oder wann und wie haben das BMVg, nachgelagerte Behörden des BMVg oder Gremien und Projekte, die unter der Federführung des BMVg stehen, das jeweils eigenständig festgestellt (bitte ausführen)? Deutscher Bundestag – 19. Wahlperiode – 3 – Drucksache 19/12992 j) In wessen Auftrag handelten nach Kenntnis des BMVg, der nachgelagerten Behörden des BMVg oder der Gremien und Projekte, die unter der Federführung des BMVg stehen, ggf. die externen Dritten bzw. handelte der externe Dritte (bitte jeweils ausführen)? Die Fragen 1 bis 6 werden gemeinsam beantwortet. Auf die Vorbemerkung der Bundesregierung wird verwiesen.  7. An welchen Veranstaltungen, Terminen etc. zum Thema KI von Unternehmen , Unternehmensverbänden oder anderen externen Dritten nahmen welche Mitglieder und/oder Vertreterinnen und Vertreter der Leitungsebene des BMVg, der nachgelagerten Behörden des BMVg oder der Gremien und Projekte, die unter der Federführung des BMVg stehen, in dieser Legislaturperiode wann und wo genau teil (bitte unter Nennung des Titels , Datums und Ortes der Veranstaltung bzw. des Termins sowie unter Nennung der Namen der Mitglieder bzw. geschickten Vertreter bzw. Vertreterinnen auflisten)? Drucksache 19/12992 – 4 – Deutscher Bundestag – 19. Wahlperiode Ve ra ns tal ter Ti tel Da tum Or t Te iln eh me r Jah r 2 01 8 Mü nc hn er Sic he rhe its ko nfe ren z Po diu ms dis ku ssi on m it P räs ide ntin Es tla nd s u nd Ex -N AT O Ge ne - ral sek ret är Ra sm uss en 17 .02 .20 18 Mü nc he n Ge ne ral leu tna nt (G L) Lu dw ig Le inh os, In spe kte ur CI R Ka tho lis ch e K irc he D eu tsc hla nd 10 1. De uts ch er Ka tho lik en tag – Po diu ms dis ku ssi on zu m Th em a „D igi tal e F ron t – D as Int ern et als Kr ieg szo ne “ 12 .05 .20 18 Mü nst er GL Lu dw ig Le inh os, In spe kte ur CI R Cy be r I nn ov ati on H ub On th e e thi cs of AI : O n L AW S an d h ow to re gu lat e t he m 19 .06 .20 18 Be rlin GL D r. A nsg ar Ri ek s, S tv Ins pe kte ur Lu ftw aff e Ze ntr um fü r e thi sch e B ild un g i n de n S tre itk räf ten (Z EB IS) Po diu ms dis ku ssi on zu m Th em a „C yb erw ar – A ng rif f a uf Fre ihe it un d D em ok rat ie? “ 06 .09 .20 18 Kö ln GL Lu dw ig Le inh os, In spe kte ur CI R Deutscher Bundestag – 19. Wahlperiode – 5 – Drucksache 19/12992 Ve ra ns tal ter Ti tel Da tum Or t Te iln eh me r Jah r 2 01 9 CE IS un d T he In ter na tio na l C ybe rse cu rity Fo rum (F IC ) VA UB AN SE SS IO NS 20 19 23 .01 .20 19 Lil les (F RA ) Ge ne ral ma jor (G M) Jü rge n S etz er, St v I nsp ek teu r CI R Ge rm an In sti tut e f or De fen ce an d S tra teg ic Stu die s“ (G ID S) un d M icr oso ft D eu tsc hla nd Ar tifi cia l In tel lig en ce in Se cu rity 14 .02 .20 19 Mü nc he n GL Lu dw ig Le inh os, In spe kte ur CI R, GL Jö rg Vo llm er, In spe kte ur He er, GL D r. A nsg ar Ri ek s, S tv Ins pe kte ur Lu ftw aff e, GM O liv er Ma rtin K oh l, K om ma nd eu r Fü hru ng sak ad em ie de r B un de sw eh r Mü nc hn er Sic he rhe its ko nfe ren z Po diu ms dis ku ssi on zu m Th em a Kü nst lic he In tel lig en z u nd Si ch erhe it: W ie au ton om w erd en M asch ine n h an de ln? 15 .02 .20 19 Mü nc he n GL Lu dw ig Le inh os, In spe kte ur CI R Cy be r S ecu rity C lus ter B on n Di git al Eth ics C on fer en ce 20 19 – Th e e thi cs of art ific ial in tel lig en ce –sh ap ing ne w tec hn olo gie s r espo nsi bly 13 .03 .20 19 Bo nn GL D r. A nsg ar Ri ek s, S tv Ins pe kte ur Lu ftw aff e IB M – S PA DE 20 19 Pa ne ldi sku ssi on zu m Th em a „ AI , Au ton om ou s W eap on s, R ob oti cs an d t he „f utu re wa r“ 29 .05 .20 19 So est , N iede rla nd e GL M art in Sc he lle is, In spe kte ur SK B AF CE A Bo nn e. V. un d K om - ma nd o L uft wa ffe (g em ein sam e Ve ran sta ltu ng ) Di git ali sie run g u nd K I – di e D NA ein er mo de rne n L uft wa ffe 05 .06 .20 19 Kö ln Wa hn GM Jü rge n S etz er, St v I nsp ek teu r C IR , GL In go G erh art z, Ins pe kte ur Lu ftw aff e, GL D r. A nsg ar Ri ek s, S tv Ins pe kte ur Lu ftw aff e, Drucksache 19/12992 – 6 – Deutscher Bundestag – 19. Wahlperiode  8. An welchen Veranstaltungen und Sitzungen des BMVg, der nachgelagerten Behörden des BMVg oder der Gremien und Projekte, die unter der Federführung des BMVg stehen, zum Thema KI-Strategie und Umsetzung von Maßnahmen nahm in dieser Legislaturperiode (mindestens) eine Vertreterin bzw. ein Vertreter von Unternehmen, Verbänden oder Vereinen teil (bitte jeweils detailliert ausführen)? a) Wann, und wo fand diese Sitzung statt? b) Wer waren die Vertreterinnen und Vertreter aus welchen Unternehmen , Verbänden oder Vereinen? c) Welchem Zweck diente nach Auffassung des BMVg die Teilnahme dieser Vertreterinnen und Vertreter?  9. Wurden bestimmten Verbänden oder externen Dritten die Formulierungen und Maßnahmen der Umsetzungsplanung der KI-Strategie (Vorentwürfe, Eckpunkte oder ähnliche Vorarbeiten) durch das BMVg, nachgelagerte Behörden des BMVg oder Gremien und Projekte, die unter der Federführung des BMVg stehen, zugeleitet, und wenn ja, welche Papiere und Formulierungen , welchen externen Dritten, und jeweils wann (bitte detailliert ausführen)? 10. Sind im Rahmen der Umsetzung und Evaluierung der KI-Strategie durch das BMVg, nachgelagerte Behörden des BMVg oder Gremien und Projekte , die unter der Federführung des BMVg stehen, geplant, die Roland Berger GmbH, die KMPG AG, SAP oder andere private Auftragnehmer (weiter) einzubinden, und wenn ja, welche, mit welchen Aufgaben, in welchem zeitlichen Umfang, und mit welchen finanziellen Mitteln? 11. Waren Mitarbeiterinnen und Mitarbeiter von Unternehmen, Verbänden oder Vereinen in dieser Legislaturperiode im BMVg, in nachgelagerten Behörden des BMVg oder in Gremien und Projekten, die unter der Federführung des BMVg zur Umsetzung der KI-Strategie stehen, zu Zwecken der Umsetzung von Maßnahmen aus der KI-Strategie beschäftigt (z. B. nach „AVV Externe“)? Wenn ja, wie viele, in welchen Tarifgruppen, und von wem wurden sie bezahlt? 12. Wurden Nichtregierungsorganisationen in die Umsetzungsplanung und/ oder -durchführung von Maßnahmen der KI-Strategie durch das BMVg, nachgelagerte Behörden des BMVg oder Gremien und Projekte, die unter der Federführung des BMVg stehen, eingebunden oder werden sie zukünftig eingebunden, z. B. der Chaos Computer Club, AI NOW, Algorithm Watch? Wenn ja, welche, mit welchen Aufgaben, in welchem Umfang, und mit welchen Mitteln? Wenn nein, warum nicht? Die Fragen 8 bis 12 werden gemeinsam beantwortet. Auf die Vorbemerkung der Bundesregierung wird verwiesen. Deutscher Bundestag – 19. Wahlperiode – 7 – Drucksache 19/12992 Gesamtherstellung: H. Heenemann GmbH & Co. KG, Buch- und Offsetdruckerei, Bessemerstraße 83–91, 12103 Berlin, www.heenemann-druck.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333