Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Dr. Petra Sitte, Anke Domscheit-Berg, Jessica Tatti, weiterer Abgeordneter und der Fraktion DIE LINKE. – Drucksache 19/12454 – Einflussnahme von Interessenvertreterinnen und Interessenvertretern auf die Umsetzung der KI-Strategie im Bundesministerium der Justiz und für Verbraucherschutz V o r b e m e r k u n g d e r F r a g e s t e l l e r Die Bundesregierung hat im November 2018 ihre Strategie Künstliche Intelligenz vorgestellt (Bundestagsdrucksache 19/5880). Erste Maßnahmen der Umsetzung sind bereits angelaufen. Auch für den Zuständigkeitsbereich des Bundesministeriums der Justiz und für Verbraucherschutz (BMJV) sind in der Strategie Maßnahmen genannt wie die Förderung der Entwicklung von „Consumer-enabling technologies“ (z. B. Legal Tech in der Verbraucherberatung ). Wie aus der Antwort der Bundesregierung auf die Kleine Anfrage der Fraktion DIE LINKE. (Bundestagsdrucksache 19/5678 mit Verweis auf Bundestagsdrucksache 19/4734) hervorging, beteiligte die Bundesregierung bereits bei der Entwicklung der KI-Strategie die Roland Berger GmbH als externes Beratungsunternehmen . Es ist daher fraglich, ob bei der Umsetzungsplanung und -durchführung der KI-Strategie ebenfalls externe Berater oder andere Dritte beteiligt werden. Grundsätzlich sind der Austausch der Bundesregierung mit externen Dritten und die Kenntnis, Abwägung und ggf. Berücksichtigung der im Laufe der Erstellung von Strategien und Umsetzungsplänen geäußerten Stellungnahmen nicht falsch, sondern ganz im Gegenteil: Das ist sogar wichtig. Die Bundesregierung kann und soll sich mit den in der Gesellschaft vorhandenen Auffassungen , Positionen und Interessen auseinandersetzen und diese im Rahmen der Erstellung von Strategien und Umsetzungsplänen ggf. berücksichtigen. Unterschiedliche gesellschaftliche Positionen sollten nach Auffassung der Fragestellerinnen und Fragesteller grundsätzlich gleiches Gehör bei der Bundesregierung finden. Der Deutsche Bundestag kann nach Auffassung der Fragesteller erwarten, dass die Bundesregierung von sich aus offenlegt, auf welcher Stellungnahme oder Forderung welches externen Dritten die Umsetzungspläne der KI- Strategie der Bundesregierung gegebenenfalls beruhen und ob gegebenenfalls eine Formulierung oder Maßnahme entgegen der ursprünglich vorgesehenen Deutscher Bundestag Drucksache 19/12973 19. Wahlperiode 30.08.2019 Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums der Justiz und für Verbraucherschutz vom 30. August 2019 übermittelt. Die Drucksache enthält – in kleinerer Schrifttype – den Fragetext. Fassung des Umsetzungsplans nach der Beteiligung externer Dritter oder aufgrund anderweitig eingegangener Stellungnahme geändert worden ist.  1. Wurden durch das BMJV, dem BMJV nachgelagerte Behörden oder bei Gremien und Projekten, die unter der Federführung des BMJV stehen, außer der Einrichtung der Datenethik-Kommission, bereits Maßnahmen zur Umsetzung der KI-Strategie angestoßen, und wenn ja, welche? Das Bundesministerium der Justiz und für Verbraucherschutz (BMJV) möchte zur Umsetzung der KI-Strategie verbraucherfreundliche KI-basierte Anwendungsszenarien und prototypische Lösungen fördern, welche in der Lebenswelt von Verbraucherinnen und Verbrauchern wahrnehmbar sind, zielgruppengerecht konzipiert sind, ihre Selbstbestimmung erleichtern, Lebensqualität erhöhen und zum Verbraucherschutz beitragen (Handlungsfeld 3.1 der KI- Strategie). Mittels einer Bekanntmachung zum Thema „Anwendungen künstlicher Intelligenz zur Unterstützung des Verbraucheralltags (consumer enabling technologies)“ wurde hierzu ein Antragswettbewerb initiiert (veröffentlicht im Bundesanzeiger am 20. Mai 2019, BAnz AT 20. Mai 2019 B1). Die Antragsphase wurde mit Stand Juli 2019 abgeschlossen. Die eingereichten Projektanträge befinden sich derzeit in der Auswertung. Weiterhin beschäftigt sich das BMJV mit dem Text-und Data-Mining (TDM) im Kontext der Umsetzung der sog. DSM-Richtlinie (EU) 2019/790 vom 17. April 2019, die in Artikel 3 und 4 Bestimmungen zu TDM enthält (Handlungsfeld 3.9 der KI-Strategie).  2. Wurden zur Umsetzung der KI-Strategie im oder durch das BMJV externe Dritte aus Forschung, Wirtschaft oder der Zivilgesellschaft für die Entwicklung eines Umsetzungsplans oder zur Durchführung, Begleitung, Evaluation und/oder Zuarbeit von Maßnahmen beauftragt (ohne Datenethik-Kommis- sion), und falls ja, a) wer wurde mit Aufgaben beauftragt, mit welchem Budget, und mit welcher Anzahl an Mitarbeiterinnen und Mitarbeitern wurde der Auftrag seitens des Auftragnehmers angenommen (bitte Namen der Auftragnehmer je mit Höhe des Budgets und Anzahl der Mitarbeiterinnen und Mitarbeiter nennen), b) welche der in Frage 2a genannten Aufträge wurden gemäß den vergaberechtlichen Vorschriften ausgeschrieben (bitte pro Auftrag beantworten ), und c) wie oft und in welchen Fällen wurde von einer öffentlichen Ausschreibung der in Frage 2a genannten Aufträge mit welcher Begründung abgesehen ? Nein.  3. Fanden beim BMJV, bei nachgelagerten Behörden des BMJV oder bei Gremien und Projekten, die unter der Federführung des BMJV stehen, Workshops oder Arbeitskreise statt zur Umsetzung der KI-Strategie, und wenn ja, wann, wo, und mit welcher Beteiligung (bitte tabellarisch auflisten )? Nein. Drucksache 19/12973 – 2 – Deutscher Bundestag – 19. Wahlperiode  4. Sind im BMJV weitere Gremien und Projekte geplant, in denen Maßnahmen der KI-Strategie umgesetzt werden sollen? Wenn ja, welche, und wann? Derzeit nicht.  5. Welche Stellungnahmen, Gutachten, Studien, Expertisen, Untersuchungen , Prüfberichte, Empfehlungen, Vorschläge, Positionspapiere oder Ähnliches mit Bezug zur Umsetzung der KI-Strategie sind beim BMJV, bei nachgelagerten Behörden des BMJV oder bei Gremien und Projekten, die unter der Federführung des BMJV stehen, eingegangen (bitte alle Stellungnahmen etc. mit Angabe der bzw. des Einreichenden, des Eingangsdatums , des Empfängers und dem Stand des Umsetzungsplans dieser Stellungnahme etc. auflisten)? a) Wurden diese jeweils von der Bundesregierung veröffentlicht, und wenn ja wo, und wenn nein, warum nicht (bitte jeweils einzeln ausführen und bei Nichtveröffentlichung bitte begründen)? b) Welche Formulierung oder Maßnahmenplanung wurde (teil-)identisch , also (teilweise) wortgleich oder inhaltsgleich übernommen (bitte ggf. jeweils im Einzelnen darlegen, wessen Vorschlag wann zu welcher Einfügung im bzw. Änderung des Umsetzungsplans der KI- Strategie geführt hat, und warum)? Im Rahmen der Umsetzung der sog. DSM-Richtline (EU) 2019/790 vom 17. April 2019, die in Artikel 3 und 4 Bestimmungen zum Text und Data Mining enthält, sind die beteiligten Kreise eingeladen, sich hierzu bis zum 6. September 2019 zu äußern (s. www.bmjv.de/SharedDocs/Gesetzgebungsver fahren/DE/Umsetzung_EU_Richtlinien_Urheberrecht.html ). Die eingegangenen Stellungnahmen werden zeitnah auf der Webseite des BMJV verfügbar sein.  6. Welche vereinbarten dienstlichen Kontakte (alle nicht bloß zufälligen oder privaten Gespräche und Treffen bei Veranstaltungen, Sitzungen, Beratungen , Dienstreisen etc.) von Mitarbeiterinnen und Mitarbeitern, Mitgliedern und/ oder Vertreterinnen und Vertretern des BMJV, nachgelagerter Behörden des BMJV oder von Gremien und Projekten, die unter der Federführung des BMJV stehen, mit externen Dritten haben im Zusammenhang mit der Umsetzung der KI-Strategie (beispielsweise Initiierung, Erstellung, Änderung, Ablehnung, Vorbereitung, Ausarbeitung, Befassung , Beratung, Bewertung, Empfehlung oder Formulierung von Maßnahmen ) mit welchem Ergebnis be-zogen auf den Umsetzungsplan der KI-Strategie stattgefunden (bitte tabellarisch mit Datum, Ort, teilnehmenden Personen und Thema bzw. genauen Umsetzungsvorschlag und unter Beantwortung der nachfolgenden Fragen aufführen)? a) Wann fand der Kontakt statt? b) Welcher externe Dritte nahm bzw. welche externen Dritten nahmen teil? c) Wer nahm auf Seiten des BMJV, nachgelagerter Behörden des BMJV oder von Gremien und Projekten, die unter der Federführung des BMJV stehen, teil? d) Welchen Formulierungsvorschlag, sonstigen Vorschlag, welche Stellungnahme o. Ä. im Zusammenhang mit dem Kontakt hat welcher externe Dritte bzw. haben welche externen Dritten ggf. wann zu welchem Teil des Umsetzungsplans der KI-Strategie abgegeben? Deutscher Bundestag – 19. Wahlperiode – 3 – Drucksache 19/12973 e) Wurde ggf. der in Frage 6d genannte (alternative) Formulierungsvorschlag o. Ä. im Umsetzungsplan der KI-Strategie positiv berücksichtigt , und falls ja, inwieweit, und ist dieser Umstand ggf. im Umsetzungsplan der KI-Strategie dokumentiert worden (bitte ggf. jeweils für jede Stellungnahme und jede alternative Formulierung einzeln ausführen )? f) Wurden Aufzeichnungen im Zusammenhang mit den jeweiligen Treffen angefertigt, und wenn ja, welche (z. B. Vorlagen zur Vorbereitung, Vermerke, Protokolle o. Ä.)? g) Auf wessen Initiative fand jeweils der Kontakt statt (Initiative der externen Dritten oder Stelle im BMJV, in nachgelagerten Behörden des BMJV oder in Gremien und Projekten, die unter der Federführung des BMJV stehen)? h) Hatte ggf. die beteiligte Stelle im BMJV, in der nachgelagerten Behörde des BMJV oder im Gremium oder Projekt, das unter der Federführung des BMJV steht, zum Zeitpunkt des jeweiligen Kontaktes nähere Kenntnisse über das Geschäftsfeld bzw. den Tätigkeitsbereich und die jeweiligen finanziellen und/oder wirtschaftlichen Interessen der Kontaktperson an dem Umsetzungsplan der KI-Strategie, und falls ja, welche genau (bitte einzeln ausführen)? i) Handelten nach Kenntnis des BMJV, der nachgelagerten Behörden des BMJV oder der Gremien und Projekte, die unter der Federführung des BMJV stehen, ggf. die externen Dritten bzw. der externe Dritte in fremdem Auftrag, und falls ja, haben sie bzw. hat er diesen Umstand selbständig offengelegt, oder wann und wie haben das BMJV, nachgelagerte Behörden des BMJV oder Gremien und Projekte, die unter der Federführung des BMJV stehen, das jeweils eigenständig festgestellt (bitte ausführen)? j) In wessen Auftrag handelten nach Kenntnis des BMJV, der nachgelagerten Behörden des BMJV oder der Gremien und Projekte, die unter der Federführung des BMJV stehen, ggf. die externen Dritten bzw. handelte der externe Dritte (bitte jeweils ausführen)? Im Zusammenhang mit der Umsetzung der KI-Strategie haben lediglich die im Rahmen des Antragsverfahrens zur Förderung von verbraucherfreundlichen KI- Anwendungen erforderlichen Kontakte stattgefunden, welche allerdings keinen Einfluss auf den Umsetzungsvorschlag hatten. Im Übrigen ist der Vollständigkeit halber darauf hinzuweisen, dass die sich auch mit KI-Fragen beschäftigende Datenethikkommission ein unabhängiges Beratungsgremium der Bundesregierung ist und selbstständig über etwaige Gespräche mit Dritten entscheidet. Drucksache 19/12973 – 4 – Deutscher Bundestag – 19. Wahlperiode  7. An welchen Veranstaltungen, Terminen etc. zum Thema KI von Unternehmen , Unternehmensverbänden oder anderen externen Dritten nahmen welche Mitglieder und/oder Vertreterinnen und Vertreter der Leitungsebene des BMJV, der nachgelagerten Behörden des BMJV oder der Gremien und Projekte, die unter der Federführung des BMJV stehen, in dieser Legislaturperiode wann und wo genau teil (bitte unter Nennung des Titels, Datums und Ortes der Veranstaltung bzw. des Termins sowie unter Nennung der Namen der Mitglieder bzw. geschickten Vertreter bzw. Vertreterinnen auflisten)? BMJV Gesprächspartner Titel/Thema Ort und Datum Bundesministerin a. D. Dr. Katarina Barley Verbraucherzentrale Bundesverband (vzbv) Behandlung von KI-Anwendungen Berlin, 20. Februar 2019 Bundesministerin a. D. Dr. Katarina Barley Digital-Gipfel Veranstaltung zu „Datenethik bei Anwendungen der Künstlichen Intelligenz“ Nürnberg, 4. Dezember 2018 Bundesministerin a. D. Dr. Katarina Barley D64- Zentrum für Digitalen Fortschritt e.V. „Grundwerten in der digitalisierten Gesellschaft – Der Einfluss Künstlicher Intelligenz auf Freiheit, Gerechtigkeit und Solidarität” Berlin, 7. November 2018 Bundesministerin a. D. Dr. Katarina Barley Bundesverband Deutscher Patentanwälte Behandlung von KI-Anwendungen Berlin, 1. November 2018 Bundesministerin a. D. Dr. Katarina Barley Verbraucherzentrale Bundesverband (vzbv) Behandlung von KI-Anwendungen Berlin, 17. April 2018 Staatssekretär Billen Bundesdruckerei Modell eines Datentreuhänders sowie sicheren digitalen Identitäten sowie eIDAS-Vertrauensdiensten Berlin, 15. August 2019 Staatssekretär Billen Anna-Maja Henriksson (finnische Ministerin der Justiz) Behandlung von KI-Anwendungen und Algorithmen-basierten Entscheidungen Helsinki, 18. Juli 2019 Staatssekretär Billen S.E. Mons. Paul Tighe (Kurienbischof im Vatikan und Sekretär des Päpstlichen Rates für die Kultur) Ethische und rechtliche Behandlung von KI-Anwendungen Rom, 9. Mai 2019 Staatssekretär Billen Marco Bellezza (juristischer Berater des italienischen Wirtschafsministers ) Ethische und rechtliche Behandlung von KI-Anwendungen Rom, 8. Mai 2019 Staatssekretär Billen Andrea Cioffi (Staatssekretär im italienischen Wirtschaftsministerium) Ethische und rechtliche Behandlung von KI-Anwendungen Rom, 8. Mai 2019 Staatssekretär Billen Symposium am FRIAS Künstliche Intelligenz, Neurotechnologie und Gehirndaten Freiburg, 11. April 2019 Deutscher Bundestag – 19. Wahlperiode – 5 – Drucksache 19/12973 BMJV Gesprächspartner Titel/Thema Ort und Datum Staatssekretär Billen Virginie Beaumeunier (Leiterin der DGCCRF) und Mounir Mahjoubi (französischer Staatssekretär für Digitales) Gemeinsame Ansätze zur Förderung der Beachtung ethischer und rechtlicher Grundsätze im gesamten Prozess der Entwicklung und Anwendung künstlicher Intelligenz Paris, 12. Februar 2019 Staatssekretär Billen Digitalgipfel Datenethik bei Anwendungen der Künstlichen Intelligenz Nürnberg, 4. Dezember 2018 Staatssekretär Billen Herr Dr. Dräger (Bertelsmann Stiftung) Chancen/Grenzen von Algorithmen und künstlicher Intelligenz Berlin, 14. September 2018 Staatssekretär Billen Roberto Viola (Generaldirektor DG CON- NECT) Behandlung von künstlicher Intelligenz Brüssel, 18. Juni 2018 Staatssekretär Billen Paul Nemitz (DG JUST), Michel Servoz Generaldirektor DG EMPL, Special Adviser on AI, Robotics and the Future of Labour), Francisco Fonseca Morillo (DG JUST), Renate Nikolay (Kabinettschefin KOM Jourová) Künstliche Intelligenz/ Robotics Brüssel, 28./29. Mai 2018 Staatssekretär Billen Gespräch mit dem Verbraucherzentrale Bundesverband (vzbv) Berlin, 17. April 2018 Staatssekretär Billen Gespräch mit Uniklinikum Freiburg Neuartige Systeme der künstlichen Intelligenz Chancen und Herausforderungen für den Verbraucherschutz Berlin, 21. März 2018 Staatssekretär Billen Safer Internet Day Berlin, 6. Februar 2018 Parlamentarische Staatssekretärin Hagl-Kehl Microsoft EarthLab „Erde an KI...?! – Neue Ideen für unseren Planeten | Künstliche Intelligenz , Klimaschutz und nachhaltige Entwicklung „ Berlin, 12. Februar 2019 Bundesamt für Justiz Universität Oxford Vortrag „Artificial Intelligence and Consumer ADR“ im Rahmen der Veranstaltung „Consumer ADR – Delivering Fairness and Justice for Consumers, Business and Markets“ Oxford, 18./19. März 2019 Drucksache 19/12973 – 6 – Deutscher Bundestag – 19. Wahlperiode  8. An welchen Veranstaltungen und Sitzungen des BMJV, der nachgelagerten Behörden des BMJV oder der Gremien und Projekte, die unter der Federführung des BMJV stehen, zum Thema KI-Strategie und Umsetzung von Maßnahmen nahm in dieser Legislaturperiode (mindestens) eine Vertreterin bzw. ein Vertreter von Unternehmen, Verbänden oder Vereinen teil (bitte jeweils detailliert ausführen)? a) Wann und wo fand diese Sitzung statt? b) Wer waren die Vertreterinnen und Vertreter aus welchen Unternehmen , Verbänden oder Vereinen? c) Welchem Zweck diente nach Auffassung des BMJV die Teilnahme dieser Vertreterinnen und Vertreter? An keinen.  9. Wurden bestimmten Verbänden oder externen Dritten die Formulierungen und Maßnahmen der Umsetzungsplanung der KI-Strategie (Vorentwürfe, Eckpunkte oder ähnliche Vorarbeiten) durch das BMJV, nachgelagerte Behörden des BMJV oder Gremien und Projekte, die unter der Federführung des BMJV stehen, zugeleitet, und wenn ja, welche Papiere und Formulierungen, welchen externen Dritten, und jeweils wann (bitte detailliert ausführen)? Nein. 10. Sind im Rahmen der Umsetzung und Evaluierung der KI-Strategie durch das BMJV, nachgelagerte Behörden des BMJV oder Gremien und Projekte , die unter der Federführung des BMJV stehen, geplant, die Roland Berger GmbH, die KMPG AG, SAP oder andere private Auftragnehmer (weiter) einzubinden, und wenn ja, welche, mit welchen Aufgaben, in welchem zeitlichen Umfang, und mit welchen finanziellen Mitteln? Derzeit ist eine Einbindung nicht geplant. 11. Waren Mitarbeiterinnen und Mitarbeiter von Unternehmen, Verbänden oder Vereinen in dieser Legislaturperiode im BMJV, in nachgelagerten Behörden des BMJV oder in Gremien und Projekten, die unter der Federführung des BMJV zur Umsetzung der KI-Strategie stehen, zu Zwecken der Umsetzung von Maßnahmen aus der KI-Strategie beschäftigt (z. B. nach „AVV Externe“)? Wenn ja, wie viele, in welchen Tarifgruppen, und von wem wurden sie bezahlt? Nein. Deutscher Bundestag – 19. Wahlperiode – 7 – Drucksache 19/12973 12. Wurden Nichtregierungsorganisationen in die Umsetzungsplanung und/ oder -durchführung von Maßnahmen der KI-Strategie durch das BMJV, nachgelagerte Behörden des BMJV oder Gremien und Projekte, die unter der Federführung des BMJV stehen, eingebunden oder werden sie zukünftig eingebunden, z. B. der Chaos Computer Club, AI NOW, Algorithm Watch? Wenn ja, welche, mit welchen Aufgaben, in welchem Umfang, und mit welchen Mitteln? Wenn nein, warum nicht? Eine Beteiligung ist derzeit konkret nicht geplant. Werden Gesetzentwürfe zur Anpassung des KI-Ordnungsrahmens erarbeitet, werden Organisationen der Zivilgesellschaft entsprechend der Regelungen in der gemeinsamen Geschäftsordnung der Bundesministerien angehört. Drucksache 19/12973 – 8 – Deutscher Bundestag – 19. Wahlperiode Gesamtherstellung: H. Heenemann GmbH & Co. KG, Buch- und Offsetdruckerei, Bessemerstraße 83–91, 12103 Berlin, www.heenemann-druck.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333