Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Dr. Petra Sitte, Simone Barrientos, Dr. Birke Bull-Bischoff, weiterer Abgeordneter und der Fraktion DIE LINKE. – Drucksache 19/13246 – V o r b e m e r k u n g d e r F r a g e s t e l l e r Einflussnahme von Interessenvertreterinnen und Interessenvertretern auf die Umsetzung der KI-Strategie im Bundesministerium für Gesundheit Die Bundesregierung hat im November 2018 ihre Strategie Künstliche Intelligenz (KI) vorgestellt (Bundestagsdrucksache 19/5880). Erste Maßnahmen der Umsetzung sind bereits angelaufen. Auch für den Zuständigkeitsbereich des Bundesministeriums für Gesundheit (BMG) sind in der Strategie Maßnahmen genannt wie die Forschungsförderung zur Integration, Analyse und Interpretation biomedizinischer Daten und die Zusammenführung und Interoperabilität von Gesundheitsdaten aus Versorgung und Forschung durch den Aufbau von Datenintegrationszentren an Universitätskliniken. Wie aus der Antwort zu Frage 16 der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 19/5678 mit Verweis auf Bundestagsdrucksache 19/4734 hervorging, beteiligte die Bundesregierung bereits bei der Entwicklung der KI-Strategie die Roland Berger GmbH als externes Beratungsunternehmen . Es ist daher fraglich, ob bei der Umsetzungsplanung und -durchführung der KI-Strategie ebenfalls externe Berater oder andere Dritte beteiligt werden. Grundsätzlich sind der Austausch der Bundesregierung mit externen Dritten und die Kenntnis, Abwägung und ggf. Berücksichtigung der im Laufe der Erstellung von Strategien und Umsetzungsplänen geäußerten Stellungnahmen nicht falsch, sondern ganz im Gegenteil: Das ist sogar wichtig. Die Bundesregierung kann und soll sich mit den in der Gesellschaft vorhandenen Auffassungen , Positionen und Interessen auseinandersetzen und diese im Rahmen der Erstellung von Strategien und Umsetzungsplänen ggf. berücksichtigen. Unterschiedliche gesellschaftliche Positionen sollten nach Auffassung der Fragestellerinnen und Fragesteller grundsätzlich gleiches Gehör bei der Bundesregierung finden. Der Deutsche Bundestag kann nach Auffassung der Fragestellerinnen und Fragesteller erwarten, dass die Bundesregierung von sich aus offenlegt, auf welcher Stellungnahme oder Forderung welches externen Dritten die Umsetzungspläne der KI-Strategie der Bundesregierung ggf. beruhen und ob ggf. eine Formulierung oder Maßnahme entgegen der ursprünglich vorgesehenen Fassung des Umsetzungsplans nach der Beteiligung externer Dritter oder aufgrund anderweitig eingegangener Stellungnahme geändert worden ist. Deutscher Bundestag Drucksache 19/13732 19. Wahlperiode 02.10.2019 Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums für Gesundheit vom 30. September 2019 übermittelt. Die Drucksache enthält – in kleinerer Schrifttype – den Fragetext. Vorabfassung - wird durch die lektorierte Version ersetzt. V o r b e m e r k u n g d e r B u n d e s r e g i e r u n g Die Bundesregierung ist bestrebt, Regierungshandeln transparent und damit für die Bürgerinnen und Bürger nachvollziehbar zu gestalten. Auf die dementsprechenden Ausführungen in der Vorbemerkung der Bundesregierung in der Antwort auf die Kleine Anfrage der Fraktion DIE LINKE. betreffend „Einflussnahme von Interessenvertreterinnen und Interessenvertretern auf den Gesetzentwurf der Bundesregierung eines Gesetzes für schnellere Termine und bessere Versorgung (Bundesratsdrucksache 504/18)“ auf Bundestagsdrucksache 19/7011 wird insoweit Bezug genommen.  1. Wurden durch das BMG, dem BMG nachgelagerte Behörden oder bei Gremien und Projekten, die unter der Federführung des BMG stehen, bereits Maßnahmen zur Umsetzung der KI-Strategie angestoßen, und wenn ja, welche? Es wird auf die Antwort der Bundesregierung zu Frage 1 der Kleinen Anfrage der Fraktion DIE LINKE., Bundestagsdrucksache 19/13221 verwiesen.  2. Wurden zur Umsetzung der KI-Strategie im oder durch das BMG externe Dritte aus Forschung, Wirtschaft oder der Zivilgesellschaft für die Entwicklung eines Umsetzungsplans oder zur Durchführung, Begleitung, Evaluation und/oder Zuarbeit von Maßnahmen beauftragt, und falls a) wer wurde mit Aufgaben beauftragt, mit welchem Budget, und mit welcher Anzahl an Mitarbeiterinnen und Mitarbeitern wurde der Auftrag seitens des Auftragnehmers angenommen (bitte die Namen der Auftragnehmer je mit Höhe des Budgets und die Anzahl der Mitarbeiterinnen und Mitarbeiter nennen), b) welche der in Frage 1a vergebenen Aufträge wurden gemäß den vergaberechtlichen Vorschriften ausgeschrieben (bitte pro Auftrag beantworten ), c) wie oft, und in welchen Fällen wurde von einer öffentlichen Ausschreibung der in Frage 1a genannten Aufträge mit welcher Begründung abgesehen? Das Bundesministerium für Gesundheit (BMG) hat keine Aufträge zu den genannten Zwecken vergeben.  3. Fanden beim BMG, bei nachgelagerten Behörden des BMG oder bei Gremien und Projekten, die unter der Federführung des BMG stehen, Workshops oder Arbeitskreise zur Umsetzung der KI-Strategie statt, und wenn ja, wann, wo, und mit welcher Beteiligung (bitte tabellarisch auflisten)? Es fanden keine Workshops oder Arbeitskreise zur Umsetzung der KI-Strategie beim BMG, bei nachgelagerten Behörden des BMG oder bei Gremien und Projekten statt. Drucksache 19/13732 – 2 – Deutscher Bundestag – 19. Wahlperiode Vorabfassung - wird durch die lektorierte Version ersetzt.  4. Sind im BMG weitere Gremien und Projekte geplant, in denen Maßnahmen der KI-Strategie umgesetzt werden sollen? Wenn ja, welche, und wann? Für Herbst 2019 ist die Veröffentlichung der Förderaufrufe zu Modul 3 „Smarte Algorithmen und Expertensysteme“ und zu Modul 4 „Smarte Kommunikation“ zu der Rahmenbekanntmachung „Digitale Innovationen für die Verbesserung der patientenzentrierten Versorgung im Gesundheitswesen“ geplant.  5. Welche Stellungnahmen, Gutachten, Studien, Expertisen, Untersuchungen , Prüfberichte, Empfehlungen, Vorschläge, Positionspapiere o. Ä. mit Bezug zur Umsetzung der KI-Strategie sind beim BMG, bei nachgelagerten Behörden des BMG oder bei Gremien und Projekten, die unter der Federführung des BMG stehen, eingegangen (bitte alle Stellungnahmen etc. mit Angabe der bzw. des Einreichenden, des Eingangsdatums, des Empfängers und dem Stand des Umsetzungsplans dieser Stellungnahme, etc. auflisten)? a) Wurden diese jeweils von der Bundesregierung veröffentlicht, wenn ja wo, und wenn nein, warum nicht (bitte jeweils einzeln ausführen und bei Nichtveröffentlichung bitte begründen)? b) Welche Formulierung oder Maßnahmenplanung wurde (teil-)identisch, also (teilweise) wortgleich oder inhaltsgleich übernommen (bitte ggf. jeweils im Einzelnen darlegen, wessen Vorschlag wann zu welcher Einfügung im Umsetzungsplan bzw. Änderung des Umsetzungsplans der KI-Strategie geführt hat, und warum) BMG informiert sich im Rahmen seiner Aufgabenwahrnehmung aus unterschiedlichsten Quellen; dazu zählen Positionspapiere, Studien, Berichte, Stellungnahmen , Vorschläge und Empfehlungen von Akteuren aller gesellschaftlichen Gruppen. Eine Verpflichtung zur Erfassung dieser Dokumente, die zum Ausbau des Wissens der Bundesregierung über ein Fachthema dienen, besteht nicht. Es ist weder rechtlich geboten noch im Sinne einer effizienten und ressourcenschonenden öffentlichen Verwaltung leistbar, entsprechende Informationen und Daten vollständig und zentral zu erfassen und entsprechende Dokumentationen darüber zu erstellen und zu pflegen. Eine solche umfassende Dokumentation wurde auch nicht durchgeführt. Es ist daher nicht möglich, nachträglich zu erheben, welche Stellungnahmen, Gutachten, Studien, Expertisen, Untersuchungen, Prüfberichte, Empfehlungen, Vorschläge, Positionspapiere oder ähnliches zur Umsetzung der KI-Strategie beim BMG eingegangen sind. Eine grundsätzliche Veröffentlichung von Stellungnahmen Dritter, die nicht im Zusammenhang mit einem Rechtsetzungsvorhaben der Bundesregierung (§ 47 Absatz 3 der Gemeinsamen Geschäftsordnung der Bundesministerien) eingehen , hält die Bundesregierung weder für geboten noch zweckmäßig.  6. Welche vereinbarten dienstlichen Kontakte (alle nicht bloß zufälligen oder privaten Gespräche und Treffen bei Veranstaltungen, Sitzungen, Beratungen , Dienstreisen etc.) von Mitarbeiterinnen und Mitarbeitern, Mitgliedern und/oder Vertreterinnen und Vertretern des BMG, nachgelagerter Behörden des BMG oder von Gremien und Projekten, die unter der Federführung des BMG stehen, mit externen Dritten haben im Zusammenhang mit der Umsetzung der KI-Strategie (beispielsweise Initiierung, Erstellung , Änderung, Ablehnung, Vorbereitung, Ausarbeitung, Befassung, Beratung, Bewertung, Empfehlung oder Formulierung von Maßnahmen) mit welchem Ergebnis bezogen auf den Umsetzungsplan der KI-Strategie stattgefunden (bitte tabellarisch mit Datum, Ort, teilnehmenden Personen Deutscher Bundestag – 19. Wahlperiode – 3 – Drucksache 19/13732 Vorabfassung - wird durch die lektorierte Version ersetzt. und Thema bzw. genauen Umsetzungsvorschlag und unter Beantwortung der nachfolgenden Fragen aufführen)? a) Wann fand der Kontakt statt? b) Welcher externe Dritte nahm bzw. welche externen Dritten nahmen teil? c) Wer nahm aufseiten des BMG, nachgelagerter Behörden des BMG oder von Gremien und Projekten, die unter der Federführung des BMG stehen, teil? d) Welchen Formulierungsvorschlag, sonstigen Vorschlag, welche Stellungnahme o. Ä. im Zusammenhang mit dem Kontakt hat welcher externe Dritte bzw. haben welche externen Dritten ggf. wann zu welchem Teil des Umsetzungsplans der KI-Strategie abgegeben? e) Wurde ggf. der in Frage 6d genannte (alternative) Formulierungsvorschlag o. Ä. im Umsetzungsplan der KI-Strategie positiv berücksichtigt , und falls ja, inwieweit, und ist dieser Umstand ggf. im Umsetzungsplan der KI-Strategie dokumentiert worden (bitte ggf. jeweils für jede Stellungnahme und jede alternative Formulierung einzeln ausführen )? f) Wurden Aufzeichnungen im Zusammenhang mit den jeweiligen Treffen angefertigt, und wenn ja, welche (z. B. Vorlagen zur Vorbereitung, Vermerke, Protokolle o. Ä.)? g) Auf wessen Initiative fand jeweils der Kontakt statt (Initiative der externen Dritten oder Stelle im BMG, in nachgelagerten Behörden des BMG oder in Gremien und Projekten, die unter der Federführung des BMG stehen)? h) Hatte ggf. die beteiligte Stelle im BMG, in der nachgelagerten Behörde des BMG oder im Gremium oder Projekt, das unter der Federführung des BMG steht, zum Zeitpunkt des jeweiligen Kontaktes nähere Kenntnisse über das Geschäftsfeld bzw. den Tätigkeitsbereich und die jeweiligen finanziellen und/oder wirtschaftlichen Interessen der Kontaktperson an dem Umsetzungsplan der KI-Strategie, und falls ja, welche genau (bitte einzeln ausführen)? i) Handelten nach Kenntnis des BMG, der nachgelagerten Behörden des BMG oder der Gremien und Projekte, die unter der Federführung des BMG stehen, ggf. die externen Dritten bzw. der externe Dritte in fremdem Auftrag, und falls ja, haben sie bzw. hat er diesen Umstand selbstständig offengelegt, oder wann, und wie haben das BMG, nachgelagerte Behörden des BMG oder Gremien und Projekte, die unter der Federführung des BMG stehen, das jeweils eigenständig festgestellt (bitte ausführen)? j) In wessen Auftrag handelten nach Kenntnis des BMG, der nachgelagerten Behörden des BMG oder der Gremien und Projekte, die unter der Federführung des BMG stehen, ggf. die externen Dritten bzw. der externe Dritte (bitte jeweils ausführen)? Eine Verpflichtung zur Erfassung sämtlicher geführter Kontakte – einschließlich Telefonate – besteht nicht, und eine solche umfassende Dokumentation wurde auch nicht durchgeführt (siehe dazu die Vorbemerkung der Bundesregierung in der Antwort auf die Kleinen Anfragen der Fraktion DIE LINKE. auf Bundestagsdrucksachen 18/1174 und 19/7011). Die nachfolgenden Ausführungen bzw. aufgeführten Angaben erfolgen auf der Grundlage der vorliegenden Erkenntnisse sowie vorhandener Unterlagen und Aufzeichnungen. Diesbezügliche Daten sind somit möglicherweise nicht vollständig. Die Abfrage hat folgende Gespräche des BMG mit externen Dritten (nur Leitungsebene ) bezogen auf die Umsetzung der KI-Strategie ergeben: Drucksache 19/13732 – 4 – Deutscher Bundestag – 19. Wahlperiode Vorabfassung - wird durch die lektorierte Version ersetzt. Termin/ Teilnehmer Extern Datum Ort Teilnehmer BMG Gespräch mit Start Ups aus dem Bereich Diagnostik 27.02.2019 Berlin BM Spahn Gespräch mit verschiedenen Start Ups im Rahmen der BMG-Reihe „Innovation trifft Politik “ 26.03.2019 Bonn BM Spahn Die in der Antwort zu Frage 1 genannte Rahmenbekanntmachung „Digitale Innovationen für die Verbesserung der patientenzentrierten Versorgung im Gesundheitswesen “ ist im BMG mit redaktioneller und administrativer Unterstützung des Projektträgers des BMG VDI/VDE Innovation + Technik GmbH erarbeitet worden.  7. An welchen Veranstaltungen, Terminen etc. zum Thema KI von Unternehmen , Unternehmensverbänden oder anderen externen Dritten nahmen welche Mitglieder und/oder Vertreterinnen und Vertreter der Leitungsebene des BMG, der nachgelagerten Behörden des BMG oder der Gremien und Projekte, die unter der Federführung des BMG stehen, in dieser Legislaturperiode wann, und wo genau teil (bitte unter Nennung des Titels, Datums und Ortes der Veranstaltung bzw. des Termins sowie unter Nennung der Namen der Mitglieder bzw. geschickten Vertreter bzw. Vertreterinnen )? Künstliche Intelligenz ist als Querschnittsthema aktuell Gegenstand unterschiedlichster Veranstaltungen. Eine Erfassung sämtlicher Termine der Leitung des BMG mit Bezug zum Thema KI ist daher nicht möglich und wurde auch nicht durchgeführt; auf die entsprechende Antwort zu Frage 6 wird verwiesen. Nachstehende Auflistung von Veranstaltungen von Unternehmen, Unternehmensverbänden oder anderen externen Dritten unter Beteiligung der Leitungsebene des BMG mit explizitem Bezug zum Thema KI ist daher möglicherweise unvollständig. 15.05.2018, 13.00 Uhr: Rundgang bei der CUBE Tech Fair mit anschl. Teilnahme an der Konferenz, Ort: Arena Berlin, Eichenstraße 4, 12435 Berlin, Bundesminister Spahn. 05.06.2018, 17.30 Uhr: Key Talk auf der MIT-FUTURA 2018, Ort: KOSMOS Berlin, Karl-Marx-Allee 131a, 10243 Berlin, Bundesminister Spahn. 22.05.2019, 14.00 Uhr: Keynote beim ZVEI-Jahreskongress „Menschlich .Künstlich.Intelligent. Technologie nutzen, Leben verbessern“, Ort: Maritim Hotel Berlin, Stauffenbergstraße 26, 10785 Berlin, Bundesminister Spahn.  8. An welchen Veranstaltungen und Sitzungen des BMG, der nachgelagerten Behörden des BMG oder der Gremien und Projekte, die unter der Federführung des BMG stehen, zum Thema KI-Strategie und Umsetzung von Maßnahmen nahm in dieser Legislaturperiode (mindestens) eine Vertreterin oder ein Vertreter von Unternehmen, Verbänden oder Vereinen teil (bitte jeweils detailliert ausführen)? a) Wann, und wo fand diese Sitzung statt? b) Wer waren die Vertreterinnen und Vertreter aus welchen Unternehmen , Verbänden oder Vereinen? Deutscher Bundestag – 19. Wahlperiode – 5 – Drucksache 19/13732 Vorabfassung - wird durch die lektorierte Version ersetzt. c) Welchem Zweck diente nach Auffassung des BMG die Teilnahme dieser Vertreterinnen und Vertreter? Es wird auf die Antwort zu Frage 11 der Kleinen Anfrage auf Bundestagsdrucksache 19/13221 verwiesen.  9. Wurden bestimmten Verbänden oder externen Dritten die Formulierungen und Maßnahmen der Umsetzungsplanung der KI-Strategie (Vorentwürfe, Eckpunkte oder ähnliche Vorarbeiten) durch das BMG, nachgelagerte Behörden des BMG oder Gremien und Projekte, die unter der Federführung des BMG stehen, zugeleitet, und wenn ja, welche Papiere und Formulierungen , welchen externen Dritten, und jeweils wann (bitte detailliert ausführen )? Eine Vorabunterrichtung externer Dritter über Planungsstände von Fördermaßnahmen erfolgt nicht. 10. Ist im Rahmen der Umsetzung und Evaluierung der KI-Strategie durch das BMG, nachgelagerte Behörden des BMG oder Gremien und Projekte, die unter der Federführung des BMG stehen, geplant, die Roland Berger GmbH, die KMPG AG, SAP oder andere private Auftragnehmer (weiter) einzubinden, und wenn ja, welche, mit welchen Aufgaben, und in welchem zeitlichen Umfang, und mit welchen finanziellen Mitteln? Eine Einbindung von privaten Auftragnehmern im Rahmen der Umsetzung und Evaluierung der KI-Strategie durch das BMG ist derzeit nicht geplant. 11. Waren Mitarbeiterinnen und Mitarbeiter von Unternehmen, Verbänden oder Vereinen in dieser Legislaturperiode im BMG, in nachgelagerten Behörden des BMG oder in Gremien und Projekten, die unter der Federführung des BMG zur Umsetzung der KI-Strategie stehen, zu Zwecken der Umsetzung von Maßnahmen aus der KI-Strategie beschäftigt – z. B. nach „AVV Externe“(AVV = Auftragsverarbeitungsvertrag)? Wenn ja, wie viele, in welchen Tarifgruppen, und von wem wurden sie bezahlt? Es waren keine Mitarbeiterinnen und Mitarbeiter von Unternehmen, Verbänden oder Vereinen in dieser Legislaturperiode im BMG zu Zwecken der Umsetzung von Maßnahmen aus der KI-Strategie beschäftigt. 12. Wurden Nichtregierungsorganisationen (NGOs) in die Umsetzungsplanung und/oder -durchführung von Maßnahmen der KI-Strategie durch das BMG, nachgelagerte Behörden des BMG oder Gremien und Projekte, die unter der Federführung des BMG stehen, eingebunden oder werden sie zukünftig eingebunden, z. B. der Chaos Computer Club, AI NOW, AlgorithmWatch? Wenn ja, welche, mit welchen Aufgaben, und in welchem Umfang, und mit welchen Mitteln? Wenn nein, warum nicht? Bei der Erarbeitung der KI-Strategie der Bundesregierung und der darin enthaltenen Maßnahmen waren im Rahmen von sechs Fachforen Vertreterinnen und -vertreter aller gesellschaftlicher Gruppen (Unternehmen, Verbände, Gewerkschaften , öffentliche Verwaltung, Universitäten und Forschungseinrichtungen) Drucksache 19/13732 – 6 – Deutscher Bundestag – 19. Wahlperiode Vorabfassung - wird durch die lektorierte Version ersetzt. eingebunden. Von den in der Fragestellung namentlich genannten Organisationen war AlgorithmWatch vertreten. Die Teilnahme an den Fachforen erfolgte unentgeltlich. Um eine breite und transparente Beteiligung bundesweit aktiver Verbände, Unternehmen, Organisationen und Institutionen an der Strategieentwicklung zur gewährleisten, führten das Bundesministerium für Bildung und Forschung, das Bundesministerium für Wirtschaft und Energie und das Bundesministerium für Arbeit und Soziales zudem ein öffentliches Online- Konsultationsverfahren durch. In diesem Zusammenhang wird auch auf die Schriftliche Frage 164 der Abgeordneten Dr. Anna Christmann auf Bundestagsdrucksache 19/4421 verwiesen. Deutscher Bundestag – 19. Wahlperiode – 7 – Drucksache 19/13732 Vorabfassung - wird durch die lektorierte Version ersetzt. Gesamtherstellung: H. Heenemann GmbH & Co. KG, Buch- und Offsetdruckerei, Bessemerstraße 83–91, 12103 Berlin, www.heenemann-druck.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333 Vorabfassung - wird durch die lektorierte Version ersetzt.