Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums der Justiz und für Verbraucherschutz vom 28. März 2019 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext. Deutscher Bundestag Drucksache 19/8929 19. Wahlperiode 01.04.2019 Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Uwe Schulz, Joana Cotar, Dr. Michael Espendiller und der Fraktion der AfD – Drucksache 19/8378 – Bericht der Arbeitsgruppe „Digitaler Neustart“ der Konferenz der Justizministerinnen und Justizminister 2018 V o r b e m e r k u n g d e r F r a g e s t e l l e r Die Bundesregierung unterrichtete den Ausschuss Digitale Agenda in dessen Sitzung am 30. Januar 2019 über den Bericht der Arbeitsgruppe „Digitaler Neustart “ der Konferenz der Justizministerinnen und Justizminister (JuMiKo) 2018 nach Ansicht der Fragesteller leider nur unzureichend. Die Arbeitsgruppe „Digitaler Neustart“ der JuMiKo der Länder hat sich in ihrer Herbstkonferenz 2018 unter anderem mit den Themengebieten Big Data, Algorithmentransparenz bei Vertragsbeziehungen im Internet und Schutz von Gesundheitsdaten befasst. Die Überlegungen der Arbeitsgruppe „Digitaler Neustart“ der JuMiKo sind von dem Grundsatz getragen, dass kein gesetzgeberischer Handlungsbedarf besteht, soweit und solange das geltende („analoge“) Recht tragfähige Normen für die Folgen der Digitalisierung bereithält und es den Gerichten überantwortet werden kann, die neuen Sachverhalte durch Subsumtion unter vorhandene Normen sachgerechten Lösungen zuzuführen. Zudem ist eine Etablierung unterschiedlicher Regelungsregime für analoge und digitale Sachverhalte und damit eine weitere Fragmentierung des Rechts zu vermeiden. Etwaigem gesetzgeberischen Handlungsbedarf ist daher primär dadurch Rechnung zu tragen, dass die bereits vorhandenen Regelungsregime gegebenenfalls durch gezielte Sondervorschriften ergänzt werden (www.justiz.nrw.de/JM/schwerpunkte/digitaler_neustart/zt_ fortsetzung_arbeitsgruppe_teil_1a_/2018-10-02-Bericht-final.pdf). Unter Berücksichtigung dessen sieht die Arbeitsgruppe „Digitaler Neustart“ der JuMiKo in ihrem Beschluss gesetzgeberischen Handlungsbedarf zumindest in folgenden Bereichen: – Transparenz im Rahmen von Angeboten im Internet, wenn die Preisbildung durch Einsatz von Algorithmen für den einzelnen Verbraucher personalisiert wurde („transparentes Preisschild“); – Offenlegung der wesentlichen Kriterien des Sortieralgorithmus bei der Erstellung personalisierter Trefferlisten im Internet (insbesondere bei „Newsfeeds “); Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/8929 – 2 – Deutscher Bundestag – 19. Wahlperiode – Schutz der Versicherungsnehmerinnen und Versicherungsnehmer vor Tarifgestaltungen in Krankenversicherungsverträgen, die die laufende Übermittlung hochsensibler Gesundheitsdaten zum Vertragsinhalt haben. Die Justizministerinnen und Justizminister der Länder sprechen sich in ihrem Beschluss vom 15. November 2018 (Herbstkonferenz) dafür aus, sich dieser Handlungsfelder im Rahmen künftiger Gesetzgebungsvorhaben anzunehmen. Sie richten daher auch in ihrem Beschluss die Bitte an die Bundesregierung, sich – soweit erforderlich – auch für entsprechende Regelungen auf EU-Ebene einzusetzen (www.justiz.nrw.de/JM/schwerpunkte/digitaler_neustart/zt_ fortsetzung_arbeitsgruppe_teil_1a_/2018-11-15-Jumiko-Beschluss.pdf). 1. Teilt die Bundesregierung die Auffassung der Arbeitsgruppe „Digitaler Neustart “ der JuMiKo in ihrem Beschluss vom November 2018, dass in den aufgezeigten Themenbereichen gesetzgeberischer Handlungsbedarf besteht? Wenn ja, in welchem Zeitraum kann nach Kenntnis der Bundesregierung mit einer Umsetzung der Vorschläge der Arbeitsgruppe „Digitaler Neustart“ der JuMiKo gerechnet werden? 2. Mit welchen konkreten Maßnahmen und Gesetzesvorlagen wird die Bundesregierung die Vorschläge der Arbeitsgruppe „Digitaler Neustart“ der JuMiKo rechtlich umsetzen, und dem Bundestag zuleiten? Die Fragen 1 und 2 werden zusammen beantwortet. Die Algorithmen-basierte Auswertung von Verbraucherdaten, die Bildung von Verbraucherprofilen und die Erstellung von Prognosen über individuelles (Konsum -) Verhalten stellen – trotz der vielfältigen damit verbundenen Chancen – ein Risiko für die individuelle Handlungsfreiheit, Teilhabe, Chancengleichheit und Selbstbestimmung der Verbraucherinnen und Verbraucher dar. Algorithmen-basierte Prognose- und Entscheidungssysteme können zum Beispiel gesellschaftliche Ungleichheit festigen und Diskriminierungen fortschreiben, wenn die mittels eines Algorithmus analysierten Trainingsdaten bereits tendenziöse Vorfestlegungen („biases“) oder Benachteiligungen enthalten. Der Sortieralgorithmus von sozialen Netzwerken kann Auswirkungen auf die Vielfalt von Informationen im Internet , den öffentlichen Diskurs und damit für den demokratischen Willensbildungsprozess haben. Vor diesem Hintergrund prüft die Bundesregierung, welche Maßnahmen sie auf nationaler und europäischer Ebene ergreifen sollte. Sie hat eine Datenethikkommission eingesetzt, die binnen eines Jahres Leitlinien und Handlungsoptionen in Bezug auf Algorithmen-basierte Entscheidungen, Künstliche Intelligenz und den Umgang mit Daten entwickeln soll. Die Leitfragen der Bundesregierung sind abrufbar unter: www.bmjv.de/SharedDocs/Downloads/DE/Ministerium/ForschungUnd Wissenschaft/DEK_Leitfragen.html bzw. www.bmi.bund.de/datenethikkommission . Die Datenethikkommission beabsichtigt, ihre Empfehlungen am 23. Oktober 2019 der Bundesregierung zu übergeben. Die Bundesregierung wird zunächst die Empfehlungen der Datenethikkommission abwarten, bevor sie eine Bewertung der Beschlüsse der JuMiKo und der Vorschläge anderer Institutionen und Einrichtungen vornimmt und ihre Prüfung etwaigen gesetzgeberischen Handlungsbedarfs abschließt. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 3 – Drucksache 19/8929 3. Welche Schlüsse zieht die Bundesregierung aus der Feststellung der Arbeitsgruppe „Digitaler Neustart“ der JuMiKo, dass im Bereich der laufenden Erhebung personenbezogener Gesundheitsdaten zu Zwecken der Tarifgestaltung in der privaten Krankenversicherung diese für unzulässig zu erklären seien? Im Bereich der privaten Krankenversicherung (PKV) ist die Gesundheitsprüfung bei Vertragsbeginn für die Tarifeinstufung ausschlaggebend. Eine spätere Neufestsetzung der Versicherungsprämie ist nur bei einer Veränderung der für die Prämienkalkulation maßgeblichen Rechnungsgrundlagen mit Zustimmung eines unabhängigen Treuhänders unter Einhaltung versicherungsaufsichtsrechtlicher Vorgaben möglich. Maßgebliche Rechnungsgrundlagen sind die Versicherungsleistungen und die Sterbewahrscheinlichkeiten (§ 203 Absatz 2 VVG). Risikoadjustierte Prämien, die von einem laufenden individuellen Gesundheitsmonitoring z. B. mittels Fitnesstracker abhängen, sind mit diesen Vorgaben nicht vereinbar und deshalb bereits heute unzulässig. 4. Teilt die Bundesregierung die Auffassung der Arbeitsgruppe „Digitaler Neustart “ der JuMiKo in ihrem Beschluss vom November 2018, sich im Rahmen künftiger Gesetzgebungsvorhaben – soweit erforderlich – auch für entsprechende Regelungen auf EU-Ebene einzusetzen? Wenn ja, bei welchen konkreten EU-Regelungen hält es die Bundesregierung für erforderlich, sich im Sinne der Vorschläge der Arbeitsgruppe „Digitaler Neustart“ der JuMiKo einzusetzen (bitte die Rechtsmaterien und den diesbezüglich konkreten Handlungsbedarf auflisten)? Die Bundesregierung prüft vor Einleitung eines nationalen Gesetzgebungsverfahrens stets auch einen etwaigen Handlungsbedarf auf EU-Ebene. Die Europäische Kommission hat im April 2018 einen Entwurf für eine Richtlinie zur besseren Durchsetzung und Modernisierung der EU-Verbraucherschutzvorschriften vorgelegt, der auch Vorschriften zur Verbesserung der Transparenz bei Online Marktplätzen enthält. Bei den Beratungen im Rat über diese Richtlinie hat die Bundesregierung über die von der Europäischen Kommission vorgeschlagenen Regelungen hinaus umfangreiche Vorschläge zur Erhöhung der Transparenz solcher Plattformen in die Verhandlungen eingebracht. Zurzeit befindet sich dieser Richtlinien-Vorschlag im Verhandlungsstadium des informellen interinstitutionellen Trilogs. Gegenstand der laufenden Verhandlungen ist auch eine Ergänzung der Richtlinie 2011/83/EU des Europäischen Parlamentes und Rates vom 25. Oktober 2011 (Verbraucherrechte-Richtlinie) um eine Informationspflicht von Online-Marktplätzen bei Einsatz von automatisierten Entscheidungsverfahren zur Preisbildung. Im Hinblick auf weitere Initiativen der Bundesregierung für künftige Gesetzgebungsverfahren sollen zunächst die Empfehlungen der Datenethikkommission abgewartet werden. 5. Wie beurteilt die Bundesregierung die Frage eines eigenständigen „Dateneigentums “, welches unabhängig vom Eigentum am Datenträger existiert? Welchen spezifischen gesetzgeberischen oder exekutiven Handlungsbedarf sieht die Bundesregierung in diesem Zusammenhang? Das bestehende deutsche Zivilrecht kennt kein Eigentum an Daten. Ob und ggf. wie Zugangs- und Ausschließlichkeitsrechte an Daten festgelegt werden sollten, prüft die Bundesregierung gemäß den Vereinbarungen im Koalitionsvertrag zwi- Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/8929 – 4 – Deutscher Bundestag – 19. Wahlperiode schen CDU, CSU und SPD. Auch dieses Themenfeld ist Teil der Aufgabenbeschreibung der von der Bundesregierung eingesetzten Datenethikkommission. Insoweit wird im Übrigen auf die Antwort zu den Fragen 1 und 2 verwiesen. 6. In welchen Rechtsbereichen und unterschiedlichen Normentypen sieht die Bundesregierung derzeit die Verantwortung für Folgen der KI (= Künstliche Intelligenz) geregelt? Nach dem geltenden Recht sind für die Folgen der KI unterschiedliche Vorschriften heranzuziehen je nachdem, ob zwischen den beteiligten Personen vertragliche Beziehungen bestehen oder nicht. Sieht das maßgebliche Vertragsrecht, wie etwa beim Kauf oder beim Werkvertrag, eine Gewährleistung vor, ist der Schuldner zur Lieferung einer mangelfreien Sache oder zur Herstellung eines mangelfreien Werks verpflichtet. Wird diese Pflicht verletzt, etwa weil die Software der Kaufsache oder des Werks nicht ordnungsgemäß funktioniert oder eine Sicherheitslücke aufweist, stehen dem Vertragspartner verschuldensunabhängige Gewährleistungsansprüche auf Reparatur, Ersatzlieferung und unter weiteren Voraussetzungen auch auf Preisminderung und Rücktritt zu. Darüber hinaus kann der Schuldner Schadensersatz verlangen, wenn der Gläubiger den Mangel verschuldet oder den Schuldner in anderer Weise schuldhaft geschädigt hat. Vertragliche Gewährleistungsansprüche bestehen nach geltendem Recht nur, wenn die Kaufsache bereits bei Übergabe oder das Werk bereits bei Abnahme mangelhaft ist. Maßgeblich ist der Stand der Technik zu diesem Zeitpunkt. Die geplanten EU-Richtlinien zum Warenkauf und zu den Digitalen Inhalten sollen dies für Verbraucherverträge über den Verkauf von Waren mit digitalen Elementen und über die Bereitstellung von digitalen Inhalten ändern. Sie sehen eine Pflicht des Unternehmers vor, die Mangelfreiheit der verkauften oder sonst bereitgestellten Software durch Updates über einen bestimmten Zeitraum sicherzustellen . Gegenüber dem Hersteller unterliegen Produkte, die KI enthalten, für Schäden außerhalb des Produkts den allgemeinen Grundsätzen der außervertraglichen Produkthaftung . 7. Welchen regulatorischen Handlungsbedarf sieht die Bundesregierung in Bezug auf falsche „Entscheidungen“ autonomer Systeme und selbstlernender Algorithmen, wenn daraus Schäden für Dritte verursacht werden? Fragen im Zusammenhang mit der Haftung für (fehlerhafte) IT-Hard/-Software- Produkte, Cloud-Dienste, Produkte aus dem Internet der Dinge sowie aus dem Bereich Robotik und automatisierte/autonome Systeme werden derzeit sowohl national, auf Unionsebene wie auch international breit diskutiert. Die Bundesregierung ist in diese Diskussion einbezogen; abschließende Ergebnisse liegen nicht vor. 8. Welche Schlüsse zieht die Bundesregierung aus der Entschließung des Europäischen Parlaments mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/2103(INL))? Die in der Entschließung des Europäischen Parlaments vom 16. Februar 2017 mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/2103(INL)) enthaltenen Erwägungen sind ein Beitrag zu den national , auf Unionsebene und international geführten Diskussionen zu den darin angesprochenen Fragen. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 5 – Drucksache 19/8929 9. Wie beurteilt die Bundesregierung die Argumentationen der Technikphilosophie , dass Maschinen für ihr Handeln die nötige Urteilskraft fehle (www. wired.de/article/auto-autonom-selbsfahrend-ethik-sicherheit-unfall-insassenpassanten -schuetzen)? Es ist nicht Aufgabe der Bundesregierung, Stellungnahmen zu philosophischen Konzepten oder Argumentationen abzugeben. 10. Wie beurteilt die Bundesregierung das Spannungsfeld „Datenethik versus Big Data“? Die Digitalisierung verändert unsere Gesellschaft grundlegend. Neuartige datenbasierte Technologien können zu einem Nutzen für den Alltag des Einzelnen, für Wirtschaft, für Umwelt und Wissenschaft und für die Gesellschaft als Ganzes führen und bergen große Potentiale. Gleichzeitig werden auch die Risiken der Digitalisierung wahrgenommen. Es stellen sich zahlreiche ethische und rechtliche Fragen, in deren Mittelpunkt die Auswirkungen dieser Entwicklungen und die gewünschte Rolle der neuen Technologien stehen. Wenn der digitale Wandel zum Wohl der gesamten Gesellschaft führen soll, müssen wir uns mit möglichen Folgen der neuen Technologien befassen und ethische Leitplanken definieren. Eine Herausforderung besteht darin, das Recht für das 21. Jahrhundert so fortzuentwickeln , dass die Menschenwürde („ein Mensch darf nicht zum bloßen Objekt werden“) gewahrt bleibt und Grund- und Menschenrechte wie das allgemeine Persönlichkeitsrecht, die Privatsphäre, das Recht auf informationelle Selbstbestimmung , die Diskriminierungsfreiheit, die Wissenschaftsfreiheit, die unternehmerische Freiheit und die Meinungs- und Informationsfreiheit garantiert und zu einem Ausgleich gebracht werden. Dabei bestehen vielfältige Spannungsverhältnisse zwischen Gemeinwohlorientierung, Fortschritt, Innovation und Solidarprinzip . Die Bundesregierung hat vor diesem Hintergrund eine Datenethikkommission eingesetzt, die ethische Maßstäbe und Leitlinien für den Schutz des Einzelnen, die Wahrung des gesellschaftlichen Zusammenlebens und die Sicherung und Förderung des Wohlstands im Informationszeitalter entwickeln soll. Vorabfassung - w ird durch die lektorierte Version ersetzt. Satz: Satzweiss.com Print, Web, Software GmbH, Mainzer Straße 116, 66121 Saarbrücken, www.satzweiss.com Druck: Printsystem GmbH, Schafwäsche 1-3, 71296 Heimsheim, www.printsystem.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333