Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums des Innern, für Bau und Heimat vom 11. April 2019 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext. Deutscher Bundestag Drucksache 19/9413 19. Wahlperiode 15.04.2019 Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Manuel Höferlin, Stephan Thomae, Grigorios Aggelidis, weiterer Abgeordneter und der Fraktion der FDP – Drucksache 19/8768 – Vorschlag für eine Verordnung zur Verhinderung der Verbreitung terroristischer Onlineinhalte V o r b e m e r k u n g d e r F r a g e s t e l l e r Die bisherige Grundlage für die Verantwortlichkeit für Onlineinhalte durch Anbieter von Hostingdiensten bildet auf europäischer Ebene die Richtlinie über den elektronischen Geschäftsverkehr (2000/31/EG). Artikel 15 Absatz 1 dieser Richtlinie sieht vor, dass Mitgliedstaaten Anbietern von Hostingdiensten keine allgemeine Verpflichtung auferlegen dürfen, die von ihnen übermittelten oder gespeicherten Informationen zu überwachen oder aktiv nach Umständen zu forschen , die auf eine rechtswidrige Tätigkeit hinweisen. In der Richtlinie zur Terrorismusbekämpfung vom 15. März 2017 (RL (EU) 2017/541) wird dieses Verbot zur Auferlegung allgemeiner Überwachungsverpflichtungen weiter fortgeschrieben. Erwägungsgrund 23 sieht vor: „Insbesondere sollte Diensteanbietern nicht die allgemeine Pflicht auferlegt werden, die Informationen, die sie übermitteln und speichern, zu überwachen oder aktiv nach Tatsachen oder Umständen zu forschen, die auf eine rechtswidrige Tätigkeit hinweisen.“ Erstmals verpflichtet Artikel 21 der Richtlinie die Mitgliedstaaten , die erforderlichen Maßnahmen zu treffen, um sicherzustellen, dass Onlineinhalte , die eine öffentliche Aufforderung zur Begehung einer terroristischen Straftat darstellen und sich auf Servern in ihrem Hoheitsgebiet befinden, unverzüglich entfernt werden. Zur Tagung der Staats- und Regierungschefs vom 19. und 20. September 2018 in Salzburg legte die Europäische Kommission einen Vorschlag für eine Verordnung zur Verhinderung der Verbreitung terroristischer Onlineinhalte (KOM(2018)640 endg.) vor. Adressaten des Verordnungsvorschlags sind Anbieter von Hostingdiensten, die ihre Dienste – unabhängig von Niederlassungsort oder Größe der Anbieter – in der Europäischen Union anbieten sowie die Mitgliedstaaten selbst. Der Verordnungsvorschlag legt diesen Adressaten einige Pflichten auf. Kernelemente sind die in den Artikeln 3 bis 6 des Verordnungsvorschlags niedergelegten Verpflichtungen: Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/9413 – 2 – Deutscher Bundestag – 19. Wahlperiode In Artikel 3 des Verordnungsvorschlags werden Hostingdiensteanbieter zur Ergreifung geeigneter Maßnahmen verpflichtet, um die Verbreitung terroristischer Inhalte zu verhindern und die Nutzer vor terroristischen Inhalten zu schützen. Sie müssen außerdem in ihre Nutzungsbedingungen Bestimmungen zur Verhinderung der Verbreitung terroristischer Inhalte aufnehmen. In Artikel 4 des Verordnungsvorschlags werden sogenannte Entfernungsanordnungen eingeführt, die durch Verwaltungs- oder Gerichtsentscheidung von einer zuständigen Behörde in einem Mitgliedstaat ausgestellt werden und Anbieter von Hostingdiensten verpflichtet, innerhalb einer Stunde den betroffenen terroristischen Inhalt zu entfernen oder den Zugang zu diesem Inhalt zu sperren. Artikel 5 des Verordnungsvorschlags sieht vor, dass relevante Inhalte durch die zuständigen Behörden oder die zuständigen Einrichtungen der Europäischen Union gemeldet werden können und für diese Meldungen durch die Hostingdiensteanbieter betriebliche und technische Maßnahmen eingerichtet werden müssen, die eine rasche Beurteilung der Inhalte erleichtern. Artikel 6 des Verordnungsvorschlags verpflichtet Hostingdiensteanbieter zur Ergreifung proaktiver Maßnahmen zur Verhinderung der Verbreitung terroristischer Inhalte. Diese Maßnahmen sollen die Verwendung automatisierter Werkzeuge einschließen, um ein erneutes Hochladen von Inhalten, die zuvor entfernt oder gesperrt wurden, weil sie als terroristische Inhalte erachtet werden, zu verhindern sowie terroristische Inhalte zu erkennen, zu ermitteln und unverzüglich zu entfernen oder zu sperren. 1. Wie ist nach Kenntnis der Bundesregierung der weitere Zeitplan auf europäischer Ebene in Bezug auf die Verhandlungen zum vorliegenden Verordnungsvorschlag ? Nach Kenntnis der Bundesregierung wird der federführend zuständige Ausschuss für bürgerliche Freiheiten, Justiz und Inneres des Europäischen Parlaments am 8. April 2019 über den Verordnungsvorschlag abstimmen. Darüber hinaus gehende Kenntnisse zum weiteren Zeitplan liegen der Bundesregierung nicht vor. 2. Welche Haltung hat die Bundesregierung in den bisherigen Verhandlungen im Rat der EU zu den folgenden Punkten des Verordnungsvorschlags eingenommen : a) Der Adressatenkreis, der alle Anbieter von Hostingdiensten in der Europäischen Union umfassen soll, unabhängig von deren Niederlassungsort oder Größe, b) die unterschiedliche Definition der Begriffe „terroristische Inhalte“ in Artikel 2 des Verordnungsvorschlags und in der Richtlinie zur Terrorismusbekämpfung aus dem Jahr 2017, c) die explizite Verpflichtung zur Aufnahme von Bestimmungen zur Verhinderung der Verbreitung terroristischer Inhalte in die Nutzungsbedingungen der Hostingdiensteanbieter (Artikel 3 des Verordnungsvorschlags ), d) die Einführung sogenannter Entfernungsanordnungen durch zuständige Behörden und die damit einhergehende Ein-Stunden-Frist zur Prüfung und ggf. Sperrung bzw. Löschung terroristischer Inhalte durch die Hostingdiensteanbieter (Artikel 4 des Verordnungsvorschlags), e) die Einrichtung der Möglichkeit zur Meldung terroristischer Onlineinhalte durch die zuständigen Behörden oder die zuständigen Einrichtungen der Union bei den Hostingdiensteanbietern (Artikel 5 des Verordnungsvorschlags ), Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 3 – Drucksache 19/9413 f) die Verpflichtung der Hostingdiensteanbieter zur Ergreifung proaktiver Maßnahmen zur Verhinderung der Verbreitung terroristischer Inhalte, etwa durch die Verwendung automatisierter Werkzeuge (Artikel 6 des Verordnungsvorschlags)? Die Fragen 2 bis 2f werden gemeinsam beantwortet. Die Haltung der Bundesregierung zu den jeweiligen Punkten des Verordnungsvorschlags ergibt sich aus der allgemeinen Ausrichtung zum Verordnungsvorschlag vom 3. Dezember 2018 (Dokumentnummer. 14978/18) sowie aus den Drahtberichten zu den jeweiligen Sitzungen der Ratsarbeitsgruppe TWP. 3. Auf welche Änderungen am Verordnungsvorschlag wird die Bundesregierung im weiteren Verlauf der Verhandlungen in Bezug auf die in Frage 2 genannten Punkte ggf. hinwirken? Auf welche Änderungen am Verordnungsvorschlag die Bundesregierung im weiteren Verlauf der Verhandlungen hinwirken wird, hängt von der Positionierung des Europäischen Parlaments und den weiteren Erörterungen im Rahmen der Trilogverhandlungen ab. 4. In Bezug auf welche Artikel und Verpflichtungen des Verordnungsvorschlags erwartet die Bundesregierung die kontroversesten Verhandlungen? Der weitere Verlauf der Verhandlungen hängt zunächst von der Positionierung des Europäischen Parlaments ab. 5. Wie bewertet die Bundesregierung die Abkehr der Europäischen Kommission von dem bisher verfolgten Prinzip, dass Mitgliedstaaten Anbietern von Hostingdiensten keine allgemeine Verpflichtung auferlegen dürfen, die von ihnen übermittelten oder gespeicherten Informationen zu überwachen oder aktiv nach Umständen zu forschen, die auf eine rechtswidrige Tätigkeit hinweisen ? Unterstützt die Bundesregierung die Abkehr von diesem Prinzip? Aus Sicht der Bundesregierung wird mit dem im Verordnungsentwurf verfolgten Ansatz in Artikel 6 nicht grundsätzlich von der geltenden Rechtslage der Richtlinie 2000/31/EG („Richtlinie über den elektronischen Geschäftsverkehr“ – e-Commerce-Richtlinie) abgewichen. Die Durchführung proaktiver Maßnahmen bedarf der Prüfung im Einzelfall auf Grundlage einer Risikoanalyse des jeweiligen Unternehmens. Es soll keine allgemeine Überwachungspflicht begründet werden. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/9413 – 4 – Deutscher Bundestag – 19. Wahlperiode 6. Welche Geschäfts- bzw. Nutzungsbedingungen von Anbietern von Hostingdiensten wurden nach Kenntnis der Bundesregierung von der Europäischen Kommission im Vorfeld der Erstellung des Verordnungsvorschlags konsultiert und analysiert? In Bezug auf welche Geschäfts- bzw. Nutzungsbedingungen kam die Europäische Kommission nach Kenntnis der Bundesregierung zu der Auffassung, dass legislativer Handlungsbedarf dahingehend besteht, die Anbieter von Hostingdiensten zu verpflichten, Bestimmungen zu terroristischen Inhalten in ihre Nutzungsbedingungen aufzunehmen? Die Europäische Kommission hat ihre im Vorfeld der Erstellung des Verordnungsvorschlags durchgeführten Konsultationen und Analysen im „Commission Staff Working Document – Impact Assessment“ (Dokumentnummer . SWD(2018) 408 final) dargestellt. Darüber hinaus gehende Kenntnisse liegen der Bundesregierung nicht vor. 7. Wie wurde die Richtlinie zur Terrorismusbekämpfung aus dem Jahr 2017 in Bezug auf terroristische Onlineinhalte in Deutschland umgesetzt? Welche nationalen Regelungen entsprechen den einzelnen durch die Richtlinie an die Mitgliedstaaten gestellten Anforderungen in Bezug auf terroristische Onlineinhalte (bitte nach Artikel und einzelnen Anforderungen aufgeschlüsselt aufführen)? Die in Artikel 21 der Richtlinie zur Terrorismusbekämpfung (Richtlinie 2017/541/EU) vorgesehenen Maßnahmen gegen eine öffentliche Aufforderung darstellende Online-Inhalte bedürften keiner gesonderten Umsetzung. Die in den Absätzen 1 und 2 vorgesehenen Maßnahmen zur wirksamen Entfernung von bestimmten Online-Inhalten, die eine öffentliche Aufforderung zur Begehung einer terroristischen Straftat darstellen, sind bereits nach geltendem Recht möglich: Online-Diensteanbieter sind als Content-Provider für eigene illegale Inhalte nach den allgemeinen Gesetzen (also z. B. strafrechtlich) verantwortlich (§ 7 Absatz 1 des Telemediengesetzes TMG). Auch gegen Diensteanbieter zur Durchleitung, Zwischenspeicherung zur beschleunigten Übermittlung oder Speicherung von Informationen im Sinne der §§ 8 bis 10 TMG (sog. Access-, Cache- oder Host- Provider) sind Anordnungen zur Entfernung von Informationen oder zur Sperrung der Nutzung von Informationen nach den allgemeinen Gesetzen aufgrund von gerichtlichen oder behördlichen Anordnungen möglich. Für Host-Provider gemäß § 10 TMG gilt das Prinzip „Notice and Takedown“. Sie sind für fremde Informationen, die sie für einen Nutzer speichern, nicht verantwortlich, sofern sie keine Kenntnis von der rechtswidrigen Handlung oder der Information haben und nach Kenntniserlangung unverzüglich tätig geworden sind, um die Information zu entfernen oder den Zugang zu ihr zu sperren. § 59 Absatz 3 des Rundfunkstaatsvertrages (RStV) enthält eine Anordnungsbefugnis der Aufsichtsbehörde gegenüber dem Anbieter der Inhalte, gemäß § 59 Absatz 4 RStV ist auch eine Untersagungs- oder Sperrungsanordnung gegen Diensteanbieter von fremden Inhalten nach den §§ 8 bis 10 des TMG möglich. Für den Bereich der sozialen Medien trifft das Netzwerkdurchsetzungsgesetz (NetzDG) umfassende Regelungen. § 3 NetzDG gilt für soziale Netzwerke mit mehr als zwei Millionen registrierten Nutzern im Inland und verlangt das Vorhalten eines wirksamen Beschwerdesystems zum Umgang mit Beschwerden über rechtswidrige Inhalte. Über die Verweisung in § 1 Absatz 3 NetzDG erstreckt Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 5 – Drucksache 19/9413 sich dieses Beschwerdesystem auch auf den Umgang mit Beschwerden zu Inhalten , deren Verbreitung den Tatbestand der §§ 111, 130, 131 und 140 StGB verwirklicht . Die in Absatz 3 vorgesehenen Schutzvorkehrungen bestehen ebenfalls: Bei Anordnungen unmittelbar gegenüber dem Inhalteverfasser sowie dem Intermediär stehen diese Rechtsbehelfe nach den allgemeinen Regeln zur Verfügung (insbesondere Widerspruch, Anfechtungsklage). Für Netzwerke mit mehr als zwei Millionen registrierten Nutzern im Inland schreibt § 2 NetzDG zudem vor, dass öffentlich zugängliche Transparenzberichte zu führen sind, die Darstellungen der Mechanismen zur Übermittlung von Beschwerden über rechtswidrige Inhalte und Entscheidungskriterien für Löschung und Sperrung von rechtswidrigen Inhalten enthalten müssen. § 3 Absatz 2 Nummer 5 NetzDG schreibt vor, dass Beschwerdeführer und Nutzer über Löschentscheidungen zu informieren sind. Vorgenanntes gilt sowohl für einfache Nutzerbeschwerden als auch für Beschwerden von Beschwerdestellen (Polizei o. Ä.). 8. Wie wurden die Maßnahmen, die durch die Mitgliedstaaten zur Umsetzung der Richtlinie zur Terrorismusbekämpfung getroffen wurden, nach Kenntnis der Bundesregierung durch die Europäische Kommission in Bezug auf das Ziel der Eindämmung terroristischer Onlineinhalte auf ihre Wirksamkeit überprüft? Der Bundesregierung liegen hierzu keine über die im „Impact Assessment“ der Europäischen Kommission dargelegten Analysen hinausgehenden Kenntnisse vor. 9. Warum kommt nach Kenntnis der Bundesregierung als legislative Maßnahme auf EU-Ebene für die Europäische Kommission nicht eine der folgenden Maßnahmen in Betracht? Würde die Bundesregierung eine der folgenden Maßnahmen oder anderweitige Maßnahmen dem Verordnungsvorschlag der Europäischen Kommission vorziehen? Wenn ja, welche, und warum: a) Harmonisierung der Notice-and-take-down-Regulierungen in den Mitgliedstaaten , b) Reform bzw. Anpassung der Richtlinie über den elektronischen Geschäftsverkehr (2000/31/EG) bzw. c) Reform bzw. Anpassung der Richtlinie zur Terrorismusbekämpfung (RL (EU) 2017/541)? Die Fragen 9 bis 9 c werden gemeinsam beantwortet. Die Wahl der Legislativmaßnahme hat die Europäische Kommission im „Impact Assessment“ begründet. Darüber hinaus gehende Kenntnisse liegen der Bundesregierung nicht vor. Die Bundesregierung würde eine der in den Fragen 9a bis 9c genannten oder eine anderweitige Maßnahmen nicht vorziehen. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/9413 – 6 – Deutscher Bundestag – 19. Wahlperiode 10. Welche wären nach Ansicht der Bundesregierung die in Deutschland zuständigen Behörde gemäß Artikel 4 und 5 des Verordnungsvorschlags? Falls aus Sicht der Bundesregierung mehrere Behörden in Betracht kommen, welche sind dies, und für welchen jeweiligen Zusammenhang? Die Benennung von zuständigen Behörden hängt maßgeblich vom Ergebnis des Gesetzgebungsverfahrens auf EU-Ebene ab. 11. Welche der deutschen Sicherheitsbehörden sind bereits zum jetzigen Zeitpunkt rechtlich dazu ermächtigt Entfernungsanordnung gegenüber Anbietern von Hostingdiensten in Deutschland auszusprechen? Auf welcher Rechtsgrundlage? Welche Sicherheitsbehörden müssten nach Ansicht der Bundesregierung ggf. zusätzlich ermächtigt werden, Entfernungsanordnung gegenüber Anbietern von Hostingdiensten in Deutschland auszusprechen? Das Instrument „Entfernungsanordnung“, wie es in Artikel 4 des Verordnungsentwurfs vorgesehen ist, gibt es derzeit nicht. Die Bundesregierung verweist auf die Antwort zu Frage 3b der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 19/8573. Welche Sicherheitsbehörden nach Ansicht der Bundesregierung ggf. ermächtigt werden müssten, Entfernungsanordnungen gegenüber Anbietern von Hosting- Diensten in Deutschland auszusprechen, hängt vom Ergebnis des Gesetzgebungsverfahrens ab. 12. Hält die Bundesregierung die Anforderungen an die Transparenzberichte, die in Artikel 8 Absatz 3 des Verordnungsvorschlags gegenüber den Hostingdiensteanbieter formuliert werden, zum jetzigen Zeitpunkt für hinreichend konkret? Welchen Effekt könnte eine zu unklare Definition von Pflichten bei gleichzeitiger Bußgeldbewehrung für den Fall der Pflichtverletzung nach Ansicht der Bundesregierung haben? Bei den in Artikel 8 Absatz 3 formulierten Anforderungen an die Transparenzberichte handelt es sich um Mindestangaben. Die Bundesregierung hält diese Anforderungen zum jetzigen Zeitpunkt für hinreichend konkret. Der Effekt von unklaren Definitionen von Pflichten bei gleichzeitiger Bußgeldbewehrung für den Fall der Pflichtverletzung hängt von der jeweiligen Pflicht und der konkreten Ausgestaltung der Bußgeldvorschriften ab. 13. Welche Erfahrungen mit den ersten Transparenzberichten nach dem Netzwerkdurchsetzungsgesetz wird die Bundesregierung in die Verhandlungen zu diesem Punkt im Rat der EU einbringen? Welche Voraussetzungen müssten diesbezüglich nach der Ansicht der Bundesregierung gegebenenfalls geändert werden? Inwiefern wäre aufgrund des Verordnungsvorschlags das in vielen Punkten als Vorbild für den Verordnungsvorschlag dienende Netzwerkdurchsetzungsgesetz anzupassen? Die Auswertung der Transparenzberichte nach dem Netzwerkdurchsetzungsgesetz obliegt dem Bundesamt für Justiz. Eine abschließende Bewertung der ersten Transparenzberichte liegt noch nicht vor. Soweit Artikel 8 Absatz 3 bei den wei- Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 7 – Drucksache 19/9413 teren Verhandlungen im Rat der EU angesprochen wird, wird die Bundesregierung allgemein zur Notwendigkeit von Transparenzberichten sowie zu den Ergebnissen der ersten Transparenzberichte berichten. Erst nach Bewertung der Transparenzberichte durch das Bundesamt für Justiz lassen sich solide Aussagen zu Verbesserungsmöglichkeiten treffen. Der derzeitigen Ausgestaltung von Artikel 8 Absatz 3 hat die Bundesregierung im Rahmen der allgemeinen Ausrichtung zugestimmt. Inwieweit das Netzwerkdurchsetzungsgesetz aufgrund des Verordnungsvorschlags anzupassen ist, hängt vom weiteren Gesetzgebungsverfahren auf EU- Ebene und der entsprechenden nationalen Ausgestaltung des Verordnungsvorschlags ab. 14. Welche Kapazitäten welcher zuständigen Behörden müssten in Deutschland nach Ansicht der Bundesregierung ausgebaut werden, um die Verpflichtung des Artikels 12 des Verordnungsvorschlags einhalten zu können? Die Benennung von zuständigen Behörden und damit die Frage des Kapazitätenausbaus hängen maßgeblich vom Ergebnis des Gesetzgebungsverfahrens auf EU- Ebene ab. 15. Bei welcher bestehenden Stelle soll nach Ansicht der Bundesregierung die in Artikel 14 Absatz 3 des Verordnungsvorschlags vorgesehene Kontaktstelle für die Behandlung von Ersuchen um Klarstellung und Rückmeldungen im Zusammenhang mit Entfernungsanordnungen und Meldungen eingerichtet werden? Falls die Bundesregierung der Ansicht ist, dass eine neue Stelle als Kontaktstelle eingerichtet werden soll, wo soll dies geschehen? Die Benennung der zuständigen Kontaktstelle hängt maßgeblich vom Ergebnis des Gesetzgebungsverfahrens auf EU-Ebene ab. Vorabfassung - w ird durch die lektorierte Version ersetzt. Satz: Satzweiss.com Print, Web, Software GmbH, Mainzer Straße 116, 66121 Saarbrücken, www.satzweiss.com Druck: Printsystem GmbH, Schafwäsche 1-3, 71296 Heimsheim, www.printsystem.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333