Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums des Innern vom 12. Februar 2018 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext. Deutscher Bundestag Drucksache 19/765 19. Wahlperiode 15.02.2018 Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Andrej Hunko, Ulla Jelpke, Zaklin Nastic, weiterer Abgeordneter und der Fraktion DIE LINKE. – Drucksache 19/565 – Drohung der Europäischen Kommission mit „gesetzgeberischen Maßnahmen“ zur Entfernung von Internetinhalten V o r b e m e r k u n g d e r F r a g e s t e l l e r Die Zusammenarbeit der großen Internetdienstleister zur Entfernung von Internetinhalten erfolgt im Rahmen des vor zwei Jahren von der Europäischen Kommission gestarteten „EU-Internetforums“, in dem diese zur verstärkten Kontrolle ihrer sozialen Netzwerke verpflichtet werden sollen (COM(2017)0555 final ). Das dritte Ministertreffen des „EU-Internetforums“ am 6. Dezember 2017 sollte die Maßnahmen der Firmen darstellen und bewerten (http://gleft.de/232). Facebook, Google, Twitter und Microsoft haben mittlerweile einen auf Hashwerten basierenden Uploadfilter gestartet, der einmal entferntes Material beim erneuten Hochladen erkennen und filtern soll. Trotz der Kooperation der Internetdienstleister forderte die Europäische Kommission in der Mitteilung weitere „freiwillige proaktive Maßnahmen“ von den Onlineplattformen. Vor drei Wochen gab die Europäische Kommission außerdem ihren 12. Fortschrittsbericht zur Umsetzung der „Sicherheitsunion“ heraus, in dem die Forderungen untermauert werden (COM(2017) 779 final). Dort heißt es, dass die Datenbank mit Hashwerten für den Uploadfilter ausgebaut werden soll. Sie soll zukünftig auch Angaben zur Geschwindigkeit der Löschvorgänge enthalten, nachdem diese von den Polizeien der Mitgliedstaaten oder Europol zur Entfernung gemeldet wurden. Die Firmen sollen zu mehr „Regelmäßigkeit der Berichterstattung an das EU-Internetforum“ verpflichtet werden. Schließlich ruft die Europäische Kommission dazu auf, dass sich „alle Internet-Unternehmen“ an den Maßnahmen beteiligen. Gemeint ist das „Ansprechen und Einbinden neuer und kleiner Unternehmen, die bislang nicht hieran beteiligt sind“. Das unter freiwilliger Mitarbeit von Facebook, Google, Twitter und Microsoft gestartete „EU-Internetforum“ soll zur Drehscheibe der Durchsetzung weiterer Maßnahmen werden. Dies betreffe „terroristische Propaganda, fremdenfeindliche , rassistische oder Hassreden genauso wie Urheberrechtsverletzungen“. Kommen die Firmen den Vorschlägen nicht nach, droht die Europäische Kommission „gesetzgeberische Maßnahmen zur Entfernung Terrorismus verherrlichender Inhalte“ an (http://gleft.de/231, „[…] if necessary will propose legislative measures on removing terrorist content“). Die Einführung fester Fristen für die Entfernung werde bereits geprüft. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/765 – 2 – Deutscher Bundestag – 19. Wahlperiode 1. Hinsichtlich welcher „illegalen Inhalte“ sieht die Bundesregierung auf EU- Ebene einen weiteren Regelungsbedarf, und inwiefern stimmt sie mit der Europäischen Kommission überein, dass neue Maßnahmen „terroristische Propaganda, fremdenfeindliche, rassistische oder Hassreden genauso wie Urheberrechtsverletzungen“ umfassen sollten? Die Bundesregierung teilt die in der Mitteilung „Umgang mit illegalen Online- Inhalten“ vom 28. September 2017 von der Europäischen Kommission geäußerte Auffassung, dass auf EU-Ebene ein freiwilliges Tätigwerden der Internetdienstleister gegen die Verbreitung rechtswidriger Inhalte im Internet anzustreben ist. Die Bundesregierung teilt ebenso die Auffassung der Europäischen Kommission, wonach die Wirksamkeit dieser freiwilligen Maßnahmen erst bewertet werden muss, bevor über die Erforderlichkeit eventueller zusätzlicher rechtlicher Maßnahmen entschieden werden kann. Insgesamt ist es notwendig, dass Netzwerke nach Hinweis auf Rechtsverletzungen angemessenen Handlungsdruck erfahren, um effektive Anstrengungen zum Entfernen gemeldeter rechtswidriger Inhalte zu gewährleisten. 2. Inwieweit hält die Bundesregierung die Größenordnung zu entfernender Internetinhalte , zu deren Umfang die Europäische Kommission vergangene Woche darlegte, dass zwar „Zehntausende illegaler Inhalte“ bereits gelöscht worden, allerdings Hunderttausende weitere „da draußen“ seien (http:// gleft.de/232), für realistisch? Aus Sicht der Bundesregierung sind die von der Europäischen Kommission im Rahmen der Pressemitteilung vom 8. Januar 2018 gemachten Angaben plausibel. 3. Welche Firmen nahmen nach Kenntnis der Bundesregierung am dritten Treffen des „EU-Internetforums“ am 6. Dezember 2017 teil? Nach Kenntnis der Bundesregierung nahmen Vertreter der Unternehmen Google/Youtube, Facebook, Microsoft, Twitter, JustPaste.it, Snap, Wordpress und Yellow am dritten Treffen des EU Internet Forums teil. 4. Mit welchen Bundesministerien bzw. Behörden war die Bundesregierung am Treffen des „EU-Internetforums“ am 6. Dezember 2017 bzw. dem Folgetreffen am 9. Januar 2018 beteiligt (http://gleft.de/232)? Die Bundesregierung war am Treffen des EU Internet Forums am 6. Dezember 2017 mit je einem Vertreter des Bundesministeriums des Innern sowie der Ständigen Vertretung der Bundesrepublik Deutschland bei der Europäischen Union vertreten. Bei dem Folgetreffen am 9. Januar 2018 war die Bundesregierung nicht vertreten. Nach Kenntnis der Bundesregierung handelte es sich hierbei um ein Treffen von Vertretern der Europäischen Kommission mit Unternehmensvertretern . 5. Auf welche Weise sollte das „EU-Internetforum“ aus Sicht der Bundesregierung zukünftig entwickelt werden, und welche neuen Aufgaben könnte dieses übernehmen? Aus Sicht der Bundesregierung hat das EU Internet Forum in den vergangenen Jahren erfolgreich gearbeitet. Diese Arbeit sollte fortgeführt werden. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 3 – Drucksache 19/765 6. Welche Notwendigkeiten sieht die Bundesregierung zum Ausbau der Kooperation mit den Internetdienstleistern hinsichtlich der Erkennung und Entfernung von gemeldeten oder von den Anbietern selbst entdeckten „illegalen Inhalten“ (COM(2017) 779 final)? Aus Sicht der Bundesregierung ist es positiv zu bewerten, dass inzwischen zahlreiche Internetdienstleister eigene, freiwillige und zusätzliche Maßnahmen der Erkennung und Entfernung von gemeldeten oder von den Anbietern selbst entdeckten rechtswidrigen Inhalten ergreifen. Diese Kooperation sollte aus Sicht der Bundesregierung fortgesetzt werden. 7. Inwiefern sollten die Anbieter dabei nicht nur „terroristische und extremistische Internetinhalte“, sondern auch andere als illegal eingestufte Inhalte mit weiteren Maßnahmen verfolgen? Aus Sicht der Bundesregierung sollten sich die freiwilligen Maßnahmen der Internetdienstleister ausschließlich gegen solche Inhalte richten, die rechtswidrig sind oder gegen die Nutzungsbedingungen der Plattform verstoßen. 8. Welche Haltung vertritt die Bundesregierung zur Frage, inwiefern die Internetanbieter feste Fristen für die Entfernung einhalten sollten, und welche Zeiträume hält sie hierzu für geeignet? Aus Sicht der Bundesregierung müssen die Internetdienstleister im Rahmen der von Ihnen freiwillig umgesetzten Maßnahmen bemüht sein, als rechtswidrig erkannte Inhalte unverzüglich zu entfernen. Soweit gesetzliche Vorgaben, insbesondere das Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken (Netzwerkdurchsetzungsgesetz – NetzDG), besondere Fristen für die Bearbeitung von Meldungen rechtswidriger Inhalte vorsehen, sind diese zu beachten. Das NetzDG enthält insofern verschiedene , den Umständen des Einzelfalles gerecht werdende Fristvorgaben. So gilt die Vorgabe einer Entfernung oder Sperrung innerhalb von 24 Stunden nur für offensichtlich rechtswidrige Inhalte im Sinne des NetzDG. Das NetzDG enthält zudem die Möglichkeit von der sog. 7 Tages-Frist (§ 3 Absatz 2 Nummer 3 NetzDG) in schwierigen Fällen abzuweichen (wenn die Entscheidung über die Rechtswidrigkeit des Inhalts von der Unwahrheit einer Tatsachenbehauptung oder erkennbar von anderen tatsächlichen Umständen abhängt) oder innerhalb dieser Frist die Prüfung und Entscheidung an eine anerkannte Einrichtung der Regulierten Selbstregulierung abzugeben. Zudem steht die Bußgeldbewehrung nach dem NetzDG unter dem Vorbehalt vorwerfbaren (vorsätzlichen oder schuldhaften) Verhaltens, § 4 Absatz 1 NetzDG, und knüpft nicht an einer Fristüberschreitung im Einzelfall an, sondern an einem systemischen Versagen bei der Umsetzung des gebotenen Beschwerdemanagements. 9. Inwiefern sollten die Firmen aus Sicht der Bundesregierung auch Angaben zur Geschwindigkeit der Löschvorgänge machen, und auf welche Weise bzw. wem gegenüber sollten diese erfolgen? Im Rahmen von freiwilligen Maßnahmen der Internetdienstleister sollte die Entfernung rechtswidriger Internetinhalte nach Auffassung der Bundesregierung ebenfalls transparent erfolgen. In diesem Rahmen sollen die Internetdienstleister Angaben zur Geschwindigkeit der Löschvorgänge machen. Nach § 2 Absatz 2 Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/765 – 4 – Deutscher Bundestag – 19. Wahlperiode Nummer 8 NetzDG sind in den nach § 2 NetzDG zu erstellenden Berichten auch Angaben zu machen über den Zeitraum zwischen Eingang einer Beschwerde und den ergriffenen Maßnahmen. 10. Welche weiteren „freiwilligen proaktiven Maßnahmen“ sollten die Plattformen aus Sicht der Bundesregierung unternehmen? Auf die Antwort zu Frage 6 wird verwiesen. 11. Auf welche Weise und mit welchen Einschränkungen gegenüber Facebook, Google, Twitter und Microsoft sollten neue und kleinere Unternehmen, die bislang nicht am Uploadfilter beteiligt sind, aus Sicht der Bundesregierung daran teilnehmen? Die Bundesregierung geht davon aus, dass die Fragesteller mit „Uploadfilter“ die in der Vorbemerkung genannte, auf Hash-Werten basierende gemeinsame Datenbank der Internetunternehmen meinen. Die genannte Datenbank wird bei den Unternehmen betrieben. Aus Sicht der Bundesregierung ist es Angelegenheit der beteiligten Unternehmen, die genannte Datenbank zu betreiben, auszubauen und weitere Unternehmen für die Teilnahme zu gewinnen. Im Übrigen wird verwiesen auf die Antwort der Bundesregierung zu Frage 13 der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 18/8845. 12. Mit welchen Maßnahmen könnte aus Sicht der Bundesregierung verhindert werden, dass der weitere Druck der Europäischen Kommission auf die Internetunternehmen unter Androhung legislativer Maßnahmen (http://gleft.de/ 231) nicht zu einer überzogenen Entfernung von Inhalten („over-removal“) führt? Die Befürchtung der Fragesteller wird von der Bundesregierung nicht geteilt. 13. Auf welche Weise beteiligen sich Bundesbehörden am Portal „Shaping Internet Research Investigations Unified System“ (SIRIUS) bei Europol, und welche Informationen werden dort geteilt (http://gleft.de/230)? Ausgewählte Mitarbeiter des Bundeskriminalamtes (BKA) haben Zugriff auf das Portal SIRIUS bei Europol. Es dient als geschützte Plattform für den Informationsaustausch der Strafverfolgungsbehörden in Sachen Internetermittlungen und beinhaltet neben einem Wissensaustausch auch die Fortentwicklung der technischen Expertise. 14. Wie viele Ersuchen zur Entfernung „terroristischer und gewalttätig extremistischer “ Internetinhalte hat das Bundeskriminalamt seit deren Bestehen an die „Meldestelle für Internetinhalte“ bei Europol (EU IRU) zur Entfernung gemeldet? Aufgabe der „Meldestelle für Internetinhalte“ bei Europol (EU IRU) ist vor allem die eigenständige Suche nach rechtswidrigen Internetinhalten mit im Schwerpunkt terroristischem Bezug und die Meldung dieser Inhalte an den Provider mit dem Ziel der Entfernung. Wenn das BKA in Einzelfällen rechtswidrige terroristische und gewalttätig extremistische Internetinhalte mit dem Ziel der Entfernung an Provider meldet, erfolgt dies im Wege des direkten Kontakts. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 5 – Drucksache 19/765 15. Welche Landeskriminalämter sind nach Kenntnis der Bundesregierung am „Trusted Flagger Program“ von Google und YouTube beteiligt? Nach Kenntnis der Bundesregierung sind die Landeskriminalämter Baden-Württemberg , Niedersachsen, Sachsen und Sachsen-Anhalt am „Trusted Flagger Program “ beteiligt. 16. Wo werden die vom Bundeskriminalamt an Google und YouTube zur Entfernung gemeldeten Inhalte (nicht Hashwerte der Dateien) für weitere Ermittlungen gespeichert? Ermittlungsrelevante Inhalte werden vor der Löschung gesichert und den zuständigen Dienststellen verfahrensbezogen in den polizeilichen Informationssystemen zur Verfügung gestellt. Vorabfassung - w ird durch die lektorierte Version ersetzt. Satz: Satzweiss.com Print, Web, Software GmbH, Mainzer Straße 116, 66121 Saarbrücken, www.satzweiss.com Druck: Printsystem GmbH, Schafwäsche 1-3, 71296 Heimsheim, www.printsystem.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333