Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums des Inneren, Für Bau und Heimat vom 17. Juni 2019 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext. Deutscher Bundestag Drucksache 19/10988 19. Wahlperiode 18.06.2019 Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Andrej Hunko, Niema Movassat, Dr. Alexander S. Neu, weiterer Abgeordneter und der Fraktion DIE LINKE. – Drucksache 19/10608 – Christchurch-Aufruf zur schnellen und automatisierten Entfernung von Internetinhalten V o r b e m e r k u n g d e r F r a g e s t e l l e r Auf Initiative der neuseeländischen Premierministerin Jacinda Ardern und des französischen Präsidenten Emmanuel Macron haben 16 Internetkonzerne und 17 Regierungen, darunter auch die Bundesregierung, in Paris den „Christchurch -Aufruf“ verabschiedet (www.christchurchcall.com/call.html). Hintergrund ist das Massaker in der gleichnamigen Stadt in Neuseeland, bei dem der australische Rechtsextremist B. T. in zwei Moscheen 51 Menschen ermordet und seine Taten im Internet gestreamt hat. T., der Kontakte zu den „Identitären“ in Österreich pflegte, steht jetzt als Terrorist vor Gericht („Christchurch-Attentäter wegen Terrorismus angeklagt“, www.spiegel.de vom 15. Mai 2019). Mit dem „Christchurch-Aufruf“ soll die Verbreitung von extremistischem oder terroristischem Material im Internet erschwert werden. Die Unterzeichner bekräftigen den Willen zu „transparenten und zielgerichteten Maßnahmen“, um „terroristische und gewalttätige extremistische Inhalte“ mit automatisierten Verfahren zu erkennen und das erneute Hochladen zu verhindern (http://gleft. de/2Vp). Es ist aber unklar, wie sich der gemeinsame Appell von bereits existierenden Initiativen unterscheidet („Counterterrorism experts on why we must engage with online extremists“, www.noted.co.nz vom 22. Mai 2019). Google, Facebook und Twitter haben zur Entfernung von Internetinhalten im Jahr 2017 ein „Global Internet Forum to Counter Terrorism“ (GIFCT) gegründet (https:// www.gifct.org). Dabei geht es nicht um Maßnahmen nach einem richterlichen Beschluss, sondern um die Einhaltung der Gemeinschaftsstandards der Unternehmen . Das GIFCT trat erstmals auf dem Treffen der G7-Innenminister in Erscheinung (http://gleft.de/2Vl). In ihrer Abschlusserklärung hatten die Minister mit dem GIFCT eine gemeinsame Erklärung verabschiedet, die als erste Forderung Uploadfilter nennt. Für die Erkennung zu löschender Inhalte sollen die Firmen ihre 2016 gestartete Datenbank mit Hashwerten inkriminierter Dateien ausbauen. Außerdem sollen sie ihre Erkenntnisse und Technologien mit kleineren Firmen Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/10988 – 2 – Deutscher Bundestag – 19. Wahlperiode teilen sowie in Forschungen zu neuen Lösungen investieren. Bei der Polizeiorganisation Interpol soll die Einrichtung einer „Meldestelle für Internetinhalte“ geprüft werden, „um terroristische Inhalte zu sammeln und zu verwerten, die von der Wirtschaft und nationalen Behörden gemeldet wurden“ (Bundestagsdrucksache 19/159, Antwort zu Frage 14). Schließlich soll die „Zivilgesellschaft “ in der Entwicklung von „Gegenerzählungen“ gestärkt werden. Seit 2015 organisierte die Europäische Kommission das „EU-Internetforum“, in dem sich Regierungen, die Polizeiagentur Europol und zahlreichen Internetfirmen zur „Bekämpfung von Anstiftung zu Terrorismus und Hassreden in Online- Medien“ organisieren (Pressemitteilung der EU-Kommission vom 3. Dezember 2015). Europol betreibt bereits eine „Meldestelle für Internetinhalte“ mit nationalen Abteilungen in jedem EU-Mitgliedstaat, die ohne richterlichen Beschluss Internetfirmen bitten, bestimmte Dateien zu löschen (Bundestagsdrucksache 19/9623). Derzeit können die Internetfirmen noch frei entscheiden, wie sie den Meldungen nachkommen. Im Herbst legte die EU-Kommission ihren Vorschlag für eine Verordnung zur „Verhinderung der Verbreitung terroristischer Online-Inhalte“ vor. Damit würden Dienstleister im Internet nach Willen von EU-Kommission und Rat gezwungen , „terroristische“ Dateien schnellstmöglich zu entfernen. Hierzu sollen die Strafverfolgungsbehörden Anordnungen erlassen, denen innerhalb einer Stunde entsprochen werden muss. Bei diesen „automatisierten Werkzeugen“ handelt es sich um Uploadfilter. Nachdem die EU-Staaten Anfang Dezember 2018 ihre Verhandlungsposition zu der geplanten Verordnung festgelegt haben (http://gleft.de/2Vn), einigte sich das EU-Parlament Mitte April 2019 auf seinen Standpunkt (http://gleft.de/2Vo). Die Abgeordneten sprachen sich zwar für kurze Löschfristen aus, allerdings sollten die Firmen nicht zur Installation von Uploadfiltern gezwungen werden. Die Entfernungsanordnungen dürften laut dem EU-Parlament auch nicht grenzüberschreitend ausgesprochen werden. Nach der EU-Wahl soll die Verordnung unter der ab Juli 2019 amtierenden finnischen EU-Ratspräsidentschaft möglichst rasch endgültig verabschiedet werden. Vermutlich im Herbst werden die Trilog-Verhandlungen zur Diskussion der Standpunkte von Rat und Parlament beginnen. 1. Aus welchen Erwägungen hat die Bundesregierung den „Christchurch-Aufruf “, in dem die schnellere Erkennung „terroristischer und gewalttätiger extremistischer Inhalte“ und die Verhinderung eines erneuten Hochladens mit automatisierten Verfahren unterstützt werden soll, unterzeichnet? Die Verhinderung der Verbreitung terroristischer Inhalte im Internet ist ein zentrales Anliegen der Bundesregierung. Im Falle von Christchurch erfolgte die Ausnutzung des Internets für rechtsterroristische Zwecke. Die Breitenwirkung des Live-Streams und die millionenfach wiederholten Uploads der Videodatei stellen aus Sicht der Bundesregierung eine neue Dimension des Missbrauchs des Internets zur Verbreitung terroristischer Online-Inhalte dar. Trotz der seitens der Internetwirtschaft durchgeführten Maßnahmen konnte eine massenhafte Verbreitung der Videodatei nicht effektiv verhindert werden. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 3 – Drucksache 19/10988 2. Welche bereits existierenden globalen oder europäischen Initiativen von Firmen , Regierungen oder Instituten gegen die Verbreitung von extremistischem oder terroristischem Material im Internet sind der Bundesregierung bekannt, und an welchen dieser Initiativen beteiligt sie sich? Die Bundesregierung beteiligt sich am EU Internet Forum. Das EU Internet Forum wurde 2015 von der EU-Kommission gegründet, um die Verhinderung der Verbreitung terroristischer Online-Inhalte in Zusammenarbeit mit den EU-Mitgliedstaaten und der Internetwirtschaft zu verbessern. Die Bundesregierung befürwortet die Aktivitäten der Internetwirtschaft im Rahmen des Global Internet Forum to Counter Terrorism (GIFCT). Das Forum dient dem Wissenstransfer innerhalb der Industrie und zielt allen voran auf die Unterstützung kleinerer durch größere Unternehmen ab. Eine vergleichbare Zielrichtung hat die Initiative Tech Against Terrorism, die auf das United Nations Counter Terrorism Executive Directorate (UN CTED) zurückgeht. Neben einem Wissenstransfer steht für Tech Against Terrorism der Schutz von Menschenrechten und die Durchführung von Forschungsvorhaben zur Thematik im Vordergrund. Im Rahmen der Globalen Anti-IS-Koalition arbeitet die Bundesregierung in der Com-munications Working Group (CWG) mit. Eines der Ziele der CWG ist die Koordination des Engagements der Koalitionsmitglieder mit Kommunikationsdienstleistern (Communication Service Providers), um die Sichtbarkeit der Propaganda des sog. Islamischen Staates zu verringern. Weiterhin ist der Bundesregierung bekannt, dass sich der Aqaba-Prozess seit Februar 2019 auch der Verhinderung der Verbreitung terroristischer Online-Inhalte widmet. 3. An welchen dieser Initiativen beteiligt sich nach Kenntnis der Bundesregierung die Europäische Union stellvertretend für ihre Mitgliedstaaten? Nach Kenntnis der Bundesregierung beteiligt sich die Europäische Union an keiner der genannten Initiativen stellvertretend für ihre Mitgliedstaaten. 4. Welche Anstrengungen unternehmen nach Kenntnis der Bundesregierung die G20-Regierungen gegen die Verbreitung von extremistischem oder terroristischem Material im Internet (vgl. www.christchurchcall.com/ call.html), welche Maßnahmen wurden dazu beschlossen, und wer setzt diese um? In ihrer Erklärung vom 7. Juli 2017 hatten die G20-Staats- und Regierungschefs angekündigt, mit dem Privatsektor, insbesondere mit Kommunikationsdienstleistern und den Administratoren einschlägiger Anwendungen, zusammenzuarbeiten, um den Missbrauch des Internets und der sozialen Medien für terroristische Zwecke zu bekämpfen und dabei die Menschenrechte uneingeschränkt achten. Sie haben die Industrie ermutigt, weiter in Technologie und Personal zu investieren, um beim Aufspüren sowie bei der zügigen und dauerhaften Entfernung terroristischer Inhalte zu helfen. Darüber hinaus bekräftigten die G20-Digitalminister am 8. Juni 2019 ihre Bereitschaft zur Bekämpfung des Missbrauchs des Internets für terroristische und gewalttätig extremistische Zwecke sowie zur Förderung eines freien, offenen und sicheren Internets. Hierzu ermunterten die G20-Digitalminister die Digitalwirtschaft zur Zusammenarbeit mit allen Stakeholdern. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/10988 – 4 – Deutscher Bundestag – 19. Wahlperiode a) Was ist der Bundesregierung über entsprechende Arbeitsgruppen oder Maßnahmen des Global Counterterrorism Forum (GCTF) bekannt? Die GCTF- Arbeitsgruppe CVE (Vorsitz CHE/NIG) hat nach Kenntnis der Bundesregierung in den Jahren 2016/2017 eine „Strategic Communications – Initiative “ ins Leben gerufen, aus welcher die „Zurich-London Recommendations on Preventing and Countering Violent Extremism and Terrorism Online“ entwickelt wurden. Darauf aufbauend will die GCTF ein Toolkit entwickeln (Policy Toolkit on the Zurich-London Recommendations on Preventing and Countering Violent Extremism and Terrorism Online). b) Was ist der Bundesregierung über Beteiligte und Maßnahmen der im „Christchurch-Aufruf“ erwähnten Initiativen „Tech gegen Terrorismus“ und den „Aqaba-Prozess“ Jordaniens bekannt? Bei Tech Against Terrorism handelt es sich um eine UN-Initiative, die von staatlichen Trägern sowie von der Internetwirtschaft finanziert wird. Tech Against Terrorism arbeitet mit der Internetwirtschaft, akademischen Institutionen sowie zivilgesellschaftlichen Akteuren zusammen. Im Übrigen wird auf den Internetauftritt der Initiative verwiesen. Nach Kenntnis der Bundesregierung beteiligen sich an den auf die Verhinderung der Verbreitung von terroristischen Online-Inhalten ausgerichteten Aktivitäten des Aqaba-Prozesses die Europäische Union, nationale Regierungen, internationale Organisationen sowie Unternehmen der Internetwirtschaft. Im Übrigen wird auf die Antwort zu Frage 2 verwiesen. 5. Wie unterscheiden sich die bereits existierenden Initiativen aus Sicht der Bundesregierung hinsichtlich der dort beschriebenen Maßnahmen vom „Christchurch-Aufruf“ (etwa durch die Entwicklung von „Gegenerzählungen “ im Internet), bzw. welchen Mehrwert soll dieser erzielen? Beim Christchurch Call handelt es sich um eine gemeinsame Absichtserklärung von Staaten und Internetunternehmen zur verstärkten Zusammenarbeit bei der Verhinderung der Verbreitung terroristischer und extremistischer Online-Inhalte. Inhaltlich besteht ein enger Bezug zu der konkreten Art des Missbrauchs des Internets für terroristische Zwecke im Falle des Christchurch-Attentats, im Besonderen die Live-Übertragung einer terroristischen Tat und die massenhafte Verbreitung der Videodatei. Im Übrigen wird auf die Antwort zu Frage 1 verwiesen. 6. Ist das „Global Internet Forum to Counter Terrorism“ (GIFCT) nach Kenntnis der Bundesregierung noch existent, und an welchen Vorhaben oder Maßnahmen arbeitet dieses derzeit? Beim GIFCT handelt es sich um ein Forum, welches maßgeblich von der Internetwirtschaft betrieben wird. Das GIFCT ist nach Kenntnis der Bundesregierung weiterhin existent. Im Übrigen wird auf die Antwort zu Frage 2 verwiesen. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 5 – Drucksache 19/10988 a) Auf welche Weise arbeitet die Bundesregierung bzw. die G7 nach Kenntnis der Bundesregierung derzeit mit dem GIFCT zusammen? Die Bundesregierung steht mit dem GIFCT, respektive mit einzelnen im GIFCT vertretenen Unternehmen, im Austausch. Darüber hinaus waren einzelne im GIFCT vertretene Unternehmen auch beim Treffen der G7-Innenminister am 4./5. April 2019 in Paris vertreten. b) Wie wurde das Vorhaben, für die Erkennung zu löschender Inhalte die von Internetunternehmen im Jahr 2016 gestartete Datenbank mit Hashwerten auszubauen, umgesetzt (http://gleft.de/2Vl)? c) Wie viele Unternehmen nehmen an der Datenbank teil? Die Fragen 6b und 6c werden gemeinsam beantwortet. Das GIFCT betreibt eine Hashwert-Datenbank. Die Anzahl der hieran partizipierenden Unternehmen ist der Bundesregierung nicht bekannt. 7. Welche weiteren, von Internetunternehmen geführten Datenbanken mit Hashwerten für die Erkennung zu löschender Inhalte bzw. zur Verhinderung ihres erneuten Hochladens sind der Bundesregierung bekannt? Weitere Datenbanken der beschriebenen Art sind der Bundesregierung nicht bekannt . 8. Was ergab nach Kenntnis der Bundesregierung die Prüfung, bei der Polizeiorganisation Interpol eine „Meldestelle für Internetinhalte“ einzurichten, „um terroristische Inhalte zu sammeln und zu verwerten, die von der Wirtschaft und nationalen Behörden gemeldet wurden“ (Bundestagsdrucksache 19/159, Frage 14)? Sofern eine solche Meldestelle bei Interpol nicht eingerichtet werden soll, welche Gründe sind der Bundesregierung hierzu bekannt? Nach dem Kenntnisstand der Bundesregierung ist die Prüfung noch nicht abgeschlossen . 9. Mit welchen Maßnahmen will es die Bundesregierung wie im „Christchurch- Aufruf“ versprochen umsetzen, Terrorismus und gewalttätigem Extremismus Einhalt zu gebieten? Auf die Antwort zu den Fragen 9a und 9b wird verwiesen. a) Wie will die Bundesregierung die „Stärkung der Widerstandsfähigkeit und Inklusivität unserer Gesellschaften“ umsetzen? Angriffe auf Demokratie und Rechtsstaatlichkeit sowie Phänomene gruppenbezogener Menschenfeindlichkeit sind eine dauerhafte Herausforderung für die gesamte Gesellschaft. Übergeordnetes Ziel der Bundesregierung ist es, durch Prävention von Radikalisierung und Gewalt zu einer demokratischen und sicheren Gesellschaft beizutragen, den Schutz und die Achtung der Menschenwürde und den gesellschaftlichen Zusammenhalt in einer durch Vielfalt geprägten Gesellschaft zu stärken und mit umfassenden Beratungsstrukturen diejenigen zu unterstützen , die sich vor Ort und im Netz für Demokratie einsetzen. Die Bundesprogramme im Bereich Extremismusprävention und Demokratieförderung sollen da- Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/10988 – 6 – Deutscher Bundestag – 19. Wahlperiode her in der aktuellen Legislaturperiode nachhaltig abgesichert und ausgebaut werden . Zentrale Säulen der Strategie der Bundesregierung zur Extremismusprävention und Demokratieförderung sind die bereits seit vielen Jahren laufenden und verstetigten Bundesprogramme „Demokratie leben!“ des Bundesministeriums für Familie, Senioren, Frauen und Jugend (BMFSFJ) sowie „Zusammenhalt durch Teilhabe“ des Bundesministeriums des Innern, für Bau und Heimat (BMI), die kontinuierlich weiterentwickelt werden. Gleichzeitig setzt sich die Bundesregierung im Rahmen des Bundesprogramms „Demokratie leben!“ mit der Förderung von 34 Modellprojekten seit 2017 für die Stärkung des Engagements im Netz und gegen Hass im Netz ein. Damit soll die Medienkompetenz von Kindern und Jugendlichen im Umgang mit Hassrede, Hetze und Diskriminierung im Internet gestärkt und die Fachpraxis in diesem Themenfeld weiterentwickelt werden. Auch Multiplikatorinnen und Multiplikatoren sowie Bezugspersonen von Kindern und Jugendlichen sollen befähigt werden , menschenfeindliche Inhalte im Netz zu erkennen und darauf reagieren zu können. Dies bezieht sich auf menschenfeindliche Inhalte aller Art. Ein weiteres Ziel des phänomenübergreifend angelegten Programmbereichs ist die Befähigung junger Menschen, sich für eine vielfältige demokratische Gesellschaft und für ein respektvolles Miteinander zu engagieren. Der im Rahmen des Bundesprogramms geförderte Träger jugendschutz.net recherchiert als gemeinsames Kompetenzzentrum von Bund und Ländern für den Jugendschutz im Internet die Gefahren und Risiken in jugendaffinen Diensten. Die Arbeit umfasst ein kontinuierliches Monitoring jugendaffiner rechtsextremer und islamistischer Propaganda im Netz, Maßnahmen zur Löschung und zur rechtlichen Ahndung von Verstößen, die Zusammenarbeit mit nationalen und internationalen Akteuren sowie Aktivitäten zur Information und Prävention in der pädagogischen Praxis. Plattformbetreiber werden auf Verstöße aufmerksam gemacht und im Bereich des jugendschutzrelevanten politischen Extremismus geschult. Darüber hinaus tragen Maßnahmen der politischen Bildung dazu bei, das demokratische Bewusstsein zu festigen und die Bereitschaft zur politischen Mitarbeit zu stärken. Die im Geschäftsbereich des BMI angesiedelte Bundeszentrale für politische Bildung (BpB) engagiert sich als Regelaufgabe dauerhaft mit verschiedenen Maßnahmen politischer Bildung insbesondere in der Extremismusprävention . Die Angebote reichen von Publikationen und Online-Dossiers über präventiv angelegte Projektförderungen von Modellvorhaben bis zu Handreichungen und Netzwerken für Multiplikatoren. Sie schließen die Arbeit mit extremistisch gefährdeten Jugendlichen ebenso ein wie die Trägerförderung in diesem Bereich. Gemeinsames Ziel dieser Angebote ist es, durch Aufklärungsarbeit extremistischen Haltungen, Auffassungen und Positionen entgegenzuwirken. Der Sensibilisierung , Aufklärung und Information von Internetnutzern sowie der Stärkung der Medienkompetenz kommt hierbei eine besondere Bedeutung zu. b) Welche „Industriestandards“ zur medialen Berichterstattung über Terroranschläge hält die Bundesregierung für geeignet, und wie beteiligt sie sich an deren Entwicklung? Die Bundesregierung begrüßt und fördert die Etablierung selbstregulativer Standards der Medienbranche. Auf nationaler Ebene unterstützt der Bund den Deutschen Presserat in der Weise, als dieser zur Gewährleistung seiner Unabhängigkeit bei der Wahrnehmung seiner Aufgabe zur Feststellung und Beseitigung von Missständen im Pressewesen alljährlich und auf Grundlage eines Gesetzes einen Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 7 – Drucksache 19/10988 Zuschuss aus dem Bundeshaushalt von derzeit 223 000 Euro erhält. Der Zuschuss ist zweckgebunden für die Tätigkeit des Beschwerdeausschusses des Deutschen Presserats und an keine weiteren Voraussetzungen gebunden. Auf internationaler Ebene hat die Bundesregierung bei der „Journalism Trust Initiative “ einen Beobachterstatus. Mit dieser Initiative will die Organisation Reporter ohne Grenzen einen internationalen Standard für solche journalistische Arbeitsweisen setzen, die qualitativ hochwertigen Journalismus kennzeichnen. Zu beachten ist, dass diese Initiative keinen Einfluss auf journalistische Inhalte nehmen will, sondern die Methoden journalistischen Arbeitens in den Blick nimmt. Bezüglich des Engagements der Bundesregierung beim EU Internet Forum und Global Internet Forum to Counter Terrorism (GIFCT) wird auf die Antworten zu den Fragen 2, 6, 6a, 6b, 6c, 11 und 11a verwiesen. c) Welche „Kapazitätsaufbaumaßnahmen“ sollten auch kleinere Onlinediensteanbieter durchführen müssen, und inwiefern sollten diese freiwillig bleiben? Nach Ansicht der Bundesregierung sollten Kapazitätsaufbaumaßnahmen in Abhängigkeit von der faktischen Betroffenheit eines Unternehmens von terroristischen Online-Inhalten durchgeführt werden. Entsprechend hat sich die Bundesregierung im Rahmen der bisherigen Verhandlungen auf EU-Ebene bzgl. des Entwurfs einer Verordnung (EU) zur Verhinderung der Verbreitung terroristischer Online-Inhalte für die Durchführung von Risikoanalysen ausgesprochen. d) Welche Verfahren sind geeignet, Internetnutzer „von terroristischen und gewalttätigen extremistischen Inhalten umzuleiten“ („redirect users from terrorist and violent extremist content“)? Die Auswahl geeigneter Verfahren hängt maßgeblich von der jeweils betroffenen Plattform ab. Die Einschätzung der Eignung obliegt den jeweiligen Unternehmen im konkreten Einzelfall. e) Mit welchen Verfahren könnten Regierungen und Internetanbieter auf die Verbreitung von terroristischen oder gewalttätigen extremistischen Inhalten weltweit reagieren, und was ist mit der „Entwicklung eines gemeinsamen Krisenprotokolls“ („shared crisis protocol and informationsharing processes“) gemeint? Im Nachgang der Anschläge von Christchurch wurde deutlich, dass insbesondere beim Live-Streaming von Anschlägen einer schnellstmöglichen Reaktion diverser Akteure eine herausgehobene Bedeutung zukommt. Welche konkreten Maßnahmen in vergleichbaren Fällen durch die betroffenen Akteure durchgeführt werden sollten, ist Gegenstand von Diskussionen in den in der Antwort zu Frage 2 genannten internationalen bzw. multilateralen Foren. f) Wie und von wem wird sichergestellt, dass sich die zahlreichen, im „Christchurch-Aufruf“ versprochenen Initiativen nicht duplizieren? Eine Dopplung von Initiativen gilt es durch alle am Christchurch-Call beteiligten Akteure zu vermeiden. Innerhalb der Bundesregierung tragen das Bundesministerium des Innern, für Bau und Heimat als fachlich zuständiges Ressort und das Bundeskanzleramt hierfür Sorge. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/10988 – 8 – Deutscher Bundestag – 19. Wahlperiode 10. Auf welche Weise und in welchem Rahmen steht die Verhinderung der Verbreitung von terroristischen oder gewalttätigen extremistischen Inhalten nach Kenntnis der Bundesregierung auch auf der Agenda des G7-Gipfels in Biarritz/Frankreich? Die Agenda für den G7-Gipfel in Biarritz liegt der Bundesregierung noch nicht vor. 11. Welche Treffen des „EU-Internetforum“ haben nach Kenntnis der Bundesregierung (auch mit Drittstaaten und Unternehmen aus den USA) im Jahr 2019 stattgefunden, und welche weiteren sind geplant? a) Welche wesentlichen Ergebnisse dieser Treffen sind der Bundesregierung in den zuständigen EU-Ratsarbeitsgruppen bekannt geworden? Die Fragen 11 und 11a werden gemeinsam beantwortet. Das EU Internet Forum tagte zuletzt am 6. Mai 2019. Hier fand das 4. Senior Officials Meeting statt. Bzgl. der Ergebnisse wird auf die Antwort der Bundesregierung auf die Schriftliche Frage 39 des Abgeordneten Alexander Ulrich auf Bundestagsdrucksache 19/10765 verwiesen. Weitere Sitzungen des EU Internet Forum fanden nach Kenntnis der Bundesregierung in 2019 nicht statt. b) Aus welchen Gründen hat sich die US-Regierung nach Kenntnis der Bundesregierung dem „Christchurch-Aufruf“ nicht angeschlossen? Hierzu liegen der Bundesregierung keine Informationen vor. 12. Welche Haltung vertrat die Bundesregierung in den Diskussionen um die Verordnung zur „Verhinderung der Verbreitung terroristischer Online-Inhalte “ hinsichtlich der Frage, ob Internetunternehmen zur Installation von Uploadfiltern gezwungen werden sollen, wie es das EU-Parlament in seinem am 17. April 2019 angenommen Standpunkt ablehnt? Die allgemeine Ausrichtung des Verordnungsvorschlags zur Verhinderung der Verbreitung terroristischer Online-Inhalte (Ratsdokument 15336/18) enthält in Artikel 6 und den dazugehörigen Erwägungsgründen Regelungen zu proaktiven Maßnahmen. Dieser Textfassung hat die Bundesregierung in der Sitzung des Rats „Justiz und Inneres“ vom 6. Dezember 2018 zugestimmt. Im Trilog mit dem Europäischen Parlament sollten nach Ansicht der Bundesregierung noch weitere Verbesserungen erzielt werden, um insbesondere den Rechtsschutz weiter auszugestalten . a) Welche „automatisierten Werkzeuge“ bzw. Verfahren sind der Bundesregierung zur Erkennung des Hochladens von bereits entfernten Dateien bekannt , und welche dieser Maßnahmen hält sie im Rahmen der Verordnung zur „Verhinderung der Verbreitung terroristischer Online-Inhalte“ für geeignet ? Der Bundesregierung ist bekannt, dass Unternehmen zur Erkennung des Hochladens von bereits entfernten Dateien sowohl kommerziell erhältliche Werkzeuge als auch Eigenentwicklungen nutzen können, die diese Funktion effektiv und effizient ausüben. Mithin obliegt die Auswahl und Implementierung geeigneter proaktiver Maßnahmen den Unternehmen selbst. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 9 – Drucksache 19/10988 b) Aus welchen Erwägungen sollten Entfernungsanordnungen aus Sicht der Bundesregierung im Rahmen der Verordnung grenzüberschreitend ausgesprochen werden dürfen? Nach Ansicht der Bundesregierung können grenzüberschreitende Entfernungsanordnungen zum effektiven Schutz der Bürger vor rechtswidrigen Online-Inhalten beitragen, die auf Plattformen von Unternehmen mit Sitz im EU-Ausland verbreitet werden. 13. Unter welchen Umständen befürwortet es die Bundesregierung, wenn die US-Regierung im Rahmen eines von der EU-Kommission verhandelten Durchführungsabkommens auf Basis des „CLOUD Act“ auch Echtzeitüberwachungsmaßnahmen in der Europäischen Union durchführen dürfte (Ratsdokument 6569/19), und wie hat sie sich im Rahmen der Diskussionen um das Verhandlungsmandat der EU-Kommission dazu positioniert, ob diese Möglichkeit zur Echtzeitüberwachung in dem Entwurf genannt werden sollte oder nicht? Das geplante Abkommen zwischen der Europäischen Union und den Vereinigten Staaten von Amerika über den grenzüberschreitenden Zugang zu elektronischen Beweismitteln für die justizielle Zusammenarbeit in Strafsachen (Abkommen) soll die derzeit auf europäischer Ebene in Beratung befindliche Verordnung über Europäische Herausgabeanordnungen und Sicherungsanordnungen für elektronische Beweismittel in Strafsachen (EPOC-VO) ergänzen. Die unmittelbare grenzüberschreitende Abfrage von elektronischen Daten in Echtzeit bei Providern durch Strafverfolgungsbehörden unterfällt – anders als dies im US CLOUD Act geregelt ist – nicht dem Anwendungsbereich der EPOC-VO. Die Bundesregierung ist deshalb der Ansicht, dass auch das geplante Abkommen zwischen der Europäischen Union und den Vereinigten Staaten von Amerika die Abfrage von Echtzeitdaten nicht vorsehen sollte. Die Bundesregierung hat sich insoweit in den Verhandlungen zum Verhandlungsmandat für die Europäische Kommission und zu den das Mandat begleitenden Verhandlungsleitlinien dafür eingesetzt, die Echtzeitdatenabfrage ausdrücklich auszunehmen. Die dem JI-Rat am 6./7. Juni 2019 zur Annahme vorgelegte Textfassung von Mandat und Verhandlungsleitlinien verhält sich zu der unmittelbaren grenzüberschreitenden Abfrage von Echtzeitdaten nicht. Die Bundesregierung hat sich im JI-Rat enthalten. 14. Welcher externe Dienstleister ist für die Datenerhebung im Rahmen der Lagebilderstellung des Bundesnachrichtendienstes bzw. des Bundeskanzleramts zuständig, bei der „sicherheitsrelevante Ereignisse“ analysiert werden sollen (Bundestagsdrucksache 19/10391, Antwort zu Frage 3), und welche Details kann die Bundesregierung zur Funktionsweise des Systems mitteilen ? Die Antwort zu Frage 14 kann nicht offen erfolgen. Eine Einstufung der Antwort auf die Frage als Verschlusssache (VS) mit dem Geheimhaltungsgrad „VS – Nur für den Dienstgebrauch“ ist im vorliegenden Fall im Hinblick auf das Staatswohl erforderlich. Nach § 2 Absatz 2 Nummer 4 der Allgemeinen Verwaltungsvorschrift zum materiellen Geheimschutz vom 10. August 2018 (Verschlusssachenanweisung, VSA) sind Informationen, deren Kenntnisnahme durch Unbefugte für die Interessen der Bundesrepublik Deutschland oder eines ihrer Länder nachteilig sein können , entsprechend einzustufen. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/10988 – 10 – Deutscher Bundestag – 19. Wahlperiode Eine zur Veröffentlichung bestimmte Antwort der Bundesregierung auf diese Frage würde Informationen zu dem Modus Operandi sowie den Fähigkeiten und Methoden des Bundesnachrichtendienstes einem nicht eingrenzbaren Personenkreis nicht nur im Inland, sondern auch im Ausland zugänglich machen. Eine solche Veröffentlichung von Einzelheiten ist daher geeignet, zu einer wesentlichen Verschlechterung der dem BND zur Verfügung stehenden Möglichkeiten der Informationsgewinnung zu führen. Dies kann für die wirksame Erfüllung der gesetzlichen Aufgaben der Nachrichtendienste und damit für die Interessen der Bundesrepublik Deutschland nachteilig sein. Diese Informationen werden daher als „VS – Nur für den Dienstgebrauch“ eingestuft und dem Deutschen Bundestag gesondert übermittelt.* 15. Welche technischen Details kann die Bundesregierung zur Erweiterung des Abgleichsystems beim BKA mitteilen, das für das PNR-System für 2,3 Mio. Euro erweitert wurde (Bundestagsdrucksache 19/10431, Antwort zu Frage 17a), und wer führte bzw. führt diese Erweiterung (auch als Unterauftragnehmer ) durch? Das Abgleichsystem des BKA wurde für PNR vor allem um den Urkundenabgleich erweitert und für die zu erwartende hohe Anfragelast optimiert. Das Abgleichsystem wird zudem kontinuierlich optimiert und um weitere Attribute aus den angeschlossenen polizeilichen Systemen (INPOL, N.SIS) ergänzt. Das Abgleichsystem wird im BKA entwickelt. Das Entwicklungsteam wird durch externe Mitarbeiter unterstützt. 16. Inwiefern war auch das Bundeskriminalamt (BKA) nach dem Christchurch- Massaker in die Erkennung und Meldung von rechtsradikalen Internetvideos involviert, welche Zahlen kann die Bundesregierung hierzu mitteilen, und an welche Provider ergingen entsprechende Hinweise zur Entfernung? Im Rahmen der Internetrecherche zu Hintergründen des Christchurch-Anschlags in Neuseeland konnten seitens des BKA vermehrt Hinweise auf Webseiten im Internet festgestellt werden, auf denen das Tatvideo veröffentlicht wurde. Es handelte sich hierbei ausschließlich um Webseiten ausländischer Provider. Die betreffenden Staaten wurden über den internationalen polizeilichen Meldeweg hierüber informiert, eine statistische Erfassung dieser Fälle erfolgte nicht. Im Nachgang der Anschläge von Christchurch wurden die Landeskriminalämter durch das BKA betreffend der Veröffentlichung des Anschlagsvideos im Internet informiert und sensibilisiert. Die Landeskriminalämter wurden in diesem Zusammenhang gebeten, bei entsprechender Feststellung des Videos ggf. eine Löschung in eigener Zuständigkeit oder – im Falle ausländischer Provider – eine Meldung an das BKA zu veranlassen. Eine quantitative Erfassung solcher Meldungen erfolgt nicht. * Das Bundesministerium des Inneren, für Bau und Heimat hat die Antwort als „VS – Nur für den Dienstgebrauch eingestuft. Die Antwort ist im Parlamentssekretariat des Deutschen Bundestages hinterlegt und kann dort von Berechtigten eingesehen werden. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 11 – Drucksache 19/10988 17. In wie vielen Fällen wurde den von der „nationalen Meldestelle für Internetinhalte “ des BKA seit Oktober 2018 über den Europol-Kanal verschickten 6 000 Meldungen zur Entfernung von Internetinhalten nachgekommen (Bundestagsdrucksache 19/9623)? Die Fragen 17 und 17b werden gemeinsam beantwortet. Nach Auskunft Europols erfolgte eine Umsetzung von 2 800 der genannten 6 000 Meldungen, die das BKA im vierten Quartal 2018 und im ersten Quartal 2019 abgesetzt hat. a) Inwiefern überwacht das BKA mithilfe der bei Europol angesiedelten „Internet Referral Management Application“ (IRMa), ob die Inhalte tatsächlich entfernt wurden? Das BKA überwacht weder mit der „Internet Referral Management Application“ (IRMa), noch auf anderem Wege, ob die vom BKA gemeldeten Internetinhalte von den Providern gelöscht werden. b) Wie viele der Meldungen wurden dementsprechend umgesetzt? 18. Ist die Europol-Plattform „Internet Referral Management Application“ (IRMa) aus Sicht der Bundesregierung und nach den Erfahrungen der Teilnahme des BKA geeignet, auch Herausgabeanordnungen zu verwalten, womit die Europol-Investitionen in das Projekt „PERCl“ womöglich überflüssig wären? Nach Kenntnis der Bundesregierung dient IRMa der Verwaltung von Meldungen. Über eine Eignung zur Verwaltung von Herausgabeanordnungen liegen der Bundesregierung keine Kenntnisse vor. a) Ist die Antwort des Bundesministeriums des Innern, für Bau und Heimat auf die Schriftliche Frage 28 des Abgeordneten Andrej Hunko auf Bundestagsdrucksache 19/10535 so zu verstehen, dass Europol erst mit dem Aufbau von „PERCI“ beginnt, nachdem die EU-Verordnung zur Verhinderung der Verbreitung terroristischer Online-Inhalte endgültig beschlossen ist? Die Bundesregierung hat keine Erkenntnisse darüber, wann Europol mit dem Aufbau von PERCI beginnen will. Nach Kenntnis der Bundesregierung ist die Verabschiedung der EU-Verordnung zur Verhinderung der Verbreitung terroristischer Online-Inhalte eine Bedingung für den Aufbau von PERCI. b) Was ist der Bundesregierung aus ihrer Teilnahme am Projekt „IRMa“ darüber bekannt, für welche technischen Maßnahmen die Polizeiagentur Europol 6 Mio. Euro veranschlagt, um im Projekt „PERCI“ die technische Infrastruktur für grenzüberschreitende Entfernungsanordnungen zu errichten (http://gleft.de/2Vr)? Die Bundesregierung hat keine Kenntnis, für welche technischen Maßnahmen diese Mittel veranschlagt werden. Vorabfassung - w ird durch die lektorierte Version ersetzt. Satz: Satzweiss.com Print, Web, Software GmbH, Mainzer Straße 116, 66121 Saarbrücken, www.satzweiss.com Druck: Printsystem GmbH, Schafwäsche 1-3, 71296 Heimsheim, www.printsystem.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333