Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums des Innern, für Bau und Heimat vom 18. April 2019 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext. Deutscher Bundestag Drucksache 19/9623 19. Wahlperiode 24.04.2019 Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Andrej Hunko, Heike Hänsel, Ulla Jelpke, weiterer Abgeordneter und der Fraktion DIE LINKE. –Drucksache 19/9113 – Teilnahme des Bundeskriminalamts am EU-Pilotprojekt zur Entfernung von Internetinhalten (Nachfrage zur Antwort der Bundesregierung auf die Kleine Anfrage auf Bundesdrucksache 19/8573) V o r b e m e r k u n g d e r F r a g e s t e l l e r Zur Verwaltung von Meldungen („Referrals“) an Internetfirmen betreibt Europol eine „Internet Referral Management Application“ (IRMA). Die Datenbank soll dabei helfen zu erkennen, welche Accounts oder Inhalte bereits zur Entfernung gemeldet wurden, sodass eine zweite Meldung nicht mehr nötig ist (vgl. Drucksache des Europäischen Parlaments E-000025/2018, Antwort von Dimitris Avramopoulos im Namen der Europäischen Kommission vom 30. März 2018). Einige Internetinhalte werden von Polizei- oder Geheimdiensten beobachtet und sollen deshalb online bleiben. IRMA dient deshalb zur Abstimmung , damit diese im Rahmen der Strafverfolgung oder Gefahrenabwehr genutzt werden können. Das Bundeskriminalamt (BKA) nimmt jetzt an einem Probebetrieb von IRMA teil (Antwort der Bundesregierung auf Bundestagsdrucksache 19/8573, Frage 1). Die Datenbank ist Bestandteil der geplanten Verordnung zur Verhinderung der Verbreitung terroristischer Online-Inhalte (KOM(2018) 640) vom 12. September 2018. Darin sollen Internetfirmen zu noch mehr und noch schnelleren Löschungen gezwungen werden. Aus Sicht der Fragestellerinnen und Fragesteller stellen die darin ebenfalls geforderten Uploadfilter für bereits entferntes Material und die geforderten „proaktiven Maßnahmen“ (Ratsdokument 15336/18) einen nie dagewesenen Eingriff in die Freiheit des Internet dar. Das BKA darf sich an solchen Technologien auch nicht für Tests beteiligen. Mit der polizeilichen IRMA-Datenbank können die Behörden Druck auf die Unternehmen ausüben , bei Nichterfüllung der Ersuchen drohen gemäß der vorgeschlagenen Verordnung zur Verhinderung der Verbreitung terroristischer Online-Inhalte hohe Strafen. Aus Sicht der Fragestellerinnen und Fragesteller kommen die Firmen ihren Verpflichtungen bereits in großem Umfang nach, das hat zuletzt der Umgang mit den Aufnahmen des Massakers in Christchurch gezeigt. Die EU-Kommission hat mit den großen Internetunternehmen außerdem einen „Verhaltenskodex zu illegalen Online-Inhalten“ verabschiedet, der erst kürzlich positiv bewertet Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/9623 – 2 – Deutscher Bundestag – 19. Wahlperiode wurde („Bekämpfung illegaler Hetze im Internet – EU-Verhaltenskodex gewährleistet rasche Reaktionen“, Pressemitteilung EU-Kommission vom 4. Februar 2019). Neue Maßnahmen zur Kontrolle und Steuerung des Internet braucht es deshalb nicht. 1. Wie viele Meldungen zur Entfernung („Referrals“) sind nach Kenntnis der Bundesregierung mit Stichtag 1. März 2019 von der bei Europol eingerichteten Meldestelle für Internetinhalte (EU IRU) an die Internetdienstleister ergangen? Nach Kenntnis der Bundesregierung hat die bei Europol eingerichtete Meldestelle für Internetinhalte (EU IRU) von 2015 bis zum 1. März 2019 insgesamt 96 166 Meldungen („Referrals“) an Internetdienstleister versandt. a) An wie viele Unternehmen wurden diese Meldungen zur Entfernung („Referrals“) gemeldet? Die Meldungen („Referrals“) wurden an 212 Provider übermittelt. b) In welchem Umfang wurde diesen Meldungen zur Entfernung („Referrals “) entsprochen? Den Meldungen wurde zu 84 Prozent entsprochen. c) Wie viele dieser Meldungen zur Entfernung („Referrals“) betrafen „terroristische oder gewaltverherrlichende bzw. extremistische Inhalte“, und wie viele dienten der Verhinderung einer „potenziellen Beihilfe zur illegalen Einwanderung in die EU“? Der Bundesregierung ist für den Gesamtzeitraum nicht bekannt, zu welchem Anteil die Meldungen terroristische oder gewaltverherrlichende bzw. extremistische Inhalte oder den Bereich der Schleusungskriminalität betrafen. Der Bundesregierung sind die Angaben von Europol im Jährlichen Tätigkeitsbericht 2017 (www.europol.europa.eu/publications-documents/consolidated-annualactivity -reports-caar) bekannt, wonach im Jahr 2016 insgesamt 172 und im Jahr 2017 insgesamt 693 Meldungen im Bereich der Schleusungskriminalität ergangen sind. 2. Wie viele dieser Meldungen zur Entfernung („Referrals“) basieren nach Kenntnis der Bundesregierung auf Inhalten oder Accounts, die von Gerichten oder Staatsanwaltschaften als strafbar eingestuft werden, und bei wie vielen handelt es sich lediglich um Einschätzungen von Polizeibehörden (sofern hierzu keine Statistiken geführt werden, bitte als Einschätzung angeben)? Der Bundesregierung sind nur Meldungen des Bundeskriminalamts (BKA) an die EU IRU bekannt. Diese basieren ausschließlich auf der rechtlichen Einschätzung des BKA. 3. Für welchen Zeitraum wird sich das BKA an IRMA als Pilotprojekt beteiligen ? Das BKA hat zum 1. Oktober 2018 den Wirkbetrieb der „nationalen Internet Referral Unit“ (IRU) aufgenommen. In dieser Phase wurden die Meldungen jihadistischer Inhalte an die EU IRU über das Informationsaustauschsystem SIENA Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 3 – Drucksache 19/9623 („Secure Information Exchange Network Application“) übermittelt, da der direkte Zugang zur IRMa-Anwendung („Internet Referral Management Application “) noch nicht gegeben war. Der direkte Anschluss an die IRMa-Anwendung erfolgte zum 1. Januar 2019. Eine Beendigung der Nutzung von IRMa ist seitens des BKA nicht avisiert. 4. Wird das BKA auch beim Übergang in den Regelbetrieb an IRMA angeschlossen bleiben? Nach derzeitigem Stand wird das BKA auch weiterhin an die IRMa-Anwendung angeschlossen bleiben. 5. Welchen lesenden oder schreibenden Zugriff erhält das BKA auf die „Internet Referral Management Application“ (IRMA) bei Europol, und welche Daten können dort nach welchem Verfahren eingestellt oder eingesehen werden ? Seit dem 1. Januar 2019 besitzt das BKA einen lesenden und schreibenden Zugriff auf IRMa. Seitdem importiert das BKA Links zu jihadistischer Propaganda in die IRMa und meldet diese an die Online Service Provider, damit diese auf freiwilliger Basis die Vereinbarkeit der verwiesenen Internet-Inhalte mit ihren eigenen Geschäftsbedingungen überprüfen. Im Rahmen des lesenden Zugriffs kann das BKA bis zu 1 000 Einträge sehen, die von den einzelnen Stellen der verschiedenen an die IRMa angeschlossenen EU-Mitgliedstaaten in IRMa getätigt wurden . 6. Aus welchem Grund kann die Bundesregierung nicht mitteilen, wie viele zu entfernende Internetinhalte IRMA enthält (Bundestagsdrucksache 19/8573, Antwort zu Frage 3)? Das BKA hat keinen direkten Zugriff auf die von der EU IRU gesammelten Daten und Informationen zu der Gesamtzahl der von der EU IRU und anderen beteiligten Staaten gemeldeten zu entfernenden Inhalte. 7. Wie viele Meldungen zur Entfernung („Referrals“) aus Deutschland sind nach Kenntnis der Bundesregierung in IRMA gespeichert, und wie viele davon stammen von Geheimdiensten? Von der Aufnahme des Wirkbetriebs der nationalen IRU beim BKA im Oktober 2018 bis März 2019 wurden insgesamt 5 895 Links an Online Service Provider übermittelt. Alle Links wurden durch das BKA erhoben. 8. Wie viele der in IRMA eingestellten Meldungen zur Entfernung („Referrals “) stammen nach Kenntnis der Bundesregierung aus den EU-Mitgliedstaaten und wie viele von Europol (sofern hierzu keine Statistiken existieren, welche Einschätzung vertritt die Bundesregierung zur Größenordnung)? Es wird auf die Antwort der Bundesregierung zu Frage 19 a der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 18/10591 verwiesen. Aktuellere Informationen liegen der Bundesregierung nicht vor. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/9623 – 4 – Deutscher Bundestag – 19. Wahlperiode 9. Auf welche Weise prüft IRMA nach Kenntnis der Bundesregierung „automatisiert , ob die gemeldeten Internetinhalte noch abrufbar sind“, und welche Technik wird dazu genutzt (Bundestagsdrucksache 19/8573, Antwort zu Frage 6)? Die Anwendung IRMa steuert regelmäßig automatisiert die Server an, auf denen die Inhalte abgelegt sind, und prüft, ob die Inhalte noch abrufbar sind. Der Bundesregierung liegen keine Erkenntnisse dazu vor, welche Technik hierfür verwendet wird. 10. Wie viele Personen sind bei Europol mit der „händischen“ Überprüfung dieser Inhalte befasst (Bundestagsdrucksache 19/8573, Antwort zu Frage 6)? Der Bundesregierung ist nicht bekannt, wie viele Personen bei der EU IRU mit der manuellen Überprüfung befasst sind. 11. Wie definiert die Bundesregierung „terroristische Online-Inhalte“? Die allgemeine Ausrichtung des Verordnungsvorschlags zur Verhinderung der Verbreitung terroristischer Online-Inhalte (Ratsdokument 15336/18) enthält in Artikel 2 Absatz 5 und den dazugehörigen Erwägungsgründen eine Definition für „terroristische (Online) Inhalte“. Dieser Textfassung hat die Bundesregierung in der Sitzung des Rats „Justiz und Inneres“ vom 6. Dezember 2018 zugestimmt. a) Inwiefern hielt es die Bundesregierung in den Diskussionen um die Verordnung zur Verhinderung der Verbreitung terroristischer Online-Inhalte (Ratsdokument 15336/18) für problematisch, dass Unternehmen die gemeldeten Inhalte auf freiwilliger Basis anhand ihrer Nutzungsbedingungen prüfen und löschen sollen, und damit private Stellen für die Rechtsdurchsetzung zuständig sind? Nach Ansicht der Bundesregierung stellt der Meldemechanismus, bei dem die Unternehmen gemeldete Inhalte auf freiwilliger Basis anhand ihrer Nutzungsbedingungen prüfen und ggf. löschen sollen, grundsätzlich eine effektive, rasche und verhältnismäßige Möglichkeit dar, um Unternehmen auf spezielle Inhalte in ihren Diensten aufmerksam zu machen. Dem Unternehmen obliegt die Entscheidung , ob der Inhalt aufgrund der Nichtvereinbarkeit mit den Nutzungsbedingungen entfernt wird oder nicht. b) Was versteht die Bundesregierung unter „proaktiven Maßnahmen“, mit denen die Unternehmen die Verbreitung terroristischer Inhalte verhindern sollen, und welche automatisierten Werkzeuge sind ihr für diese Zwecke bekannt? Nach Ansicht der Bundesregierung sind proaktive Maßnahmen solche Maßnahmen , die vom Unternehmen bereits ergriffen werden, bevor der rechtswidrige Inhalt gemeldet wird, um diesen Inhalt zu identifizieren, zu ermitteln und ggf. zu entfernen. Die Unternehmen können sowohl kommerziell erhältliche Werkzeuge als auch Eigenentwicklungen nutzen, die diese Funktionen effektiv und effizient ausüben. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 5 – Drucksache 19/9623 12. Für welche Lösungen zum „Direktzugriff“ (Datenzugriffe im Rahmen von Ermittlungsmaßnahmen ohne Hilfeleistung durch Provider) hat sich die Bundesregierung im Zuge der von der Europäischen Kommission geleiteten Vorarbeiten zu den E-Evidence-Verordnungen ausgesprochen (Bundestagsdrucksache 19/8054, Antwort zu Frage 10), bzw. welche technischen Möglichkeiten für einen solchen „Direktzugriff“ sind ihr überhaupt bekannt? Zu Inhalt und Sachstand des Regelungsvorschlags zum sog. „direct access“, den die Bundesregierung im Zuge der vorbereitenden Arbeiten zu den Legislativvorschlägen der Europäischen Kommission im Bereich „E-Evidence“ auf europäischer Ebene vorgelegt hat, wird auf die Antworten der Bundesregierung zu Frage 2 der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 18/10948, zu den Fragen 13 und 13 a der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 18/11578, zu Frage 17 b der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 18/11894, zu Frage 10 der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 19/1493 sowie zu Frage 1 der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 19/3392 verwiesen. Nach Kenntnis der Bundesregierung kommen abhängig von Größe und Umfang der Daten unterschiedliche technische Verfahrensweisen oder Übermittlungswege in Betracht. 13. Auf welche Bereiche, für die eine Zuständigkeit der Europäischen Union besteht , sollte die Europäische Kommission aus Sicht der Bundesregierung im Rahmen der Verhandlungen über ein Zweites Zusatzprotokoll zum Übereinkommen des Europarats über Computerkriminalität (SEV Nr. 185) tätig werden , und welche Bereiche fallen in die Zuständigkeit der Mitgliedstaaten und mithin der Bundesregierung? Ziel des Zweiten Zusatzprotokolls zur Budapest Konvention ist eine stärkere Zusammenarbeit zwischen den Parteien bei der Sicherung elektronischer Beweismittel und der Verfolgung von Computerkriminalität. Außerdem sollen Bestimmungen erarbeitet werden, die die direkte Zusammenarbeit mit Providern verbessern . Die Arbeiten auf Europaratsebene müssen hierbei klar von dem E-Evidence- Paket der EU getrennt werden. Insbesondere können Regelungsmodelle aus dem E-Evidence-Paket nicht auf die Europaratsebene transportiert werden. Denn die Rechtsordnungen der auf Europaratsebene teilnehmenden Staaten unterscheiden sich teilweise stark von denen der EU-Staaten. Im Bereich der Zusammenarbeit im Rahmen der Konvention muss daher viel mehr als innerhalb der EU die traditionelle Rechtshilfe gestärkt und verbessert werden. Mit dem vorgelegten Entwurf des Verhandlungsmandats will sich die Kommission durch den Rat für die Fortführung der Verhandlungen auf Europaratsebene mandatieren lassen. Grundsätzlich ist eine stärkere Einbeziehung der Europäischen Kommission in die Arbeiten auf Europaratsebene geboten und sinnvoll. Denn die Bestimmungen weisen Bezüge zum vorgeschlagenen E-Evidence-Paket der EU und zum anderen starke datenschutzrechtliche Bezüge auf. Nach vorläufiger Prüfung ist jedoch bisher nicht klar, welche Folgen das Verhandlungsmandat für die Arbeiten auf Expertenebene innerhalb der für die Erstellung des Protokollentwurfs zuständigen Arbeitsgruppe hat. Insbesondere ist aus deutscher Sicht zurzeit noch unklar, ob eine geteilte oder sogar ausschließliche Zuständigkeit der Union für den Inhalt des Zusatzprotokolls anzunehmen ist. Die Reichweite des Verhandlungsmandats muss daher kritisch überprüft werden. Weiterhin muss geklärt werden, wie die nationalen Experten der Mitgliedstaaten weiterhin aktiv an der Erarbeitung des Zusatzprotokolls teilnehmen können. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/9623 – 6 – Deutscher Bundestag – 19. Wahlperiode Aus Sicht der Bundesregierung sollte daher das Verhandlungsmandat dahingehend gefasst werden, dass die Europäische Kommission gemeinsam mit den Mitgliedstaaten das Zweite Zusatzprotokoll beraten und sowohl die Kommission als auch die Mitgliedstaaten an der Ausarbeitung des Zusatzprotokolls teilnehmen. Dies ist jedoch im Rat eine Minderheitsposition, die Mehrheit der Mitgliedstaaten geht von einer ausschließlichen Kompetenz der Kommission aus. Vorabfassung - w ird durch die lektorierte Version ersetzt. Satz: Satzweiss.com Print, Web, Software GmbH, Mainzer Straße 116, 66121 Saarbrücken, www.satzweiss.com Druck: Printsystem GmbH, Schafwäsche 1-3, 71296 Heimsheim, www.printsystem.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333