Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums des Innern, für Bau und Heimat vom 18. März 2019 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext. Deutscher Bundestag Drucksache 19/8573 19. Wahlperiode 20.03.2019 Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Andrej Hunko, Heike Hänsel, Ulla Jelpke, weiterer Abgeordneter und der Fraktion DIE LINKE. – Drucksache 19/8116 – Geplante EU-Verordnung gegen unerwünschte Onlineinhalte und hierzu geführte Datenbanken V o r b e m e r k u n g d e r F r a g e s t e l l e r Ein Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Verhinderung der Verbreitung terroristischer Onlineinhalte wird derzeit von den Regierungen der Mitgliedstaaten der Europäischen Union abgestimmt (Ratsdokument 15336/18). Anschließend soll die Initiative im Trilog finalisiert werden. Die beschriebenen Maßnahmen basieren aus Sicht der Fragestellerinnen und Fragesteller auf dem früheren EU-Forschungsprojekt „Clean IT“, das unter niederländischer Leitung ab 2011 die Erkennung und Entfernung von „gewalttätige [n] oder -befürwortende[n] Formen des Terrorismus und Extremismus “ verbessern sollte (Bundestagsdrucksache 17/11238). Viele der Schlussfolgerungen und Empfehlungen des Projekts wurden bereits umgesetzt. Der Abschlussbericht schlug beispielsweise die Einrichtung von privaten und polizeilichen Meldestellen sowie weitere Verpflichtungen für Internetfirmen vor (www.andrej-hunko.de/start/download/dokumente/1295-abschlussbericht-cleanit ). Kern der nun vorgelegten Verordnung ist die Löschung „terrorismusbezogener“ Inhalte oder Accounts im Internet. Hierzu kann auch die bei Europol eingerichtete Meldestelle für Internetinhalte (EU IRU) Entfernungsanordnungen an die Internetfirmen richten. Dabei handelt es sich ausdrücklich nicht um Inhalte oder Accounts, die von Gerichten oder Staatsanwaltschaften als strafbar eingestuft werden, sondern um Einschätzungen der Polizeibehörden. Trotzdem kommen die Firmen den Aufforderungen zur Löschung im großen Umfang nach (vgl. Bundestagsdrucksache 19/159). Zur Verwaltung von Entfernungsanordnungen betreibt Europol eine „Internet Referral Management Application“ (IRMA). Die Datenbank soll dabei helfen zu erkennen, welche Accounts oder Inhalte bereits zur Entfernung gemeldet wurden, sodass eine zweite Anordnung nicht mehr nötig ist (vgl. Drucksache des Europäischen Parlaments Dok. E-000025/2018, Antwort des EU-Kommissars Dimitris Avramopoulos im Namen der EU-Kommission vom 30. März 2018). Im Verordnungsentwurf ist dies als „Vermeidung von Doppelarbeit und einer gegenseitigen Behinderung“ und „Konfliktvermeidung“ benannt. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/8573 – 2 – Deutscher Bundestag – 19. Wahlperiode Manche Internetinhalte werden jedoch von Polizei- oder Geheimdiensten beobachtet und sollen deshalb online bleiben. IRMA dient deshalb auch zur Abstimmung , damit diese im Rahmen der Strafverfolgung oder Gefahrenabwehr genutzt werden können. Das Verfahren soll auch für Internetinhalte im Bereich „Schleusungskriminalität“ genutzt werden. Im Rahmen eines Pilotprojekts wurden Frankreich, die Niederlande sowie Belgien im März 2018 an die IRMA angeschlossen (Bundestagsdrucksache 19/7210, Antwort zu Frage 16). Im Januar 2019 folgte eine deutsche Behörde. 1. Welche deutsche Behörde wurde nach Kenntnis der Bundesregierung kürzlich an die „Internet Referral Management Application“ (IRMA) bei der „Meldestelle für Internetinhalte“ von Europol angeschlossen, und wie wurde dies technisch umgesetzt (Bundestagsdrucksache 19/7210, Antwort zu Frage 16)? Das Bundeskriminalamt (BKA) wurde kürzlich an die „Internet Referral Management Application“ (IRMa) angeschlossen. Hierfür wurde von Seiten der Europol Internet Referral Unit (IRU) ein Zugang auf der Plattform für das BKA eingerichtet . Seitens BKA wurde hierfür ein separater Internetzugang mit statischer IP- Adresse eingerichtet. 2. Bedeutet nach Kenntnis der Bundesregierung der Anschluss der deutschen Behörde an IRMA, dass diese auch Zugang zu dort geführten Statistiken erhält , und falls nein, warum nicht? Nach Kenntnis der Bundesregierung werden in IRMa keine Statistiken geführt. 3. Wie viele zu entfernende Internetinhalte enthält die IRMA bei Europol nach Kenntnis der Bundesregierung (bitte die Zahl der Accounts, der Mediendateien sowie einzelner Postings angeben)? Die Bundesregierung hat keine Kenntnisse dazu, wie viele zu entfernende Internetinhalte IRMa enthält. a) Wie verteilen sich diese Internetinhalte auf die Themenbereiche „Terrorismus “, „Extremismus“, „Migration“? Der Bundesregierung sind nur Meldungen von Internetinhalten zum Themenbereich „Terrorismus“ bekannt. Zu weiteren Themenbereichen liegen der Bundesregierung keine Informationen vor. b) Wie viele Entfernungsanordnungen aus Deutschland sind in IRMA gespeichert , und wie viele davon stammen von Geheimdiensten? Über die Anwendung IRMa werden keine Entfernungsanordnungen gespeichert bzw. erteilt. Entfernungsanordnungen sind bisher lediglich Gegenstand der Erörterung des Verordnungsvorschlags der Europäischen Kommission zur Verhinderung der Verbreitung terroristischer Online-Inhalte. 4. Wie viele der in IRMA eingestellten Entfernungsanordnungen stammen nach Kenntnis der Bundesregierung aus den EU-Mitgliedstaaten, und wie viele von Europol (sofern hierzu keine Statistiken existieren, welche Einschätzung vertritt die Bundesregierung hierzu)? Auf die Antwort zu Frage 3b wird verwiesen. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 3 – Drucksache 19/8573 5. Wo werden Internetinhalte, die über die IRMA an die Internetdienstleister zur Entfernung gemeldet wurden, nach Kenntnis der Bundesregierung zur Strafverfolgung bei Europol gespeichert, und inwiefern wird diese Datei auch für Inhalte im Zusammenhang mit Schleusungskriminalität genutzt (Bundestagsdrucksache 19/7210, Antwort zu Frage 17)? Sofern eine solche Speicherung lediglich für „extremistische“ oder „terroristische “ Inhalte erfolgt, wo würden nach Kenntnis der Bundesregierung entfernte Inhalte im Zusammenhang mit Schleusungskriminalität zukünftig zur Strafverfolgung gespeichert? Nach Kenntnis der Bundesregierung speichert Europol die Inhalte im Analyseprojekt „Check the Web“. Das Analyseprojekt „Check the Web“ wird nach Kenntnis der Bundesregierung nicht für Inhalte im Zusammenhang mit Schleusungskriminalität genutzt. Die Bundesregierung hat keine Kenntnis, wo Europol derartige Inhalte zukünftig speichert. Im Übrigen wird auf die Antwort der Bundesregierung zu Frage 4 der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 19/7210 verwiesen. 6. Inwiefern ist es nach Kenntnis der Bundesregierung tatsächlich möglich, mithilfe von IRMA „automatisch [zu] überprüfen, ob gemeldete Inhalte von den Internetdienstleistern wirklich entfernt wurden“ (vgl. Drucksache des Europäischen Parlaments Dok. E-000025/2018, Antwort des EU-Kommissars Dimitris Avramopoulos im Namen der EU-Kommission vom 30. März 2018), bzw. welche Defizite sind ihr hierzu bekannt? IRMa überprüft regelmäßig automatisiert, ob die gemeldeten Internetinhalte noch abrufbar sind. Auch wenn die Mehrzahl der Anzeigen korrekt ist, können valide Aussagen zu einzelnen Links nur getroffen werden, nachdem diese händisch überprüft wurden. a) Wie viele Entfernungsanordnungen sind nach Kenntnis der Bundesregierung mit Stichtag 1. Februar 2019 von der bei Europol eingerichteten Meldestelle für Internetinhalte (EU IRU) an die Internetdienstleister ergangen ? b) An wie viele Unternehmen wurden diese Anordnungen gemeldet? c) In welchem Umfang wurde diesen Anordnungen entsprochen? d) Welche dieser Anordnungen mit Stichtag 1. Februar 2019 betrafen „terroristische oder gewaltverherrlichende bzw. extremistische Inhalte“, und welche dienten der Verhinderung einer „potenziellen Beihilfe zur illegalen Einwanderung in die EU“? Bezüglich der Fragen 6a bis 6d wird auf die Antwort zu Frage 3b verwiesen. 7. Wie viele dieser Entfernungsanordnungen basieren nach Kenntnis der Bundesregierung auf Inhalten oder Accounts, die von Gerichten oder Staatsanwaltschaften als strafbar eingestuft werden, und bei wie vielen handelt es sich lediglich um Einschätzungen von Polizeibehörden (sofern hierzu keine Statistiken geführt werden, bitte als Einschätzung angeben)? Auf die Antwort zu Frage 3b wird verwiesen. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/8573 – 4 – Deutscher Bundestag – 19. Wahlperiode 8. Was ist der Bundesregierung darüber bekannt, inwiefern sich die Nutzung von IRMA zur „Vermeidung von Doppelarbeit und einer gegenseitigen Behinderung “ bewährt hat (Ratsdokument 15336/18), bzw. inwiefern die Anwendung verbessert werden soll? Nach Einschätzung der Bundesregierung trägt IRMa zur Vermeidung von Doppelarbeit und zur Vermeidung gegenseitiger Behinderung bei. 9. Wie viele Internetinhalte oder Accounts sind nach Kenntnis der Bundesregierung in IRMA mit einer Bitte zur Nichtentfernung markiert, und wie viele davon stammen aus Deutschland? Eine Gesamtzahl ist der Bundesregierung nicht bekannt. Von Deutschland wurden bislang keine Inhalte mit einer Bitte zur Nicht-Entfernung markiert. 10. Welche Unterstützung soll Europol aus Sicht der Bundesregierung „im Einklang mit seinem derzeitigen Mandat und bestehenden Rechtsrahmen“ (Ratsdokument 15336/18) bei der Behandlung konfligierender Anordnung zur Entfernung bzw. Nichtentfernung leisten? Anordnungen zur Entfernung bzw. Nicht-Entfernung von Internetinhalten sind Gegenstand der Erörterung des Verordnungsvorschlags der Europäischen Kommission zur Verhinderung der Verbreitung terroristischer Online-Inhalte. Im Rahmen dieser Erörterung wird auch die zukünftige Rolle Europols diskutiert. Die konkrete Rolle Europols hängt mithin maßgeblich auch vom Ergebnis des Legislativverfahrens ab. 11. Welche EU-Mitgliedstaaten betreiben nach Kenntnis der Bundesregierung eine eigene „Internet Referral Management Application“ bzw. eine vergleichbare Plattform? Der Bundesregierung liegen keine Kenntnisse darüber vor, welche EU-Mitgliedstaaten eigene, der IRMa vergleichbare Plattformen betreiben. 12. Wann soll die IRMA nach Kenntnis der Bundesregierung vom Status eines Pilotprojekts in den Regelbetrieb übergehen, und welche Änderungen sollen bis dahin erfolgen? Hierzu sind der Bundesregierung keine Angaben bekannt. 13. In welchen polizeilichen Informationssystemen werden vom Bundeskriminalamt gefundene „ermittlungsrelevante Inhalte“ vor der Löschung gesichert und den zuständigen Dienststellen „verfahrensbezogen“ zur Verfügung gestellt (Bundestagsdrucksache 19/765, Antwort zu Frage 16)? Ermittlungsrelevante Internetinhalte werden beim BKA in einer vom BKA-System separierten IT-Umgebung gespeichert. Den zuständigen Dienststellen werden diese Daten bei Bedarf auf Nachfrage digital zur Verfügung gestellt. 14. Wer verfügt nach Kenntnis der Bundesregierung über Schreibrechte in der bei Europol geführten Datei „Check the Web“, und welche Drittstaaten sind daran beteiligt? „Schreibrecht“ besteht in der Datei „Check the Web“ nur für Europol. Beteiligte Drittstaaten sind Island, Dänemark, Australien, Schweiz, USA und Nord-Mazedonien . Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 5 – Drucksache 19/8573 a) Wie viele „Propagandainhalte (Videos, Bilder, PDF-Dokumente)“ zu wie vielen Autorinnen und Autoren enthält „Check the Web“, nach Kenntnis der Bundesregierung (vgl. Drucksache des Europäischen Parlaments Dok. E-000025/2018, Antwort des EU-Kommissars Dimitris Avramopoulos im Namen der EU-Kommission vom 30. März 2018)? In der Anwendung befinden sich aktuell 6 360 Video-/Audio-Dateien und 8 440 Erklärungen und Publikationen als Bild/PDF-Dokument zu 762 Autorinnen und Autoren. b) Wie viele dieser „Propagandainhalte“ haben welche Bundesbehörden in „Check the Web“ eingestellt? Von diesen Inhalten wurden 1 206 durch das BKA geliefert. Andere Bundesbehörden liefern nicht an „Check the Web“. 15. Inwiefern hat sich die Einrichtung des Webportals SIRIUS durch die EU IRU bei Europol aus Sicht der Bundesregierung bewährt, und in welchem Umfang wird die Anwendung zur Unterstützung von Ermittlungen im Internet von Bundes- und Landesbehörden genutzt? Die SIRIUS-Plattform hat sich für den Wissensaustausch zu technischen Fragen und Programmen sowie zum Austausch von in den Mitgliedstaaten selbstprogrammierter Software bewährt. Nutzungszahlen sind hier nicht bekannt. a) Welche Informationen, „Leitfäden, Tipps, Foren, Fragen & Antworten“ sowie „Tools der Strafverfolgungsbehörden“ sind nach Kenntnis der Bundesregierung in SIRIUS abrufbar (vgl. Drucksache des Europäischen Parlaments Dok. E-007204/2017, Antwort Antwort des EU-Kommissars Dimitris Avramopoulos im Namen der EU-Kommission vom 9. Februar 2018)? Auf der SIRIUS-Plattform sind Anleitungen zu Open-Source-Internet-Recherchen (OSINT) eingestellt sowie Anleitungen zur Durchführung von Bestandsdatenanfragen . Weiterhin gibt es die Möglichkeit, Softwarelösungen für die Unterstützung bei OSINT-Recherchen anderen Staaten/Polizeibehörden zur Verfügung zu stellen, Informationen in Form eines Weblogs zu veröffentlichen und sich in einem Forum über Erfahrungen und Probleme aus dem Bereich der OSINT auszutauschen . b) Welche „Arten von Daten“ können nach Kenntnis der Bundesregierung direkt von den Diensteanbietern abgerufen werden, bzw. welche „Anleitungen für Ermittler“ enthält SIRIUS hierzu? SIRIUS enthält Anleitungen, wie und auf welchem Weg Bestandsdatenanfragen an die bekanntesten Diensteanbieter gestellt werden können. Inwieweit Diensteanbieter , die ihren Sitz im Ausland haben, eine direkte Abfrage von bestimmten Daten durch deutsche Strafverfolgungsbehörden beantworten können, richtet sich nach dem Recht ihres jeweiligen Sitzstaates. Innerhalb Deutschlands richtet sich die Datenabfrage hingegen nach den einschlägigen Vorschriften der Strafprozessordnung in Verbindung mit dem Telekommunikationsgesetz bzw. dem Telemediengesetz . Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/8573 – 6 – Deutscher Bundestag – 19. Wahlperiode c) Inwiefern hat sich das Portal aus Sicht der Bundesregierung zur „Fortentwicklung der technischen Expertise“ bewährt (Bundestagsdrucksache 19/765, Antwort zu Frage 13)? Das Portal bietet eine Austauschmöglichkeit für Personen, die in den gleichen Aufgabengebieten arbeiten und dort mit den gleichen Problemen konfrontiert sind. Insoweit hat es sich für diesen Informationsaustausch bewährt. 16. Welche technischen Verfahren zur „Internetdurchdringung“ (etwa Bots für Chatprogramme, Gesichtserkennung, Entschlüsselung, Spracherkennung, künstliche Intelligenz, Verfolgung von Finanzströmen) werden im EU-Sicherheitsforschungsprogramm „TENSOR“, an dem sich die Deutsche Hochschule der Polizei und Interpol beratend beteiligen, beforscht oder entwickelt (https://tensor-project.eu/overview)? Das Projekt „TENSOR“ befasst sich u. a. mit Bots, der Informationsgewinnung aus verschiedenen Datenquellen sowie der Kategorisierung, Filterung und Analyse gewonnener Daten. 17. Wann will das Cybercrime-Kommittee der Budapest-Konvention nach Kenntnis der Bundesregierung den Entwurf für ein zweites Zusatzprotokoll zum Umgang mit „elektronischen Beweismitteln“, gemeinsamen Ermittlungen im Cyberraum und neuen Ermittlungstechniken vorlegen, und inwiefern soll darin auch der grenzüberschreitende Einsatz von Trojaner-Programmen geregelt werden? Der Entwurf des Zweiten Zusatzprotokolls soll zunächst durch von den Vertragsparteien der Budapest Konvention entsandte Experten erarbeitet werden. Der Abschluss dieser Arbeiten ist für Dezember 2019 geplant. Nach Stand der Beratungen ist keine Regelung für den grenzüberschreitenden Einsatz von „Trojaner-Programmen “ geplant. 18. Welche Fortschritte wurden bei der Fortführung des zur Verbesserung des Informationsaustauschs unter europäischen Polizeibehörden vom Bundeskriminalamt geleiteten Projekts „UMF 3“ (Universal Message Format) als „UMF 3+“ oder „UMF 4“ erzielt (Ratsdokument 15259/17, Bundestagsdrucksache 19/3404), und welche Details kann die Bundesregierung zu weiteren Entwicklungen oder Erprobungen durch die Projektbeteiligten mitteilen ? Das Projekt UMF3 wurde Ende Juli 2018 beendet. Die Version 2.0 des UMF Standards wurde an alle EU-Mitgliedstaaten verteilt. Pilotteilnehmer unter UMF3 waren Estland, Finnland, Griechenland, Polen, Spanien und Europol (Schnittstelle QUEST). Das Projekt UMF3plus hat im September 2018 begonnen und wird weitere Partner einbeziehen. Im Detail sind dies: Deutschland, Österreich, Lettland, Malta und Schweden. Das Interpol Generalsekretariat in Lyon plant die Entwicklung einer Schnittstelle zur UMF-konformen Abfrage in der Interpol Datenbank „Stolen and Lost Travel Documents (SLTD)“. Europol plant, eine erweiterte Version von QUEST (Query Europol Systems) anzubieten. Beleuchtet wird ebenfalls eine Vereinfachung des Folgeschriftverkehrs nach einem Treffer in QUEST. Parallel dazu wird an einer erweiterten Version des UMF Standards gearbeitet werden . Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 7 – Drucksache 19/8573 19. In welchen Informationssystemen wird „UMF 3“ nach Kenntnis der Bundesregierung bereits genutzt, und welche weiteren sollen mit welchem Starttermin folgen? Nach Kenntnis der Bundesregierung bieten derzeit das Europol-Informationssystem (EIS) und die Interpol-Waffendatenbank die Möglichkeit, UMF-konforme Anfragen zu verarbeiten. Des Weiteren wird nach Kenntnis der Bundesregierung UMF für den Informationsaustausch von FRONTEX mit Europol genutzt. Schließlich kann von den EU-Mitgliedstaaten für den Prüm-Nachfolgeschriftverkehr seit 2014 ein UMF-konformes elektronisches Formular verwendet werden, wenn ihre technische Infrastruktur es erlaubt. Die Verordnungsentwürfe zu Interoperabilität, deren Beratung in Kürze abgeschlossen werden dürfte, sehen jeweils in Artikel 38 eine rechtliche Definition von UMF sowie die Anwendung des Standards bei der Entwicklung der bestehenden und konkret geplanten EU-Informationssysteme sowie gegebenenfalls bei der Entwicklung neuer Modelle für den Informationsaustausch und neuer Informationssysteme im Bereich Justiz und Inneres vor. 20. Welche Firmen nehmen nach Kenntnis der Bundesregierung derzeit am „EU Internet Forum“ sowie dessen Arbeitsgruppen teil (Bundestagsdrucksache 19/765)? Auf die Antwort der Bundesregierung zu den Fragen 12 und 12a der Kleinen Anfrage der Fraktion DIE LINKE. auf Bundestagsdrucksache 19/5731 wird verwiesen . Die Bundesregierung hat keine darüberhinausgehenden Kenntnisse. a) Welche Internetfirmen betreiben nach Kenntnis der Bundesregierung derzeit ein „Trusted Flagger“-Programm (Bundestagsdrucksache 19/765, Antwort zu Frage 15), und welche deutschen Behörden nehmen daran teil? Nach Kenntnis der Bundesregierung betreibt nur Google/Youtube ein Trusted Flagger Programm. Das BKA nimmt am „Trusted Flagger“-Programm teil. b) In welchem Umfang wird das „Trusted Flagger Program“ von Google und YouTube nach Kenntnis der Bundesregierung von den Landeskriminalämtern Baden-Württemberg, Niedersachsen, Sachsen und Sachsen-Anhalt genutzt? Hierzu liegen der Bundesregierung keine Erkenntnisse vor. c) Welche Firmen nutzen derzeit eine „auf Hash-Werten basierende gemeinsame Datenbank“ („Uploadfilter“, vgl. Bundestagsdrucksache 19/765, Antwort zu Frage 11)? Nach Kenntnis der Bundesregierung arbeiten die Firmen Facebook, Microsoft, Twitter und Google/YouTube bei der Bekämpfung terroristischer Propaganda im Internet zusammen und betreiben hierfür eine gemeinsame Hash-Datenbank. Zu den Firmen mit Zugriff auf die Datenbank liegen der Bundesregierung keine Erkenntnisse vor. Vorabfassung - w ird durch die lektorierte Version ersetzt. Satz: Satzweiss.com Print, Web, Software GmbH, Mainzer Straße 116, 66121 Saarbrücken, www.satzweiss.com Druck: Printsystem GmbH, Schafwäsche 1-3, 71296 Heimsheim, www.printsystem.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333