Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums des Innern, für Bau und Heimat vom 8. November 2018 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext. Deutscher Bundestag Drucksache 19/5731 19. Wahlperiode 12.11.2018 Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Andrej Hunko, Heike Hänsel, Anke Domscheit-Berg, weiterer Abgeordneter und der Fraktion DIE LINKE. – Drucksache 19/5252 – Erstmalige Entfernung von Internetinhalten beim Messenger Telegram V o r b e m e r k u n g d e r F r a g e s t e l l e r Zum elften Mal hat die EU-Polizeiagentur Europol am 3. Oktober 2018 einen „Joint Referral Action Day“ zur Entfernung von Internetinhalten durchgeführt („Referral Action Day with six EU Member states and Telegram“, Pressemitteilung Europol vom 5. Oktober 2018). Im Fokus stand erstmals der Messengerdienst Telegram. Bislang hatte der Dienst Ersuchen zur Löschung stets zurückgewiesen , der Bundesregierung war nach Kenntnis der Fragesteller nicht einmal eine Adresse der Firma bekannt, an die entsprechende Aufforderungen gerichtet werden konnten. Der Aktionstag erfolgte im Rahmen des sogenannten EU-Internetforums, in dem sich die Europäische Kommission und Europol mit Internetfirmen freiwillig organisieren. Federführend war die „Meldestelle für Internetinhalte“ („Internet Referral Unit“, EU IRU) bei Europol, bei der die gemeinsame Maßnahme auch durchgeführt wurde. Die EU IRU ist bei Europol beim European Counter Terrorism Centre (ECTC) angesiedelt. Außerdem nahmen „nationale Meldestellen “ aus Deutschland, Belgien, Frankreich, Italien, den Niederlanden und Großbritannien teil. Zunächst wurden in einer Erhebung Hunderte verdächtige Internetinhalte bei Telegram festgestellt und analysiert, auf welche Weise „terroristische Gruppen“ die Dienste des Messengers nutzen. Diese Erkenntnisse seien mit Telegram geteilt worden. Mitarbeiterinnen und Mitarbeiter der Firma waren laut Europol bei der Veranstaltung anwesend (ebd.). Die konzertierte Löschaktion richtete sich gegen Video- und Audiomaterial sowie PDF von „terroristischen Gruppen und Terrorsympathisanten“ des Islamischen Staates und von Al-Kaida. Die Inhalte seien in öffentlichen Kanälen („Channels“) des Dienstes gefunden worden. Die anschließende Entfernung der gemeldeten Inhalte bezeichnet Europol als „freiwillig“. Die Polizeiagentur beschreibt nicht, inwiefern diese Inhalte überhaupt strafbar waren. Aus Sicht der Fragestellerinnen und Fragesteller ist es deshalb möglich, dass Telegram vorauseilend Inhalte gelöscht hat, auch wenn diese nicht unbedingt strafbar waren oder gegen die Gemeinschaftskriterien der Firma verstießen (das sogenannte Overblocking). Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/5731 – 2 – Deutscher Bundestag – 19. Wahlperiode Europol nutzte den „Joint Referral Action Day“ zur Werbung für eine „koordinierte Herangehensweise“ zur Entfernung von Internetinhalten. Weitere Aktionstage würden folgen. 1. An welchen „Joint Referral Action Days“ der EU-Polizeiagentur Europol zur Entfernung von Internetinhalten haben sich welche Bundesbehörden beteiligt ? Das Bundeskriminalamt (BKA) hat sich bislang an drei „Joint Referral Action Days“ (RAD) der IRU (Internet Referral Unit) bei Europol im September 2016, im Juli 2018 und im Oktober 2018 beteiligt. 2. Welche Abteilungen welcher Behörden aus Belgien, Frankreich, Italien, den Niederlanden und Großbritannien nahmen nach Kenntnis der Bundesregierung an dem „Joint Referral Action Day“ am 3. Oktober 2018 teil? Die genauen Bezeichnungen der beteiligten Behörden aus Belgien, Frankreich, Italien und den Niederlanden sind der Bundesregierung nicht bekannt. Für Großbritannien wird auf die Antwort zu Frage 13 verwiesen. Für Deutschland nahmen an den drei RAD jeweils Vertreter des BKA teil. a) Welche und wie viele Bedienstete welcher Bundesbehörden haben sich am „Joint Referral Action Day“ am 3. Oktober 2018 beteiligt, und welche Aufgaben haben sie dort übernommen? An dem RAD nahm ein Polizeivollzugsbeamter des BKA teil, es unterstützte zusätzlich ein Arabisch-Übersetzer des BKA. Die deutschen Teilnehmer beteiligten sich an der Identifizierung terroristischer Inhalte zur Meldung an die betroffenen Internet Service Provider. b) Welche Firmen waren zu dem Ereignis eingeladen oder waren anderweitig beteiligt? Beim RAD war ein Vertreter von Telegram anwesend. c) Wie viele Mitarbeiterinnen und Mitarbeiter von Telegram waren nach Kenntnis der Bundesregierung bei der Veranstaltung anwesend? An dem RAD beteiligte sich eine Mitarbeiterin von Telegram. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 3 – Drucksache 19/5731 3. Was ist der Bundesregierung darüber bekannt, an welche Adresse des Messengerdienstes Telegram Ersuchen zur Löschung von Inhalten gerichtet werden können? a) Welche Adresse nutzen Bundesbehörden hierzu, seit wann ist diese Adresse bekannt, und wie viele Ersuchen wurden bereits dorthin übermittelt? b) Inwiefern kooperiert die Firma mit deutschen Strafverfolgungsbehörden oder auch mit Geheimdiensten zur Herausgabe von Informationen zu Nutzerinnen und Nutzern und/oder deren Inhaltsdaten? Die Fragen 3, 3a und 3b werden gemeinsam beantwortet. Die Antwort zu den Fragen 3, 3a und 3b würde spezifische Informationen zur Tätigkeit, insbesondere zur Methodik und den konkreten technischen Fähigkeiten der Sicherheitsbehörden einem nicht eingrenzbaren Personenkreis – auch außerhalb der Bundesrepublik Deutschland – zugänglich machen. Dies wäre für die wirksame Erfüllung der gesetzlichen Aufgaben der Sicherheitsbehörden und damit für die Interessen der Bundesrepublik Deutschland nachteilig. Die Bundesregierung ist nach sorgfältiger Abwägung zu der Auffassung gelangt, dass die Fragen aus Geheimhaltungsgründen nicht in dem für die Öffentlichkeit einsehbaren Teil beantwortet werden. Im konkreten Fall kann den Sicherheitsinteressen der Bundesregierung jedoch durch Übermittlung einer eingestuften Antwort entsprochen werden. Die Antwort auf diese Frage wird daher als Verschlusssache mit dem VS-Grad „VS – NUR FÜR DEN DIENSTGEBRAUCH“ eingestuft.* 4. Gegen welche „terroristischen Gruppen und Terrorsympathisanten“ richtete sich der Aktionstag am 3. Oktober 2018 nach Kenntnis der Bundesregierung ? Schwerpunkt war der Messenger-Dienst Telegram als Plattform zur Verbreitung islamistisch-terroristischer Propaganda im Allgemeinen. Zu den gemeldeten Inhalten wird auf die Antwort zu Frage 6 verwiesen. 5. Auf welche Weise wurden die verdächtigen Internetinhalte bei Telegram nach Kenntnis der Bundesregierung festgestellt und analysiert? Im Rahmen des RAD am 3. Oktober 2018 wurden die im BKA aus der offenen Internetsichtung für den Phänomenbereich des religiös motivierten Terrorismus bekannten Telegram-Kanäle analysiert. * Das Bundesministerium des Innern, für Bau und Heimat hat die Antwort als „VS – Nur für den Dienstgebrauch“ eingestuft. Die Antwort ist im Parlamentssekretariat des Deutschen Bundestages hinterlegt und kann dort von Berechtigten eingesehen werden. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/5731 – 4 – Deutscher Bundestag – 19. Wahlperiode 6. Wie viele Inhalte wurden Telegram nach Kenntnis der Bundesregierung zur Löschung bzw. Überprüfung gemeldet (bitte nach Video- und Audiomaterial , PDF sowie sonstigen Inhalten aufschlüsseln)? a) Wie viele dieser Inhalte wurden von deutschen Behörden gefunden und gemeldet? b) Nach welchen Kriterien wurden diese Inhalte ausgewählt? Die Fragen 6, 6a und 6b werden gemeinsam beantwortet. Im Rahmen des Aktionstages am 3. Oktober 2018 wurden von allen Teilnehmern mehrere hundert Links an Telegram zur Löschung weitergeleitet. Die genaue Zahl ist der Bundesregierung nicht bekannt. Deutschland hat insgesamt 108 Links gemeldet , davon 92 Links zu Videos von Al-Qaida und 14 Links zu Fotos von IS- Propagandamaterial sowie zwei Links zu einem PDF-Bericht von Al-Shabab. Die genannten Inhalte wurden ausgewählt, weil sie der Verbreitung der jihadistischen Ideologien der jeweiligen Terrorgruppen und der Radikalisierung neuer Anhänger dienen sollten. 7. Wie viele der insgesamt an Telegram gemeldeten Inhalte waren aus Sicht der Bundesregierung strafbar? Auf die Antwort zu Frage 6 und Unterfragen wird verwiesen. Bei den in der Antwort zu Frage 6 genannten Organisationen handelt es sich um solche, die von deutschen Gerichten als terroristische Organisationen im Ausland eingestuft werden . Bei den von Deutschland gemeldeten Inhalten handelte es sich um Material mit Propagandacharakter für terroristische Vereinigungen im Ausland. Über die Strafbarkeit des Materials im Einzelfall wurde keine Statistik geführt. 8. In welchem Umfang kam Telegram nach Kenntnis der Bundesregierung den Ersuchen zur Löschung nach? Hierzu liegen der Bundesregierung keine Erkenntnisse vor. 9. Was ist der Bundesregierung darüber bekannt, inwiefern Telegram russischen Behörden nunmehr Zugang zu verschlüsselten Inhalten ermöglicht (Bundestagsdrucksache 19/2083, Antwort der Bundesregierung auf die Schriftliche Frage 63 des Abgeordneten Manuel Sarrazin)? Der Messengerdienst Telegram unterliegt nach Kenntnis der Bundesregierung nach den lokalen Gesetzen in Russland einer Verpflichtung, in Fragen der Telekommunikationsüberwachung mit den lokalen Behörden zu kooperieren. Dies gilt sowohl für Verkehrs-, als auch für Inhaltsdaten. Über Details dieser Kooperation liegen der Bundesregierung keine Erkenntnisse vor. Der Gründer von Telegram , Pawel Durow, hat nach Kenntnis der Bundesregierung öffentlich darauf hingewiesen, dass auf Anfragen russischer Behörden nicht eingegangen werde. 10. Was ist der Bundesregierung darüber bekannt, inwiefern die mit den Europol -Aktionstagen adressierten „terroristischen Gruppen und Terrorsympathisanten “ nunmehr auf kleinere Internetplattformen ausweichen? Hierzu liegen der Bundesregierung keine Erkenntnisse vor. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 5 – Drucksache 19/5731 11. Wie viele Internetinhalte hat die Meldestelle für Internetinhalte bei Europol nach Kenntnis der Bundesregierung seit ihrer Einrichtung im Jahr 2015 zur Entfernung an Firmen gemeldet, und in welchem Umfang kamen diese den Ersuchen nach? Nach Kenntnis der Bundesregierung hat die EU-Kommission mitgeteilt, dass seit 2015 über 60 000 terroristische Internetinhalte von der IRU an Provider gemeldet wurden (Stand September 2018). 12. Welche Fortschritte sind der Bundesregierung zur Entwicklung des EU-Internetforums bekannt („Bekämpfung des Terrorismus im Internet: Internetforum drängt auf automatische Entdeckung terroristischer Propaganda“, Pressemitteilung der Europäischen Kommission vom 6. Dezember 2017)? a) Wie viele Firmen arbeiten derzeit in dem Forum mit? Die Fragen 12 und 12a werden gemeinsam beantwortet. Am EU-Internet-Forum beteiligen sich derzeit etwa 20 Unternehmen, darunter Facebook, Twitter, Google/Youtube, Microsoft, Internet Archive, Justpaste.it, Wordpress, snap, Soundcloud, Baaz, Dropbox, Mega, Userscloud und Telegram. b) Wie viele Firmen haben derzeit Uploadfilter oder andere automatisierte Verfahren zum Aufspüren möglicherweise extremistischer oder terroristischer Inhalte installiert? Im Rahmen des EU-Internet-Forums wurde bekannt, dass derzeit etwa 17 Unternehmen Technologien einsetzen, um terroristische Inhalte auf ihren Plattformen zu vermeiden. Um welche Unternehmen es sich handelt, und inwieweit es sich bei den eingesetzten Technologien um Uploadfilter handelt, ist der Bundesregierung nicht bekannt. c) Welche Löschfristen halten die großen Firmen nach einem Ersuchen durch die Meldestelle für Internetinhalte ein (sofern nicht im Einzelnen bekannt, bitte die Einschätzung der Bundesregierung mitteilen)? Die Mehrheit der Unternehmen, die sich im Rahmen des EU-Internet-Forums zu ersten Ergebnissen der von der Europäische Kommission empfohlenen Maßnahmen [„Empfehlung der Kommission vom 1. März 2018 für wirksame Maßnahmen im Umgang mit illegalen Online-Inhalten“] äußerten, löschte gemeldete Inhalte nicht innerhalb einer Stunde. Weitergehende eigene Erkenntnisse liegen der Bundesregierung nicht vor. 13. Sofern an dem „Joint Referral Action Day“ am 3. Oktober 2018 auch die britische „Research, Information and Communication Unit“ (RICU) teilgenommen hat, was ist der Bundesregierung über dort genutzte automatische Instrumente für die Erkennung und Entfernung terroristischer Inhalte im Internet bekannt und wo hat die RICU auf Ebene der Ratsarbeitsgruppen darüber berichtet? Nach Kenntnis der Bundesregierung hat die Research, Information and Communication Unit (RICU) nicht an dem RAD am 3. Oktober 2018 teilgenommen. Vorabfassung - w ird durch die lektorierte Version ersetzt. Drucksache 19/5731 – 6 – Deutscher Bundestag – 19. Wahlperiode a) Wo hat die RICU nach Kenntnis der Bundesregierung die besagten Werkzeuge vorgestellt, und welche Bundesbehörden oder Delegationen der Bundesregierung nahmen daran teil? b) Was ist der Bundesregierung über ein Projekt „Ensemble“ bekannt, mit dem die RICU nach Kenntnis der Fragestellerinnen und Fragesteller das automatisierte Aufspüren unerwünschter Inhalte weiter vereinfachen will? c) Welche Firmen oder Institute wollen im Projekt „Ensemble“ entsprechende Erkennungstechnologien oder Uploadfilter testen? Zu den Fragen 13a bis 13c liegen der Bundesregierung keine Erkenntnisse vor. 14. Was ist der Bundesregierung darüber bekannt, inwiefern Europol über die Einführung und Nutzung von Erkennungstechnologien oder Uploadfilter nachdenkt? Hierzu liegen der Bundesregierung keine Erkenntnisse vor. 15. Welche Schlussfolgerungen zieht die Bundesregierung aus den Ergebnissen der Studie „Internationale Zusammenarbeit in der Telekommunikationsüberwachung “ (INTLI) zur Analyse der europäischen Rechtslage und der Darstellung der unterschiedlichen Zugriffsmöglichkeiten für die Überwachung (Bundestagsdrucksache 18/11578, Frage 15), wie sie von den Projektbeteiligten mittlerweile teilweise unter dem Titel „Access to Telecommunication Data in Criminal Justice: A Comparative Analysis of European Legal Orders “ in der Schriftenreihe des Max-Planck-Instituts für ausländisches und internationales Strafrecht zum Kauf veröffentlicht wurde? a) Welche Aufgaben übernahmen die Projektbeteiligten nach Kenntnis der Bundesregierung im Rahmen der Studie? b) Welche Ergebnisse der Studie hat der Auftragnehmer nach Kenntnis der Bundesregierung noch nicht veröffentlicht? c) Welche Standards hält die Bundesregierung für den Austausch von Daten der Telekommunikationsüberwachung für geeignet, und wie wird sie sich für deren Etablierung einsetzen? d) Welche Schlussfolgerungen zieht die Bundesregierung aus den Ergebnissen des Projekts „Informationstechnische Überwachung mobiler Endgeräte “ (SMART) zur Untersuchung von Schnittstellen für die informationstechnische Überwachung? Die Fragen 15 bis 15d werden gemeinsam beantwortet. Die Antwort zu Frage 15 einschließlich der Fragen 15a bis 15d würde spezifische Informationen zur Tätigkeit, insbesondere zur Methodik und den konkreten technischen Fähigkeiten der Sicherheitsbehörden einem nicht eingrenzbaren Personenkreis – auch außerhalb der Bundesrepublik Deutschland – zugänglich machen . Dies wäre für die wirksame Erfüllung der gesetzlichen Aufgaben der Sicherheitsbehörden und damit für die Interessen der Bundesrepublik Deutschland nachteilig. Die Bundesregierung ist nach sorgfältiger Abwägung zu der Auffassung gelangt, dass die Fragen aus Geheimhaltungsgründen nicht in dem für die Öffentlichkeit einsehbaren Teil beantwortet werden. Vorabfassung - w ird durch die lektorierte Version ersetzt. Deutscher Bundestag – 19. Wahlperiode – 7 – Drucksache 19/5731 Im konkreten Fall kann den Sicherheitsinteressen der Bundesregierung jedoch durch Übermittlung einer eingestuften Antwort entsprochen werden. Die Antwort auf diese Frage wird daher als Verschlusssache mit dem VS-Grad „VS – NUR FÜR DEN DIENSTGEBRAUCH“ eingestuft.* * Das Bundesministerium des Innern, für Bau und Heimat hat die Antwort als „VS – Nur für den Dienstgebrauch“ eingestuft. Die Antwort ist im Parlamentssekretariat des Deutschen Bundestages hinterlegt und kann dort von Berechtigten eingesehen werden. Vorabfassung - w ird durch die lektorierte Version ersetzt. Satz: Satzweiss.com Print, Web, Software GmbH, Mainzer Straße 116, 66121 Saarbrücken, www.satzweiss.com Druck: Printsystem GmbH, Schafwäsche 1-3, 71296 Heimsheim, www.printsystem.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333