SACHSISCHE STAATSKANZLEI SÄCHSISoHE STAATSKANZLEI 01095 Dresden Präsidenten des Sächsischen Landtages Herrn Dr. Matthias Rößler Be rn ha rd-von-Li nde na u-Platz 1 01067 Dresden Kleine Anfrage des Abgeordneten René Jalaß (DlE LINKE) Drs.-Nr.: 6112131 Thema: Social Bots Sehr geehrter Herr Präsident, den Fragen sind folgende Ausführungen vorangestellt: ,,Vorbemerkung: Die Justizministerkonferenz hat laut Beschluss auf ihrer Herbstkonferenz einen Abschlussbericht einer Länderarbeitsgruppe zum Thema ,,Social Bots" zur Kenntnis genommen und bittet die Ministerpräsident*innen der Länder, eine Umsetzung der Vorschläge der Länderarbeitsgruppe zur Änderung des Rundfunkstaatsvertrags zu prüfen bzvv...bittet die Bundesregierung u.a. eine Umsetzung der Vorschläge zuÍ Anderung des Telemediengesetzes zu prüfen" Namens und im Auftrag der Sächsischen Staatsregierung beantworte ich die Kleine Anfrage wie folgt: Frage l: Wie lautet der o.g. genannte Abschlussbericht im Volltext? Bei dem Abschlussbericht der Länderarbeitsgruppe ,,Social Bots" handelt es sich um ein nicht-öffentliches Dokument, dass im gegenwärtigen Stadium der Prüfung rechtlicher lnstrumente und Auswirkungen dem lnitiativ-, Beratungs - und Handlungsbereich der Staatsregierung und damit dem Kernbere ich exe kutive r Ei genve ra ntwo rt ung zuzuordne n ist. Die Konferenz der Justizministerinnen und Justizminister hat den Bericht selbst nur zur Kenntnis genommen. Aus ihrem Beschluss ergibt sich, dass die im Bericht enthaltenen Regelungsvorschläge von den verantwortlichen Stellen (Ministerpräsidenten und Bundesregierung) weiter geprüft werden sollen. Die Willensbildung der Staatsregierung ist insoweit noch nicht abgeschlossen . Weder wurden die lnhalte aus dem Abschlussbericht der Länderarbeitsgruppe veröffentlicht noch steht fest, dass die darin enthaltenen Regelungsvorschläge in Entwürfe zur Änderung des Rundfunkstaatsvertrages oder des Telemediengesetzes münden werden und welche der Begründun- 5 FreistaatSACHSEN Chef der Staatskanzlei und Staatsminister für Bundes- und Europaangelegenheiten Durchwahl Telefon +49 351 564-1020 Telefax +49 351 564-1025 poststelle@ sk.sachsen.de Geschäftszeichen (bitte bei Antwort angeben) sK.25.2-1051t32t417- 201817023 Dresden, ? O. reøruar zola Die Kampagne des Freistaates Sachsen. Hausanschrift: Sächsische Staatskanzlei Archivstraße 1 01097 Dresden .. SOG sAcHsr EHT Seite I von 4 www.sachsen.de SÄCHSìSCHE STAATSKANZLEI gen sich die Staatsregierung zu eigen machen wird. Eine Mitteilung des Volltextes wird daher zum gegenwärtigen Zeitpunkt abgelehnt. Soweit Vorschläge der Arbeitsgruppe zum Gegenstand von Prüfbitten gemacht worden sind, wird hierauf in den Antworten zu den Fragen Ziffern 2. und 3. eingegangen. Frage 2: Welche ,,Vorschläge" sind gemeint und stimmte die Staatsregierung diesen Vorschlägen zu? lm Ergebnis der Erörterungen hat die Arbeitsgruppe sich auf die Untersuchung der folgenden fünf großen Rechtsbereiche verständigt: Medienrecht, Parteienrecht, Allgemeines Persönlichkeitsrecht, Wettbewerbsrecht und Kapitalmarktrecht. Die Arbeitsgruppe sieht folgenden Handlungsbedarf: Freistaat SACHSEN a a Der Bundesgesetzgeber sollte den Betreibern von Plattformen sozialer Netzwerke mit Sitz in Deutschland und Drittstaaten durch eine Ergänzung des Telemediengesetzes die Pflicht auferlegen, Beiträge, die von Social Bots erstellt und versandt werden, zu kennzeichnen. Die Bundesregierung sollte aufgefordert werden, auf europäischer Ebene auf eine Anderung der maßgeblichen unionsrechtlichen Vorschriften mit folgendem Ziel hinzuwirken: o Verankerung einer unionsrechtlichen Kennzeichnungspflicht für Betreiber von Diensten der lnformationsgesellschaft, die soziale Netzwerke sind, oder o Änderung der europarechtlichen Regelungen zum Herkunftslandprinzip, so dass eine umfassendere mitgliedstaatliche Regelung unter Heranziehung des Marktortprinzips anstelle des Herkunftslandprinzips möglich ist. Zur Durchsetzung der vorgeschlagenen bußgeldbewehrten Kennzeichnungspflicht sollte der datenschutzrechtliche Erlaubnistatbestand in $ 14 Absatz 2 TMG, der derzeit die Auskunftserteilung über Nutzerdaten auf die ,,Zwecke der Strafverfolgung " beschränkt, auf Datenübermittlungen zum Zwecke der Verfolgung von Ordn ungswid rigkeiten erstreckt werden. Der Bundesgesetzgeber sollte Akteuren mit Sitz in Deutschland und Drittstaaten, die Social Bots einsetzen, durch eine Ergänzung des Telemediengesetzes eine Pflicht zur Kennzeichnung von geschäftsmäßigen Beiträgen, die von Social Bots erstellt und versandt werden, auferlegen. Weiter sollte die Bundesregierung aufgefordert werden, auf europäischer Ebene auf eine Änderung der maßgeblichen unionsrechtlichen Vorschriften auch im Hinblick auf diejenigen, die Social Bots geschäftsmäßig einsetzen, hinzuwirken. Da eine Kennzeichnungspflicht nach Versand eines nicht vorschriftsgemäß gekennzeichneten Beitrages nur noch schwer vollstreckbar ist und Beiträge in sozialen Netzwerken erfahrungsgemäß von kurzlebiger Aktualität sind, sollte das beabsichtigte Gebot mit einem Bußgeldtatbestand bewehrt werden. Mit einer medialen Aufklärungskampagne sollten die Bürger für die Gefahr einer Verfälschung des öffentlichen Meinungsbildes durch den Einsatz von Social Bots sensibilisiert werden. Der Rundfunkstaatsvertrag sollte eine Kennzeichnungspflicht einführen, die sich an Akteure richtet, die Beiträge automatisiert mithilfe von Social Bots erstellen und a a o a Seite 2 von 4 SÄCHSìSCHE STAATSKANZLEI Freistaat SACHSEN5 a versenden. Diese Vorschrift sollte ebenfalls durch einen Ordnungswidrigkeitentatbestand ergänzt werden. lm Telemediengesetz wäre eine die medienrechtlichen Befugnisse aus dem Rundfunkstaatsvertrag flankierende Rechtsgrundlage zur Auskunftserteilung über Nutzerdaten durch die Anbieter vorzusehen. ln den weiteren Rechtsbereichen wird derzeit kein Handlungsbedarf gesehen. Die Konferenz der Justizministerinnen und Justizminister hat am g. November 2017 in Berlin den Bericht zur Kenntnis genommen und den Bericht der Konferenz der Ministerpräsidentinnen und Ministerpräsidenten (Rundfunkkommission) mit der Bitte zugeleitet , eine Umsetzung der Vorschläge der Länderarbeitsgruppe zur Änderung des Rundfunkstaatsvertrags zu prüfen. Zudem hat sie die Bundesregierung gebeten, eine Umsetzung der Vorschläge zur Änderung des Telemediengesetzes zu prüfen und sich gegebenenfalls auf EU-Ebene für die vorgeschlagenen Änderungen des unionsrechtlichen Rechtsrahmens einzusetzen. Der Bundesminister der Justiz und für Verbraucherschutz wurde ferner gebeten, die Justizministerinnen und Justizminister auf ihrer nächsten Konferenz über den Stand der Prüfung und Umsetzungsbemühungen der Bundesregierung zu informieren. Der sächsische Justizminister hat diesen Beschluss mitgetragen. Die Rundfunkkommission hat den Abschlussbericht am 31. Januar 2018 zur Kenntnis genommen und die Rundfunkreferenten der Länder gebeten, den im Bericht identifizierten Handlungsbedarf im Rahmen der bereits existierenden Länder-AG ,,lntermediäre " auf Rundfunkreferentenebene zu prüfen. Frage 3: Welche Definition bzw. welche wissenschaftlichen Kriterien zur Einordnung als ,,social bots" und zur Unterscheidung von durch Personen gesteuerte Accounts in sozialen Netaterken legt die Staatsregierung ihrem Handeln diesbezüglich zugrunde? Die von der Konferenz der Justizministerinnen und Justizminister eingesetzte Arbeitsgruppe , an der sich das Sächsische Staatsministerium der Justiz beteiligt hat, hat ,,Social Bots" - soziale Roboter - als Computerprogramme eingeordnet, die automatisiert in sozialen Medien kommunizieren und dabei vortäuschen, eine menschliche ldentität zu haben. lhr verdeckter Einsatz ziele darauf ab, menschliche Äußerungen zu fingieren. Dies unterscheide Social Bots von technisch venruandten Formen der automatischen Kommunikation zwischen Maschinen bzw. Computerprogrammen und Menschen (2. B.durch sog. Chat Bots oder digitale Assistenten). Die Arbeitsgruppe ging davon aus, dass die Verwendung von Social Bots den Akteuren folgendes ermögliche: . Sie können in Foren eines sozialen Netzwerks automatisiert auf Meinungsäußerungen anderer Nutzerinnen und Nutzer sofort und zeitgleich mit einer eigenen Mitteilung antworten. . Durch das Zusammenwirken einer Vielzahl von bot-gesteuerten Pseudonymen (,,Bot-Armeen") können sie die gewünschten lnhalte vielfach und vielerorts platzieren und den in den verschiedenen Foren stattfindenden Meinungsaustausch damit dominieren. Seite 3 von 4 SÄCHSISCHE STAATSKANZLEì Freistaat SACHSEN5 Damit erlauben es Social Bots aus Sicht der Arbeitsgruppe ihrem Venruender, einer Einzelmeinung eine viel höhere Wirkung zukommen zu lassen als sie andere Nutzerinnen und Nutzer erreichen, ohne dass die Automatisierung der Äußerung und gegebenenfalls deren Vervielfältigung für sie erkennbar sind. Bürgerinnen und Bürger würden so über die politische, gesellschaftliche oder ökonomische Bedeutung von Sachverhalten und Meinungen getäuscht sowie Diskussionen zu Fragen von allgemeiner Bedeutung systematisch manipuliert. Social Bots seien damit letztlich geeignet, das Funktionieren des demokratischen Meinungsbildungsprozesses zu gefährden. Fragen 4: Welche Erkenntnisse hat die Staatsregierung darüber, ob Bots in sozialen Netzwerken tatsächlich in bedeutsamen Ausmaß in der Lage waren, Debatten inhaltlich zu beeinflussen? Frage 5: Welche Erkenntnisse hat die Staatsregierung über selbständig handelnde ,,social bots", die durch den Einsatz künstlicher lntelligenz in der Lage sind, Diskussionen und politische Themenlagen z.B. in sozialen Netznrerken tatsächlich zu beeinflussen , zu steuern und zielgerichtet zu interagieren? Zusammenfassende Antwort auf die Fragen 4 und 5: Die Staatsregierung hat keine spezifischen Erkenntnisse über die allgemein geführte öffentliche Diskussion hinaus zur Beeinflussung von Diskussionen und politischen Themenlagen. Die von der Konferenz der Justizministerinnen und Justizminister eingesetzte Arbeitsgruppe ist davon ausgegangen, dass das Phänomen ,,Social Bots" eine aktuelle praktische Relevanz hat. Neuere Veröffentlichungen deuteten darauf hin, dass ,,Social Bots" weltweit eine Reihe wichtiger politischer Auseinandersetzungen beeinflusst haben könnten. Konkrete Hinweise darauf, dass insbesondere Parteien Manipulationsversuche über Social Bots betreiben, lagen der Arbeitsgruppe nicht vor. Mit freundlichen Grüßen úk fd*-r.1¡¿- Oliver Schenk Seite 4 von 4 2018-02-21T12:53:07+0100 GRP: Elektronisches Dokumentations- und Archivsystem Erstellung des Nachweisdokumentes