Mangelhafte Argumente der EU gegen terroristische Inhalte verleihen Big Tech mehr Macht.

Im englischen Original von Diego Naranjo und Maryant Fernández Pérez (EDRi), Übersetzung von Lutz Martiny

Am 12. September 2018 machte die Europäische Kommission einen weiteren Vorschlag, die gleichen großen Technologieunternehmen zu stärken, von denen sie behauptet, dass sie bereits zu mächtig sind: einen Verordnungsentwurf zur Verhinderung der Verbreitung terroristischer Inhalte im Internet. Der Vorschlag ermutigt private Unternehmen, den Zugang zu „terroristischen Inhalten“ zu löschen oder zu sperren.

Die Umsetzungsfrist der so genannten Terrorismusrichtlinie zur Blockierung und Entfernung terroristischer Inhalte im Internet ist gerade erst abgelaufen (am 8. September 2018), aber die Kommission hat sich bereits beeilt, noch vor den bevorstehenden EU-Wahlen einen weiteren neuen Vorschlag vorzulegen. Der vorgeschlagene Entwurf ist so mangelhaft, dass die Kommission ihn auf 146 Seiten der von ihr erstellten, fast komischen Folgenabschätzung nicht ausreichend begründen kann.

Was glaubt die Kommission, was „terroristische Inhalte“ sind?

Der Verordnungsvorschlag sieht eine sehr weit gefasste Definition von terroristischen Inhalten vor, die der Definition in der kürzlich verabschiedeten Terrorismusrichtlinie ähnelt – sich aber von ihr unterscheidet (die derzeit in 27 nationale EU-Rechtsrahmen umgesetzt wird). Die Definition umfasst die folgenden Aktivitäten:

• Anstiftung oder Befürwortung der Begehung terroristischer Straftaten, auch durch Verherrlichung, und damit die Gefahr, dass solche Handlungen begangen werden;
• Förderung des Beitrags zu terroristischen Straftaten;
• Förderung der Aktivitäten einer terroristischen Vereinigung, insbesondere durch Förderung der Beteiligung an oder Unterstützung einer terroristischen Vereinigung.

Während die Terrorismusrichtlinie die „Absicht“ verlangte, Teil aller Elemente zu sein, die terroristische Straftaten darstellen, wird diese notwendige Anforderung in diesem Verordnungsentwurf weggelassen. Ohne Rücksicht auf die Absichten der Menschen riskieren wir, dass jede Mitteilung von terroristischen Inhalten, sei es zu Konfrontations-, Berichts-, Forschungs- oder historischen Zwecken, automatisch gelöscht wird – wobei die damit verbundenen personenbezogenen Daten einer langfristigen Speicherung unterliegen. In einer demokratischen Gesellschaft ist dies nicht akzeptabel.

Welche Maßnahmen enthält die Terrorismusverordnung?

Der Verordnungsentwurf sieht drei Hauptmaßnahmen vor:

1. Hochladen von Filtern („proaktive Maßnahmen“), die von Unternehmen umgesetzt werden sollen;
2. Anordnungen von (undefinierten) nationalen Behörden, den Zugang zu terroristischen Inhalten innerhalb einer Stunde zu entfernen oder zu sperren; und
3. Verweise durch nationale Behörden, Europol oder die zuständige Stelle der Union auf der Grundlage von Verstößen gegen die Nutzungsbedingungen von Unternehmen (nicht das Gesetz), vorbehaltlich der „freiwilligen Gegenleistung“ der Online-Hosting-Anbieter selbst. Dies wird dazu führen, dass die Staaten de facto Druck auf die Unternehmen ausüben, ohne Rechenschaftspflicht oder die gebührende Beachtung der Rechtsstaatlichkeit.

Was sagt die Folgenabschätzung, um diesen Vorschlag zu begründen?

Im Gegensatz zur Terrorismusrichtlinie hat die Europäische Kommission mit ihrem Vorschlag für eine Terrorismusverordnung eine Folgenabschätzung vorgelegt. Die Kommission hat 146 Seiten mit unbegründeten Behauptungen, Fehlinterpretationen der öffentlichen Konsultation zu illegalen Inhalten im Internet und mit vielen Argumenten gefüllt, die sich gegen diesen Vorschlag aussprechen. In der Folgenabschätzung wird dies anerkannt:

• Nur 6 % der Befragten einer kürzlich durchgeführten öffentlichen Konsultation waren mit terroristischen Inhalten im Internet konfrontiert – und doch behauptet die Kommission, dass wir eine neue Verordnung brauchen, um ihre Verbreitung zu verhindern. Da etwa 75% der Meldungen an nationale Hotlines falsch sind, bedeutet dies, dass die tatsächliche Zahl eher unter 2% liegt.
• 75% der Befragten hielten das Internet für sicher – aber selbst das reicht nicht aus, um das politische Streben der Kommission nach mehr Gesetzgebung zum „Terrorismus“ zu stoppen.
• Es gibt Schwierigkeiten, eine harmonisierte Definition von „terroristischer Propaganda“ zu finden – und doch führt sie, anstatt eine öffentliche Konsultation darüber durchzuführen, wie man sie besser definieren kann, ein neues Instrument ein, das das eigentliche Problem nicht lösen wird.
• Die Mitgliedstaaten haben behauptet, dass die Entfernung von Inhalten „eine Untersuchung beeinträchtigen und die Chancen verringern kann, kriminelle Aktivitäten zu unterbrechen und die notwendigen Beweise für Strafverfolgungszwecke zu erhalten“, und dennoch würden einige der vorgeschlagenen Maßnahmen dazu führen, dass Unternehmen einseitig beschließen, Inhalte zu entfernen.
• Dass es „reichhaltige Literatur“ über die Vorurteile und die damit verbundenen Fehler und Diskriminierungen gibt, die zu Fehlentscheidungen bei der algorithmischen Entscheidungsfindung führen können – und doch schlägt die Kommission eine Verordnung zur Umsetzung genau dieser Art von Maßnahmen vor.

Ein weiteres Beispiel für eine nicht evidenzbasierte Politikgestaltung ist, dass die Folgenabschätzung keine Analyse der Kosten liefert, die mit der Einrichtung der notwendigen Hash-Datenbanken für die automatische Entfernung von Inhalten verbunden wären. Und doch wird dies im Verordnungsentwurf als eine der Maßnahmen vorgeschlagen, die in allen EU-Mitgliedstaaten umgesetzt werden sollen.
Warum schlägt die Kommission jetzt eine neue Verordnung vor?

Trotz des Mangels an Beweisen dafür, wie diese Maßnahmen Terroranschläge verhindern können und wie sie angemessen und verhältnismäßig sind, um den Schluss zu ziehen, dass die Verordnung erforderlich ist, liegt der Vorschlag vor. Es ist fast so, als ob die Entscheidung bereits getroffen worden wäre, bevor eine Bewertung der Auswirkungen dieses Vorschlags auf die tatsächliche Bekämpfung des Terrorismus vorgenommen würde.

Die Richtlinie zur Terrorismusbekämpfung verpflichtet die Europäische Kommission, bis 2021 einen Bericht über die Auswirkungen der Rechtsvorschriften über „die Grundrechte und -freiheiten, einschließlich der Nichtdiskriminierung, auf die Rechtsstaatlichkeit und auf das Schutzniveau und die Unterstützung der Opfer des Terrorismus“ vorzulegen. Auf dieser Grundlage soll die Kommission prüfen, ob Folgemaßnahmen erforderlich waren. Anstatt zunächst die Auswirkungen der bestehenden Rechtsvorschriften zu prüfen, hat die Kommission einen neuen Vorschlag vorgelegt und strebt an, ihn vor den Europawahlen im Mai 2019 fertigzustellen.

Es ist bedauerlich, dass Rechtsvorschriften ausgenutzt werden, um den Bürgern ein falsches Sicherheitsgefühl zu vermitteln, während sie ihre Rechte und Freiheiten untergraben.
EDRi verfolgt dieses Dossier sehr aufmerksam. In einem ersten Schritt werden wir in den nächsten Wochen ein Grundsatzpapier und Änderungsvorschläge zu dem Verordnungsvorschlag sowie einen Dokumentenpool veröffentlichen, um alle Unterlagen rund um diese Akte zu sammeln.

• Gemeinsame Pressemitteilung: EU-Terrorismusverordnung – eine EU-Wahltaktik (12.09.2018)
• Vorschlag für eine Verordnung zur Verhinderung der Verbreitung terroristischer Inhalte im Internet (12.09.2018)
• Folgenabschätzung im Zusammenhang mit dem Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Verhinderung der Verbreitung terroristischer Inhalte im Internet (12.09.2018)
• Der Berichtsentwurf des EU-Parlaments zur Terrorismusbekämpfung gibt Anlass zu großer Sorge (10.10.2018)
• Terrorismusrichtlinie: Dokumenten-Pool (24.11.2016)

CC-BY 4.0 Diego Naranjo und Maryant Fernández Pérez (EDRi)