Zehn Prinzipien gegen drohende Chatkontrolle

Hintergrund

Seit Ende 2020 gelten verschiedene Regelungen der Datenschutzrichtlinie für elektronische Kommunikation (ePrivacy-Richtlinie) auch für Chats und Messenger. Daraufhin hat die EU bereits im vergangenen Jahr eine Ausnahmeregelung eingeführt, um das von einigen Anbietern wie Microsoft und Meta (ehemals Facebook) bereits freiwillig praktizierte automatisierte Scannen von Kommunikationsinhalten zu legalisieren. Die Kommission will nun noch einen Schritt weiter gehen und eine Verpflichtung der Anbieter zum Überwachen der Kommunikation einführen, die auch verschlüsselte Kommunikation umfassen soll.

Was ist geplant?

Bisherigen Verlautbarungen von EU-Innenkommissarin Johansson zufolge [1] sollen Unternehmen zur Erkennung, Meldung und Löschung von CSAM verpflichtet werden. Dabei hat die Kommission insbesondere das „Client-Side-Scanning“ (CSS) vor Augen. Beim CSS werden unter Umgehung der Ende-zu-Ende-Verschlüsselung Inhalte direkt auf den Endgeräten der Nutzenden durchsucht. Das könnte so ablaufen, dass bei einem Verdachtsfall der Versand einer Nachricht unterbunden und stattdessen an Strafverfolgungsbehörden weitergeleitet wird. Notwendige Voraussetzung für den Einsatz dieser Technik ist das automatisierte Durchleuchten der Kommunikation aller Nutzenden.

Sebastian Marg von der Digitalen Gesellschaft meint dazu: „Das vom EU-Parlament geforderte und der neuen Koalition in Berlin versprochene Recht auf Verschlüsselung ist wenig wert, wenn die Überwachung der Kommunikation künftig direkt auf den Endgeräten stattfindet. Wir erwarten daher vom EU-Parlament, aber auch von der Bundesregierung im Ministerrat, dass sie derartigen Plänen der Kommission eine klare Absage erteilen.“

Entsprechende Pläne von Apple zum „freiwilligen“ Einsatz von CSS wurden im vergangenen Jahr nach massiven Protesten [2] bereits auf Eis gelegt. Führende Sicherheitsforscher [3] sehen im flächendeckenden Einsatz von CSS nicht nur eine ernsthafte Gefahr für die Demokratie, sondern auch ein zusätzliches Risiko für Sicherheitslücken und Angriffsflächen für Kriminelle und staatliche Hacker.

Konstantin Macher von Digitalcourage erklärt: „Der Einsatz von staatlich verordneter Überwachungstechnologie auf den Geräten aller Nutzer.innen und das Überwachen und Filtern der gesamten Kommunikation schafft eine Infrastruktur, die Staaten zur Ausweitung geradezu einlädt. Chatkontrolle, die zur Erkennung von Missbrauchsdarstellung eingeführt wird, kann leicht auf neue Zwecke angewendet werden – zum Beispiel vermutete Hassrede oder gar Unterhaltungen über politisch unliebsame Inhalte wie das Tian’anmen-Massaker.“

Bestehende Möglichkeiten werden nicht ausgeschöpft

In der Vergangenheit hat der Europäische Gerichtshof anlasslose Massenüberwachung immer wieder für rechtswidrig erklärt. Dennoch scheint die Kommission fest entschlossen zu sein, an ihre fragwürdigen Plänen festzuhalten.

„Der Kampf gegen Kindesmissbrauch scheitert nicht an mangelnder Überwachung und fehlenden polizeilichen Kompetenzen“ sagt Konstantin Macher von Digitalcourage. „Seit Jahren vernachlässigen die Sicherheitsbehörden die notwendige Löschung des bereits ermittelten Materials, so dass es sich weiter verbreiten kann. Statt sich im Poltern um vermeintlich technische Lösungen durch neue Überwachungsgesetze zu überbieten, sollten Kommission und Mitgliedsstaaten die bestehenden Kompetenzen ausschöpfen und auch die nötigen Mittel für Prävention und Opferschutz zur Verfügung stellen.“

Das haben umfassende Recherchen des ARD-Politikmagazins Panorama, des NDR-Reportageformats STRG_F und dem Spiegel im Dezember gezeigt [4]. Eine Gruppe von Europaabgeordneten fordert Aufklärung zur Rolle von Europol in diesem Fall. [5] Und das Problem besteht schon länger: Bereits 2017 hat das Europäische Parlament festgestellt, [6] dass die Mitgliedstaaten von der Möglichkeit des Löschens von CSAM nur unzureichend Gebrauch machen.

Tom Jennissen von der Digitalen Gesellschaft: „Die Kommission scheint aus dem Debakel der Vorratsdatenspeicherung nichts gelernt zu haben. Statt auf gezielte rechtsstaatliche Verbrechensbekämpfung zu setzen, verrennt sie sich erneut in technokratischen Überwachungsfantasien.“

Zehn Prinzipien der europäischen Zivilgesellschaft

Angesichts der Pläne der Kommission hat das EDRi-Netzwerk zehn grundlegende Prinzipien erarbeitet. Nur wenn alle folgenden Prinzipien bei Maßnahmen zur Bekämpfung von CSAM erfüllt sind, können sie rechtsstaatlichen Grundsätzen entsprechen:

1. Keine Massenüberwachung
2. Eingriffe müssen gezielt und auf Grundlage eines individuellen Verdachts stattfinden
3. Eingriffe müssen rechtmäßig und auf gesetzlicher Grundlage erfolgen
4. Eingriffe müssen individuell angeordnet sein
5. Maßnahmen dürfen nur so wenig wie nötig in die Privatsphäre eingreifen und müssen sich auf die Erkennung von CSAM beschränken
6. Unabhängige Aufsicht und Überprüfung der Technologie und ihres Einsatzes
7. Kontrolle durch unabhängige Sicherheitsforschung und Zivilgesellschaft muss gewährleistet sein
8. Maßnahmen müssen Verschlüsselung wahren
9. In die Bewältigung komplexer sozialer Probleme investieren
10. Alle Interessengruppen einbeziehen

Prinzipienpapier des EDRi-Netzwerkes (englisch):
https://edri.org/wp-content/uploads/2022/02/EDRi-principles-on-CSAM-measures.pdf
Prinzipienpapier, übersetzt von Digitale Gesellschaft und Digitalcourage:
https://digitalcourage.de/sites/default/files/2022-02/EDRi-prinzipien-fuer-CSAM-massnahmen-deutsch.pdf

Quellen:
[1] https://www.heise.de/news/Kindesmissbrauch-im-Netz-EU-plant-schaerferes-Vorgehen-gegen-verbotene-Inhalte-6321161.html
[2] https://edri.org/our-work/ispy-with-my-little-eye-apples-u-turn-on-privacy-sets-a-precedent-and-threatens-everyones-security/
[3] https://www.cl.cam.ac.uk/~rja14/Papers/bugs21.pdf
[4] https://netzpolitik.org/2022/darstellungen-von-kindesmissbrauch-das-netz-vergisst-nichts-solange-es-nicht-vergessen-soll/
[5] https://www.tagesschau.de/investigativ/panorama/missbrauch-kinder-bilder-bka-europol-101.html
[6] https://www.europarl.europa.eu/doceo/document/A-8-2017-0368_DE.pdf

Digitale Gesellschaft
Die Digitale Gesellschaft e.V. ist ein gemeinnütziger Verein, der sich seit seiner Gründung im Jahr 2010 für Grundrechte und Verbraucherschutz im digitalen Raum einsetzt. Zum Erhalt und zur Fortentwicklung einer offenen digitalen Gesellschaft engagiert sich der Verein gegen den Rückbau von Freiheitsrechten im Netz, gegen alle Formen von Überwachung und für die Realisierung digitaler Potentiale bei Wissenszugang, Transparenz, Partizipation und kreativer Entfaltung.