Zum Inhalt springen
Startseite » Blog » EU Chat-Control & Upload-Filter

EU Chat-Control & Upload-Filter

Am 11. Mai diesen Jahres veröffentlichte die Europäische Kommission einen Gesetzesentwurf „zum Schutz von Kindern“. Tatsächlich verbirgt sich hinter dieser vagen Formulierung der Plan Internetplattformen und insbesondere Chat- & Messaging-Dienste in die Pflicht zu nehmen, von Benutzer:innen versendete Nachrichten auf potenziell Kindeswohl gefährdende Inhalte zu prüfen. Wurden solche identifiziert, soll dieser Vorfall unverzüglich an Sicherheitsbehörden gemeldet werden. [1, 2, 7]

Allerdings können Inhalte einer Nachricht oder von Dateien selbstverständlich nur dann auf potenziell strafbare Ausdrücke, Absichten oder Bildmaterial überprüft werden, wenn diese unverschlüsselt vorliegen. [8]

Überwachung durch das eigene Smartphone

Die im Gesetzesentwurf geplanten Maßnahmen hätten zur Folge, dass jegliche digitale Kommunikation aller EU-Bürger:innen zunächst einmal anhaltslos und automatisiert überwacht werden. Die Kritik von Bürger:innenrechtsorganisationen ist verheerend. Beispielsweise sieht der bundesweit bekannte Chaos Computer Club e.V. hierin eine „überzogene und fehlgeleitete Überwachungsmethode“, welche „obendrein unwirksam“ sei. Ähnliche Äußerungen veröffentlichen auch die GFF, Epicenter, EDRi sowie die EFF. [2, 3, 4, 5, 6, 7]

Zweifelsohne hat der Gesetzesentwurf das Potenzial die Art und Weise zu verändern, wie wir miteinander kommunizieren und in wie weit wir den dazu genutzten technischen Mitteln vertrauen können. Der Gesetzesentwurf steht zudem in direktem Kontrast mit dem allgemeinen Recht auf Privatsphäre der Kommunikation und den Bestrebungen flächendeckend sichere und umfassende Verschlüsselung zu nutzen. [2, 6, 9]

Denn die Implementierung solcher Inhaltsfilter setzt in jedem Fall immer die Aufweichung, wenn nicht sogar gänzliche Aufhebung von sicheren Verschlüsselungsmethoden an entscheidenden Stellen der Kommunikation voraus. Entgegen der Intention des Gesetzesentwurfs kann dies den Schutz des Kindeswohl sogar selbst gefährden. [2, 6, 8]

Fehlerquoten und Falschverdächtigungen

Das Vorgehen erinnert sehr an die bereits 2021 in Kraft getretenen „Upload-Filter“ für Social-Media und Videoplattformen (oder genereller öffentlicher Kommunikation im Netz). Zwar ging es hierbei um eine Reform des Urheberrechts, jedoch war ein Hauptkritikpunkt auch schon dort, dass automatisierte Inhaltsfilter nicht fehlerfrei funktionieren (können). [11]

Die Kommunikation vieler Menschen findet heute zu erheblichen Teilen digital statt. Täglich werden Milliarden von Nachrichten und Dateien in der EU verschickt. Die Kontrolle all dieser Inhalte stellt für Plattformen also schon alleine ein rein praktisches Problem dar, welche mit ausgefeilten technischen Mittel vollzogen werden muss. Doch egal ob hierfür künstliche Intelligenzen oder weniger Komplexe Optionen genutzt werden, keine davon funktioniert gänzlich fehlerfrei. [2]

Da gefundene Inhalte unverzüglich an Sicherheitsbehörden gemeldet werden sollen, können selbst kleinste Quoten an fälschlich erkannten Inhalten weit unterhalb der Promille-Grenze zu einer schieren Flut an Meldungen führen und die Behörden hoffnungslos überladen. Des weiteren würden hierdurch Inhalte privater Kommunikation an staatliche Stellen weitergeleitet, ohne dass diese tatsächliche rechtliche Verstöße – und damit vermeintlich berechtigtes Interesse der Behörden – beinhalten. [2]

Mit Blick auf die Pressefreiheit und den Schutz von Whistleblower:innen stellt eine solche Art der staatlichen Überwachung eine ernste Bedrohung der Demokratie dar. Auch der so genannte „Chilling-Effekt“ kann hierbei eintreten und unser gesellschaftliches Verständnis und Vertrauen nachhaltig beeinflussen. [9]

Widerstand der öffentlichen Gesellschaft

Bürger:innenrechtsbewegungen sind sich einig, dass der Schutz von Kindern nicht durch Massenüberwachung der gesamten digitalen Kommunikation verbessert werden kann. Jedoch sind diese Organisationen bisher die einzigen, welche die Kritik, die auch innerhalb des EU-Parlaments Anklang findet, in die Öffentlichkeit tragen. Sowohl für den effektiven Schutz von Kindern sowie für die Wahrung sicherer und privater Kommunikation innerhalb der Europäischen Union bedarf es breiten öffentlichen Diskurs. Beide Ziele sind eben nicht sich entgegenstehende Pole, sondern nur zusammen und im Einklang zu erreichen. [10]

Quellen

  1. Europäische Kommission (2022): Pressemitteilung – Kommission präsentiert Gesetzesvorschlag zum Schutz von Kindern. URL: https://ec.europa.eu/commission/presscorner/detail/en/ip_22_2976
  2. Neumann, Linus (2022): EU-Kommission will alle Chatnachrichten durchleuchten. URL: https://www.ccc.de/de/updates/2022/eu-kommission-will-alle-chatnachrichten-durchleuchten
  3. Reda, Felix (2022): Chat control: Filter technology endangers fundamental rights. URL: https://freiheitsrechte.org/ueber-die-gff/presse/pressemitteilungen-der-gesellschaft-fur-freiheitsrechte/pm-chat-control
  4. Schmidt, Petra (2022): Chat Contol: European Commission launches direct attack on privacy. URL: https://en.epicenter.works/content/chat-contol-european-commission-launches-direct-attack-on-privacy
  5. EDRi (2022): Chat control -10 principles to defend children in the digital age. URL: https://edri.org/our-work/chat-control-10-principles-to-defend-children-in-the-digital-age/
  6. Mullin, Joe (2022): The EU Commission’s New Proposal Would Undermine Encryption And Scan Our Messages. URL: https://www.eff.org/deeplinks/2022/05/eu-commissions-new-proposal-would-undermine-encryption-and-scan-our-messages
  7. Reuter, Markus (2022): Geleakter Prüfbericht geht mit Chatkontrolle hart ins Gericht. URL: https://netzpolitik.org/2022/eu-kommission-geleakter-pruefbericht-geht-mit-chatkontrolle-hart-ins-gericht/
  8. Portnoy, Erica (2019): Why Adding Client-Side Scanning Breaks End-To-End Encryption. URL: https://www.eff.org/de/deeplinks/2019/11/why-adding-client-side-scanning-breaks-end-end-encryption
  9. Reuter, Markus (2021): Angriff auf unsere private Kommunikation. URL: https://netzpolitik.org/2021/chatkontrolle-angriff-auf-unsere-private-kommunikation/
  10. Reuter, Markus (2022): Europas digitale Bürgerrechtsorganisationen gegen neue Form der Massenüberwachung. URL: https://netzpolitik.org/2022/chatkontrolle-europas-digitale-buergerrechtsorganisationen-gegen-neue-form-der-massenueberwachung/
  11. Jennissen, Tom (2021): Uploadfilter werden Gesetz. URL: https://netzpolitik.org/2021/urheberrechtsreform-uploadfilter-werden-gesetz/
Website | + posts

Jan ist Mitgründer von ViOffice. Er kümmert sich insbesondere um die technische Umsetzung und Wartung der Software. Seine Interessen liegen insbesondere in den Themengebieten Sicherheit, Datenschutz und Verschlüsselung.

Neben seinem Studium der Volkswirtschaftslehre, später der angewandten Statistik und seiner daran anknüpfenden Promotion, hat er jahrelange Erfahrung im Bereich Softwareentwicklung, Opensource und Serveradministration.