Kurz vor einer weiteren Sitzung des EU-Rates zum Thema Chatkontrolle warnen erneut 18 Fachwissenschaftler aus den Bereichen Cybersicherheit und Datenschutz in einem offenen Brief vor den schädlichen Folgen des heimlich vorgelegten Vorschlags. Auch der neue Vorschlag vom 13. November bringe „hohe Risiken für die Gesellschaft ohne klaren Nutzen für Kinder“.

Die vergangenen Wochen waren abenteuerlich: Zunächst hatte es geheißen, dass Dänemark – derzeit mit der EU-Ratspräsidentschaft betraut – seinen Vorschlag zur Chatkontrolle zurückziehen würde. Eine Mehrheit im Rat war nicht zustandegekommen, von einem Ersatz war keine Rede. Der kam aber bald – durch die Hintertür. In einer Nacht-und-Nebel-Aktion wurde ein neuer Vorschlag vorgelegt, nach dem die Chatkontrolle für die App- oder Plattformbetreiber einerseits freiwillig bleiben soll – wörtlich heißt es nun: „Diese Verordnung verpflichtet Anbieter nicht zur Aufdeckung.“ Aber gleichzeitig sollen neue Möglichkeiten zur Chat-Durchleuchtung geschaffen werden. So würden Online-Chats künftig nicht mehr nur auf Bilder und Internetadressen gescannt, auch Text und Videos sollen ins Visier der Ermittler geraten.

An diesem Mittwoch sollte eigentlich über den neuen Geheimvorschlag im Rat diskutiert werden. Netzpolitik.org berichtet nun von einer Verschiebung des Tagesordnungspunktes auf die kommende Woche (26. November). Noch immer will die dänische Ratspräsidentschaft den Gesetzentwurf aber „schnellstmöglich“ durch den Rat bringen, damit die sogenannten „Trilogverhandlungen“ zwischen Rat, Kommission und Parlament „zeitnah begonnen werden können“.

Noch im Dezember könnte der neue Vorschlag offiziell angenommen werden. Die Bundesregierung hat laut Netzpolitik „sowohl die Streichung der verpflichtenden Maßnahmen als auch die dauerhafte Verankerung freiwilliger Maßnahmen“ begrüßt. CDU, CSU und SPD scheinen nun wieder einig zu sein – haben ihre Stellung im Kampf für mehr Überwachung im Internet gefunden. Der ehemalige EU-Abgeordnete Patrick Breyer (Piraten) warnt vor einer Festlegung durch die Zustimmung der EU-Mitgliedsstaaten.

Experten: Nachkontrolle durch Menschen wird aufwendig

Es gibt weiterhin viel Kritik an dem Vorschlag. Zunächst ist offensichtlich: Durch die Ausweitung des erfassten Materials (nun Bilder, URLs, Texte und Videos) käme immer mehr KI ins Spiel. Denn nur die kann die anfallenden Datenmengen scannen. Der Mensch, das ist die sehr konkrete Zukunftsvision dieses EU-Rats, soll bald allseitig und durchdringend von Künstlicher Intelligenz gescannt und durchleuchtet werden. Die KI wird damit Polizeibehörden eine Einschätzung liefern, welchen „Fällen“ von möglichen Online-Vergehen sie nachgehen soll. Wenn man das zu Ende denkt, ist es eine gespenstische Zuspitzung der KI-gestützten Überwachung der Bürger durch den Staat.

Die Experten aus vorerst 13 Staaten – weitere dürften rasch hinzukommen – kritisieren zum einen die Ausweitung des „Scan-Guts“ auf Text und Videos. Denn hier werde man am Ende nicht mit KI auskommen, die notwendige Verifikation der Verdachtsmomente durch die „menschliche Arbeitskraft“ werde aufwendig und kostspielig sein. Zum anderen und zuvörderst beklagen die Experten aber den Verlust an Privatsphäre, der mit so weit und tief reichenden Eingriffen einhergeht – und das bei einer hohen Fehleranfälligkeit der KI.

Zumal bei Textnachrichten die KI einfach nicht so weit sei: „Die derzeitige KI-Technologie ist bei weitem nicht präzise genug, um diese Aufgaben mit der erforderlichen Genauigkeit zu gewährleisten.“ Keine künstliche Intelligenz dürfte in der Lage sein, die sexualisierte Ansprache von Minderjährigen durch Missbrauchstäter („grooming“) etwa von freundschaftlicher Kommunikation etwa auch zwischen Gleichaltrigen zu unterscheiden.

Aber auch durch in Chats verschickte Bilder dürfte die KI sich immer wieder täuschen lassen und damit viele „falsch Positive“ auslösen, so die Experten. Immer mehr Online-Chats gerieten damit ins Visier der Ermittler, „ohne jede Gewährleistung für besseren Schutz – und mit einem hohen Risiko, den Schutz insgesamt zu verringern, indem die Ermittler mit falschen Anschuldigungen überflutet werden, die sie daran hindern, die tatsächlichen Fälle zu untersuchen“. Die intensivierte Online-Überwachung könnte also zu einem Erlahmen der so wichtigen Polizeiarbeit in der Offline-Realität (auch als „real life“ bekannt) führen.

Nächster logischer Schritt: Zugang zu VPNs einschränken

Das ist aber noch längst nicht alles, was die Forscher kritisieren. Hinzugekommen ist beim neuen EU-Gesetzentwurf nämlich die verpflichtende Altersverifikation für Software-Stores und für Anbieter von Ende-zu-Ende-verschlüsselten Chats. Muss man also künftig sein Alter verifizieren, gar seine Identität offenlegen, wenn man Whatsapp und ähnliche Dienste nutzen will? So scheint es geplant zu sein. Laut Breyer soll das sogar für E-Mail-Anbieter gelten.

Die Experten weisen darauf hin, dass es derzeit keinen technischen Weg zur Altersbestätigung gibt, der die Privatsphäre erhält und respektiert. Immer müssen entweder biometrische Daten, Browserdaten oder gar behördliche Dokumente (Pass oder Personalausweis) vorliegen. Die vorgeschlagene Neuregelung sei ein Anreiz für das Sammeln von Daten. Das aber mindert die Online-Sicherheit etwa durch drohende Datenlecks. Außerdem funktionieren biometrische Bestätigungsarten nicht sicher bei „bestimmten Minderheiten“, und viele Nutzer hätten ohnehin keinen Zugang zu technisch avancierten Lösungen, so die Forscher.

Die Vorlage von Ausweis-Scans sei dagegen „unverhältnismäßig, da sie viel mehr Informationen preisgibt als das Alter“. Außerdem und vor allem würde aber auch dieses Verfahren am Ende keinen Sicherheitsgewinn bieten. Die Altersbestätigung könne leicht durch technische Mittel umgangen werden, etwa durch VPN. Das sieht man schon heute in Ländern wie dem UK, in denen eine verpflichtende Altersverifikation eingeführt wurde. Der logische nächste Schritt der EU werde sein, den Zugang zu VPNs zu beschränken oder zu unterbinden.

Auslaufen der Chatkontrolle ist zum Greifen nahe

Essentiell für das Verständnis der krampfhaften Bemühungen der EU-Mächtigen um eine Neuregelung ist die drohende Regelungslücke im Hintergrund. Die aktuelle Regelung zur freiwilligen Chatkontrolle durch die Anbieter würde nach derzeitigem Stand im Frühjahr 2026 auslaufen. Würde sie nicht verlängert (wie es allerdings schon einmal geschah), wäre die EU ab dem 4. April 2026 ohne jede Anweisung zur Kontrolle von Chats, ob freiwillig oder nicht. Das soll um jeden Preis verhindert werden. Am Ende ist aber auch dieser Regelungswahn nur ein Vorwand um neue, bisher ungesehene Arten der Massenüberwachung EU-weit zu installieren, ohne dass irgendein nationales Parlament damit befasst worden wäre.

Wenn der Rat sich nicht um die Kritik der Experten kümmern sollte, sieht Breyer massive Diskussionen im EU-Parlament kommen. Offenbar setzt der Ex-Abgeordnete auf das Parlament als Korrektiv wie zuletzt gesehen beim Lieferkettengesetz.

Neben der polnischen hat allerdings zuletzt die italienische Regierung ihre Zustimmung zur neuen „freiwilligen“ Chatkontrolle in Frage gestellt. Die Regierung Meloni befürchtet demnach, „das Instrument könne auch auf andere Delikte ausgeweitet werden“. Daher habe man Schwierigkeiten, den Vorschlag zu unterstützen. Der Hinweis ist fast eindeutig zu lesen: Die italienische Regierung sieht die EU in der Gefahr, die Online-Kommunikation in Chats und E-Mails in großem Ausmaß unter Strafe, oder doch unter Ermittlungsdruck zu stellen. Die Verfolgung missliebiger Meinungsäußerungen ist nicht fern, wo Regierungen immer wieder vorgeben, gegen „Hass und Hetze“ durchgreifen zu wollen. Dazu könnte auch die EU-Chatkontrolle am Ende dienen und so die Meinungskontrolle, die laut Digital Services Act für die großen Plattformen (Facebook, X usw.) geplant ist, auf die privaten Messengerdienste ausdehnen. An beiden Fronten – Überwachung öffentlicher wie privater Kommunikation – stehen noch weitere Kämpfe an.