Offiziell geht es um den Kampf gegen Hassrede. Was Hassrede ist, wird hier wie überall natürlich nicht definiert und bleibt dem Gutdünken der Behörde überlassen. Tatsächlich entsteht Schritt für Schritt ein Überwachungsapparat, dessen Arbeitsweise weitgehend im Dunkeln bleibt. Ausgerechnet jene Landesmedienanstalten, die sich als staatsferne Einrichtungen verstehen und über den Rundfunkbeitrag finanziert werden, durchsuchen seit 2022 mithilfe künstlicher Intelligenz soziale Netzwerke und andere Internetplattformen nach Inhalten, von denen sie behaupten, sie seien problematisch.

Gleichzeitig bestätigen mehrere Bundesländer einen Informationsaustausch mit dem Verfassungsschutz. Aus dem Bundesland Hamburg erfährt man, worum genau es zu gehen scheint. Von dort kommt die Auskunft, der Verfassungsschutz sei Partner der zuständigen Medienanstalt in einem „Behördenkompetenznetzwerk gegen Rechtsextremismus“. Also ausschließlich gegen rechts, genauer: gegen alles, was nicht links ist. Auch der Islamismus scheint kein Thema zu sein.

Das von der Medienanstalt Nordrhein-Westfalen entwickelte KI-System trägt den Namen „Kivi“ – eine Kombination aus „KI“ und dem lateinischen oder italienischen „vigilare“, kontrollieren, beobachten, überwachen oder wachsam sein. Nach eigenen Angaben soll die Software „Hasskriminalität so zuverlässig wie nie“ aufklären. Seit 2022 wird sie von sämtlichen 14 Landesmedienanstalten eingesetzt und durchsucht Texte, Bilder und Videos auf Plattformen wie X, Facebook, TikTok oder Instagram nach potenziell rechtswidrigen Inhalten.

Wie genau dieses System arbeitet, bleibt allerdings unter Verschluss. Welche Begriffe überwacht, nach welchen Kriterien Inhalte ausgewählt werden, welche Nutzergruppen besonders im Fokus stehen oder welche Plattformen intensiver überprüft werden, wollen die Medienanstalten nicht offenlegen. Bekannt ist lediglich eine Gesamtzahl: Seit Einführung von Kivi wurden bundesweit 130.840 „potenzielle Rechtsverstöße“ identifiziert.

Was anschließend mit diesen Treffern geschieht, bleibt ebenfalls weitgehend intransparent. Bekannt ist lediglich, dass die Landesmedienanstalten über eine feste Schnittstelle Meldungen an dieselbe Stelle des Bundeskriminalamtes weiterleiten, an die auch zahlreiche staatlich geförderte Meldestellen angeschlossen sind.
Besonders brisant ist jedoch ein weiterer Aspekt. Nach Informationen der Welt kooperieren einzelne Landesmedienanstalten mit Verfassungsschutzbehörden. Die Arbeitsgemeinschaft der Medienanstalten beantwortet entsprechende Nachfragen lediglich allgemein und erklärt, man arbeite „mit den für die Ausführung unseres gesetzlichen Auftrags erforderlichen Institutionen formell zusammen“.

Informationsaustausch mit Verfassungsschutzbehörden

Die Antworten der Innenministerien fallen dagegen deutlich konkreter aus. Während Berlin und Sachsen-Anhalt erklären, der jeweilige Verfassungsschutz erhalte keine Daten von den Medienanstalten, bestätigen andere Länder einen regelmäßigen Informationsaustausch.

Das bayerische Innenministerium teilt mit, zwischen dem Bayerischen Landesamt für Verfassungsschutz und der Bayerischen Landeszentrale für neue Medien finde „in unregelmäßigen Abständen ein anlassbezogener Infoaustausch zu den Themen Hass, Hetze und Desinformation“ statt. Gleichzeitig wird betont, eine institutionelle Zusammenarbeit existiere nicht.

Auch Hamburg bestätigt Kontakte. Dort ist der Verfassungsschutz nach Angaben der Innenbehörde Partner der Medienanstalt Hamburg/Schleswig-Holstein im „Behördenkompetenznetzwerk gegen Rechtsextremismus“. Beide Behörden tauschten sich regelmäßig über Entwicklungen im Bereich Extremismus aus.

Noch enger beschreibt Baden-Württemberg die Zusammenarbeit. Dort spricht das Landesamt für Verfassungsschutz von einem „regelmäßigen und engen Austausch“ mit der Landesanstalt für Kommunikation.

Andere Länder verweigern nähere Auskünfte oder verweisen – wie Sachsen – auf Geheimschutz und darauf, dass man grundsätzlich keine Rückschlüsse auf die Arbeitsweise des Verfassungsschutzes zulasse.

Bemerkenswert ist dabei nicht nur die Zusammenarbeit selbst, sondern auch die mangelnde Transparenz. Die Medienanstalten erklären, eine Aufschlüsselung der mehr als 130.000 erfassten Fälle nach Plattformen oder Accounts sei nicht möglich. Gleichzeitig weist jedoch eine öffentlich zugängliche Bedienungsanleitung einer älteren Kivi-Version auf umfangreiche Statistikfunktionen hin.

Auch für die Betroffenen bleibt das Verfahren weitgehend intransparent. Wer mit seinen Beiträgen von Kivi erfasst wird, erfährt davon nach den vorliegenden Informationen in der Regel nichts. Auf die Frage, ob überprüfte Nutzer informiert würden, weisen die Medienanstalten bereits die Fragestellung zurück. Kivi diene nicht der „Überwachung“, sondern prüfe ausschließlich potenziell rechtswidrige Inhalte.

Auch der Journalist Alexander Wallasch geriet bereits ins Fadenkreuz der Überwachung. Bereits im Februar 2025 wies er auf Kivi hin. Die niedersächsische Landesmedienanstalt forderte ihn damals auf, „über 3.000 Artikel auf seiner Seite vollständig durchzusehen, anzupassen oder zu löschen – mit Frist und Androhung kostspieliger förmlicher Verfahren.“

Daraufhin untersuchten er und IT-Spezialisten das KI-Tool. Er kommt zu dem Ergebnis: „‚KIVI‘ stellt ein illegales Verfahren der Massenüberwachung und Vorratsdatenspeicherung dar. […] Eine naheliegende missbräuchliche Nutzung des Tools durch eigene Mitarbeiter oder andere Akteure führen zielgerichtet zur Einschränkung der Meinungsfreiheit und zu unrechtmäßiger Massenüberwachung.“

Ein Blick in die Datenschutzerklärung offenbart, welche Informationen das System verarbeiten kann. Genannt werden unter anderem Kontaktdaten, Fotos, Audio- und Videoaufnahmen, URLs, Zeit- und Regionsangaben, Reaktionen sowie besonders sensible personenbezogene Daten. Dazu zählen ausdrücklich religiöse und weltanschauliche Überzeugungen, politische Meinungen sowie Daten zum Sexualleben und zur sexuellen Orientierung.

Damit wächst ein Instrument heran, das mit öffentlichen Geldern finanziert wird, Millionen von Online-Inhalten automatisiert auswertet, sensible personenbezogene Daten verarbeitet und in mehreren Bundesländern nachweislich im Austausch mit den Verfassungsschutzbehörden steht. Gleichzeitig bleiben zentrale Fragen unbeantwortet: Nach welchen Kriterien wird gesucht? Wer gerät ins Visier? Welche Daten werden tatsächlich weitergegeben? Und wer kontrolliert ein System, dessen Arbeitsweise selbst gegenüber der Öffentlichkeit weitgehend verborgen bleibt?

Eine breite öffentliche Debatte über diese Entwicklung hat bislang nicht stattgefunden. Gerade angesichts des Umfangs der Datenerhebung und der inzwischen bestätigten Kontakte zwischen Landesmedienanstalten und Verfassungsschutz erscheint sie jedoch überfällig.

Anzeige