Die EU-Institutionen liebäugeln mit einer KI-Verordnung, die weitreichende Einsatzmöglichkeiten für Gesichtserkennungssoftware vorsieht. Zwar gibt es einen richterlichen Vorbehalt, doch den wird man auch aussetzen können, sagt Patrick Breyer, EU-Abgeordneter für die deutsche Piratenpartei. Ihn erinnert all das an China und dystopische Zukunftsbilder.
IMAGO
Die neuen Entscheidungen der Bundesregierung lösen immer größere Wut und Empörung aus. Viele Bürger halten es nicht mehr aus. Sie strömen auf die Straßen, um ihrem Unmut Luft zu machen. Hunderttausende demonstrieren gegen die Steuer-, Energie- und Migrationspolitik der Kenia-Koalition, die Kanzler Merz mit Vizekanzlerin Lang und dem neuen Arbeitsminister Kevin Kühnert geschlossen hat. Das könnte die Realität des Jahres 2026 sein. Aber vielleicht fehlt noch ein Element. Eine neue EU-Verordnung, die gerade in Brüssel und Straßburg beraten wird, könnte der Polizei und anderen Behörden die Möglichkeit geben, die sich friedlich versammelnden Bürger mit einer Gesichtserkennungssoftware abzutasten, um die breitere Öffentlichkeit gegen mögliche Straftaten oder Terrorgefahr zu schützen. Die Träger des Protests wären dem ausgeliefert. Würden sie sich weiterhin auf die Straße trauen? Auch wenn jeder einzelne fortan das Risiko trüge, auf elektronischem KI-Wege kriminalisiert und persönlich haftbar gemacht zu werden?
Diese düstere Zukunftsvision kann schon entstehen, wenn man den Entwurf zu der neuen KI-Verordnung (kurz auch „AI Act“, „KI-Gesetz“ genannt) liest. Der EU-Abgeordnete der deutschen Piratenpartei, Patrick Breyer, lehnt den von ihm publik gemachten vorläufig geeinigten Entwurf ab, weil die Regelungen zum Einsatz von Gesichtserkennungssoftware ihm dystopisch und demokratieschädlich erscheinen.
Der Text:…
— Patrick Breyer #JoinMastodon (@echo_pbreyer) January 23, 2024
Zudem sei die Gesichtserkennung durch KI fehleranfällig und führe in den USA immer wieder zu falschen Festnahmen. Es wird noch bedenklicher: Laut Breyer soll die Gesichtserkennung künftig sogar „schon bei Bagatellstraftaten zum Einsatz kommen“. Damit fielen die Vorschläge „hinter die eigene Pressemitteilung des EU-Parlaments zurück“. Das Parlament konnte die von ihm verlangte Streichung dieser Passage nicht durchsetzen.
Breyer befürchtet nun, dass Gesichtserkennung durch KI in Zukunft EU-weit zur Vertreibung von Obdachlosen oder wegen Sachbeschädigung gegen Graffiti-Sprayer eingesetzt werden kann. Beim letzteren wären eigentlich keine Skrupel angebracht – diese Art von allgegenwärtigem Vandalismus muss mit allen Mitteln zurückgedrängt werden. Nur wäre auch ein Verlust der allgemeinen Freiheiten im Tausch nicht hinnehmbar. Denn daneben kommt einem der Gedanke, dass die Behörden die Möglichkeiten zum Einsatz der Gesichtserkennungs-KI nur als Anlass nutzen könnten, um die Technik flächendeckend und annähernd dauerhaft einzusetzen.
Auch im Prinzip schon bedenklich mutet dagegen der Einsatz der Technik bei Demonstrationen und Protesten an. Hier würden sofort eine große Menge Personen betroffen, gerieten – ob schuldig oder nicht – ins wörtlich zu nehmende Visier der Behörden. Auch ein solcher Einsatz werde „durch kein Wort verhindert“, schreibt Breyer – die Kommission hält sich (auch hier) anscheinend alle Möglichkeiten offen.
Kultur des Misstrauens: Kommt die „Überwachung nach chinesischem Vorbild“?
Breyer verweist auf die Öffentlichkeitsfahndung der Hamburger Polizei nach den Randalen beim G20-Gipfel 2017. Dafür war die Gesichtserkennungs-Software „Videmo 360“ zum Einsatz gekommen. Später löschte die Polizei die zunächst angelegte Datenbank. Es gab zudem eine gerichtliche Löschanordnung, gegen die der Senat inzwischen erfolglos geklagt hat. Das OVG Hamburg war im Juli 2023 der Ansicht, dass der Senat in dem Verfahren nach geltender Rechtslage unterliegen würde und stellte das Verfahren ein, wie Heise online berichtet. Die Kosten trug die Innenbehörde.
Doch nach Breyer öffnet nun die KI-Verordnung der EU sogar den Weg zu einer „permanenten Gesichtsüberwachung in Echtzeit“. Die europäischen Strafbehörden würden wegen der in der KI-Verordnung genannten Delikte bereits nach 6.000 Personen suchen. „Mit der Begründung ‚Personenfahndung‘ kann der öffentliche Raum in Europa also flächendeckend und permanent unter biometrische Massenüberwachung gestellt werden“, so Breyer. „Dieses Gesetz legitimiert und normalisiert eine Kultur des Misstrauens. Es führt Europa in eine dystopische Zukunft eines misstrauischen High-Tech-Überwachungsstaats nach chinesischem Vorbild.“
Der vorläufig geeinigte Entwurf des Artikels 5 (1), Punkt d, ermöglicht die Verwendung der Technik
- zur Suche nach den Opfern von Straftaten wie „Entführung, Menschenhandel und sexueller Ausbeutung“ sowie bei der Suche nach vermissten Personen (i).
zur „Abwendung einer spezifischen, erheblichen und unmittelbaren Gefahr für das Leben oder die körperliche Sicherheit natürlicher Personen“ oder im Falle „einer echten und gegenwärtigen oder echten und vorhersehbaren Gefahr eines terroristischen Anschlags“ (ii).
zur „Lokalisierung oder Identifizierung einer Person, die im Verdacht steht, eine Straftat begangen zu haben, zum Zwecke der Durchführung strafrechtlicher Ermittlungen, der Strafverfolgung oder der Vollstreckung einer strafrechtlichen Sanktion für Straftaten nach Anhang IIa, die in dem betreffenden Mitgliedstaat mit einer Freiheitsstrafe oder einer freiheitsentziehenden Maßregel der Sicherung im Höchstmaß von mindestens vier Jahren bedroht sind“ (iii).
All das liefert Gründe für eine Evaluation des EU-Projekts
Das sind, wie wenig man auch immer in der Juristensprache bewandert sind, weitreichende Einsatzmöglichkeiten. Es braucht offenbar nur die Gefahr, die Möglichkeit eines Terroranschlags, um die Software in einem bestimmten Gebiet flächendeckend einzusetzen. Und das erscheint ja auch irgendwie angemessen. Was aber ist, wenn die Gefahrenlage durch Terror und Kriminalität sich noch einmal in ungesehenem Maße in Europa ausbreiten würde. Dasselbe täte dann die KI-gestützte Gesichtserkennung.
Noch wird in der Verordnung anscheinend ein Richtervorbehalt vorgeschrieben. Daneben führt Breyer aber an, dass der Einsatz von Gesichtserkennungssoftware laut Artikel 29 des geeinigten Entwurfs für kurze Zeit auch ohne Richterbeschluss möglich sei. Die richterliche Genehmigung für den Einsatz der KI-Technik könnte erst bis zu 48 Stunden nach dem Einsatzbeginn eingeholt werden (laut Artikel 29 6a). Natürlich müssten alle Daten bei nicht erteilter Erlaubnis wieder gelöscht werden. Zu diesem Zeitpunkt könnte die aktiv gewordene Behörde allerdings schon die gesuchten Erkenntnisse gewonnen haben, die ihr dann informell zugutekommen.
Zu all diesen Bedenken kommt aber ein komplizierender und alles überwöbender Punkt hinzu: Die Diskussion über diese EU-Verordnung (oder das „EU-Gesetz“, wie man offenbar derzeit einen neuen Sprachgebrauch prägen will) muss zum einen sehr ernst genommen werden, weil sie umgehende Folgen für die Rechtspraxis aller Einzelstaaten haben kann. Zugleich ist aber nicht sicher, welche Regelungen am Ende sich wie auswirken werden. Der „EU-Gesetzgebungsprozess“ ist notorisch von den Bürgern und von den nationalen Parlamenten, sogar den Regierungen entfernt und entkoppelt. Man könnte von einer legislativen Wundertüte sprechen. Was dabei am Ende herauskommt, ist schon allein wegen der fast unlesbaren Resolutionsprosa höchst unsicher. Allein das wäre ein Grund für einen entschiedenen Rückschnitt an dieser Stelle, sicher für eine Evaluation des gesamten EU-Projekts.
Übrigens: Die Ampel gilt nach dem Leak des vorläufigen Verordnungstextes als gespalten: Die FDP sei dagegen, so ist zu lesen, die Grünen dafür. Zur Haltung der SPD existiert keine Einschätzung. Vermutlich wird die ablehnende Haltung der FDP aber wieder einmal nur zum letztlichen Umfallen der Partei führen – diesmal eben in Brüssel statt Berlin. Auch die Grünen wollen der Verordnung nur zustimmen, um so zumindest die Mindeststandards in Ungarn mitbestimmen zu können. Diese Gründe wirken bemüht. Übrigens gehören auch die Piraten im EU-Parlament der Grünen-Fraktion an.
Sie müssenangemeldet sein um einen Kommentar oder eine Antwort schreiben zu können
Bitte loggen Sie sich ein
Schon mal vom EU finanzierten und geförderten Projekt INDECT gehört ?
Die Verwendung einer Gesichtserkennungssoftware ist ein Teilstück dieses Albtraumhaften Überwachungsprogramm.
Stück für Stück hat man die dafür benötigten Teile durchgedrückt.
China wird die EU um dieses Programm beneiden.
Ist doch zu verstehen das nichts geschieht, Das bedeutet doch zusätzliche Arbeit. Wer will das schon?
Man fragt sich wirklich, wie lang v.d.L. noch ihr Unwesen noch treiben darf? Wann wacht Deutschland endlich auf? Wahrscheinlich erst wenn es wirklich in Trümmern liegt. Obwohl, viel fehlt da nicht mehr.
Logisch, dass die FDP wieder zustimmt. Genaus wie bei Verbrennerverbot, Atomausstieg (inkl. Zerstörung der Kraftwerke, separat abgestimmt im März 2023) und Verfassungsbruch beim Haushalt. Die Liste ließe sich fortsetzen.
Wer etwas anderes erwartet, legt seine die Hand auch mehrfach auf die heiße Herdplatte.
Was haben alle gemeinsam….Davos. Na, fällt nun was auf, über den WEF wird unsere Politik gemacht, und die werden aus den USA gesteuert.
Man hat den Eindruck, die fdp hat noch nie etwas vom unabhängigen Abgeordneten gehört. Na ja, spätestens bei der nächsten BTW ist endlich Schluss mit diesen Pfeifen. Hoffentlich!
Oh, es kommt immer drauf an….. Wenn der BÜRGER (bzw. Souverän) das Überwachungsinstrument zur Kontrolle seiner Mandatsnehmer nutzen darf, so z.B. zur Frage ob die beauftragten politisch Handelnden auch brav öffentliche Verkehrsmittel nutzen oder um private Gespräche beim Abendessenstisch der Bärbocks und Harbecks daraufhin zu analysieren ob alle Äußerungen verfassungskonform und klimaschutzgerecht sind könnte ich – obwohl eigentlich Überwachungsgegner – eine gewisse vergnügungssteuerpflichtige Gefühlsregung entwickeln…..
Kennt Ihr einen Januskopf? Dessen Besonderheit sind dessen zwei Gesichter. Hier sind es die zwei dessen, was man wissen, möchte. Zum Beispiel betreffs der künstlichen Intelligenz. Stimmt, mal eben ohne Gerichtsentscheid wahllos Leute zu scannen wäre ein Nogo. Komishc aber, dass bei der anlasslosen Datenspeicherung Tichys Einblick gar nicht so zimperlich ist. Beides scannt Daten von Menschen, die meistens gar nichts getan haben, einfach ohne weiter zu fragen. Im einen Fall nennt es Tichy einen Skandal – ich empfehle die inzwischen offen vorliegende Version selbst zu lesen, wenn man der englischen Sprache ein wenig mächtig ist. Denn dann stellen sich… Mehr
In gewisser Weise Zustimmung: Viele Menschen unterschätzen die Macht der Daten im Vergleich zu Bildern.
ABER: Tichy’s Einblick ist keine Partei und auch kein homogener Block, der nur einen Meinung kennt und duldet. Dazu sollte TE meiner Meinung nach auch auf keinen Fall werden.
Ich freue mich, wenn hier unterschiedliche interessante Informationen und Meinungen geteilt werden. Das gilt auch für die Leserkommentare!
Daher: Ihren Hinweis finde ich gut, den Vorwurf der Janusköpfigkeit gegen das Medium teile ich nicht.
Wann gibt es eigentlich mal Positives au der EU zu berichten, das nicht den Eindruck der Bevormundung, Gängelung, Einschränkung von Bürgerrechten, Grundrechten, Meinungsfreiheit einkalkuliert?
Dann, wenn wir es schaffen, unsere Freunde und Nachbarn entsprechrnd zu informieren – damit wir alle im Juni ein besser zusammengesetztes EU-Parlament wählen.
Da müsste man es erst einmal schaffen eine Mehrheit der Bevölkerungen für die sog. eu, außer zum grenzfreien Reisen und vielleicht landwirtschaftlichen Subventionen, zu interessieren, Das dürfte schon sehr schwierig werden.
Ich finde nicht, dass man da etwas evaluieren muss. Die Geschichte zeigt, dass ausnahmslos jedes Instrument irgendwann, unabhängig von anfangs gemachten Einschränkungen, irgendwann mit maximaler Radikalität eingesetzt wird.
Deutschland braucht den Dexit, besser heute als morgen.
Für die Freunde von Freiheit und Demokratie wäre dies ein Segen: Hierzulande könnte der Souverän dem heimischen Parlamentarismus Beine machen und die ihm grundgesetzlich zugesprochene Macht des Volkes zurückgewinnen; gleichzeitig würde die EUdSSR mangels Mittel implodieren und Europa der Vaterländer wäre von Planwirtschaft und der Tyrannei irrwitziger Bürokraten erlöst.
Naja, man wird ja wohl noch träumen dürfen.
God bless England.
„Breyer befürchtet nun, dass Gesichtserkennung durch KI in Zukunft EU-weit zur Vertreibung von Obdachlosen oder wegen Sachbeschädigung gegen Graffiti-Sprayer eingesetzt werden kann.“ Soweit ich weiß, kann man Obdachlose auch ohne KI leicht „aufspüren“. Ich denke eher, man sollte besser die Ursachen der Obdachlosigkeit ernsthaft aufklären und, abseits von den (privaten) Tafeln und (privaten) caritativen Organisationen, die mangels Kapazitäten vereinzelt nur wenig warmes Essen und eine einigermaßen humane Unterkunft anbieten können, auch mehr von staatlicher Seite unterstützen. Damit meine ich aber nicht nur die Symptome zu lindern, sondern primär die Ursachen zu bekämpfen. Wie schnell man oftmals unverschuldet „auf der Straße… Mehr
…zum Beispiel, wenn der Staat die Mietpreise mit ausländischen „Fachkräften“ anheizt – deren Mieten der Staat mit den Geldern der hier schon länger Wohnenden, nein – der hier Steuerzahlenden – begleicht.
Dazu gab es vor wenigen Jahren einen Situationsbericht eines Fernsehteams aus Peking. Diese gingen mit einer ihnen bekannten Chinesin in ein Kaufhaus, suchten sich einen Artikel aus und gingen zur „Kasse“. Dort wurde die Chinesin, die aber niemand kannte, mit Namen begrüßt und gefragt ob der Artikel gekauft werden solle. Nach dem Ja erfolgte die Antwort, der Betrag sei soeben von ihrem Konto abgebucht worden. Eine Kreditkarte musste nicht vorgelegt werden. Die Gesichtserkennung genügte vollständig und das Kaufhaus war sofort mit dem „Profil“ der Person verbunden. Also Namen, Geldsumme gedeckt oder nicht und sicher noch andere Dinge.