Dieses Mal traf die fehleranfällige „KI“-Überwachung eine hochschwangere Frau aus Detroit, die durch ein von der Polizei verwendetes System zur Auswertung von Beweismitteln mit automatisierter Gesichtserkennung unschuldig verdächtigt wurde.
„Der Einsatz von biometrischer Überwachung ist eine Gefahr für alle rechtschaffenen Bürger.innen. Hier hat eine „KI“ eine hochschwangere Frau einer Straftat verdächtigt, die sie offensichtlich nichts begangen hatte. So etwas könnte jede.n treffen.“ – Konstantin Macher von Digitalcourage e.V.
Insbesondere Menschen, deren Aussehen nicht einem weißen und männlichen Bild entspricht, werden regelmäßig falsch erkannt und zu Unrecht verdächtigt. So auch in diesem Fall. Sogenannte „künstliche Intelligenz“ ist vereinfacht gesagt ein statistisches Modell, welches basierend auf vielen Daten Wahrscheinlichkeitsvorhersagen macht. „KI“-Systeme werden häufig als rassistisch bezeichnet, weil die Trainingsdaten von „KI“ fast immer durch gesellschaftliche Ungleichheiten verzerrt sind und so diskriminierende Stereotype reproduzieren.
Aktuell laufen Verhandlungen für eine europaweite Regelung von „KI“ und biometrischer Überwachung. Digitalcourage engagiert sich seit Jahren für ein Gesetz zum Schutz der Bevölkerung vor automatisierter Gesichtserkennung. Das sogenannte „KI-Gesetz“ (AI Act) der Europäischen Union befindet sich gerade auf der Zielgerade.
Die Ampelkoalition hat im Koalitionsvertrag versprochen, sich für ein Verbot biometrischer Massenüberwachung ohne Ausnahmen zu engagieren. Im Januar hatte Digitalcourage aber nachgewiesen, dass sich die deutsche Bundesregierung bei den Verhandlungen für Ausnahmen stark macht und so den Koalitionsvertrag gebrochen hat. Die Ampel möchte genau diese Form der zeitlich nachgelagerten Gesichtserkennung erlauben, durch die in diesem Fall die hochschwangere Frau unschuldig festgenommen wurde.
„Jetzt sollte sich auch bei der Ampel endlich die Erkenntnis durchsetzen, dass der Einsatz von Gesichtserkennung im öffentlichen Raum eine Gefahr für Leib und Leben ist. Wir appellieren an die Bundesregierung, sich jetzt endlich – wie im Koalitionsvertrag versprochen – für den Schutz von Demokratie und Menschenrechten einzusetzen. Das bedeutet ein konsequentes Verbot von biometrischer Überwachung ohne Wenn und Aber!“ – Konstantin Macher von Digitalcourage e.V.
Weiterführende Links
[1] https://www.heise.de/news/Gesichtserkennung-fehlgeschlagen-Hochschwangere-faelschlicherweise-festgenommen-9236436.html
[2] https://www.nytimes.com/2023/08/06/business/facial-recognition-false-arrest.html
[3] https://digitalcourage.de/blog/2023/biometrie-ampel-bricht-koalitionsvertrag
Digitalcourage engagiert sich seit 1987 für Grundrechte, Datenschutz und eine lebenswerte Welt im digitalen Zeitalter. Wir sind technikaffin; doch wir wehren uns dagegen, dass unsere Demokratie „verdatet und verkauft“ wird. Wir klären auf und mischen uns in Politik ein. Digitalcourage ist gemeinnützig, finanziert sich durch private Spenden und lebt durch die Arbeit vieler Freiwilliger.
digitalcourage e.V.
Marktstraße 18
33602 Bielefeld
Telefon: +49 (521) 16391639
Telefax: +49 (521) 61172
http://digitalcourage.de
Telefon: +49 (521) 1639-1639
E-Mail: presse@digitalcourage.de
