Soll die EU Gesichtserkennung mit Hilfe Künstlicher Intelligenz verbieten?
Die Politik ist im Jahr 2020 so intensiv mit Künstlicher Intelligenz beschäftigt wie noch nie. Denn die neue EU-Kommission unter Ursula von der Leyen arbeitet derzeit an einem Masterplan für den Umgang mit AI, nachdem eine Expertengruppe bereits 2018 ethische Leitlinien für den Umgang mit KI veröffentlicht hat. In einem neuen, geleakten Papier aus Brüssel heißt es nun unter anderem, dass es für Gesichtserkennung im öffentlichen Raum ein Verbot von bis zu fünf Jahren geben könnte.
Kommissionsdokumente werden in Brüssel gerne mal in EU-Medien geleakt, um die öffentliche Stimmung zu Themen abzutesten. Diesmal geht es offenbar darum, abzutesten, wie ein Verbot für Gesichtserkennung in Europa so ankommt. Das Verbot soll Zeit geben, um währenddessen Einschätzungen der Auswirkungen der Technologie und „mögliche Risiko-Managementmaßnahmen“ treffen zu können. Ausnahmen könnte es für besondere Sicherheitsprojekte und für Forschung und Entwicklung geben. Gelten könnte der Bann sowohl für öffentliche wie auch für private Akteure.
„Starke Bedenken“
Margrethe Vestager, Kommissarin für Digitales, könnte bereits im nächsten Monat ihre Vorhaben in Sachen Künstlicher Intelligenz präsentieren. Die Kommission will berichten zufolge vorher noch Feedback einholen. Bei der Erstellung der ethischen Leitlinien waren bereits Industrievertreter involviert. Darin hieß es bereits:
„KI ermöglicht eine immer effizientere Identifizierung einzelner Personen durch öffentliche und private Stellen. Bemerkenswerte Beispiele für eine skalierbare KI-Identifikationstechnologie sind die Gesichtserkennung und andere unfreiwillige Erkennungsmethoden anhand von biometrischen Daten (z.B. Lügendetektion, Persönlichkeitsbewertung durch Mikroexpressionen und automatische Spracherkennung). Die Personenerkennung ist manchmal wünschenswert und orientiert sich an ethischen Grundsätzen (z. B. bei der Aufdeckung von Betrug, Geldwäsche oder Terrorismusfinanzierung). Automatische Identifizierung wirft jedoch starke Bedenken auf, da sie viele unerwartete psychologische und soziokulturelle Auswirkungen haben kann.„
Die Anwendung solcher Technologien muss im geltenden Recht eindeutig geregelt werden, heißt es darin weiter. Um eine vertrauenswürdige KI zu schaffen, müsste es etwa eine „Einwilligungserklärung“ für Betroffene geben, und Menschen müssten auch immer auf die Tatsache aufmerksam gemacht werden, dass sie gerade mit einem KI-System interagieren und nicht bl0ß mit einer herkömmlichen Überwachungskamera.
Rote Linien werden unterschiedlich gezogen
In San Francisco in Kalifornien hat der Stadtrat Mitte 2019 beschlossen, dass Gesichtserkennung im öffentlichen Raum durch Behörden und Polizei verboten, um die Bürgerrechte zu schützen. Flughäfen, Häfen oder andere Einrichtungen, die von den Bundesbehörden betrieben werden, sowie Geschäfte und Nutzer sind von dem Verbot jedoch explizit ausgenommen. In Deutschland könnten die EU-Regeln die Pläne von Innenminister Horst Seehofer (CSU) durchkreuzen. Denn er will 135 Bahnhöfe und 14 Flughäfen mit Echtzeit-Gesichtserkennung überwachen lassen – Koalitionspartner SPD will das nicht.
In Österreich arbeitet die Bundesregierung gerade erst ihre KI-Strategie aus (Trending Topics berichtete). Zwar wurden erste „rote Linien“ definiert (Entscheidungen in der Verwaltung, die unmittelbare Auswirkungen auf Menschen haben, dürfen maschinell unterstützt, aber nicht durch Maschinen getroffen werden; die Entwicklung von KI-gesteuerten Waffen soll unterbunden werden), doch in punkto Gesichtserkennung gibt es noch keine klare Linie.
Im Ergebnisbericht zur Erarbeitung eines Strategieplans für Künstliche Intelligenz (PDF), der der österreichischen KI-Strategie zugrunde liegen soll, findet sich kein Hinweis auf einen empfohlenen Umgang mit KI-Gesichtserkennung. Allgemeiner ist dort zu lesen:
„Der Rechtsrahmen soll sicherstellen, dass unzulässige Diskriminierungen oder systematische Benachteiligungen (etwa „Social Scoring“) vermieden werden und persönliche Rechte und Datenschutz gewahrt sind.“
Bei der Stadt Wien, die ihre Strategie für Künstliche Intelligenz 2019 präsentierte, war der Einsatz von KI zur Überwachung des öffentlichen Raums (z.B. Gesichtserkennung) kein Punkt. Das wäre rechtlich kaum möglich und sei aktuell noch gar kein Thema, hieß es (Trending Topics berichtete).
