Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03302.jsonl.gz/305

In annähernd 100 Staaten werden Technologien zur Gesichtserkennung verwendet.[1] Gleichzeitig schlägt die EU-Kommission ein grundsätzliches Verbot biometrischer Fernidentifizierungssysteme im öffentlichen Raum vor - wenn auch mit weitreichenden Ausnahmen.[2] In der Schweiz steht das Thema Gesichtserkennung seit Kurzem ebenfalls auf der politischen Agenda.[3] Zudem setzen sich zivilgesellschaftliche Organisationen für ein Verbot maschineller Gesichtserkennung und insbesondere biometrischer Massenüberwachung ein.[4] In der Schweiz ist die juristische Auseinandersetzung mit dem Thema dagegen bislang überschaubar geblieben.[5] Bei den meisten Beiträgen handelt es sich um Zeitungs- oder Blogartikel.[6]
Die rechtliche Befassung mit maschineller Gesichtserkennung setzt eine Klärung von deren zentralen Elementen voraus (1.-3.). Zudem soll kurz skizziert werden, wo Gesichtserkennung zum Einsatz kommt (4.).
Biometrische Merkmale sind messbare, körpereigene, physiologische oder verhaltensspezifische Kennzeichen, die einer Person zugeordnet werden können, grundsätzlich einzigartig sind und nur unter grossem Aufwand verändert werden können.[7] Das Gesichtsbild ist ein physiologisches biometrisches Merkmal, das vorgegeben und grundsätzlich unveränderbar ist.[8]
Das revidierte Datenschutzgesetz[9] ordnet die biometrischen Daten, die eine natürliche Person eindeutig identifizieren, der Kategorie der besonders schützenswerten Personendaten zu und verankert den Begriff neu explizit in Art. 5 lit. c Ziff. 4 revDSG. Demnach handelt es sich um Personendaten, «die durch ein spezifisches technisches Verfahren zu den physischen, physiologischen oder verhaltenstypischen Merkmalen eines Individuums gewonnen werden und die eine eindeutige Identifizierung der betreffenden Person ermöglichen oder bestätigen»[10]. Als Beispiele nennt die Botschaft digitale Fingerabdrücke, Gesichtsbilder, Bilder der Iris oder Aufnahmen der Stimme. Zwingend ist, dass diese Daten auf einem Verfahren beruhen, welches die eindeutige Identifizierung oder Authentifizierung einer Person erlaubt.[11] Dies wäre bei unscharfen Bildern oder Teilabdrücken eines Fingers unter Umständen nicht der Fall.
Maschinelle Gesichtserkennung kann definiert werden als eine «automatische Verarbeitung digitaler Bilder, die Gesichter von natürlichen Personen enthalten, um bei diesen eine Identifizierung, Authentifizierung bzw. Verifizierung oder Kategorisierung durchzuführen»[12].
Bei der Identifizierung wird das Ermitteln der Identität einer Person aus einer Vielzahl anderer Personen heraus angestrebt - mithin die Beantwortung der Frage, wer eine bestimmte Person ist.[13] Das Authentifizierungs- bzw. Verifizierungsverfahren dient der Identitätsbestätigung einer Person, also der Abklärung, ob eine Person tatsächlich diejenige ist, als die sie sich ausgibt.
Die im Zusammenhang mit maschineller Gesichtserkennung auftretenden Rechtsfragen stellen sich grundsätzlich unabhängig davon, welche konkrete Technologie eingesetzt wird und ob man in diesem Zusammenhang von künstlicher Intelligenz (KI) spricht.[14] Zentral sind vielmehr die damit einhergehende Gefahr der Massenüberwachung, die eine breit angelegte, staatliche Überwachung der Bevölkerung meint, sowie der Umstand, dass biometrische Daten bearbeitet werden.
In der Schweiz existiert keine gesetzliche Definition des öffentlichen Raumes. In der Literatur wird vorgeschlagen, den Begriff «Raum» als nicht abgeschlossene bzw. nicht fest eingegrenzte Ausdehnung zu verstehen.[15] Öffentlichkeit kann als der Allgemeinheit zugänglich und benutzbar interpretiert werden, unabhängig davon, ob das Eigentum am Raum in öffentlicher oder privater Hand liegt.[16] Die EU-Kommission definiert in Art. 3 Nr. 39 EU-KI-Verordnungsentwurf den öffentlich zugänglichen Raum als «einen der Öffentlichkeit zugänglichen physischen Ort, unabhängig davon, ob dafür bestimmte Zugangsbedingungen gelten».
Für die Zwecke des vorliegenden Aufsatzes wird der öffentliche Raum in Anlehnung an die oben skizzierten Definitionen als ein für Personen physisch zugänglicher Ort verstanden, unabhängig davon, ob dafür bestimmte Zugangsbedingungen gelten und unabhängig davon, der Eigentumsverhältnisse. Der Cyberspace bzw. das Internet werden nicht zum physisch zugänglichen Raum gezählt und damit Erwägungen zur Online-Überwachung ausgeklammert.
Gesichtserkennungssysteme können in Echtzeit Daten aus Überwachungskameras zur Identifizierung oder Verifizierung bestimmter Personen auswerten. Diese Möglichkeit wird etwa im Rahmen von automatisierten Passkontrollen an Flughäfen genutzt, indem biometrische Erkennungsmerkmale des Gesichts mit den auf dem Pass gespeicherten Daten abgeglichen werden. Die Daten können ausserdem registriert sowie mithilfe von Fahndungs- und Informationssystemen überprüft werden.[17]
Ein weiterer denkbarer Einsatzbereich in der Schweiz könnte in Zukunft die Zutrittskontrolle zu Sportstadien sein. Mithilfe maschineller Gesichtserkennung sollen registrierte Hooligans direkt beim Eingang erkannt werden.[18] Solche Systeme wurden und werden international bereits eingesetzt.[19] In der Schweiz hat ein Start-up ausserdem im Sommer 2021 die Idee lanciert, das Vorhandensein des Covid-Zertifikats mittels Gesichtserkennung zu prüfen.[20]
Echtzeit-Gesichtserkennung kommt in Europa vereinzelt zum Einsatz, um bestimmte, geografisch eingegrenzte Gebiete zu überwachen. Die gescannten Gesichter werden mit Überwachungslisten der Polizei oder der Gerichte abgeglichen.[21]
Vermehrt setzen auch Private in Europa Gesichtserkennung ein, wie z. B. Einkaufsgeschäfte,[22] die mithilfe von Gesichtserkennung Personen, die in der Vergangenheit gestohlen oder sich nicht regelkonform verhalten haben, beim Betreten des Geschäfts erfassen und dem Personal melden.[23] Ein ähnliches Phänomen ist in den USA zu beobachten, wo lokale Geschäfte Überwachungskameras installieren, die ihre Aufnahmen in Echtzeit an die Polizei übermitteln, die diese daraufhin durch Fahndungs- und Führerschein-Datenbanken laufen lässt und so virtuelle Patrouillen durchführt.[24] Ob bzw. in welchem Umfang Gesichtserkennung in der Schweiz im Einzelhandel und in Einkaufszentren eingesetzt wird, ist unklar.[25]
Bei der nachträglichen Gesichtserkennung geht es um den Einsatz einer Gesichtserkennungssoftware im Nachgang zu einer Foto- oder Videoaufnahme - oftmals nach einer Straftat und während der Strafverfolgung.[26] In der Schweiz setzt die Polizei vereinzelt Gesichtserkennung zum Abgleich von Fahndungsbildern ein, wobei eine kantonale Polizeidatenbank bekannter Straftäterinnen und Straftäter mit einer anderen, bspw. kantonsübergreifenden Datenbank, abgeglichen wird.[27] Die Fahndungsbilder stammen oft aus Überwachungskameras von Geschädigten, wie z. B. eines bestohlenen Kleiderladens. Die konkrete Identifizierung der verdächtigten Person obliegt nach wie vor einer Polizistin oder einem Polizisten und nicht einer Software.[28]
Nachträgliche Gesichtserkennung wird auch im internationalen Kontext insbesondere im Polizeibereich eingesetzt. Interpol nutzt seit 2016 Gesichtserkennung mit einer Gesichtsbilderdatenbank von Personen aus über 179 Staaten zur Identifizierung und Verifizierung; die Ergebnisse werden anschliessend von Hand überprüft.[29] In Europa wie auch den USA wird in vereinzelten Staaten bzw. Städten nachträgliche Gesichtserkennung ausserdem eingesetzt, um bei Verdacht auf eine vorsätzlich begangene Straftat einen nachträglichen digitalen Abgleich von Bildern von Überwachungskameras oder Handy-Aufnahmen mit einer Polizeidatenbank durchzuführen.[30] Einsatzszenarien sind bspw. eskalierte Demonstrationen.[31]
Die erwähnten Beispiele bedeuten nicht, dass weltweit eine lineare Zunahme des Einsatzes von maschineller Gesichtserkennung zu verzeichnen wäre. Vielmehr gibt es verschiedene Länder und Städte, in denen Gesichtserkennung inzwischen verboten oder Pilotversuche sistiert wurden. So etwa in Deutschland, wo Rechtsgrundlagen für die Durchführung von Gesichtserkennung an über hundert deutschen Bahnhöfen und Flughäfen im Entwurfsstadium verworfen wurden.[32] Auch am Brüsseler Flughafen Zaventem wurde über mehrere Jahre im Rahmen eines Pilotprojekts eine Gesichtserkennungstechnologie eingesetzt, was aufgrund eines nun geltenden landesweiten Verbotes allerdings wieder eingestellt wurde.[33] In Grossbritannien wurde Gesichtserkennung an Schulen eingesetzt, um angesichts der Corona-Pandemie eine kontaktlose Bezahlung des Mittagessens zu ermöglichen. Nach breiter Kritik stellten die Schulen dieses System (vorerst) wieder ein.[34] Auch in den USA haben einige Städte den Einsatz von Gesichtserkennung, zumindest durch staatliche Behörden, verboten.[35]
Das Datenschutzrecht statuiert einige Definitionen, Grundsätze und Pflichten, die für eine Datenbearbeitung sowohl durch Private als auch Behörden gelten.[36] Ausgangspunkt einer Datenbearbeitung bildet deren Rechtmässigkeit (Art. 6 Abs. 1 revDSG). Weiter muss eine Datenbearbeitung verhältnismässig sein (Art. 6 Abs. 2 revDSG). Das bedeutet, dass Daten nur bearbeitet werden dürfen, sofern ihre Bearbeitung geeignet ist, den verfolgten Zweck zu erfüllen und wenn kein milderes Mittel zur Zweckerreichung zur Verfügung steht.[37] Schliesslich muss die Datenbearbeitung zumutbar sein, dementsprechend muss ein vernünftiges Verhältnis zwischen der Datenbearbeitung und dem Eingriff in die Privatsphäre der betroffenen überwachten Personen bzw. dem Grundrechtseingriff bestehen.[38] Gerade im Bereich des Einsatzes von Gesichtserkennung im öffentlichen Raum zum Schutz der öffentlichen Ordnung und Sicherheit vor Störungen - z. B. die Verhinderung von Vandalismus oder Littering - dürfte sich regelmässig ein milderes Mittel finden lassen, wie etwa baulich-technische oder polizeilich-organisatorische Massnahmen.[39] Aus dem Grundsatz der Verhältnismässigkeit werden zudem die Prinzipien der Datenvermeidung und der Datensparsamkeit abgeleitet.[40] Da im Grundsatz davon ausgegangen werden kann, dass maschinelle Gesichtserkennungssysteme sehr viele (Trainings-)Daten benötigen, um treffsichere Outputs generieren zu können,[41] steht die Technologie in einem Spannungsverhältnis zu den soeben genannten Prinzipien. Zudem stellt sich dabei grundsätzlich die Frage, ob und inwieweit Trainingsdaten überhaupt datenschutzkonform erhoben und genutzt werden können.
Mit der Verhältnismässigkeit hängen ferner die Grundsätze der Zweckbindung und der Erkennbarkeit zusammen (Art. 6 Abs. 3 revDSG). Bei einer Datenbearbeitung muss stets der Bearbeitungszweck festgelegt und eingehalten werden. Insbesondere der Einsatz maschineller Gesichtserkennung zur allgemeinen Gefahrenabwehr kann dazu führen, dass die Festlegung des Bearbeitungszwecks untergraben wird, da dadurch vielseitige und breite Analysemöglichkeiten geschaffen werden, die vom Bearbeitungszweck abweichen.[42] Der Zweck der Bearbeitung weist auch eine zeitliche Komponente auf. Mithin müssen Daten vernichtet werden, sobald sie zum Bearbeitungszweck nicht mehr erforderlich sind (Art. 6 Abs. 4 revDSG). Somit ist die Speicherungsdauer festzulegen.[43]
Die skizzierten Anforderungen gelten bereits für das Erheben der Daten im öffentlichen Raum (z. B. CCTV-Kameraaufnahmen von Passantinnen und Passanten) und nicht erst für die Überprüfung ebendieser mittels Gesichtserkennung. Die Datenbeschaffung sowie insbesondere der Bearbeitungszweck müssen ausserdem für die betroffene Person erkennbar sein. Das revDSG führt mit Art. 19 ausgeweitete Informationspflichten bei der Beschaffung von Personendaten ein, die für Private und Behörden gelten. Unter bestimmten Voraussetzungen, etwa wenn die Person bereits über die entsprechenden Informationen verfügt oder die Bearbeitung gesetzlich vorgesehen ist, entfällt die Informationspflicht (Art. 20 Abs. 1 lit. a und b revDSG). Diese Bestimmung ist allerdings explizit als Ausnahme konstituiert.[44] Die Erkennbarkeit wird subsidiär, sofern Informationspflichten bestehen.[45] Die Information muss angemessen sein und diejenigen Informationen enthalten, die die betroffene Person benötigt, um ihre Rechte gemäss Datenschutzrecht geltend machen zu können (Art. 19 Abs. 2 lit. a-c revDSG). Die Botschaft zum revDSG hält fest, dass bei der Wahl einer allgemeinen Informationsform der Zugang zur Information einfach, die Information vollständig und der Hinweis augenfällig sein muss.[46] Ein allgemeines Hinweisschild, dass Gesichtserkennung eingesetzt wird, dürfte vor diesem Hintergrund somit als unvollständig und ungenügend zu bewerten sein.
Zu erwähnen ist ferner der Grundsatz der Datenrichtigkeit (Art. 6 Abs. 5 revDSG), der die Vollständigkeit und die Aktualität der Daten umfasst.[47] Die Pflicht zur Richtigkeit ist allerdings nicht absolut zu verstehen, sie muss vielmehr in einem angemessenen Verhältnis zum Verarbeitungszweck stehen (relative Datenrichtigkeit).[48] Gefordert wird, dass mit Rücksicht auf den Zweck alle geeigneten Massnahmen ergriffen werden, die eine Berichtigung, Löschung oder Vernichtung unrichtiger oder unvollständiger Daten ermöglichen.[49] Im Kontext der Gesichtserkennung ist eine sehr hohe Wahrscheinlichkeit der richtigen Identifizierung bzw. Verifizierung der Betroffenen für die Zulässigkeit eines biometrischen Verfahrens zu fordern.[50] Um dies zu erreichen, müssen die Trainingsdatensätze insbesondere eine hinreichende Diversität bezüglich Alter, Geschlecht und Hautfarbe aufweisen.[51]
Die Bearbeitung von Personendaten durch Private fällt grundsätzlich unter das Datenschutzgesetz (Art. 2 Abs. 1 lit. a revDSG), sofern die Bearbeitung nicht ausschliesslich dem persönlichen Gebrauch dient (Art. 2 Abs. 2 lit. a revDSG). Ein rein persönlicher Gebrauch ist beim Einsatz von maschineller Gesichtserkennung im öffentlichen Raum regelmässig auszuschliessen, da das gesammelte Bildmaterial in der Regel Überwachungszwecken und damit potenziell auch als Beweismittel im Rahmen eines späteren Straf- oder Zivilverfahrens dient.[52]
Die Datenbearbeitung durch private Personen darf keine widerrechtliche Persönlichkeitsverletzung darstellen (Art. 6 Abs. 1 i. V. m. Art. 30 Abs. 1 revDSG). Folglich ist eine Datenbearbeitung nur zulässig, sofern die Grundsätze des Datenschutzrechts (Art. 30 Abs. 2 lit. a revDSG) eingehalten werden,[53] maschinelle Gesichtserkennung nicht gegen den ausdrücklichen Willen der Betroffenen eingesetzt wird (Art. 30 Abs. 2 lit. b revDSG) oder ein Rechtfertigungsgrund (Art. 31 Abs. 1 revDSG) vorliegt. Für die Bearbeitung biometrischer Daten i. S. v. Art. 5 lit. c Ziff. 4 revDSG ist grundsätzlich eine ausdrückliche Einwilligung der betroffenen Person notwendig (Art. 6 Abs. 7 lit. a revDSG). Die Einwilligung muss freiwillig erfolgen und es muss eine vorgängige Information über die Datenbearbeitung stattfinden (Art. 6 Abs. 6 und 7 i. V. m. Art. 19 Abs. 1 revDSG). Obwohl die Ausdrücklichkeit der Einwilligung keine Schriftlichkeit voraussetzt, muss der Wille der betroffenen Person eindeutig aus den Umständen des Einzelfalles hervorgehen.[54] Sowohl die Informationspflicht als auch die ausdrückliche und freiwillige Einwilligung sind bei der maschinellen Gesichtserkennung im öffentlichen Raum schwer umzusetzen.[55] Würde bspw. das Betreten öffentlicher Räume jeweils von einer Einwilligung in die Gesichtserkennung abhängig gemacht, wäre die Freiwilligkeit nicht gegeben.[56]
Als Rechtfertigungsgründe für eine widerrechtliche Persönlichkeitsverletzung - z. B. die Bearbeitung biometrischer Daten ohne ausdrückliche Zustimmung der betroffenen Person - kommen ein überwiegendes privates oder öffentliches Interesse oder das Vorliegen einer gesetzlichen Grundlage in Frage (Art. 31 Abs. 1 revDSG). Analog zur Einschätzung des Eidgenössischen Datenschutz- und Öffentlichkeitsbeauftragten (EDÖB) hinsichtlich der Videoüberwachung dürfte allerdings auch mit Blick auf den Einsatz maschineller Gesichtserkennung davon auszugehen sein, dass die Überwachung des öffentlichen Raums durch Private zur Wahrung privater Interessen regelmässig eine Persönlichkeitsverletzung darstellt, da kein überwiegendes Interesse vorhanden ist.[57] Es können zwar keine verallgemeinernden Aussagen bezüglich der Interessenabwägung gemacht werden, da diese immer konkret und einzelfallspezifisch erfolgt.[58] Jedoch sind Konstellationen, in denen das private Interesse an der Überwachung des öffentlichen Raumes das Interesse der betroffenen Personen am Schutz ihrer biometrischen Daten i. S. v. Art. 5 lit. c Ziff. 4 revDSG und damit am Schutz besonders schützenswerter Daten überwiegt, praktisch nicht vorstellbar. Ferner kann auch die Wahrung von Sicherheit und Ordnung (als öffentliches Interesse) im öffentlichen Raum nicht als Rechtfertigungsgrund für den Einsatz von maschineller Gesichtserkennung durch Private herangezogen werden. Denn die Wahrung von Sicherheit und Ordnung im öffentlichen Raum ist Sache der Polizei und weiterer Behörden.
Bezüglich der allgemeinen Videoüberwachung werden zwei Ausnahmen statuiert:[59] Erstens bei Vorliegen einer an sich rechtmässigen Überwachung von privatem Grund, bei der eine geringfügige Miterfassung des öffentlichen Raumes erfolgt und die Überwachung des privaten Grundes nicht anders durchführbar ist. Zweitens bei einer privaten Überwachung des öffentlichen Raumes aus Sicherheitsgründen, die mit dem zuständigen Gemeinwesen vereinbart wurde. Soweit es sich bei der maschinellen Gesichtserkennung um eine Bearbeitung von besonders schützenswerten Personendaten handelt, ist fraglich, ob die mit Blick auf die allgemeine Videoüberwachung statuierten Ausnahmen analog anwendbar wären. Davon ist jedenfalls nicht ohne Weiteres auszugehen.
Setzen Behörden[60] Gesichtserkennungssoftware ein, müssen sie die Grundrechte berücksichtigen (Art. 35 Abs. 1 BV). Im Kontext maschineller Gesichtserkennung sind dabei insbesondere das Recht auf informationelle Selbstbestimmung (Art. 13 Abs. 2 BV), das Diskriminierungsverbot (Art. 8 Abs. 2 BV) und die Meinungs- und Versammlungsfreiheit (Art. 16 und 22 BV) zu berücksichtigen.
Art. 13 Abs. 1 BV schützt unter anderem in der Öffentlichkeit vorgenommene Handlungen oder Äusserungen, die der Pflege persönlicher Kontakte dienen und mithin Ausdruck der Persönlichkeit sind, ganz allgemein vor Videoüberwachung im öffentlichen und privaten Raum sowie dauernder Beobachtung und Dokumentation in der Öffentlichkeit.[61] Der Schutzbereich des sog. Rechts auf informationelle Selbstbestimmung gemäss Art. 13 Abs. 2 BV umfasst u. a. den Schutz vor bzw. die Entscheidungsfreiheit bzgl. jeglichen staatlichen Umgangs mit den eigenen Personendaten, ein Recht am eigenen Bild, sowie die Autonomie betreffend die eigene gesellschaftliche und soziale Rolle.[62]
Das Recht auf informationelle Selbstbestimmung wird durch das Datenschutzrecht konkretisiert. Ausgangspunkt bildet wiederum die Rechtmässigkeit der Datenbearbeitung nach Art. 6 Abs. 1 revDSG. Für Bundesbehörden setzt die Rechtmässigkeit eine formell gesetzliche Grundlage nach Art. 34 Abs. 2 lit. a revDSG voraus, da es um besonders schützenswerte Personendaten geht. Dadurch werden zugleich die verfassungsrechtlichen Anforderungen gem. Art. 36 Abs. 1 BV bestätigt.[63]
Neben einer genügenden Normstufe ist auch eine ausreichende Normdichte, mithin eine hinreichend bestimmte gesetzliche Regelung, notwendig.[64] Erforderlich sind die Definition des konkreten Bearbeitungszwecks, die beteiligten Organe, die Kategorien der bearbeiteten Daten und die grobe Umschreibung des Bearbeitungsumfangs.[65] Der pauschale Verweis auf die Gewährleistung der öffentlichen Sicherheit, den Schutz von Personen oder die polizeiliche Aufgabenerfüllung ist nicht ausreichend.[66] Nicht zu vergessen ist zudem die Notwendigkeit einer ausreichenden Rechtsgrundlage für jene Daten, die in den Überwachungsdatenbanken enthalten sind, also die Bilder derjenigen Personen, nach denen bspw. gefahndet wird.[67]
Bis dato ist keine gesetzliche Grundlage für die Gesichtserkennung in der Strafprozessordnung[68] oder im kantonalen Polizeirecht auszumachen.[69] Eine gesetzliche Grundlage in einem anderen Rechtsbereich ist z. B. die frühere Verordnung über den Einsatz eines biometrischen Gesichtserkennungssystems am Flughafen Zürich des Kantons Zürich[70], die durch Art. 102 und103 AIG[71] abgelöst wurde. Als Konkretisierung ist ausserdem Art. 45 VEV[72] zur automatisierten Grenzkontrolle zu nennen und Art. 54-62 VEV als Grundlage und Rahmenbedingungen für die Zulässigkeit des Einsatzes eines Gesichtserkennungssystems durch die Grenzbehörden.
Der Einsatz von maschineller Gesichtserkennung im öffentlichen Raum kann weitere Grundrechte berühren.[73] Zu bedenken ist insbesondere die potenzielle Abschreckungswirkung (sog. chilling effect) auf die Grundrechtsausübung.[74] Würde der öffentliche Raum z. B. während einer Demonstration mittels Gesichtserkennung überwacht, könnte dies dazu führen, dass Personen von der Teilnahme an einer Kundgebung zurückschrecken, weil sie negative Konsequenzen - allein aufgrund einer Teilnahme an einer Demonstration - befürchten. Damit würde die Ausübung der Meinungs- und Versammlungsfreiheit (Art. 16 Abs. 1 bzw. Art. 22 Abs. 1 BV) tangiert. Der Einsatz von maschineller Gesichtserkennung im öffentlichen Raum könnte mithin zu einer mittelbaren Grundrechtsbeeinträchtigung führen.[75]
Beim Einsatz von Gesichtserkennung gibt es sog. False positives, also Resultate, die fälschlicherweise eine Übereinstimmung anzeigen, wo keine vorliegt, und sog. false negatives, indem keine Übereinstimmung angezeigt wird, obwohl eine vorliegt. Bei einer hohen überprüften Personenzahl führt auch eine kleine false-positive-Rate zur falschen Meldung einer Übereinstimmung bei zahlreichen Personen.[76] Eine Konsequenz von false positives könnte die vermehrte Kontrolle bzw. Überprüfung dieser Personen sein oder gar eine ungerechtfertigte Festnahme; eine Konsequenz von false negatives das Entstehen von Sicherheitsproblemen.[77]
Die Auswirkungen falscher Identifizierungen zeigen sich umso eindringlicher, wenn die Fehlerrate bei bestimmten Personengruppen höher ausfällt als bei anderen, insbesondere, wenn an ein verpöntes Merkmal im Sinne des Diskriminierungsverbots nach Art. 8 Abs. 2 BV angeknüpft wird. Dies kann eintreffen, wenn Personen, die in den Datenbanken, mit denen die Gesichtserkennungssoftware trainiert wird, untervertreten sind, was vor allem auf dunkelhäutige/nicht kaukasische Personen, Frauen und jüngere Menschen zutrifft.[78] Durch die geringere Vertretung in den Trainingsdaten erkennt die Software diese Personen schlechter.[79] Es stellt sich mithin die Frage, ob diesfalls der Einsatz maschineller Gesichtserkennung überhaupt als geeignet (i. S. d. Verhältnismässigkeitsgrundsatzes) eingestuft werden kann.
Der EU-KI-Verordnungsentwurf sieht ein Verbot jeglicher KI-Software zur Erfassung biometrischer Daten vor, allerdings mit Erlaubnisvorbehalt.[80] Die EU-Kommission verfolgt damit einen risikobasierten Ansatz, der für unterschiedliche KI-Systeme unterschiedliche Abstufungen enthält.[81] Gesichtserkennungssoftware wird gem. Art. 6 Abs. 2 EU-KI-Verordnungsentwurf i. V. m. Nr. 1 des Anhangs III EU-KI-Verordnungsvorschlag als Hoch-Risiko-KI kategorisiert, da mit ihr besondere Gefahren für die Sicherheit, die Grundrechte und die Gesellschaft als Ganzes einhergehen. Im öffentlichen Raum soll das Erfassen biometrischer Daten in Echtzeit deshalb grundsätzlich verboten werden, wobei gewisse Ausnahmen vorgesehen sind. Solche sollen bspw. im Polizeirecht greifen, wenn es um das Auffinden vermisster Kinder oder von Schwerverbrecherinnen und Schwerverbrechern geht (Art. 5 Abs. 1 lit. d Ziff. i-iii EU-KI-Verordnungsvorschlag).[82] Dies allerdings nur, wenn strikte Sicherungsauflagen eingehalten werden, eine vorgängige Genehmigung erteilt wurde und eine unabhängige Kontrollinstanz existiert (Art. 5 Abs. 2 und 3 EU-KI-Verordnungsvorschlag). Fraglich ist, ob mit einem solchen Verbot mit Erlaubnisvorbehalt Massenüberwachung tatsächlich verhindert werden kann.[83]
Die Herangehensweise der EU-Kommission stellt für die Schweiz ohnehin kein taugliches Vorbild dar. Zum einen steht in der Schweiz die Schaffung eines allgemeinem KI-Gesetzes - zurecht - nicht auf der politischen Agenda.[84] Zum anderen liesse sich eine solche zentrale Regelung nur schwer mit der Kompetenzaufteilung zwischen Bund und Kantonen vereinbaren. Dem Bund kommt insbesondere im Bereich der Polizeiorganisation keine umfassende Kompetenz zu.
Gleichwohl ist festzuhalten, dass in der Schweiz bislang eine gesetzliche Grundlage für den Einsatz von maschineller Gesichtserkennung im öffentlichen Raum fehlt,[85] was angesichts der Grundrechtsrelevanz des Themas durchaus kritisch zu beurteilen ist. Vor diesem Hintergrund fordern denn auch verschiedene Akteurinnen und Akteure ein grundsätzliches Verbot bzw. ein Moratorium, vor allem für den Einsatz von Gesichtserkennungstechnologie zwecks Massenüberwachung.[86]
Aus rechtlicher Sicht ist ein explizites, durch den Gesetzgeber zu verankerndes Verbot, zumindest für den staatlichen Einsatz von maschineller Gesichtserkennung, nicht notwendig, weil ein solcher Einsatz ohnehin eine entsprechende formell-gesetzliche Grundlage und damit ein Tätigwerden des Gesetzgebers voraussetzt. Mit Blick auf Private erscheint ein generelles Verbot ebenfalls nicht unbedingt zielführend, da damit die grundrechtskonforme Entwicklung von Gesichtserkennungssystemen verhindert werden könnte. Ein Moratorium erscheint dagegen sinnvoll, da damit eine gesellschaftliche und politische Debatte angestossen und darauf hingewirkt werden kann, dass der Einsatz von Gesichtserkennungssoftware mit einem genügenden Grundrechtsschutz einhergeht.
Die Schaffung eines einzelfallweise zulässigen Einsatzes maschineller Gesichtserkennung, wie im EU-KI-Verordnungsentwurf vorgesehen, kann zum Entstehen juristischer Graubereiche führen. Für die Schweiz wird als sinnvoller erachtet, mithilfe eines Moratoriums für maschinelle Gesichtserkennung im öffentlichen Raum einen breiten gesetzgeberischen und gesellschaftspolitischen Diskurs anzustossen und damit nach Möglichkeiten grundrechtskonformer Lösungen zu suchen.