Wird Schweiz bei Massen-Überwachung auf Distanz zur EU gehen?

Das neue Anti-Terror-Gesetz der Schweiz erlaube es der Bundespolizei, elektronische Überwachungsmassnahmen ohne die Zustimmung eines Gerichts zu beschliessen und die gesammelten Daten für einen anderen als den im Gesetz festgelegten Zweck zu verwenden, sagt ein Experte. Westend61 / Jess Derboven

Das Rahmenabkommen zwischen der Schweiz und der Europäischen Union (EU) ist gescheitert, als Brüssel gerade dabei war, die auf künstlicher Intelligenz (KI) basierende Massenüberwachung zu regulieren. Dies stellt die Zukunft der Datenschutz-Bestimmungen in der Schweiz in Frage. Dies, nachdem die Stimmberechtigten Mitte Juni eines der schärfsten Anti-Terror-Gesetze in Europa angenommen haben.

Ende Mai hat die Schweizer Regierung das Rahmenabkommen mit der EU nach siebenjährigen Verhandlungen gekippt und damit die bilateralen Beziehungen zu Brüssel gefährdet, die einen Tiefpunkt erreicht hatten.

Kurz darauf, am 13. Juni, stimmte das Schweizer Stimmvolk klar für das Bundesgesetz zur Bekämpfung des Terrorismus. Es gibt der Polizei weitgehende Befugnisse zum präventiven Einschreiten gegen so genannte Gefährderinnen oder Gefährder.

Der Bruch mit der EU kommt zu einem entscheidenden Zeitpunkt in Europas Bemühungen gegen den Einsatz von Technologien zur Bevölkerungsüberwachung. Überwachung nicht nur durch private Unternehmen, sondern auch durch Strafverfolgungs-Behörden.

In der Tat arbeitet die Europäische Kommission an der weltweit ersten Gesetzgebung zur Regulierung von künstlicher IntelligenzExterner Link (KI). Der Vorschlag, der derzeit diskutiert wird, befasst sich mit den Risiken dieser Technologie und definiert klare Verpflichtungen hinsichtlich ihrer spezifischen Verwendung.

Im Visier Brüssels stehen biometrische Identifizierungssysteme (u.a. Gesichtserkennung), die sich im öffentlichen Raum – oft ohne Wissen der Bevölkerung – zur Überwachung, Datenerfassung und Strafverfolgung immer mehr durchsetzen.

Anfang Jahr startete Amnesty International eine Kampagne gegen den Einsatz von Gesichtserkennungs-TechnologienExterner Link zu Identifizierungszwecken sowohl durch staatliche Stellen als auch durch Akteure des privaten Sektors.

Laut der NGO «droht die Gesichtserkennung zu einer Waffe in den Händen der Strafverfolgungs-Behörden gegen marginalisierte Gemeinschaften auf der ganzen Welt zu werden».

Gleichzeitig hat sich die Menschenrechts-Organisation auch gegen das neue Schweizer Gesetz über polizeiliche Massnahmen zur Terrorismusbekämpfung ausgesprochenExterner Link und es als «gefährlich vage» und «eine Bedrohung für die Zukunft» bezeichnet. Da das Gesetz zu einer verstärkten Überwachung beitrage, könnte es indirekt den Einsatz jener Identifikationssysteme erhöhen, die Brüssel zu verbieten versuche, befürchten Beobachter.

«Im liberal-demokratischen europäischen Kontext ist das Schweizer Gesetz sicherlich eines der extremsten, da es der Bundespolizei in einigen Fällen beispiellose Befugnisse einräumt», sagt Lukas Hafner, Koordinator der Technologie- und Menschenrechts-Kampagne von Amnesty Schweiz.

Selbst der EuroparatExterner Link hatte bereits im vergangenen Jahr seine Bedenken über die erheblichen Verletzungen der Menschen- und Grundrechte kundgetan, die das Gesetz ermöglichen würde.

Wohin schaut das elektronische Auge des Gesetzes?

Obwohl das Anti-Terrorismus-GesetzExterner Link die Kameraüberwachung nicht ausdrücklich erwähnt, ermächtigt es die Schweizer Bundespolizei (Fedpol), die «elektronische Überwachung eines potenziellen Terroristen» anzuordnen, zum Beispiel mit einem elektronischen Armband (Art. 23q).

Umstrittener ist die Tatsache, dass elektronische Überwachungsmassnahmen vom Fedpol ohne Zustimmung eines Gerichts beschlossen werden und die gesammelten Daten für einen Zweck verwendet werden können, der nicht im Gesetz vorgesehen ist, sagt Frédéric Bernard, Professor für öffentliches Recht an der Universität Genf. «Dieses Gesetz verhindert nicht viel, das ist das Problem», sagt er.

Auf Nachfrage von SWI swissinfo.ch erklärte das Fedpol, dass es keine Gesichtserkennungs-Systeme einsetze. Es bestritt jeden Zusammenhang zwischen den im neuen Gesetz beschriebenen Präventivmassnahmen und dem Einsatz solcher Technologien.

Einige kantonale Polizeikräfte setzen jedoch bereits biometrische Systeme zur Ermittlung von Straftaten im Strafverfahren ein. Die St. Galler Polizei nutzt zum Beispiel eine schwedische Ermittlungssoftware, «Griffeye Analyze DI Pro»Externer Link, die grosse Datenmengen mittels KI und Gesichtserkennung analysiert.

Auf der Website des Herstellers Griffeye Technologies heisst es, die Software könne «Metadaten zu offenen Quellen im Internet» in Beziehung setzen und Gesichter anhand grosser Mengen von «realen Bildern» identifizieren.

Weltweit haben mindestens vier Milliarden Menschen ein Profilbild irgendwo im Internet hochgeladen, aus dem solche «Real-World-Bilder» entnommen werden könnten.

StudienExterner Link wie jene der MIT-Media-Lab-Forscherin Joy Buolamwini und Googles ehemaliger Leiterin für KI-Ethik Timnit Gebru zeigen, dass kommerzielle KI-Software die Gesichter von Dunkelhäutigen und Frauen weniger genau analysiert.

Der neue Dokumentarfilm «Coded Bias» untersucht die von der MIT-Forscherin Joy Buolamwini aufgedeckten Algorithmus-Verzerrungen und Schwachstellen in der Gesichtserkennungs-Technologie:

Hanspeter Krüsi, Kommunikationschef der St. Galler Polizei, präzisiert per E-Mail, dass das gesammelte Material «vom System mit Bildern in den polizeilichen Datenbanken verglichen wird, um nach Übereinstimmungen zu suchen». Die abschliessenden Prüfungen würden dann von einer lebenden Person durchgeführt werden.

«Jeder Kanton muss für sich selbst entscheiden, ob er diese Technologie sinnvoll einsetzen will und ob er die nötige Rechtsgrundlage dafür hat», schreibt das Fedpol gegenüber SWI swissinfo.ch. Aber in Ermangelung klarer Gesetze, die den Rahmen für die Anwendung der Technologien definieren: Wer entscheidet dann, was sinnvoll ist und was nicht?

«Es besteht ein nicht zu übersehendes Risiko der Willkür und des Missbrauchs, vor allem aufgrund von ungenau formulierten Begriffen», sagt Jean-Philippe Walter, Schweizer Datenschutz-Beauftragter beim Europarat, gegenüber SWI swissinfo.ch.

Alle blicken auf die Schweiz

In letzter Zeit hat Amnesty International die Grundrechts-Situation in der Schweiz sehr genau im Auge behalten. Nicht zuletzt wegen der Gefahr einer zunehmenden willkürlichen Überwachung der Bevölkerung.

«Das Schweizer Anti-Terror-Gesetz wird eindeutig zu mehr Überwachung von mehr Menschen führen, da die Bundespolizei ‹potenzielle Terroristen› identifizieren will, bevor diese ein Verbrechen begehen. Es ist plausibel, dass biometrische Technologien in diesem Zusammenhang eingesetzt werden könnten», sagt Lukas Hafner von Amnesty.

Er warnt davor, dass dies unverhältnismässige Auswirkungen auf Menschen haben könnte, die bereits ausgegrenzt und diskriminiert werden. Die Polizei könnte zum Beispiel beschliessen, Kameras ausserhalb der Treffpunkte potenzieller Verdächtiger als präventive Überwachung zu installieren, sagt der Amnesty-Vertreter. Wie etwa bei einer Moschee, die bereits im Fadenkreuz stehe.

«Diese Systeme sind nicht nur im Hinblick auf das Recht auf Gleichheit und Nicht-Diskriminierung problematisch, sondern auch im Hinblick auf die Meinungs- und Versammlungsfreiheit sowie das Recht auf Privatsphäre», sagt Hafner.

Tatsächlich besagt der Text des Schweizer Anti-Terrorismus-GesetzesExterner Link, dass «religiöse und weltanschauliche Ansichten oder Tätigkeiten» überwacht werden können und die Verarbeitung sehr sensibler personenbezogener Daten rechtfertigen würden (Art. 23h).

Und da die Definition von Terrorismus neu sehr weit gefasst ist, sei es wahrscheinlich, dass das Gesetz breiter und über den ursprünglich angedachten Geltungsbereich hinaus angewendet werden könnte, sagt Rechtsexperte Bernard.

Keine Regeln, keine Rechte

In einigen Ländern wie den USA und China wird die Gesichtserkennung systematisch zu Strafverfolgungs-Zwecken und im Fall Chinas sogar zur Klassifizierung des Sozialverhaltens eingesetzt. Belgien und Luxemburg sind in Europa die einzigen zwei von drei Ländern weltweit, in denen der Einsatz biometrischer Identifikationstechnologien verboten ist. Das dritte ist Marokko.

Mit ihrem KI-Gesetzesvorschlag will die EU-Kommission die biometrische Identifikation im öffentlichen Raum in allen EU-Mitgliedstaaten verbieten und jene sanktionieren, die sich nicht daran halten.

Obwohl sie ein Datenschutz-Gesetz hat, das teilweise mit der EU-Datenschutz-Gesetzgebung übereinstimmt, kennt die Schweiz nichts Vergleichbares zur europäischen Technologie-Gesetzgebung.

«Deshalb sollte sie sich so schnell wie möglich wieder mit der EU an einen Tisch setzen und dazu beitragen, die Debatte über die Governance neuer Technologien zu lenken», sagt Ricardo Chavarriaga, Leiter des Schweizer Büros von CLAIRE – der Confederation of Laboratories for Artificial Intelligence Research in EuropeExterner Link – gegenüber SWI swissinfo.ch.

Eine neue Norm?

Das von der Europäischen Kommission vorgeschlagene Gesetz erlaubt den Einsatz der Gesichtserkennung bei «schweren Straftaten», vor allem im Zusammenhang mit Terrorismus. Aber nach Ansicht von Chavarriaga und anderen Experten markiert es dennoch einen bedeutenden Durchbruch und ist dazu bestimmt, ein Standard im Hightech-Sektor zu werden.

Deshalb glaubt Chavarriaga, dass die Kosten einer späten oder nicht vorhandenen Anpassung an das europäische Recht sehr hoch wären. Der KI-Experte fürchtet nicht nur um die Wettbewerbsfähigkeit von Schweizer Technologieprodukten auf dem Weltmarkt, sondern auch um die Menschenrechte.

«Einige risikoreiche Technologie-Anwendungsbereiche, wie beispielsweise solche, die von der Polizei zur Durchsetzung des Gesetzes eingesetzt werden, könnten schädliche Auswirkungen auf die Öffentlichkeit haben», sagt er.

«Die Polizeikräfte sind nur das letzte Glied in der Kette: Die Systeme, die sie verwenden, werden von Unternehmen hergestellt, die ihnen Geldeinsparungen und Effizienz versprechen – oft, ohne echte Garantien zu geben.» Deshalb sei das Setzen von Standards so wichtig.

Niemand würde einen Lift ohne Sicherheitszertifikat kaufen, oder eine Uhr, die nicht funktioniere, sagt Chavarriaga und fügt hinzu, dass die Anforderungen proportional zu den Risiken sein sollten. Warum sollte es bei KI-Systemen anders sein, vor allem wenn es um Grundrechte gehe?

(Übertragung aus dem Italienischen: Christian Raaflaub)

(Übertragung aus dem Italienischen: Christian Raaflaub)