Wo steht die Schweiz bei der Regulierung von künstlicher Intelligenz?

Für dieses Symbolbild haben wir mit der KI Dall-E 2 herumgespielt. Created with DALL·E

Künstliche Intelligenz darf nicht machen, was sie will. Das scheint allen klar zu sein. Die Europäische Union und der Europarat sind daran, Regelwerke zu entwerfen. Und was macht die Schweiz?

Ob Social Media, Medizin, Chatbots oder teilautonome Fahrzeuge – die künstliche Intelligenz (KI) hat sich in unserem Alltag eingenistet, ob es uns gefällt oder nicht. Nun warnten hochkarätige Exponenten der Branche kürzlich in einem offenen Brief vor den Gefahren der KI. Eine Minderung der Risken müsse «globale Priorität» geniessen, schrieben sie.

Es gehe dabei auch um Menschenrechte, Rechtstaatlichkeit und Demokratie, sagt Angela Müller, Leiterin von «AlgorithmWatch CHExterner Link«, einer zivilgesellschaftlichen Organisation, die KI-Entwicklungen kritisch beobachtet. Die potenziell negativen Folgen von KI seien jetzt schon zu sehen.

Sie verweist dabei auf die so genannte Kindergeld-Affäre in den NiederlandenExterner Link, wo es zu rassistischer Diskriminierung durch einen Algorithmus gekommen war. Für Müller ist eine Regulierung des Einsatzes von KI deshalb «relativ dringend».

Auch Thomas Schneider, Vizedirektor des Bundesamts für Kommunikation (Bakom), ist dieser Meinung. «Daten sind das neue Öl und KI-Systeme die neuen Motoren», sagt er. Man sei sich bewusst, dass dies wichtige Themen seien und Lösungen dafür gefunden werden müssten.

Schneider, der auch Leiter des Ausschusses für Künstliche Intelligenz (CAI) des EuroparatsExterner Link ist, meint allerdings, dass man sich dabei zwischen einer funktionierenden und einer schnellen Lösung entscheiden müsse, weshalb die Schweiz dabei eine etwas abwartende Haltung einnehme.

Bisher habe noch kein Land in der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) eine KI-spezifische Regelung eingeführt. Am weitesten ist die Europäische Union (EU)Externer Link. Das Europaparlament hat sich am 14. Juni auf einen ersten Entwurf des so genannten AI-Act (KI-Gesetz) geeinigtExterner Link.

Dieser will unter anderem hochriskante Anwendungen wie Gesichtserkennung in Echtzeit verbieten, wie dies etwa in China für den Social Score praktiziert wird, oder Kinderspielzeug mit Sprachassistenz, das Kinder zu riskantem Verhalten verleiten könnte.

Auch der Europarat fühlte sich bemächtigt, «als Hüter der Menschenrechte» ein eigenes Rechtsinstrument zur künstlichen IntelligenzExterner Link zu entwickeln. Müller betont, dass die Europarats-Konvention die EU-Verordnung nicht konkurrenziere, sondern ergänze, «weil sie unterschiedliche Ansätze verfolgen – in der EU soll die KI über die Produktsicherheit reguliert werden».

Kein Mantelgesetz

Klar scheint zu sein, dass es kein einzelnes Gesetz zur KI geben wird. Schneider vergleicht die KI dabei mit den Motoren, für die je nach Einsatz ganz spezifische Gesetze und Regulierungen gelten. Auch eine KI kommt in ganz verschiedenen Anwendungen zum Einsatz.

Es brauche unterschiedliche Leitplanken, denn «wenn man ein KI-System für einen Musik-Streamingdienst braucht, hat dies andere Auswirkungen, wie wenn derselbe Algorithmus der Ärzteschaft in einer Herzoperation eine nächste Handlung vorschlägt».

Deshalb werde ein einzelnes Gesetz nicht ausreichen. Das sei auch der EU bewusst. «Es gibt bei der EU ungefähr 30 Vorlagen allein im Digitalbereich», so Schneider. Die Frage, die man sich stellen müsse sei, was mit den bestehenden Gesetzen nicht reguliert werden könne, betont er.

Müller pflichtet ihm bei: «Es ist nicht so, dass wir uns im Moment in einem rechtsfreien Raum bewegen. Es gibt jetzt schon Gesetze, beginnend bei der Verfassung und beim Grundrechtsschutz.» Es gehe nun darum, die Lücken zu füllen, welche durch die Herausforderungen entstanden seien, vor welche die KI uns stelle.

Aber auch für sie ist klar: «Ein Gesetz, und alles ist gut – das wird nicht möglich sein.» Es gehe um Diskriminierungsschutz, Grundrechte, Urheberrecht, Wettbewerbsrecht, Verwaltungsrecht und vieles mehr – verschiedenste Rechtsbereiche also.

Wo steht die Schweiz?

Diskutiert wird über KI-Regulierung gegenwärtig in vielen Ländern. Doch wie soll sich die Schweiz als Nicht-EU-Land verhalten? Zuerst einmal ist davon auszugehen, dass sie, die seit 1963 Mitglied des Europarats ist, dessen Konvention folgen wird.

Da diesem unter anderen auch die USA, Kanada, Japan, Israel und Mexiko angehören, dürfte dessen Regelung weitherum ausstrahlen.

Die Schweiz warte erst mal etwas ab und prüfe verschiedene Optionen, sagt Schneider vom Bakom. Man sei damit in bester Gesellschaft. «Alle schauen, ob das funktioniert, was die EU am Ausbrüten ist.» Schneider vermutet, dass sich die Schweiz jedoch nicht in eine völlig andere Richtung bewegen werde, als auch die EU-Regulierung vorsehe.

Man gehöre so eigentlich zum «Normalfall der Länder, die nicht nur abwarten, sondern analysieren und sich Optionen überlegen, aber jetzt noch keinen Entscheid gefällt haben». Einmal angestossen, werde es ein Prozess sein, der über Jahre und Jahrzehnte justiert werden müsse.

Ein Flickenteppich in Europa?

Die Schweiz gehört nicht zur EU, wie Grossbritannien seit dem Brexit auch nicht mehr. Könnte es somit zu einem Flickenteppich in Europa kommen, was die Regulierung von KI betrifft?

Müller von «AlgorithmWatch CH» betont, dass die EU mit ihrem Gesetz versuche, dies zumindest innerhalb ihres Territoriums zu verhindern: «Die Regeln, welche die EU setzt, würden aber auch anwendbar sein auf Unternehmen, die sich ausserhalb befinden, wann immer sie ihre Produkte innerhalb der EU anbieten wollen.»

Und es sei davon auszugehen, dass auch schweizerische und britische Unternehmen davon betroffen sein würden. Da werde wohl auch die Industrie einen gewissen politischen Druck erzeugen, in diesem Bereich für Rechtssicherheit zu sorgen.

Dabei stellt sich auch die Frage der Verantwortung. Wer trägt diese, falls eine KI gegen die Regeln verstossen sollte? Über dieses Thema diskutiert derzeit eine wissenschaftliche Konferenz über Transparenz in den USA.

Schuld trage nie der Computer, betont Müller, denn dieser sei nicht schuldfähig. Die Verantwortung liege stets bei den Menschen, die Systeme entwickeln oder die sie mit bestimmten Interessen einsetzen würden. Man müsse sie auch weiterhin zuweisen können. «Wenn wir das nicht mehr können, dann wird eine wichtige Prämisse des Rechtsstaats ausgebootet.»

Swiss Internet Governance Forum

Die Gespräche fanden im Rahmen des Swiss Internet Governance Forum in Bern statt.

An diesem jährlichen Anlass diskutierten Fachleute über die wichtigsten Digitalthemen in der Schweiz, darunter auch über den Einsatz und die Regulierung von künstlicher Intelligenz.

Zwei Grundsätze der «Messages from Bern», die am 13. Juni gefasst wurden:

«KI-Anwendungen, die Diskriminierung wie Sexismus oder Rassismus reproduzieren,

müssen jetzt rechtlich angegangen werden.»

«Die KI-Konvention des Europarats hat grosses Potenzial, die Schweiz sollte den Mut haben, darauf aufzubauen und darüber hinauszugehen.»