KI-Regulierung: Ein Schweizer als Hand­langer der USA?

Künstliche Intelligenz durchdringt alle Lebensbereiche. Die Regulierung wird von der Techindustrie entschieden bekämpft. AI generated image / Freepik.com

Verwässert und USA-freundlich: Das KI-Abkommen des Europarats hat nur noch wenig mit europäischen Werten zu tun. NGOs machen dafür auch den Schweizer Verhandlungs­chef verantwortlich.

Bei Digitalisierungsthemen hinkt die Politik der Realität hinterher. Das zeigt sich nirgends so deutlich wie bei der Gesetz­gebung zur künstlichen Intelligenz (KI). Denn die KI ist bereits sehr präsent in unserem beruflichen und privaten Alltag – teils ohne dass wir davon wissen.

Deshalb beschäftigen sich verschiedene internationale Institutionen mit fundamentalen Fragen: Sollen Personal­abteilungen künstliche Intelligenz einsetzen, um Bewerbungen einfacher filtern zu können?

Wie dürfen Text- und Bild­generatoren wie Chat GPT oder Dall-E in der Schule oder in einer Anwalts­kanzlei eingesetzt werden? Gehört Echtzeit-Gesichts­erkennung verboten oder darf die Polizei Ausnahmen vorsehen?

Die EU hat bereits den ersten Schritt gemacht und künstliche Intelligenz im Dezember 2023 umfassend reguliert, und zwar im sogenannten AI Act.

Auch eine andere europäische Institution beschäftigt sich mit entsprechenden Regulierungs­fragen: der Europarat mit Sitz in Strassburg. Dieser wurde 1949 gegründet mit dem Ziel, Demokratie, Menschen­rechte und Rechts­staatlichkeit in Europa zu stärken. Der Europarat zählt 46 Mitglieds­staaten, darunter auch die Schweiz (seit 1963).

Auch in Strassburg wird mit Hochdruck an einem entsprechenden KI-Regel­werk gearbeitet, das im Mai 2024 verabschiedet werden soll.

Dass Medien bisher noch kaum über das Abkommen berichtet haben, erstaunt. Denn es geht dabei um nichts weniger als das erste internationale Regelwerk zur künstlichen Intelligenz, das auch ausserhalb von Europa gelten kann.

Staaten aus der ganzen Welt können Europarats­abkommen unterzeichnen und durch ihre nationalen Parlamente ratifizieren lassen. Dies ist auch der Grund, warum die USA, Israel, Kanada und Japan mit am Verhandlungs­tisch sitzen. Zwar ohne Stimmrecht, aber mit Beobachter­status und Mitsprache­recht.

Und dies ist auch der Grund, weshalb gerade hinter den Kulissen erbittert um Geltungs­bereich und Formulierungen gerungen wird.
In einem Kampf, den ausgerechnet die Länder gewinnen könnten, die nicht Mitglied des Europarats sind – zugunsten der KI-Industrie und zulasten der Menschen­rechte.

Ausgerechnet bei einem Abkommen mit dem Titel «Künstliche Intelligenz, Menschen­rechte, Demokratie und Rechts­staatlichkeit».
Und ausgerechnet mithilfe der Schweiz.

Ein erfahrener Diplomat

Seit April 2022 hat der Schweizer Thomas Schneider den Vorsitz («Chair») im Europarat-Komitee für künstliche Intelligenz inne. Schneider, 52 Jahre alt, ist Vizedirektor des Bundesamts für Kommunikation und leitet dort die Abteilung International Relations. Der Diplomat arbeitete jahrelang in diversen hochrangigen Positionen im Europarat, bei der Internet­organisation Icann und auch der OECD.

zVg

Im Umfeld des Bundes heisst es: Schneider bringe die richtigen Fähigkeiten und viel Erfahrung mit, bewege sich gekonnt auf der internationalen Bühne und habe auch ein Ohr für die Anliegen der Zivilgesellschaft.

Kurz: Schneider war für viele der perfekte Kandidat für einen anspruchs­vollen Job: die Leitung bei den Verhandlungen.
Doch heute – zwei Jahre später – sind besonders zivil­gesellschaftliche Verhandlungs­teilnehmerinnen unzufrieden mit seiner Arbeit, was auch an den vom KI-Komitee festgelegten Verhandlungs­modi liegt.

Zivilgesellschaft ausgeschlossen

Die Staaten debattieren bei der Ausarbeitung der KI-Konvention in der «Drafting Group», der Entwurfsgruppe, hinter verschlossenen Türen. Dabei nehmen die Delegationen der Europarats­mitglieder teil, wie beispielsweise Moldawien, Schweiz oder Schweden, aber auch diejenigen der Beobachter­staaten wie Kanada oder Japan. Nicht staatliche Akteure – also NGOs, Wissenschaft oder Unternehmen – sind bei diesen Sitzungen ausgeschlossen und können sich jeweils in Plenar­sitzungen zu den Entwürfen äussern und im Vorfeld auch Änderungs­vorschläge einbringen.

Schneider rechtfertigt dieses Vorgehen: «Es braucht einen Vertrauens­raum, um Kompromisse eingehen zu können. Sodass die Delegationen ihren Ländern sagen können: Wir haben das Maximum gegeben.»

Anders war das bei einer anderen Digital­vorlage des Europarats, der Datenschutz­konvention 108+. Hier sassen Zivilgesellschaft und Delegationen in einem Raum. Und debattierten direkt miteinander. Der Ausschluss der Zivil­gesellschaft aus der Entwurfs­gruppe sei bereits eine «Red Flag» gewesen, eine Warnung, sagt Marc Rotenberg vom amerikanischen Centre for AI und Digital Policy, einem Non-Profit-Thinktank, das die Verhandlungen von Anfang begleitete. «Das verhiess nichts Gutes.»

Zu Beginn der Verhandlungen hätten zivil­gesellschaftliche Anliegen beim KI-Komitee durchaus Gehör gefunden, bestätigen einige Teilnehmerinnen. Doch der Modus Operandi verunmöglichte es den NGOs, die zwischen­staatlichen Kompromisse im Nachhinein zu korrigieren.

In erster Linie: ein globales Abkommen

Das jetzige Resultat der Verhandlungen frustriert besonders zivil­gesellschaftliche Teilnehmerinnen. Lag der Fokus noch vor zwei Jahren stark auf den Menschen­rechten, handelt es sich bei der aktuellen Version der Konvention um ein zahnloses Deklarations­papier, dessen Inhalt der kleinste gemeinsame Nenner ist, wie das Newsportal «Euractiv» enthüllte.

Wichtige Aspekte wie die Auswirkungen von KI-Systemen auf Umwelt und Energie fehlen ganz, auch KI-Systeme im Bereich nationale Sicherheit könnten von der Regulierung ausgenommen werden.

Der Tenor mehrerer Teilnehmerinnen lautet: Hier geht es nicht mehr um die Werte des Europarats – also beispiels­weise Gleichheit und Nicht­diskriminierung, die in der Menschenrechts­konvention festgeschrieben sind. Und dies, obwohl sich das KI-Komitee selbst in seinem Mandat zu den Prinzipien des Europarats verpflichtete.

Das liegt auch daran, dass das KI-Komitee vor allem eine globale Ausrichtung forciert, wie Schneider ​auf der Website schreibt: «Wir sind uns alle einig, dass wir ein Instrument entwickeln wollen, das nicht nur für die Staaten in Europa, sondern für möglichst viele Staaten aus allen Regionen der Welt attraktiv ist.»

Der Europarat habe ihm diesen Auftrag erteilt, sagt Schneider. Dieser sei Teil seines Mandats. «Wenn wir einfach die europäische Logik aufzwingen, dann finden andere Staaten: Nein, so was unterzeichnen wir nicht. Es gilt, unter­schiedliche Kulturen und Rechts­systeme zu berücksichtigen.»

Aber: Nirgendwo ist festgehalten, dass die KI-Konvention von so vielen Staaten wie möglich unter­schrieben werden soll. In der aktuellen Leistungsbeschreibung steht lediglich, das Komitee solle eine «globale Sicht auf das Thema» und einen «inklusiven Verhandlungs­prozess mit internationalen Partnern» ermöglichen.

Auf Nachfrage weist Schneider darauf hin, dass dies dem klaren Willen der Verhandlungs­partner entspreche. Bisher habe niemand seinen Worten auf der Website des KI-Komitees widersprochen.

USA lobbyiert gegen strenge Regeln

Hauptstreitpunkt ist vor allem der Geltungs­bereich der KI-Konvention. Das Regelwerk solle gemäss Mandat auch «innovations­fördernd» sein, sagt Schneider. Es sei wichtig, dass diejenigen Nationen mit der grössten KI-Industrie mit an Bord seien. «Sonst bleibt Europa ein ‹geschlossener Club› unter sich.»
Doch gerade die Innovations­förderung sorgt für Spannungen.

Ein Vorschlag der USA lautet nämlich: Es sollen keine bindenden Richtlinien für den privaten Sektor erlassen werden. Die US-Delegation reagierte damit auf den Druck ihrer KI-Industrie.
In einem offenen Brief an den US-Aussen­minister Antony Blinken vom 24. Januar warnten amerikanische Interessen­verbände mit eindringlichen Worten: «Wir raten dringend davon ab, verbindliche Normen für die Privatwirtschaft in die Konvention aufzunehmen.»

Dies würde die politische und ökonomische Führungsrolle der USA im Bereich künstliche Intelligenz massiv gefährden. Die Verbände begründen dies damit, dass die EU bereits gezielt diskriminierende Gesetze gegen amerikanische Unternehmen wie etwa den Digital Market Act verabschiedet habe.

Die Befürworter dieser Position sind Kanada, Japan und Grossbritannien. Sie argumentieren, dass die Bürgerinnen mit solchen Konventionen traditionell vor staatlichen Eingriffen geschützt werden sollen und nicht vor Privaten.

Eine Argumentation, die nach Sicht der Kritiker überhaupt nicht mehr zeitgemäss ist. «Die grösste Gefahr bei künstlicher Intelligenz geht von privat­wirtschaftlichen Unternehmen aus. Genau die müssen mit so einer Konvention adressiert werden», sagt NGO-Vertreter Rotenberg. Ein Ausschluss der Privat­wirtschaft würde zum Beispiel auch bedeuten, dass die Verbreitung von Deep­fakes und Desinformation keine Konsequenzen für die Betreiber­firmen hätte.

Öffentlicher Brief für Kurskorrektur

Über 90 NGOs und Wissenschaftlerinnen – darunter auch Algorithmwatch Schweiz und die Digitale Gesellschaft – haben deshalb einen Brief veröffentlicht, um eine Kurs­korrektur zu fordern. Unterzeichnet hat den Brief auch Kommunikations­forscher Karsten Donnay von der Universität Zürich, und zwar mit der Begründung: «Entweder regulieren wir das für alle. Oder wir lassen es ganz.»

Tarek Naguib von der Schweizer NGO Humanrights.ch begrüsst es zwar, dass die Konvention «nicht exklusiv europäisch» sei, doch er findet auch: «Wenn den Konzernen ein Freipass gegeben wird, dann wird damit das Signal gesendet, dass die Menschen­rechte relativiert werden können.» Auch er hat den Appell unterschrieben.

Zwei Optionen liegen nun auf dem Tisch der Entwurfs­gruppe: Die eine ist ein befristetes «Opt-out». Das würde bedeuten: Die Konvention gilt sowohl für den öffentlichen als auch für den privaten Sektor. Unterzeichnende Staaten können jedoch den privaten Bereich vorübergehend ausschliessen. Nach ein paar Jahren erfolgt dann eine Bestandes­aufnahme. Dafür setzen sich die Zivil­gesellschaft und die EU ein.

Die andere Option ist die eines «Opt-in». Das hiesse: Die Europarats­konvention enthält lediglich bindende Regeln für den Staat. Staaten könnten zusätzlich auf Massnahmen für den privaten Sektor hinwirken: «Seek to ensure» nennt sich das.

Das ist eine Formulierung, die rechtlich nicht bindend ist und auch nicht bei einem Gericht durch­gesetzt werden kann. Die USA lobbyiert massiv für ein «Opt-in» – zur Entrüstung der Zivilgesellschaft.

Es sei ein ganz übles Spiel, das hier gespielt werde, sagt eine Insiderin. «Mit einem ‹Opt-out› müssen sich die USA gezwungener­massen outen und wären die Bad Boys. Und deshalb möchten sie schlechtere Standards für alle unter­zeichnenden Staaten.»
Auch die Schweizer Delegation ist in dieser Frage eine Verbündete der USA. Sie votiert gemäss ihrem Verhandlungs­mandat ebenfalls für unternehmens­freundliche Positionen.

Kaum Chancen auf Ratifizierung in den USA

Sollte sich «Opt-in» in der letzten Verhandlungs­runde vom 11. März durchsetzen, hätte der wirtschafts­freundliche Block rund um die USA gewonnen. Und die Schweiz könnte die KI-Konvention mit einer Ratifizierung durch die USA als grossen diplomatischen Erfolg verkaufen.

Doch es ist gut möglich, dass der Vorsitz sich hier massiv verspekuliert hat. Die Chancen für eine Ratifizierung durch die USA sind ausgesprochen tief. Es gilt, dafür zwei hohe Hürden zu bewältigen: eine Zweitdrittel-Mehrheit im US-Senat und die Unterzeichnung durch den Präsidenten. Amerikanische Juristinnen sind sich weitgehend einig: Es ist sehr unwahrscheinlich, dass das US-Parlament diese Konvention jemals annehmen wird.

Nicht neutral

Pokert der Schweizer Diplomat also zu hoch? Schneider antwortet ausweichend: «Ich weiss nicht, ob die Vereinigten Staaten die Konvention unterzeichnen werden. Es hätte auf jeden Fall Signal­wirkung. Und für andere Staaten war wichtig, dass die USA mit von der Partie ist.»

Nicht alle glauben indes, dass der Schweizer Vorsitzende die Verhandlungen neutral geführt hat, wie das Medienportal «Euractiv» schreibt: «Quellen bestätigten, dass der Vorsitz und das Sekretariat des Europarats während der gesamten Verhandlungen nicht neutral gewesen waren und stattdessen den Argumenten der USA und anderer Beobachter­länder Vorschub leisteten, während sie wider­sprechende Argumente beiseiteschoben.»

Ein Vorwurf, den Schneider unfair findet: «Mir wird von allen Seiten vorgeworfen, ich berücksichtige ihre Position zu wenig.» Er sei ein Moderator und ein Dienstleister, er dürfe gar keine inhaltliche Meinung haben. «Ich nehme im Zweifelsfall lieber einen Änderungs­vorschlag zu viel in ein Paper rein, obwohl ich weiss, dass es dafür keine Mehrheiten geben wird.» Er sei überzeugt: Man müsse immer mit allen reden und alle anhören.

Es gibt aber durchaus auch Stimmen, die Schneider verteidigen. So funktioniere nun mal Diplomatie, heisst es von einigen Delegationen. Schneiders Job sei «tough» und die globale Ausrichtung richtig. Europarats­konventionen seien von Natur aus abstrakt, die Umsetzung obliege immer den Staaten, es brauche Spielräume für deren Rechts­ordnungen. «Realitätssinn ist hier wichtig, und das bringt das KI-Komitee mit», sagt ein Teilnehmer.

«Euractiv» warf zuletzt die These auf, dass sich die Schweiz mit einem diplomatischen Coup bessere Chancen auf den Posten des General­sekretärs im Europarat ausrechne. Dafür bewirbt sich nämlich der zurückgetretene Bundesrat Alain Berset​​.

Der ehemalige SP-Magistrat wollte sich auf Anfrage der Republik nicht zu seiner Kandidatur äussern. Auch Schneider hält nicht viel von solchen Gerüchten: «Ich habe während der letzten 13 Jahre zwei- bis dreimal mit Herrn Berset gesprochen. Er wird sich wohl nicht einmal mehr an mein Gesicht erinnern können.»

Den vollständigen Bericht können Sie hier Externer Linklesen.