KI-Regulierung in der Schweiz: Zwischen Innovation und Sicherheit

Schweizer Spitäler verwenden oft KI-Geräte aus Ländern mit anderen medizinischen Standards, wie zum Beispiel China. Keystone / Christian Beutler

Welchen Risiken sind Menschen in Ländern wie etwa in der Schweiz ausgesetzt, in denen Künstliche Intelligenz nicht reguliert ist? Sind mehr Vorschriften ein Vorteil oder ein Nachteil für die Wirtschaft eines Landes und seine Bevölkerung? Die Rechts- und Medizinexpertin Kerstin Noëlle Vokinger nimmt dazu Stellung.

Künstliche Intelligenz (KI) verändert Schlüsselsektoren von der Medizin bis zur Arbeitswelt, bringt aber auch Risiken und regulatorische Herausforderungen mit sich. Wann dürfen etwa Maschinen anstelle von Menschen Operationen durchführen oder wie können Krankenhäuser medizinische KI-Geräte einsetzen, die in Ländern mit unterschiedlichen Qualitätsstandards getestet wurden?

Während die Europäische Union und die USA unterschiedliche Strategien verfolgen, lässt sich die Schweiz Zeit: Ein ursprünglich für dieses Jahr erwarteter Vorschlag der Regierung für eine KI-Regulierung wurde auf 2025 verschobenExterner Link. Die Rechts- und Medizinexpertin Kerstin Noëlle Vokinger erklärt, warum eine gezielte Regulierung notwendig ist, um ein Gleichgewicht zwischen Innovation und Rechtsschutz zu finden.

Über Kerstin Noëlle Vokinger

Kerstin Noëlle Vokinger hat einen juristischen und medizinischen Background und ist Professorin an der Universität Zürich und der ETH Zürich. Sie konzentriert sich auf interdisziplinäre Forschung mit dem Ziel, den Zugang zu Medizin und Technologie zu verbessern.

SWI swissinfo.ch: Glauben Sie, dass die Schweiz eine
KI-Regulierung braucht? Wenn ja, warum?

Kerstin Noëlle Vokinger zVg

Kerstin Noëlle Vokinger: Ich glaube nicht, dass die Schweiz derzeit Regelungen wie die der EU braucht, die sehr umfassend sind und horizontal alle KI-Technologien regeln. Sinnvoller wäre es, einen sektoriellen Ansatz zu wählen und für jeden Bereich die spezifischen Risiken und Chancen zu evaluieren. Damit könnte eine Überregulierung vermieden werden.

Lange Zeit vertrat die Schweiz die Auffassung, dass sie keine spezifische KI-Gesetzgebung benötige, da die bestehenden Gesetze ausreichend seien. Dann kam die KI-Verordnung der EU und die Schweizer Regierung änderte ihre Meinung. Reichen die bestehenden Schweizer Vorschriften nicht aus?  

Es stimmt, dass es allgemeine Gesetze – nicht speziell für KI – gibt, die gelten. Einige Beispiele sind das Recht auf Privatsphäre, der Grundsatz der Nichtdiskriminierung und viele andere. Es kann jedoch spezifische Lücken für KI-Systeme geben, die wir angehen müssen, da die Komplexität dieser Technologie zusätzliche oder spezifischere und extremere Herausforderungen mit sich bringen kann. In der Medizin müssen wir beispielsweise definieren, welche Aufgaben an Maschinen delegiert werden können, und unsere Gesetze entsprechend anpassen.

Kommt die Schweiz mit der Regulierung von KI zu
spät? Lesen Sie hier unsere detaillierte Analyse:

Im Gesundheitswesen verwenden Schweizer Spitäler oft Geräte mit integrierter KI, die aus Ländern mit anderen medizinischen Standards wie China stammen. Dies ist beispielsweise bei Geräten für die moderne Radiologie der Fall. Welche Risiken ergeben sich daraus für den Einzelnen und wie sollte dies geregelt werden?

Dies ist sicherlich eine Herausforderung. Lassen Sie mich Ihnen ein Beispiel aus dem Bereich der klinischen Studien geben. Bei der Entwicklung von Medikamenten wissen wir, dass geschlechtsspezifische und ethnische Unterschiede die Ergebnisse beeinflussen können. Das Gleiche kann für KI-basierte Medizinprodukte gelten.

Bisher wurden viele KI-Geräte nur in einem einzigen Land getestet, oft in grossen Ländern wie China oder den USA. Leider sind internationale Studien für zugelassene KI-basierte Medizinprodukte noch selten. Die Ergebnisse, die in diesen Ländern erzielt werden, sind für Schweizer Patientinnen und Patienten möglicherweise nicht in gleichem Masse gültig und sicher. Aus diesem Grund kann es notwendig sein, dass solche Geräte bestimmte Anforderungen erfüllen müssen, bevor sie in der Schweiz zugelassen werden.

Bedeutet das, dass wir auch strengere Regeln für den Zulassungsprozess von KI-Medizinprodukten brauchen, jetzt, wo sie sich in Krankenhäusern immer mehr durchsetzen?

Zunächst müssen wir Regulierungslücken identifizieren und verstehen, welche zusätzlichen oder neuen Risiken diese Technologien mit sich bringen. Sobald diese Lücken identifiziert sind, müssen wir entscheiden, auf welcher Ebene sie reguliert werden sollen – zum Beispiel durch Selbstregulierung oder staatliche Regulierung.

Hier gibt es verschiedene Möglichkeiten. In den USA arbeitet die FDA (Food and Drug Administration) aktiv an der Entwicklung von Regeln, die für den gesamten Lebenszyklus eines Gerätes gelten und an die Softwareentwicklung angepasst werden können.

Die FDA ist in dieser Hinsicht transparent und bezieht Wissenschaftler:innen und andere Interessengruppen ein, um gemeinsam die besten Strategien und Empfehlungen für Patient:innen zu definieren. In den USA gibt es in diesem Bereich eine grosse Dynamik, während die Situation in Europa weniger klar und transparent ist.

Die EU-Gesetzgebung zu künstlicher Intelligenz ist ein strenges Regelwerk mit allgemeinen Bestimmungen, das keine spezifischen Vorschriften für Medizinprodukte enthält. Die Ansätze in den beiden Rechtssystemen sind sehr unterschiedlich.

Kann die Schweiz es besser machen als die EU? Oder wird sie versuchen, den EU-Ansatz auf Schweizer Art zu kopieren, im Wissen um ihre Position als kleines Land, das von EU-Staaten umgeben ist?

Da die Schweiz von EU-Staaten umgeben ist, kann sie die europäische KI-Verordnung sicher nicht ignorieren. Je nachdem, was die Schweiz regelt, könnte es zu Konflikten mit anderen Regelungen kommen, etwa mit denen der EU oder der USA.

Die Medizin zum Beispiel ist ein internationaler Bereich, in dem wir uns nicht isolieren können. Dies ist eine weitere regulatorische Herausforderung, der sich die Schweiz stellen muss.

Gegner:innen der Regulierung argumentieren, dass diese die Innovation bremsen könnte. Wie kann ein Gleichgewicht zwischen dem Schutz der Menschen- und Verbraucher:innenrechte und der Förderung der technologischen Entwicklung gefunden werden?

Es ist von entscheidender Bedeutung, ein Gleichgewicht zwischen Innovation und Sicherheit, einschliesslich der Rechte des Einzelnen, zu finden. Jedes Land muss entscheiden, welche Risiken es einzugehen bereit ist. Das muss auch die Schweiz tun, denn diese Technologien sind mit Risiken verbunden und die Ergebnisse können unterschiedlich präzise sein.

Die EU-Regelung zum Beispiel lässt kaum Risiken zu, und einige Jurist:innen befürchten, dass dies die Innovation behindern könnte. Die USA hingegen gelten als nachsichtiger, auch in Bereichen wie dem Datenschutz.

KI wird auch zunehmend am Arbeitsplatz eingesetzt. Lesen Sie, wie Schweizer Arbeitnehmende schlechter geschützt sind als ihre europäischen Kolleg:innen:

KI ist in ihrer Natur grenzübergreifend. Wie können unterschiedliche Regulierungsansätze miteinander in Einklang gebracht werden, um die Achtung der Menschenrechte zu gewährleisten?

Es ist wichtig, sowohl auf nationaler als auch auf internationaler Ebene aktiv zu werden und mit anderen Ländern zusammenzuarbeiten, um gemeinsame Grundprinzipien zu entwickeln. Natürlich wissen wir, dass es umso schwieriger wird, eine Lösung zu finden, je mehr Länder beteiligt sind. Es ist daher nicht möglich, in allen Punkten einen Konsens zu erzielen.

KI birgt aber nicht nur Risiken, sondern auch Chancen. Könnte Regulierung Ihrer Meinung nach dazu beitragen, diese besser zu nutzen?

Ja, ich bin davon überzeugt, dass eine gute Regulierung nicht nur Grenzen setzt, sondern auch Chancen eröffnet. Dies kann auf verschiedene Weise geschehen, zum Beispiel durch Investitionen in neue Software und Anwendungen oder durch eine bessere Integration von Technologien in das Bildungssystem oder die Gesellschaft. Regulierung hat verschiedene Funktionen, sie verhindert nicht nur, sondern ermöglicht auch.

In der Medizin beispielsweise ist es möglich, dass KI-Tools immer präziser werden und das Potenzial haben, bestimmte Aufgaben zu unterstützen oder sogar zu ersetzen. Dies könnte Ärztinnen und Ärzten und anderem medizinischen Personal helfen, sich beispielsweise auf komplexere Fälle zu konzentrieren. Je nachdem, welche Aufgaben durch KI ersetzt werden könnten, müssten bestimmte (Selbst-)Regulierungen angepasst werden, um solche Fortschritte zu ermöglichen.  

Da sich KI schnell und bis zu einem gewissen Grad unvorhersehbar entwickelt, ist es wichtig, wachsam zu sein. Um Lücken in der Regulierung zu erkennen und Regelungen zu entwickeln, die dazu beitragen, Risiken zu mindern und Chancen zu ermöglichen.

Editiert von Veronica De Vore; Übertragung aus dem
Englischen mit Hilfe von deepL: Melanie Eichenberger