Kommt es auf dem WEF zu einem Durchbruch bei der KI-Regulierung?

Bewältigung der Risiken und Nutzung der Chancen Künstlicher Intelligenz (KI) werden eines der Hauptthemen sein, die auf dem 54. Jahrestreffen des WEF in Davos diskutiert werden. © Keystone / Laurent Gilliéron

Die Regierungen fordern eine vertrauenswürdige künstliche Intelligenz (KI). Dies ist allerdings schwierig, da globale Regeln fehlen. Kann es auf dem Weltwirtschaftsforum (WEF) in Davos zu einem Durchbruch kommen?

Vor etwas mehr als einem Jahr hat das populäre System ChatGPT von OpenAI die KI in den Mainstream gebracht und die Hoffnung auf eine neue Ära geweckt, in der die Technologie die menschlichen Fähigkeiten übertreffen kann.

Dies war auch ein Weckruf für Regierungen, der sie auf die Risiken der Technologie aufmerksam machte – von der Beeinträchtigung der Demokratie bis hin zur Entlassung von Millionen von Menschen.

Nun ist auch die Geopolitik ins Spiel gekommen. Die Länder sind sich bewusst, dass KI mehr als nur eine Technologie ist: Sie ist auch eine politische und wirtschaftliche Waffe, wobei China und die Vereinigten Staaten das Rennen anführen. Von der Industrie bis zum Generalsekretär der Vereinten Nationen, António Guterres, wurden Forderungen nach Regulierung laut.

Zwar steht eine internationale Einheitslösung aus, aber die Länder sind sich einig, dass transparente und vertrauenswürdige KI-Modelle erforderlich sind.

«Weltweit gibt es keinen Konsens darüber, welche Bereiche der Regulierung internationalisiert werden sollten», sagte Robert Trager, Direktor der Oxford Martin AI Governance Initiative an der Universität Oxford, im November auf dem AI Policy Summit in Zürich. «Wenn es um Transparenz und Privatsphäre geht, haben die Länder unterschiedliche gesellschaftliche Werte.»

Vor diesem Hintergrund hat das WEF erklärt, es wolle die Zügel der globalen KI-Regulierung in die Hand nehmen und das Treffen in Davos nutzen, um sich auf «Leitplanken, Steuerung und Leitlinien für Innovation» zu konzentrieren, so WEF-Geschäftsführer Jeremy Jurgens, der die Arbeit des WEF zu Technologie und Innovation leitet.

Im Juni 2023 wurde die AI Governance AllianceExterner Link ins Leben gerufen, die verschiedene Regierungen, Akademiker:innen und über 40 Unternehmen, darunter OpenAI und Tech-Giganten wie Microsoft, Alphabet und Meta, zusammenbringt. Die erste Veranstaltung der Allianz fand letzten November in San Francisco statt.

Mit dem Motto «Vertrauen wiederherstellen» («Rebuilding Trust») ist das jährliche Treffen in DavosExterner Link, das am 15. Januar beginnt, eine Chance für das WEF, zu zeigen, dass es Gräben überbrücken und Länder davon überzeugen kann, konkrete Massnahmen für eine verantwortungsvolle Entwicklung der KI zu ergreifen. Allerdings muss das WEF grosse Hürden überwinden, wenn in Davos ein Durchbruch gelingen soll.

Länder auf dieselbe Seite bringen

Um voranzukommen, muss das WEF eine gemeinsame Basis zwischen den Ländern finden. Und dies in einer Zeit, in der es immer mehr nationale Initiativen gibt, sagen KI-Fachleute. Laut dem OECD AI Policy ObservatoryExterner Link gibt es derzeit über 700 nationale KI-Initiativen aus 60 Ländern und Territorien.

Diese spiegeln die unterschiedlichen Ansichten der Länder über Rolle und Zweck der Regulierung. Im Juli führten die chinesischen Regulierungsbehörden Regeln für generative KI-DiensteExterner Link ein, um die Entwicklung und Nutzung von KI zu verhindern, die gegen «sozialistische» Werte verstösst und das Regime in Peking untergräbt. Die Gesichtserkennungstechnologie wurde landesweit als Mittel zur Aufrechterhaltung der sozialen Ordnung eingeführt.

Dies steht im Gegensatz zu Initiativen in Europa, die den Schutz der Grundrechte in den Vordergrund stellen. So schränkt beispielsweise der im Dezember von den EU-Mitgliedstaaten verabschiedete Europe AI Act die Gesichtserkennung und KI für soziale Bewertungen auf der Grundlage von sozialem Verhalten oder persönlichen Merkmalen stark ein.

«Der EU AI Act ist das erste Gesetz, das eine Brücke zwischen der Welt der Technologie und der Demokratie schlägt», sagte Paul Nemitz, Hauptberater für den digitalen Wandel bei der Europäischen Kommission, auf dem AI Policy Summit.

In den USA hingegen wird die Branche stärker in die Pflicht genommen, sich selbst zu regulieren, da man befürchtet, Innovationen zu behindern. Dies zeigt sich im Entwurf der US-Regierung für eine KI-Rechtsverordnung, die 2022 veröffentlicht wurde, sowie in einer kürzlich erlassenen Verordnung des Präsidenten über vertrauenswürdige KI, welche Normen für die Sicherheit von KI, aber keine strengen Gesetze festlegt.

Während die grossen Volkswirtschaften darum feilschen, wie Vertrauen in KI aufzubauen sei, haben andere Länder wenig zu sagen. Im Jahr 2021 legte die Unesco eine Empfehlung zur Ethik der KIExterner Link vor, in der sie davor warnte, dass Algorithmen bestehende Vorurteile reproduzieren und verstärken und so die Ungleichheiten zwischen Nord und Süd verschärfen könnten.

Der Grossteil der Technologie und der zugrundeliegenden Datensätze stammt aus nur einer Handvoll reicher Länder, welche die Regeln bestimmen.

Leistungsstarke neue KI-Grundlagenmodelle, die mit umfangreichen Daten trainiert wurden, so dass sie in vielen Sektoren und für viele Zwecke eingesetzt werden können (z.B. ChatGPT), werden nicht überall auf der Welt gleichermassen angewandt. Dies liegt teilweise daran, dass grosse Sprachmodelle in anderen Sprachen als Englisch deutlich schlechter sind.

«Wir müssen uns ausserordentlich anstrengen, um sicherzustellen, dass alle von der KI profitieren», sagt Gabriela Ramos, stellvertretende Generaldirektorin für Sozial- und Humanwissenschaften der Unesco, gegenüber SWI swissinfo.ch.

Das WEF will die UNO, die Branche und einzelne Staaten an den Tisch bringen. Amandeep Gill, Technologiebeauftragter der Vereinten Nationen, und mehrere führende Vertreter der Technologiebranche wie der stellvertretende Vorsitzende und Präsident von Microsoft, Brad Smith, und der Präsident für globale Angelegenheiten von Google und Alphabet, Ken Walker, werden anwesend sein.

Dazu kommen rund 60 Staats- und Regierungschefs, darunter aus Ländern wie der Schweiz, Frankreich, China und Südkorea.

Die Frage stellt sich jedoch, inwieweit sich Regierungsvertretende der USA und Chinas, beides führende Länder in der KI-Entwicklung, an den Diskussionen beteiligen werden. Weiter bleibt abzuwarten, ob viele Entwicklungsländer und die Zivilgesellschaft an den Diskussionstisch eingeladen werden.

«Wir brauchen multilaterale Diskussionen, damit diese globalen Regeln für eine Technologie funktionieren, die keine Grenzen kennt», sagt Ramos.

Transparenz zum Wohl der Menschheit

Das WEF muss nicht nur die Regierungen in Einklang bringen, sondern auch die KI-Entwickler:innen und -Anwender:innen, bei denen es sich mehrheitlich um private Unternehmen handelt, davon überzeugen, dass eine globale Regelung in ihrem Interesse ist.

Die grösste Hürde ist die Transparenz, insbesondere die Frage, wie viel die Unternehmen über ihre Datenquellen preisgeben sollten und wie sie ihre KI-Modelle entwickeln.

«Transparenz sollte eine leitende Kraft für die Steuerung von KI sein», sagt Antoine Bosselut, der an der Eidgenössischen Technischen Hochschule Lausanne (EPFL) für Systeme zur Verarbeitung natürlicher Sprache zuständig ist.

«Wir gewinnen nicht viel, wenn wir diese Dinge im Dunkeln lassen. Je mehr wir über die Systeme und die Art und Weise wissen, wie sie trainiert werden, desto besser können wir Entscheidungen treffen, die der Gesellschaft zugutekommen.»

Bosselut ist einer von 75 Akademiker:innen, die sich der im November letzten Jahres gestarteten Schweizer KI-Initiative angeschlossen haben, die Transparenz in den Vordergrund der zukünftigen KI-Entwicklungen stellt.

Diese Offenheit sei von grundlegender Bedeutung, um sicherzustellen, dass «KI der gesamten Menschheit dient und nicht nur einigen wenigen Auserwählten», sagt Hanna Brahme, Kuratorin des AI House DavosExterner Link, das von der Eidgenössischen Technischen Hochschule ETH Zürich und der EPFL zusammen mit anderen Partner:innen betrieben wird.

Die Tatsache, dass das Treffen in der Schweiz stattfindet, die für ihre Neutralität, ihre vielen multinationalen Unternehmen, ihr starkes technisches Knowhow und ihre humanitären Werte bekannt ist, könnte für das WEF von Vorteil sein, sagt Brahme.

Das WEF hat sich jedoch nicht dazu geäussert, wie es sich für mehr Transparenz einsetzen will. Und genau diese hat laut einer Studie der Stanford UniversityExterner Link in den letzten drei Jahren abgenommen.

Forscher:innen bewerteten zehn populäre KI-Modelle anhand von 100 verschiedenen Transparenzindikatoren, wie z.B. den Trainingsdaten und der verwendeten Rechenleistung. Selbst das transparenteste Modell, Llama 2 von Meta, erhielt nur 53 von 100 möglichen Punkten.

Einige Entwickler:innen argumentieren, die Geheimhaltung der Modelle sei eine notwendige Sicherheitsmassnahme, um Hackerangriffe zu verhindern.

Aber es gibt auch ein klares kommerzielles Interesse. 2023 steckten Investor:innen fast 10 Milliarden Dollar in generative KI-Startups wie OpenAI, mehr als doppelt so viel wie die 4,4 Milliarden Dollar im Jahr zuvor. Die Aktien des US-Chipherstellers Nvidia stiegen im Jahr 2023 um 240%.

KI-Anwendende, darunter multinationale Unternehmen, haben ebenfalls viel zu gewinnen. Ein Sprecher des Schweizer Pharmariesen Roche erklärte gegenüber SWI swissinfo.ch, dass «die jüngsten Fortschritte im Bereich der KI mit den grossen Umwälzungen wie Elektrizität und Internet vergleichbar sind, die neue Innovationswellen auslösten».

Die Investmentbank Morgan Stanley schätzt, dass der Einsatz von KI in der frühen Phase der Arzneimittelentwicklung in den nächsten zehn Jahren zu 50 zusätzlichen neuartigen Therapien mit einem Umsatz von mehr als 50 Milliarden Dollar führen könnte.

«Der Schwerpunkt sollte nicht auf der Erfindung einer Technologie liegen, damit ein bestimmtes Unternehmen sehr berühmt werden kann. Es sollte darum gehen, ein Problem wie die menschliche Gesundheit zu lösen. Wenn wir das tun, sind wir auf dem richtigen Weg», sagt Dorina Thanou, eine leitende Forscherin für KI im Gesundheitsbereich an der EPFL, gegenüber SWI swissinfo.ch.

Die Frage nach der Glaubwürdigkeit des WEF

Fachleuten zufolge wird es für das WEF nicht einfach sein, diese Gräben zu überbrücken. Doch es gibt Grund zum Optimismus: Das WEF kann auf eine lange Erfolgsbilanz bei der Initiierung öffentlich-privater Initiativen zurückblicken – von denen einige grosse Wirkung gezeigt haben.

Die Global Alliance for Vaccines and Immunization (GAVI) beispielsweise wurde am der WEF-Jahrestreffen im Jahr 2000 ins Leben gerufen. Sie hat seitdem dazu beigetragen, dass 981 Millionen Kinder in den ärmsten Ländern der Welt geimpft werden konnten und mehr als 16,2 Millionen Todesfälle verhindert wurden.

Aber WEF-Kritiker:innen argumentierenExterner Link, dass viele Initiativen innerhalb der Mauern des Davoser Kongresszentrums geblieben sind und es mehr darum ging, Lob von den Medien zu ernten und sich gegenseitig auf die Schulter zu klopfen, als eine echte Wirkung zu erzielen.

Es besteht die Gefahr einer Art «KI-washing», bei der die Teilnehmer:innen das Versprechen der KI anpreisen und Zusicherungen unterschreiben, um Fortschritte zu zeigen, die schwierigen Fragen und die echte Verantwortung aber vermeiden.

Artikel Davos Man

Das WEF hat auch seine eigene Glaubwürdigkeitslücke zu überwinden, wenn es darum geht, inklusiv und transparent zu sein. Das Forum wird von vielen als geheimnisvoll und als Gastgeber eines exklusiven Treffens von Eliten angesehen.

Wenn Unternehmen mehr als 120’000 Dollar für eine Mitgliedschaft beim WEF zahlen, kann man dann wirklich darauf vertrauen, dass es das globale Wohl im Auge hat? Dies stellen WEF-Kritiker:innen seit Jahren in FrageExterner Link.

Dass das WEF so viele Akteur:innen aus der Branche anziehen kann, macht es aber auch so attraktiv. Mehr als die Hälfte der 2800 Teilnehmer:innen des Jahrestreffens 2024 kommen aus der Wirtschaft.

«Das Zusammentreffen dieser Interessengruppen kann sehr wirkungsvoll sein», sagte die Expertin für digitale Ethik Niniane Paeffgen in Genf.

KI werde hauptsächlich von grossen Technologieunternehmen fernab von Regierungszentren entwickelt. Daher sei es von entscheidender Bedeutung, dass sie alle zusammenkommen, um die Debatte über die globale Governance von KI voranzutreiben und sicherzustellen, dass die Unternehmen ihren Teil zur verantwortungsvollen Entwicklung von KI beitragen.

«Aber damit das funktioniert, muss sich die Art und Weise ändern, wie die Dinge diskutiert werden.» Insbesondere müsse die Zivilgesellschaft eine Rolle spielen.

Trotz dieser Bedenken halten Expert:innen einen Durchbruch auf der diesjährigen WEF-Jahrestagung für möglich, vor allem wegen des Zeitpunkts. Es besteht ein Gefühl der Dringlichkeit, einen Konsens zu erzielen.

Vor wenigen Wochen hat die EU den historischen Schritt unternommen und sich auf das erste KI-Gesetz geeinigt, das nach Ansicht einiger schnell zum globalen Standard werdenExterner Link könnte.

Editiert von Virginie Mangin, Übertragung aus dem Französischen: Claire Micallef