Regierungen und Unternehmen werden das KI-Rennen nicht stoppen

KI-Forscher:innen fordern bei den "gigantischen KI-Experimenten" einen Marschhalt. Doch den wird es nicht geben, ist Jürgen Schmidhuber überzeugt.

In der Vergangenheit habe ich Briefe mitunterzeichnet, die vor KI-Waffen warnen. Und doch denke ich nicht, dass der letzte Brief führender Wissenschaftler:innen eine nennenswerte Wirkung erzielen wird. Denn viele KI-Forscher:innen, Unternehmen und Regierungen werden ihn komplett ignorieren.

Der Brief nutzt häufig das Wort «wir» und bezieht sich auf «uns», die Menschen. Aber es gibt kein «Wir», hinter dem sich alle wiederfinden können. Fragen Sie zehn Leute, und Sie werden zehn verschiedene Meinungen darüber hören, was «gut» ist. Einige dieser Meinungen werden komplett unvereinbar sein. Und vergessen Sie nicht die vielen Konflikte, die es auch zwischen den Involvierten gibt.

Jürgen Schmidhuber 

Jürgen Schmidhuber ist Chefwissenschaftler des in Lugano ansässigen Unternehmens NNAISENSE, das sich zum Ziel gesetzt hat, die erste praktische Allzweck-KI zu bauen. Er ist in häufiger Keynote-Speaker zu KI-bezogenen Themen und berät verschiedene Regierungen bei der Entwicklung ihrer KI-Strategien. Die heute am häufigsten zitierten neuronalen Netze, die in Anwendungen wie Apples Siri, Amazons Alexa und Googles Spracherkennung sowie Google Translate genutzt werden, bauen alle auf der Arbeit seines Labors auf.

Der Brief enthält auch die Passage, «Wenn nicht schnell eine Pause herbeigeführt werden kann, sollten Regierungen einschreiten und ein Moratorium verfügen.» Das Problem ist, dass verschiedene Arten von Regierungen verschiedene Meinungen dazu haben, was gut für sie und andere ist. Grossmacht A wird sich sagen: «Grossmacht B wird heimlich einen Vorteil über uns erlangen, wenn wir es nicht tun.» Dasselbe gilt für die Grossmächte C, D und E.

Welche Rolle soll die Schweiz da spielen? Sie sollte natürlich versuchen, in der KI-Forschung weiterhin vorne mit dabei zu bleiben. Im Verhältnis zur Bevölkerung wurden in der Schweiz, Stand 2020, weit mehr Beiträge an wichtigen KI-KonferenzenExterner Link veröffentlicht als in irgendeinem anderen Land. Ein Moratorium würde bloss der Wettbewerbsfähigkeit der Schweiz schaden.

Eine jahrzehntelange Weiterentwicklung

So beruht zum Beispiel ChatGPT auf Grundlagen, die Wissenschaftler entwickelt haben, die jetzt für unser Unternehmen NNAISENSE in Lugano arbeiten, dessen Motto «AI∀» ist – oder «AI For All». 

ChatGPT nutzt ein künstliches neuronales Netzwerk mit dem Namen Transformer, das auf menschlichen Aufmerksamkeitsmechanismen beruht – also kognitive Aufmerksamkeit nachahmen soll – mit dem Ziel einer natürlichen Verarbeitung von Sprache.

Google-Angestellte publizierten dazu 2017 einen jetzt viel zitierten Artikel mit dem Titel «Attention is all you need».Externer Link Das freut mich, denn vor über 30 Jahren publizierte ich eine Transformer-VarianteExterner Link, die nun «Transformer with linearised self-attention» heisst. Kürzlich habe ich neue ForschungsergebnisseExterner Link zum Thema präsentiert.

GPT-Modelle sind auch abhängig von «residual connections»-Mechanismen, die neuronalen Netzwerken mehr Tiefe geben und ihre Funktionen verbessern. «Residual connections» gehen zurück auf unser LSTM der 1990er-Jahre (das meistzitierte künstliche neuronale Netz des 20. Jahrhunderts) und unser Highway Network (ab Mai 2015). Letzteres war das erste sehr tiefe «feedforward neural network» mit Hunderten von Schichten, dessen Prinzipien heute in Tausenden von Anwendungen zu finden sind.

Die Gegenwart und die Zukunft

Was passiert als nächstes? Ich habe ChatGPT und ähnliche grosse Sprachmodelle oft mit Politiker:innen verglichen. Politiker:innen sind üblicherweise gut im Reden und sie können zu jeder Frage schnelle, druckreife Antworten liefern. Sie kombinieren Schlagworte, die sie in früheren Reden genutzt haben, immer wieder neu, so dass keine zwei Antworten identisch sind. Trotzdem liefern sie oft Plattitüden ab, ohne Einsichten, ohne Tiefgang.

Grosse Sprachmodelle wie ChatGPT sind noch nicht sehr gut darin, um mehrere logische Ecken zu denken – so wie es Mathematiker:innen und andere Wissenschaftler:innen tun. Andererseits gibt es bereits seit einiger Zeit neuronale Netzwerke, die auf eine ähnliche Art lernfähig sind, zumindest im Prinzip. Wir erwarten hier nun schnelle Fortschritte, die vielen Leuten das Leben erleichtern werden.

Der Wissenschaftler Lê Nguyên Hoang plädiert für mehr Kontrolle:

Editiert von Sabina Weiss und Veronica DeVore.

Die in diesem Artikel geäusserten Ansichten sind ausschliesslich jene des Autors und müssen sich nicht mit der Position von SWI swissinfo.ch decken.