Auf dem Weg zur Regulierung selbstfahrender Autos

In den vergangenen fünf Jahren haben mehrere Schweizer Städte und Verkehrsunternehmen mit selbstfahrenden Fahrzeugen auf festen Strecken experimentiert. © Keystone / Urs Flueeler

Autos sind zunehmend in der Lage, autonom zu fahren. Doch inwieweit sollten diese auch in der Lage sein, ihr Fahrverhalten zu erklären? Eine Arbeitsgruppe der in Genf beheimateten Fernmeldeunion ITU ist auf der Suche nach einer Antwort. Die Öffentlichkeit soll dank einer Umfrage helfen.

Was passiert, wenn ein selbstfahrendes Fahrzeug eines Tages in einer abgelegenen Gegend ein Kind erfasst, das die Strasse überquert? Im Auto befinden sich keine Passagiere; Augenzeuginnen für den Unfall gibt es ebenfalls nicht.  Kann das Auto erkennen, dass ein Zusammenstoss stattgefunden hat? Hält es an und verständigt einen notärztlichen Dienst? Ist das Auto in der Lage zu erklären, was passiert ist? Kann sich das Fahrsystem mit künstlicher Intelligenz (KI) daran erinnern, welche Entscheidungen getroffen wurden, die zum Unfall führten?

Solche Fragen werden interessierten Personen in einer Online-Umfrage unter dem Namen Molly ProblemExterner Link gestellt. Dahinter steckt die Arbeitsgruppe Künstliche Intelligenz für autonomes und assistiertes FahrenExterner Link bei der Internationalen Fernmeldeunion in Genf (ITUExterner Link).  «Das Molly-Problem war ein Gedankenexperiment, das wir uns ausgedacht haben, um die mentale Aufmerksamkeit auf wichtige Informationen zu lenken», sagt Bryn Balcombe, Leiter dieser Arbeitsgruppe. Im erwähnten Zusammenhang bedeutet dies: Welchen Grad an Erklärungsfähigkeit muss ein System von Künstlicher Intelligenz (KI) haben, um einen Vorgang zu rechtfertigen oder im Nachhinein zu erklären?

Es überrascht nicht, dass die Leute gemäss der ersten  vorläufigen Umfrage-ErgebnisseExterner Link von einem leeren selbstfahrenden Auto erwarten, dass es keine Fahrerflucht begeht. Die Teilnehmenden der Umfrage erwarten, dass das KI-Fahrsystem genügend Daten aufzeichnet, um einen Vorfall erklären zu können. Zudem sind die meisten Teilnehmerinnen und Teilnehmer der Meinung, dass diese Daten auch bei Beinahe-Unfällen erfasst werden sollten.

Schweiz will Verordnungsstufe

Die von Balcombe geleitete Gruppe umfasst fast 350 internationale Teilnehmerinnen und Teilnehmer aus der Automobilindustrie, der Telekommunikationsbranche sowie von Universitäten und Regulierungsbehörden. Sie erarbeiten einen Vorschlag für eine internationale technische Norm – eine ITU-Empfehlung – für die Überwachung des Verhaltens von selbstfahrenden Fahrzeugen im Strassenverkehr. Das Molly Problem ist Teil dieser Bemühungen.

Die ITU-Gruppe analysiert die bestehenden Lücken in den Normen und Vorschriften für selbstfahrende Fahrzeuge. «Tatsache ist, dass es bisher keine Standards für die Erkennung eines Zusammenpralls mit Fussgänger:innen gibt», sagt Balcombe, der im Übrigen auch Chief Strategy Officer von RoboraceExterner Link ist, einer Rennserie für autonome Elektrofahrzeuge. «Es gibt keine spezifischen Vorschriften für die Aufzeichnung von Daten zu Beinahe-Zusammenstössen und für die Identifizierung von Beinahe-Zusammenstössen.»

In der Schweiz hat der Bundesrat im Jahr 2020 eine VernehmlassungExterner Link durchgeführt, um die rechtlichen Grundlagen für das automatisierte Fahren zu verbessern. Um auf neue Entwicklungen rasch reagieren zu können, soll der Bundesrat im Strassenverkehrsgesetz (SVG) neu die Kompetenz erhalten, die konkreten Regelungen auf Verordnungsstufe zu erlassen, das heisst ohne Zustimmung des Parlaments. Dies würde der Regierung mehr Flexibilität bei der Anpassung der Vorschriften erlauben.

Der Normentwurf der ITU-Strategiegruppe zielt darauf ab, die Ausarbeitung internationaler Vorschriften und technischer Anforderungen zu unterstützen, für deren Umsetzung wiederum Gremien der UN-Wirtschaftskommission für Europa (UNECEExterner Link) für selbstfahrende Fahrzeuge zuständig sind. «Wie kann man Prinzipien, auf die sich Regierungen auf der ganzen Welt geeinigt haben, in die digitale Welt der künstlichen Intelligenz übertragen?», fragt Balcombe.

Die Arbeitsgruppe wird ihre Vorschläge Anfang nächsten Jahres bei der ITU einreichen. Die Fernmeldeunion wird dann entscheiden, ob die Vorschläge in eine ITU-Empfehlung umgewandelt werden, auf welche sich dann die jeweiligen Regulierungsbehörden beziehen können.

KI für einen guten Zweck

Die Bemühungen der Gruppe laufen darauf hinaus, durch selbstfahrende Fahrzeuge die Sicherheit im Strassenverkehr zu verbessern.  Ihren Anfang nahmen die Überlegungen auf dem globalen ITU-Gipfel «AI for Good» (Künstliche Intelligenz für einen guten Zweck) im Jahr 2019. Mehr als eine Million Menschen sterben jedes Jahr bei Strassenverkehrsunfällen. Neun von zehn tödlichen Verkehrsunfällen ereignen sich in Ländern mit niedrigem und mittlerem Einkommen.

«AI for Good wurde angesichts der Erkenntnis ins Leben gerufen, dass wir nicht mehr viel Zeit haben, um die von der UN definierten Ziele für eine nachhaltige Entwicklung (Agenda 2030) zu erreichen. KI erscheint als vielversprechender Ansatz, um einiger dieser Ziele zu erreichen», sagt Fred Werner, Leiter des strategischen Engagements bei der ITU und einer der Initiatoren von AI for Good.

Die ITU verfügt über ein einzigartiges Mitgliedschaftsmodell innerhalb des UN-Systems. Es umfasst 193 Mitgliedsstaaten und über 900 private Unternehmen, Universitäten und andere Organisationen. Genau diese breite Spanne an Mitgliedern und Interessensgruppen soll genutzt werden, um die Chancen und Herausforderungen der KI zu diskutieren.

«KI-Experten würden selbst sagen, dass Künstliche Intelligenz zu wichtig ist, um sie den Experten zu überlassen. Das Ziel des Gipfels ist es also, so viele unterschiedliche Stimmen wie möglich an einen Tisch zu bringen», sagt Werner.

Im Laufe der Jahre ist es AI for Good gelungen, mehrere Arbeitsgruppen ins Leben zu rufen, welche an internationalen Standards in ihren jeweiligen Bereichen arbeiten, so wie die von Balcombe geleitete Gruppe in Bezug auf selbstfahrende Autos. Anderer Bereiche sind Gesundheit, Energieeffizienz oder Naturkatastrophenmanagement.

Das Problem der Governance

Der Ansatz von AI for Good findet aber nicht nur Befürworter. Angela Müller, Senior Policy and Advocacy Manager bei der Non-Profit-Organisation AlgorithmWatch Switzerland, die KI-Systeme und ihre Auswirkungen auf die Gesellschaft beobachtet, zeigt sich beispielsweise skeptisch.

Ihrer Meinung nach lenkt der Ansatz von tatsächlichen Bedürfnissen ab, indem die Aufmerksamkeit auf die Governance gelenkt wird. Müller meint: «Wenn man daran glaubt, dass KI letztendlich die Welt retten wird, wäre es wohl die beste Lösung, einfach in die KI-Forschung zu investieren.»

Müller setzt auf Transparenz. Und sie begrüsst daher wissenschaftliche Forschungen, die der Öffentlichkeit zugänglich sind und erklären, wie KI-Systeme Entscheidungen treffen und welche Auswirkungen sie auf den Menschen haben. «Es ist sehr wichtig, dass diese Diskussionen jetzt geführt werden und dass diese Art von Forschung stattfindet, denn wir brauchen sie als Grundlage für unsere Governance-Debatte.»

Die Europäische Kommission (EK) arbeitet derzeit an der weltweit ersten Gesetzgebung zur Regulierung der KI. Der momentan diskutierte Vorschlag befasst sich mit den Risiken dieser Technologie und definiert klare Verpflichtungen in Bezug auf ihre spezifischen Anwendungen. In der Schweiz gibt es bisher keine vergleichbaren Ansätze wie in der EU.

KI für die Verkehrssicherheit

Anfang dieses Monats wurde eine neue KI-Initiative zur Erhöhung der Strassenverkehrssicherheit unter der Leitung der ITU, des UN-Sonderbeauftragten für Strassenverkehrssicherheit und des UN-Beauftragten für Technologie ins Leben gerufen. Ziel der Initiative ist es, öffentliche und private Anstrengungen zur Nutzung von KI-Technologien zu fördern, die die Verkehrssicherheit für alle Verkehrsteilnehmenden erhöhen, auch in Ländern mit niedrigen und mittleren Einkommen.

Fahrzeuge, Verkehrsteilnehmer und Infrastrukturen werden immer mehr Daten sammeln. Und KI könnte helfen, diese Daten sinnvoll zu nutzen. Bessere Unfallstatistiken könnten beispielsweise dazu beitragen, die Strasseninfrastrukturen zu verbessern und die Notfallmassnahmen zu beschleunigen.

«Autos tauschen untereinander Daten aus, Autos tauschen mit Fussgängern Daten aus, Infrastrukturen tauschen mit beiden – Autos und Fussgängern – Daten aus: Und wir sollten diese Daten mit der Hilfe von KI nutzen, um die Sicherheit auf den Strassen zu erhöhen», meint Balcombe. Die von ihm geleitete Gruppe ist Teil der breiter angelegten Initiative «AI for Road Safety» (KI für Strassensicherheit).

Die Kosten für vollständig selbstfahrende Fahrzeuge werden bis 2030 noch zu hoch sein, um sie in Ländern mit niedrigem Einkommen in grossem Umfang einzusetzen. Doch für 2030 hat sich die UN das Ziel gesetzt, die Zahl der Verkehrstoten zu halbieren. Balcombe ist jedoch der Ansicht, dass viele der Daten, die über autonom fahrende Autos gesammelt werden können, auch von weniger teuren Fahrzeugen mit Fahrassistenzsystemen erfasst werden können. Und dies werde dazu führen, bis 2030 etwas bewirken zu können.