Von Drohnen gesteuerter Schweizer Rollstuhl zeigt Potenzial und Probleme von KI

Keystone / Gaetan Bally

Eine Schweizer Forschungsgruppe entwickelt einen durch Künstliche Intelligenz und Drohnen gesteuerten Rollstuhl, der Menschen mit Behinderungen ein unabhängigeres Leben und eine bessere Inklusion in die Gesellschaft ermöglichen soll. Doch noch gibt es zahlreiche technische, ethische und rechtliche Hindernisse zu überwinden.

Ein normales Leben zu führen, seinen Wohnort selbst zu bestimmen und sich in die Gesellschaft integrieren zu können: Das fordern Menschen mit Behinderung in der «Inklusionsinitiative».

Dem Initiativkomitee zufolge werden diese Grundrechte 1,7 Millionen Menschen mit Behinderung in der Schweiz vorenthalten, darunter das Recht auf Mobilität.

Forschende an verschiedenen Schweizer und internationalen Universitäten arbeiten an technologiebasierten Lösungen für die bestehenden Einschränkungen. Eines dieser preisgekrönten ProjekteExterner Link will einen durch Drohnen gesteuerten elektrischen Rollstuhl entwickeln.

“Wir sind zuversichtlich, dass unsere Lösung Menschen mit Körper- und Sinnesbehinderungen ermöglicht, sich unabhängig fortbewegen zu können, ohne wie ein Objekt getragen zu werden”, sagt Francesco Flammini, Leiter des Forschungsteams an Luganos Dalle Molle Institut für Künstliche Intelligenz, das von der EU und der Schweizer Regierung finanziert wird.

Flamminis Team arbeitet mit einer Reihe von Europäischen Universitäten zusammen, um diese wie er sagt “bahnbrechende” Idee zu verwirklichen.

Gemeinsam wollen sie ein intelligentes Hilfsmittel kreieren, das es Menschen mit Behinderungen erlaubt, alltägliche Aktivitäten wie den Weg zur Arbeit, zur Ärztin oder zum Arzt oder zu Freunden ohne Unterstützung eigenständig zu meistern.

Francesco Flammini ist Professor für Sicherheit autonomer Systeme am Dalle-Molle-Institut für Studien der künstlichen Intelligenz USI-SUPSI. IDSIA

Die «transformative Technologie» eines smarten Rollstuhls

«Ein smarter Rollstuhl ist eine transformative Technologie für Menschen mit schweren Behinderungen, die häufig ans Bett gefesselt sind und sich nicht fortbewegen können», sagt Benjamin Kuipers, emeritierter Professor für Elektro- und Computertechnik an der Universität von Michigan in den USA.

Kuipers arbeitet seit Jahren mit seinem Team an der Entwicklung intelligenter Roboter-Rollstühle mit dem Ziel, das Leben von zwischen zwei und fünf Millionen Menschen mit Behinderungen allein in den USA zu erleichtern.

In diesem Prozess sind für ihn ethische Fragen von besonderer Bedeutung, wie die Frage, ob man Robotern zutrauen kann, Aufgaben autonom zu erledigen. «Um mit einem Menschen zusammenzuarbeiten, muss der Roboter vertrauenswürdig sein», sagt Kuipers.

Benjamin Kuipers und zwei seiner Studierenden präsentieren ihren intelligenten Roboter-Rollstuhl in diesem Video (Englisch):

Wegen der Herausforderung, eine Antwort auf zentrale ethische Fragen zu finden, haben viele der innovativen Ideen aus der Forschung noch nicht die kommerzielle Phase erreicht.

Sowohl Kuipers› als auch Flamminis Rollstuhl-Projekt haben noch einen langen Weg bis zur Umsetzung vor sich.

«Die Herausforderungen, die vor uns liegen, sind enorm. Wir entwickeln etwas, das mehrere Jahre bis zur Umsetzung brauchen wird», sagt Flammini.

Benjamin Kuipers ist emeritierter Professor für Elektrotechnik und Informatik an der Universität von Michigan in den Vereinigten Staaten. University of Michigan

Die Herausforderung, selbständig eine Strasse zu überqueren

Eine der grössten Herausforderungen für die Entwicklerinnen und Entwickler ist es, einen Rollstuhl autonom und sicher die Strasse überqueren zu lassen.

Flamminis Forschungsgruppe hat diese Überquerung auf der Software-Ebene mit verschiedenen realistischen Szenarien (Regen, Nebel und schlechte Sichtverhältnisse) simuliert und bewiesen, dass es funktioniert, sogar im Falle von Menschen mit mentalen oder sensorischen Behinderungen wie Seheinschränkungen.

Möglich wird dies durch eine Reihe von eingebauten Sensoren und Kameras wie bei einem autonom fahrenden Auto. Mithilfe von Drohnen – die Teil des Schweizer Projekts sind – kann der Rollstuhl die Situation und die Gefahrenlage von verschiedenen Winkeln und Perspektiven aus einschätzen und bewerten, bevor er entscheidet, die Strasse zu überqueren.

«Der Vorteil von Drohnen liegt darin, dass sie sich bewegen und auch um Ecken fliegen können, über die Sichtachse des Menschen hinaus», sagt Flammini. Für den Entscheid, ob eine Strassenquerung sicher ist, berechnet das System das Risiko mit einer mathematischen Funktion.

Drohnen: Zu aufdringlich oder entscheidend für die Sicherheit?

Doch Kuipers hat Zweifel hinsichtlich der Umsetzbarkeit des Schweizer Projekts.

«Menschen mit Behinderungen möchten nicht die allgemeine Aufmerksamkeit auf sich lenken. Ein von Drohnen umgebener Rollstuhl fällt sehr auf», sagt der US-amerikanische Professor.

Seiner Meinung nach sollte das Forschungsteam aus Lugano diesen Aspekt bedenken und sich darüber mit potenziellen Nutzerinnen und Nutzern austauschen.

Flammini wiederum glaubt, dass die Sicherheit des autonomen Gefährts von der Nutzung so vieler Daten wie möglich abhängt, eingeschlossen jener, die Drohnen liefern.

«Je mehr Sensoren wir haben, desto mehr Informationen stehen zur Verfügung. Das erhöht die Verlässlichkeit der Entscheidung des Roboters», sagt Flammini.

Der von Flammini und seinem Team entwickelte drohnengeführte Rollstuhl in einem von KI generierten Bild. Francesco Flammini / KI

«Man kann KI-Systemen nicht vertrauen, wenn man nicht weiss, wie sie funktionieren»

Während KI-Systeme, die autonom fahrende Züge oder Atomkraftwerke kontrollieren, sehr komplex sind, folgen sie zugleich einfachen Prinzipien. KI-Systeme, die Rollstühle steuern, agieren jedoch in komplexen Umgebungen und ihre Aktionen sind nicht immer vollständig erklärbar.

Doch wenn das System nicht transparent ist, kann man im Fall eines Unfalls nicht herausfinden, wo der Fehler lag und was genau geschah. Autonom fahrende Autos bringen die gleichen Komplikationen mit sich.

«Du kannst Systemen nicht trauen, wenn Du nicht weisst, wie sie funktionieren», sagt Flammini. Der Forscher und sein Team haben versucht, das Problem zu lösen, indem sie die meisten Prozesse anhand von mathematischen Formelismen erklären, wie etwa die Strassenüberquerungs-Funktion.

Doch zum Teil basiert ihr System noch auf «Deep Learning», das häufig Verzerrungen von Daten enthält. «Wenn zum Beispiel ein KI-System einen Wolf von einem Hund unterscheiden soll und nur mit Bildern von Wölfen im Schnee trainiert wurde, wird es Wölfe kaum in einem anderen Kontext erkennen», erklärt der Forscher.

Ethik und rechtliche Sackgassen

Die fehlende Transparenz des Systems führt zu funktionellen und rechtlichen Problemen gleichermassen, da es im Fall eines Fehlers oder Unfalls schwierig ist, Verantwortungen zuzuweisen.

«Wo liegt der Fehler? In der Software, in den Sensoren? Ist es die Schuld des Unternehmens oder einer dritten beteiligten Partei? Undurchschaubare Systeme können in kritischen Kontexten nicht verwendet werden», sagt Flammini.

Um akzeptierbar zu sein, muss die Wahrscheinlichkeit eines Unfalls kalkulierbar sein und unter einem bestimmten Grenzwert liegen. In Bezug auf Züge und Flugzeuge spreche man von einer Wahrscheinlichkeit von «weniger als 10 zu minus 9», eine Zahl, die KI-Systeme derzeit nicht garantieren können, erklärt Flammini.

Dieser Schwellenwert entscheidet, ob ein Roboter wirklich zuverlässig ist; eine zentrale Frage, wenn er mit Menschen zusammenarbeitet.

«Der Mensch delegiert einen Teil der Verantwortung an den Roboter, der ihn zurÄrztin, zum Arzt oder zur Arbeit bringen soll, und er vertraut darauf, dass der Roboter gefährliche Situationen vermeidet. Dafür muss der Roboter zuverlässig sein», sagt Kuipers.

Gleichzeitig muss der Roboter sich weigern, freiwillig oder unfreiwillig gegebene tödliche Befehle auszuführen, wie eine Treppe herunter oder aus einem Fenster heraus zu fahren. «Dies sind wirklich bedeutende ethische Fragen.»

Eine zusätzliche Herausforderung für Flamminis Rollstuhl-Projekt sind die bisher fehlenden Rechtsvorschriften für den Flug von Drohnen im öffentlichen und städtischen Raum.

Roboter im Dienst des Menschen

Trotz der vielen Hindernisse ist das Luganeser Forschungsteam zuversichtlich, dass es den richtigen Weg eingeschlagen hat.

«Unser visionäres und bahnbrechendes Projekt eröffnet neue Perspektiven, um Menschen mit Behinderungen zu unterstützen und ihre Inklusion und Autonomie zu erhöhen», sagt Flammini.

Kuipers wiederum sieht die grösste Chance darin, den Roboter für wissenschaftliche Erkundungen zu nutzen. Zum Beispiel, um räumliche Umgebungen zu erforschen und zu kartieren sowie um die Interaktion zwischen Mensch und Maschine besser zu verstehen. «Der Mensch hat immer das Sagen. Der Roboter existiert, um uns zu dienen», sagt er.

Editiert von Veronica De Vore, Übertragung aus dem Englischen: Petra Krimphove