Sedia a rotelle svizzera assistita da droni mette in luce promesse e problemi dell’IA

Far attraversare la strada a una sedia a rotelle robotica in modo sicuro e autonomo è una delle maggiori sfide che sviluppatori e sviluppatrici devono affrontare. Gaetan Bally

Un gruppo di ricerca svizzero sta sviluppando una sedia a rotelle guidata dall'intelligenza artificiale (IA) e dai droni per aiutare le persone con disabilità a condurre una vita più autonoma e a sentirsi più incluse nella società. Ma gli ostacoli tecnici, etici e legali sono ancora molti. 

Vivere una vita normale, scegliere dove abitare, potersi integrare nella società: questo è ciò che chiedono le persone con disabilità in Svizzera in un’iniziativa popolare “per l’inclusione. Ciò è ancora difficile per gli 1,7 milioni di persone con disabilità nel Paese alpino che, secondo il comitato promotore dell’iniziativa, sono ancora prive dei diritti fondamentali di cui gode chi non è disabile, come la libertà di movimento.

Gruppi di ricerca di diverse università svizzere e internazionali stanno lavorando per risolvere il problema attraverso la tecnologia. Uno di questi progetti, premiato di recenteCollegamento esterno, mira a sviluppare sedie a rotelle a guida autonoma assistite da droni.

“Siamo ottimisti che la nostra soluzione consentirà alle persone con disabilità fisiche e sensoriali di muoversi in modo indipendente, senza essere trasportate come oggetti”, afferma Francesco Flammini, responsabile del team di ricerca che guida il progetto finanziato dall’Unione europea e dal Governo svizzero presso l’Istituto Dalle Molle di studi sull’intelligenza artificiale (IA) di Lugano.

Il team di Flammini sta collaborando con diverse altre università europee per realizzare quella che definisce l’idea “dirompente” di creare uno strumento intelligente che possa permettere alle persone con disabilità di compiere attività quotidiane – come andare al lavoro, dal medico o visitare gli amici e amiche – senza bisogno di assistenza.

Francesco Flammini è professore in sicurezza sistemi autonomi presso l’Istituto Dalle Molle di studi sull’intelligenza artificiale USI-SUPSI IDSIA

La “tecnologia trasformativa” delle sedie a rotelle intelligenti 

“Una sedia a rotelle intelligente è una tecnologia trasformativa per le persone con gravi disabilità che spesso sono costrette a letto e non possono muoversi”, conferma Benjamin Kuipers, professore emerito di ingegneria elettrica e informatica presso l’Università del Michigan negli Stati Uniti. 

Kuipers ha lavorato per anni con il suo team allo sviluppo di sedie a rotelle robotiche intelligenti, con l’obiettivo di aiutare tra i due e i cinque milioni di persone disabili negli Stati Uniti. Si è anche occupato molto dei problemi etici connessi, riflettendo sulla questione se ci si possa fidare dei robot per svolgere compiti autonomi. “Per collaborare con l’essere umano, il robot deve essere affidabile”, afferma Kuipers. 

Benjamin Kuipers e due suoi studenti illustrano la loro sedia a rotelle robotica intelligente in un video (in inglese):

La difficoltà di risolvere tali dubbi etici cruciali è il motivo per cui molte delle idee innovative sviluppate in ambito accademico non hanno ancora raggiunto la fase commerciale. La strada verso l’implementazione sia del progetto di Kuipers che di quello di Flammini è quindi ancora lunga. 

“Le sfide che dobbiamo affrontare sono molto grandi. Stiamo sviluppando qualcosa che richiederà diversi anni per essere industrializzato”, sostiene Flammini. 

Benjamin Kuipers è professore emerito di ingegneria elettrica e informatica presso l’Università del Michigan negli Stati Uniti. University of Michigan

La sfida dell’attraversamento stradale autonomo 

Far attraversare la strada a una sedia a rotelle in modo sicuro e autonomo è una delle maggiori sfide che sviluppatori e sviluppatrici devono affrontare. Il gruppo di ricerca di Flammini ha testato l’attraversamento a livello di software, simulando vari scenari reali (pioggia, nebbia, scarsa visibilità), e ha dimostrato che può funzionare, anche nel caso di persone con disabilità mentali e sensoriali come disturbi visivi. Ciò è reso possibile da una serie di sensori e telecamere a bordo, proprio come le auto autonome. Con l’aiuto di droni – la parte pionieristica del progetto portata avanti in Svizzera – la sedia a rotelle può valutare lo scenario e la soglia di pericolo da diverse angolazioni e prospettive, prima di decidere se attraversare la strada. 

“Il vantaggio dei droni è che possono muoversi e volare anche dietro gli angoli e oltre il punto di osservazione umano”, spiega Flammini. Per decidere se è sicuro attraversare, il sistema calcola la soglia di rischio con una funzione matematica. 

Droni: troppo invadenti o fondamentali per la sicurezza? 

Kuipers, tuttavia, ha dei dubbi sulla fattibilità del progetto svizzero.   

“Le persone con disabilità non vogliono attirare l’attenzione di tutti. Una sedia a rotelle circondata da droni dà molto nell’occhio”, afferma il professore statunitense. Kuipers ritiene che il team di ricerca di Lugano dovrebbe prestare attenzione a questo aspetto e consultare la potenziale utenza finale. 

Flammini, invece, crede che la sicurezza dei dispositivi autonomi dipenda dall’utilizzo di quante più informazioni possibili, comprese quelle che i droni possono fornire. “Più sensori abbiamo, più informazioni abbiamo e questo aumenta l’affidabilità delle decisioni del robot”, dice Flammini. 

La sedia a rotelle guidata da droni, sviluppata da Flammini e del suo gruppo, in un’immagine generata con l’IA. Francesco Flammini / IA

“Non ci si può fidare dei sistemi di intelligenza artificiale se non si sa come funzionano” 

I sistemi basati sull’IA che controllano treni a guida autonoma o centrali nucleari sono complessi, ma seguono principi semplici. I sistemi di IA applicati alle sedie a rotelle, invece, operano in ambienti complessi e le loro azioni non sono sempre completamente spiegabili. Se il sistema non è trasparente, quando si verifica un incidente è difficile capire di chi sia la colpa e cosa sia successo. Le stesse complicazioni si applicano alle auto a guida autonoma. 

“Non ci si può fidare di sistemi che non si sa come funzionino”, afferma Flammini. Il ricercatore e la sua squadra hanno cercato di risolvere il problema spiegando la maggior parte dei processi attraverso formalismi matematici, come la funzione di attraversamento della strada. Ma in parte il loro sistema si basa ancora sull’apprendimento profondo, che spesso contiene pregiudizi nei dati.

“Ad esempio, se un sistema di intelligenza artificiale deve riconoscere un lupo da un cane e viene addestrato solo con immagini di lupi sulla neve, difficilmente lo riconoscerà in altri contesti”, spiega l’esperto. 

Etica e impasse legale 

La mancanza di trasparenza del sistema porta a problemi sia funzionali che legali, perché è difficile attribuire la responsabilità in caso di errore o incidente.   

“Dov’è l’errore? Nel software, nei sensori? È colpa dell’azienda o di terzi? I sistemi opachi non possono essere utilizzati in contesti critici”, sottolinea Flammini. Per essere accettabile, anche la probabilità di un incidente deve essere calcolabile e rimanere al di sotto di una certa soglia. Per treni e aerei, si parla di una probabilità “inferiore a 10 alla meno 9”, una cifra che i sistemi di intelligenza artificiale non possono attualmente garantire, spiega Flammini. 

Tale soglia determina se un robot è veramente affidabile, una questione centrale quando deve collaborare con gli esseri umani. 

 “L’uomo delega al robot parte della responsabilità di accompagnarlo dal medico o al lavoro, confidando che eviti situazioni pericolose. Per questo, il robot deve essere affidabile”, spiega Kuipers. Allo stesso tempo, il robot deve rifiutarsi di eseguire comandi mortali volontari o involontari, come scendere da una scala o uscire da una finestra. “Si tratta di questioni etiche molto importanti”. 

Un’ulteriore sfida per il progetto della sedia a rotelle di Flammini è che attualmente non esiste una legislazione che regoli il volo dei droni negli spazi pubblici e urbani. 

Robot al servizio degli umani 

Nonostante i numerosi ostacoli, il gruppo di ricerca luganese è fiducioso di essere nella giusta direzione.   

“Il nostro progetto visionario e dirompente apre nuove prospettive su come supportare le persone con disabilità e migliorare la loro inclusione e autonomia”, afferma Flammini. 

Kuipers vede la più grande opportunità della tecnologia nell’utilizzo del robot come strumento di indagine scientifica, ad esempio per esplorare e mappare ambienti o per studiare meglio l’interazione tra uomo e macchina. “L’essere umano è sempre al comando. Il robot deve vivere ed esistere per servirci”, afferma. 

A cura di Veronica De Vore