L’esperienza conta, in particolare nelle aree in cui la sicurezza è importante.

È il momento di discutere seriamente sulla sicurezza dei veicoli a guida autonoma.

di Amnon Shashua

La società si aspetta che i veicoli a guida autonoma abbiano uno standard di sicurezza più alto rispetto a quelli con conducenti umani.
In seguito alla tragica morte di Elaine Herzberg, investita la settimana scorsa in Arizona da un’automobile Uber che si guidava da sola e che operava in modalità autonoma, è il momento giusto per fare alcune osservazioni sul significato di sicurezza per quanto riguarda i sensori e il processo decisionale.

Innanzitutto, la sfida di interpretare le informazioni provenienti dai sensori. Il video pubblicato dalla polizia sembra dimostrare che anche l’aspetto più elementare di un sistema di veicoli autonomi, la capacità di rilevare e classificare gli oggetti, è un compito impegnativo. Eppure questa capacità è alla base degli odierni sistemi avanzati di assistenza alla guida (ADAS), che includono funzionalità come l’arresto automatico di emergenza (AEB) e il supporto per il mantenimento della corsia di marcia. Sono i sistemi di rilevamento ad alta precisione all’interno dei sistemi ADAS, comprovati da miliardi di chilometri, che stanno salvando vite umane già oggi. Questa stessa tecnologia è necessaria come elemento fondante dei veicoli completamente autonomi del futuro, prima ancora di affrontare sfide più difficili.

Per dimostrare la potenza e il livello di sofisticatezza della tecnologia ADAS odierna, abbiamo eseguito il nostro software su un feed video proveniente da un monitor TV che riproduceva le riprese dell’incidente registrate dalla polizia. Nonostante le condizioni non ottimali, in cui gran parte dei dati ad alta gamma dinamica che sarebbero stati presenti nella scena reale sono stati molto probabilmente persi, abbiamo ottenuto un rilevamento chiaro circa un secondo prima dell’impatto. Le seguenti immagini mostrano tre fotogrammi con i rilevamenti del riquadro di delimitazione della bicicletta e di Elaine. I rilevamenti provengono da due fonti distinte: il riconoscimento di pattern, che genera i riquadri di delimitazione, e un modulo di rilevamento “a spazio libero”, che genera il grafico orizzontale in cui la sezione di colore rosso indica che un “utente della strada” è presente sopra la linea. Un terzo modulo separa gli oggetti dalla strada utilizzando la struttura del movimento; in termini tecnici: “piano + parallasse”. Ciò convalida la presenza tridimensionale dell’oggetto rilevato con una bassa confidenza, come indicato dalla scritta “fcvValid: Low” visualizzata in alto a sinistra dello schermo. La scarsa sicurezza si è verificata a causa delle informazioni mancanti normalmente disponibili in un veicolo di produzione e delle impostazione di bassa qualità delle immagini derivanti dall’acquisizione di un video da una dash cam (telecamera da cruscotto) soggetta a un sottocampionamento di origine sconosciuta.

Il software utilizzato per questo esperimento è lo stesso di quello dei veicoli odierni equipaggiati con ADAS, comprovato da miliardi di chilometri nelle mani dei consumatori.

I recenti sviluppi dell’intelligenza artificiale, come le reti neurali profonde, hanno portato molti a ritenere che oggi sia facile sviluppare un sistema di rilevamento di oggetti estremamente accurato e che l’esperienza ultra decennale dei principali esperti di visione artificiale sia ormai scontata. Questa dinamica ha portato all’emergere di molti nuovi operatori nel settore. Anche se queste tecniche sono utili, il compito di identificare e finalizzare centinaia di casi limite, annotare set di dati di decine di milioni di chilometri e superare test impegnativi di validazione di preproduzione su decine di programmi ADAS di produzione non può essere evitato. L’esperienza conta, in particolare nelle aree critiche per la sicurezza.

La seconda osservazione si riferisce alla trasparenza. Tutti affermano che “la sicurezza è la nostra priorità più importante”, ma riteniamo che per ottenere la fiducia del pubblico dobbiamo essere più trasparenti sul significato di questa affermazione. Come ho dichiarato in ottobre, quando Mobileye ha rilasciato il modello formale Responsible Sensitive Safety (RSS), il processo decisionale deve rispettare il senso comune del giudizio umano. Abbiamo presentato un formalismo matematico di nozioni di senso comune come “situazione pericolosa” e “risposta adeguata” e abbiamo sviluppato un sistema per garantire matematicamente la conformità a queste definizioni.

La terza osservazione riguarda la ridondanza. La vera ridondanza del sistema percettivo deve basarsi su fonti di informazione indipendenti: videocamera, radar e LIDAR. Combinarle è positivo per il comfort della guida, ma negativo per la sicurezza. In Mobileye, per dimostrare davvero che otteniamo una vera ridondanza, costruiamo un sistema end-to-end distinto solo per la videocamera e un sistema separato solo per il sistema LIDAR e radar.

Ulteriori incidenti come quello della settimana scorsa potrebbero danneggiare ulteriormente la fiducia già fragile dei consumatori e comportare una regolamentazione reattiva che potrebbe soffocare questo importante lavoro. Come ho affermato durante l’introduzione di RSS, sono fermamente convinto che sia il momento di discutere seriamente di un quadro di convalida della sicurezza per i veicoli pienamente autonomi. Invitiamo case automobilistiche, aziende tecnologiche del settore, autorità di regolamentazione e altre parti interessate a riunirsi in modo da poter risolvere insieme queste importanti questioni.

 

Il professor Amnon Shashua è Senior Vice President di Intel Corporation e Chief Executive Officer e Chief Technology Officer di Mobileye, una società di Intel.

About Intel
Intel (NASDAQ: INTC) espande i confini della tecnologia per rendere possibili le esperienze più straordinarie. Per informazioni su Intel potete consultare i siti web newsroom.intel.it e intel.it.

Intel and the Intel logo are trademarks of Intel Corporation in the United States and other countries.

*Other names and brands may be claimed as the property of others.