Auto Epilettiche? Come le Luci di Emergenza Confondono i Sistemi di Guida Automatica

Le luci di emergenza possono interrompere i sistemi di guida automatizzati, causando malfunzionamenti nel rilevamento. I ricercatori hanno sviluppato “Caracetamol” per risolvere questo problema, evidenziando preoccupazioni più ampie sulla sicurezza dell’IA.

Un nuovo ricerca suggerisce che i sistemi di guida automatizzati basati su telecamere, progettati per rendere la guida più sicura, potrebbero non riconoscere oggetti sulla strada quando esposti a luci di emergenza lampeggianti, comportando rischi significativi, come riportato per la prima volta da WIRED.

Ricercatori dell’Università Ben-Gurion del Negev e della Fujitsu Limited hanno scoperto un fenomeno chiamato “crisi epilettica digitale” o “epilepticar”.

Come riportato da WIRED, questo problema fa sì che i sistemi vacillino nell’identificare gli oggetti in sincronia con i lampeggi delle luci dei veicoli di emergenza, in particolare al buio. Questa difetto potrebbe portare veicoli che utilizzano tali sistemi a non riconoscere o a non rilevare auto o altri ostacoli, aumentando la probabilità di incidenti vicino alle scene di emergenza.

Lo studio è stato ispirato da segnalazioni di veicoli Tesla con Autopilot che si sono scontrati con veicoli di emergenza fermi tra il 2018 e il 2021.

Sebbene la ricerca non colleghi specificamente il problema al sistema di Tesla, i risultati evidenziano potenziali vulnerabilità nella tecnologia di rilevamento degli oggetti basata su telecamere, un componente chiave di molti sistemi di guida automatizzati, nota WIRED.

Gli esperimenti hanno utilizzato cinque dashcam commerciali con funzioni di guida automatizzata e hanno eseguito le loro immagini attraverso rilevatori di oggetti open-source.

Gli ricercatori notano che questi sistemi potrebbero non riflettere quelli utilizzati dai produttori di automobili e riconoscono che molti veicoli impiegano sensori aggiuntivi come radar e lidar per migliorare il rilevamento degli ostacoli, come riportato da WIRED.

L’Amministrazione Nazionale per la Sicurezza del Traffico Stradale degli Stati Uniti (NHTSA) ha anche riconosciuto le sfide con i sistemi avanzati di assistenza alla guida (ADAS) nel rispondere alle luci di emergenza, afferma WIRED.

Tuttavia, WIRED riporta che i ricercatori sottolineano di non affermare un collegamento diretto tra i loro risultati e gli incidenti passati di Tesla. Per affrontare il problema, il team ha sviluppato una soluzione software chiamata “Caracetamol”, che potenzia la capacità dei rilevatori di oggetti di identificare veicoli con luci lampeggianti.

Mentre esperti come Earlence Fernandes della UC San Diego vedono la correzione come promettente, Bryan Reimer del AgeLab del MIT mette in guardia da preoccupazioni più ampie.

Sottolinea la necessità di test robusti per affrontare i punti ciechi nei sistemi di guida basati sull’IA, avvertendo che alcuni produttori di automobili potrebbero sviluppare la tecnologia più velocemente di quanto possano validarla, come riportato da WIRED.

Lo studio evidenzia le complessità di garantire la sicurezza nella guida automatizzata e richiede ulteriori ricerche per mitigare tali rischi.