Het Cyber Security Research Center van de Ben-Gurion Universiteit van de Negev (BGU) heeft vastgesteld dat zelfrijdende auto’s gevoelig zijn voor fantoombeelden (visuele hallucinaties) op de weg. Geprojecteerde beelden kunnen zelfrijdende auto’s dwingen om plotseling te remmen, met alle risico’s voor bestuurders en passagiers van dien.
In een poging fantoombeelden te detecteren hebben de onderzoekers een neuraal netwerk ontwikkelt wat het gereflecteerde licht van een object onderzoekt. Het netwerk bepaalt aan de hand van oppervlakte en context of het gedetecteerde object echt is of een fantoom.
Ben Nassi, een promovendus bij het Cyber Security Research Center, legde uit dat de beoordeling plaats vindt op basis van beeldinformatie die verkregen wordt door de videocamera’s. Samen met professor Yuval Elovici hebben Nassi en zijn team een systeem ontwikkelt wat in staat is fantoombeelden nauwkeurig te detecteren.
Tijdens hun onderzoek demonstreerde het team hoe aanvallers een auto kunnen manipuleren en passagiers in gevaar kunnen brengen. Dit onderdeel van het onderzoeksproject hebben zij “Phantom of the ADAS” genoemd.
Tijdens hun onderzoek heeft de groep ook laten zien dat aanvallers rijhulpsystemen kunnen misleiden door spookbeelden van verkeersborden gedurende 125 milliseconden te projecteren op digitale reclameborden in de buurt van een weg.
“Dit is geen bug of slecht geprogrammeerde software. Dit is een fundamentele fout in de objectdetectoren die niet zijn getraind om onderscheid te maken tussen echte en valse-objecten.”
“Met dit soort aanvallen wordt momenteel geen rekening gehouden door de auto-industrie,” voegde hij eraan toe.
Gevraagd naar de gevaren zei Nassi dat de aanvallers een auto in gevaar kunnen brengen door een ongeluk te veroorzaken met behulp van spookprojecties.
Hij legde uit dat fantoomaanvallen op afstand kunnen worden toegepast. Bijvoorbeeld met behulp van een drone die is uitgerust met een draagbare projector. Een andere mogelijkheid is het hacken van digitale reclame- en verkeersborden die met internet zijn verbonden en zich in de buurt van een weg bevinden. Zo hoeft een aanvaller niet fysiek aanwezig te zijn.
In de praktijk worden objecten zonder diepte die op de weg worden geprojecteerd als echt beschouwd, ondanks het feit dat er dieptesensoren bestaan.
Nassi heeft een probleem aangepakt wat eigenlijk door de autobedrijven die geautomatiseerde technologie ontwikkelen zelf had moeten worden opgelost. Nu heeft hij tegenmaatregelen ontwikkeld die kunnen bepalen of een gedetecteerd object echt is of niet.
