Tesla Autopilot is te misleiden om tegen het verkeer in te rijden

Tesla

Onderzoekers hebben naar eigen zeggen een eenvoudige aanval ontworpen waardoor een Tesla in sommige omstandigheden automatisch tegen het verkeer in stuurt. Daarbij gaat de auto naar de verkeerde rijbaan, meldt Ars Technica. Voor de aanval worden kleine stickers gebruikt die de Enhanced Autopilot van een Model S 75 misleiden.

Met de Enhanced Autopilot kun je de auto bijvoorbeeld automatisch in het midden van een rijbaan laten rijden en automatisch van rijbaan laten wijzigen, mits de bestuurder hier toestemming voor geeft. Het systeem werkt met camera’s, ultrasonische sensoren en radar om informatie te verzamelen van zijn omgeving.

Stickers plakken

Die data wordt aan computers aan boord het voertuig gegeven, waarna er aan de hand van machine learning beslissingen worden genomen. Onderzoekers van het Keen Security Lab van Tencent hebben echter een manier gevonden om dat systeem te misleiden.

Door drie kleine stickers op de weg te plakken, is het mogelijk om het Autopilot-systeem te misleiden, aldus de onderzoekers. Die stickers zie je als bestuurder vrijwel niet, maar de algoritmes van de Autopilot zien ze wel. En die denken dat de stickers aangeven dat de rijbaan naar links verschuift. Als gevolg daarvan stuurt de auto die kant op.

Tesla zegt in een reactie dat het risico geen realistische zorgen met zich meebrengt. Het gaat namelijk om een scenario waarin “de fysieke omgeving rond het voertuig kunstmatig is aangepast”. “Dat is geen realistische zorg, aangezien de bestuurder de Autopilot op ieder moment eenvoudig kan overschrijven door het stuur of de remmen te gebruiken.”

Andere problemen

De onderzoekers vonden overigens ook andere problemen, al maken die veelal gebruik van kwetsbaarheden die al door Tesla gedicht zijn. Eentje die dat niet is, draait om de ruitenwissers op de auto. Die kunnen volgens de onderzoekers aangezet worden door “verkeerde beelden” te tonen aan het systeem. Mogelijk kan dat in de toekomst door die beelden op bewegwijzering te hangen.

0 Reacties
Reageer