Tesla: Autos stoppen wegen Phantombildern

Wie leicht sich die Fahrassistenzsysteme von Tesla austricksen lassen, zeigen Forscher der Ben-Gurion-Universität im Süden Israels.


Bild: Ben-Gurion University of the Negev

Ein Werbefilm der Fastfood-Kette McDonalds bringt einen Tesla zum anhalten. Dafür mussten die Forscher lediglich das Bild eines Stoppschildes für Sekundenbruchteile in den Clip einbauen. Der Clip wurde daraufhin auf einer Anzeigetafel neben der Straße abgespielt. Den meisten Autofahrern wäre dieses Stoppschild beim vorbeifahren wohl niemals aufgefallen. Das Erkennungssystem Mobileye 630 erkannte die versteckte Botschaft allerdings sofort – und bremste ab.

Ein ähnliches Bild zeigte sich bei einem weiteren Versuch, bei dem die Forscher das Bild eines Fußgängers, Autos oder Straßenschildes auf die Straße projizierten. Auch in diesem Fall bremste das Auto deutlich ab.

Falsch programmiert?

Die Forscher betonen, dass es sich dabei nicht um eine einfache Sicherheitslücke handelt, die sich per Patch beheben lasse. Stattdessen seien die Fahrassistenzsysteme grundlegend fehlerhaft programmiert worden. Ein autonom fahrendes Auto, welches nicht zwischen echten und gefälschten Hindernissen unterscheiden kann, stelle im Straßenverkehr eine große Gefahr dar.



Es ist auch nicht das erste Mal, dass sich die künstliche Intelligenz eines Teslas von einer Fastfood-Kette aus der Fassung bringen lässt. Im Juni 2020 machte ein Video die Runde, in dem ein Tesla fälschlicherweise das runde Burger-King-Schild als Stoppschild erkannte. Burger King machte kurzerhand eine Werbekampagne aus dem Clip.

Quelle: Ben Nassi

5 1 vote
Article Rating
guest
0 Comments
Inline Feedbacks
View all comments