Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03350.jsonl.gz/2451

KI-Forschung 03.06.2022, 10:16 Uhr
Schreckhafte autonome Autos
Bereits Kisten, Fahrräder, Mülleimer und Verkehrskegel am Strassenrand lösen bei autonomen Fahrzeugen einen abrupten Stopp aus – mit Folgen für die allgemeine Verkehrssicherheit.
Fahrtest auf dem Hochschul-Campus der University of California, Irvine
(Quelle: UCI.edu/Ziwen Wan)
Kisten, Fahrräder, Mülleimer und Verkehrskegel können ein fahrerloses Fahrzeug abrupt stoppen, sodass der nachfolgende Verkehr gefährdet wird. Zudem wird so die Lieferung von Passagieren und Gütern beeinträchtigt, so Informatiker Qi Alfred Chen von der University of California, Irvine. Fahrzeuge könnten nicht zwischen Objekten unterscheiden, die sich rein zufällig auf der Strasse befinden, und solchen, die absichtlich platziert werden.
Software oft zu konservativ
Chen und sein Team haben sich in ihrer Untersuchung auf Sicherheitslücken fokussiert, die für das Planungsmodul spezifisch sind, einen Teil des Software-Codes, der autonome Fahrsysteme steuert. Diese Komponente überwacht die Entscheidungsprozesse des Fahrzeugs, die unter anderem bestimmen, wann es fährt, die Spur wechselt oder langsamer wird und anhält. «Dieses Planungsmodul ist logischerweise mit einer Fülle von Vorsichtsmassnahmen konzipiert, weil niemand will, dass fahrerlose Fahrzeuge ausser Kontrolle geraten», sagt Chens Doktorand Ziwen Wan. «Aber unsere Tests haben ergeben, dass die Software übermässig konservativ entscheiden kann.» Dies könne dazu führen, dass ein Auto zu einem Verkehrshindernis oder Schlimmerem wird.
Um das Problem näher zu ergründen, hat das Team ein Testwerkzeug namens «PlanFuzz» entwickelt. Es erkennt Schwachstellen in weitverbreiteten automatisierten Fahrsystemen automatisch. Wie in Videodemonstrationen gezeigt, hat das Team PlanFuzz genutzt, um drei verschiedene Reaktionen der Open-Source-Systeme «Apollo» und «Autoware» für autonomes Fahren auf Industrieniveau zu bewerten. Sie fanden heraus, dass Pappkartons und Fahrräder, die am Strassenrand platziert waren, dazu führten, dass Fahrzeuge auf leeren Durchgangsstrassen und Kreuzungen dauerhaft anhielten. In einem weiteren Test wechselten autonom fahrende Autos die Spur, wenn sie eine imaginäre Bedrohung wahrnahmen.
Verkehrsfluss wird behindert
«Autonome Fahrzeuge waren an tödlichen Kollisionen beteiligt, die Unternehmen wie Uber und Tesla grossen finanziellen und Reputationsschaden zufügten, sodass wir verstehen können, warum Hersteller und Dienstleister zur Vorsicht neigen», sagt Chen und fügt hinzu. «Aber das übermässig konservative Verhalten, das viele autonome Fahrsystemen zeigen, stört den reibungslosen Verkehrsfluss und die Verkehrssicherheit.»