LLM-basierte systematische Generierung sicherheitskritischer Fahrszenarien
- Institut
- Professur für autonome Fahrzeugsysteme
- Typ
- Bachelorarbeit Semesterarbeit
- Inhalt
- experimentell theoretisch
- Beschreibung
Hintergrund
Die Autonomie von Fahrzeugen hat sich in den letzten Jahren rasant weiterentwickelt und erreicht inzwischen ein Niveau, auf dem menschliches Eingreifen in bestimmten kontrollierten Umgebungen kaum oder gar nicht mehr erforderlich ist. Führend sind hier die Fahrzeughersteller Mercedes und BMW, die je nach Auslegung autonome Straßenfahrzeuge auf Level 3 anbieten. Dieser Fortschritt basiert wesentlich auf der Entwicklung und Validierung hochzuverlässiger Fahrfunktionen. Die Gewährleistung der Sicherheit und Zuverlässigkeit dieser Fahrfunktionen erfordert umfassende Tests in vielfältigen und herausfordernden Szenarien.
Szenariobasierte Tests haben sich in diesem Kontext als kosteneffiziente Methode zur Simulation realistischer Fahrbedingungen etabliert. Sie ermöglichen es, zu überprüfen, wie gut eine Fahrfunktion die Anforderungen erfüllt. Eine entscheidende Herausforderung besteht jedoch darin, Szenarien systematisch so zu generieren, dass sie sicherheitskritische Situationen abdecken und dabei gleichzeitig machbar und realistisch bleiben. Nur so kann sichergestellt werden, dass Fahrfunktionen auch seltene oder extrem gefährliche Situationen zuverlässig bewältigen.
Aktuelle Lücken in szenariobasierten Tests
-
Begrenzte Generierung sicherheitskritischer Szenarien: Bestehende Methoden liefern häufig nicht gezielt die besonders relevanten, unfallträchtigen Situationen.
-
Fehlende Systematik: Es gibt kaum Ansätze, die Generierung mit einer automatisierten Überprüfung auf Machbarkeit und Sicherheitskritikalität verknüpfen.
-
Manuelle Analysebeschränkungen: Die Erzeugung und Bewertung von Szenarien erfordert oft erheblichen manuellen Aufwand, was zeitaufwändig und anfällig für Subjektivität ist.
Zielsetzung
Das primäre Ziel dieses Projekts ist die Entwicklung eines Frameworks zur systematischen Generierung sicherheitskritischer Fahrszenarien mit Large Language Models (LLMs).
Das Framework umfasst dabei zwei Kernbausteine:
-
Generierung adversarieller Trajektorien: LLMs erzeugen Bewegungen von Verkehrsteilnehmern, die gezielt kritische Situationen herbeiführen.
-
Validierungsmodul: Ein automatisiertes Modul prüft die generierten Szenarien auf Machbarkeit, Sicherheit und Kritikalität, um nur realistische und gleichzeitig sicherheitsrelevante Szenarien zuzulassen.
Die resultierenden Szenarien werden genutzt, um die Effektivität von Bewegungsplanungs- und Regelungsalgorithmen zu testen und deren Robustheit in unfallträchtigen Situationen zu erhöhen.
Wir bieten:
-
Ein spannendes und zukunftsorientiertes Forschungsumfeld
-
Arbeit mit einem hochmodernen Software-Stack für autonomes Fahren
-
Möglichkeit zur Veröffentlichung als wissenschaftliches Paper (bei Eignung)
-
Ausarbeitung auf Deutsch oder Englisch möglich
Anforderungen (Was Sie mitbringen sollten):
-
Eigeninitiative und eine kreative, problemlösungsorientierte Denkweise
-
Sehr gute Englisch- oder Deutschkenntnisse
-
Fortgeschrittene Kenntnisse in Python oder C++
-
Vorerfahrung mit autonomen Fahrzeugen oder Large Language Models von Vorteil
-
Erfahrung mit gängigen Softwareentwicklungstools (z. B. Git, Ubuntu) wünschenswert
Die Arbeit kann ab sofort begonnen werden.
Wenn Dich das Thema interessiert, wirf bitte zunächst einen Blick auf unser aktuelles Survey-Paper: https://arxiv.org/abs/2506.11526 Sende anschließend eine E-Mail mit einem kurzen Anschreiben, warum Dich das Thema fasziniert, einem aktuellen Leistungsnachweis sowie Lebenslauf an: yuan_avs.gao@tum.de
Background
The autonomy of vehicles has advanced rapidly in recent years, reaching a level where human intervention is barely or not at all required in certain controlled environments. Leading the way are manufacturers such as Mercedes and BMW, which now offer Level 3 autonomous vehicles depending on the system’s design. This progress relies heavily on the development and validation of highly reliable driving functions. Ensuring their safety and reliability requires extensive testing in diverse and challenging scenarios.
Scenario-based testing has emerged as a cost-effective method for simulating realistic driving conditions. It allows the evaluation of how well a driving function meets the required demands. However, a key challenge lies in systematically generating scenarios that are both safety-critical and feasible, ensuring that rare but dangerous situations are properly represented.
Current Gaps in Scenario-Based Testing
-
Limited generation of safety-critical scenarios: Existing methods often fail to deliberately target accident-prone, high-risk situations.
-
Lack of systematic validation: Few approaches combine generation with automated checks for feasibility and safety-criticality.
-
Manual analysis constraints: Scenario creation and evaluation frequently require significant manual effort, making the process time-consuming and subjective.
Objective
The primary objective of this project is to develop a framework for the systematic generation of safety-critical driving scenarios using Large Language Models (LLMs).
The framework will consist of two key components:
-
Adversarial trajectory generation: LLMs generate trajectories for agents that intentionally lead to critical situations.
-
Validation module: An automated system checks the generated scenarios for feasibility, safety, and criticality, ensuring that only realistic and safety-relevant cases are retained.
The resulting scenarios will then be used to evaluate and improve the robustness of motion planning and control algorithms under accident-prone conditions.
We Offer:
-
A dynamic and future-oriented research environment
-
Hands-on experience with a state-of-the-art software stack for autonomous driving
-
Opportunity to publish a scientific paper (based on merit)
-
The thesis can be written in either English or German
Requirements (What You Should Bring):
-
Initiative and a creative, problem-solving mindset
-
Excellent English or German proficiency
-
Advanced knowledge of Python or C++
-
Prior experience with autonomous vehicles or Large Language Models is an advantage
-
Familiarity with common software development tools (e.g., Git, Ubuntu) is desirable
Work can begin immediately.
If you are interested in this topic, please first have a look at our recent survey paper: https://arxiv.org/abs/2506.11526
Then send an email with a brief cover letter explaining why you are fascinated by this subject, along with a current transcript of records and your resume, to: yuan_avs.gao@tum.de-
- Tags
- AVS Gao
- Möglicher Beginn
- sofort
- Kontakt
-
Yuan Gao
yuan_avs.gaotum.de