NEUES PROJEKT:Sicherheitsargumentation mittels erklärbarer KI für das automatisierte Fahren im Bahnbetrieb

Kann ein autonom fahrender Zug hinreichend sicher erkennen, ob eine Abweichung im Kamerabild durch einen Schatten hervorgerufen wird oder vielleicht doch durch ein Kind, das auf den Gleisen spielt? Und wie kann sich ein Mensch während der Sicherheitsbewertung sicher sein, dass das System sich nicht fälschlicherweise zu sicher ist? Wie kann er dafür sorgen, dass seine Sicherheitsbewertung auf hinreichend sicheren Füßen steht – vor allem dann, wenn die Technologie es prinzipiell unmöglich macht, den entsprechenden Beweis zu erbringen?

Wir nehmen gemeinsam mit unseren Partnern TUD - Professur für Ingenieurpsychologie und Professur für Grundlagen der Elektrotechnik sowie der EYYES Deutschland GmbH am Forschungsprojekt des DZSF teil. In unserem Projekt XRAISE (Explainable AI for Railway Safety Evaluations) erforschen wir, wie man Methoden der Erklärbaren Künstlichen Intelligenz nutzen kann, um die Sicherheitsbewertung von KI-Algorithmen zu verbessern. Das Projekt wird 2024-2026 vom Eisenbahn-Bundesamt gefördert.