Markt + Trends | (I)IoT | iX

BSI zur Sicherheit von KI- und kooperativen Transportsystemen

Mit technischen Richtlinien will das BSI die IT-Sicherheit von KI-Systemen im Straßenverkehr und von kooperativen intelligenten Transportsystemen verbessern.

Im Straßenverkehr müssen KI-Systeme hohe Sicherheitsanforderungen erfüllen. Feste Prüfkriterien und Werkzeuge gibt es dafür aber noch nicht. Nun wollen das BSI, das Unternehmen ZF und die TÜV Informationstechnik GmbH (TÜViT) in einem gemeinsamen Projekt untersuchen, wie man die IT-Sicherheit von KI-Systemen in Autos gewährleisten kann.

Zunächst wollen die Projektteilnehmer die Attacken der Angreifer genau verstehen. Zu diesem Zweck planen sie Adversarial Attacks, bei denen sie zum Beispiel ein Tempo-60-Schild so manipulieren, dass ein KI-System es auch als Tempo-120-Schild interpretieren könnte und entsprechend falsch reagiert. In absehbarer Zeit will man die Erkenntnisse aus dem Projekt in eine technische Richtlinie gießen. Sie soll auch Grundlage für künftige Sicherheitsüberprüfungen für Autos sowie für internationale Standardisierungen sein.