Vertrauen in Künstliche Intelligenz: Der kritische Erfolgsfaktor auf dem Weg zum automatisierten Fahren

Um automatisiertes Fahren umsetzen zu können, sind noch viele offene Fragen zu beantworten. Das ist eine der wesentlichen Erkenntnisse aus dem Projekt. Auch die Unklarheiten rund um die geeignete Vorgehensweise bei Entwicklung, Zulassung etc. sind groß. Die Investitionskosten in marktreife automatisierte Fahrzeuge sind hoch, daher zögert die Industrie. Sie braucht eine klare Vorgehensweise für eine künftige Zertifizierung von automatisierten Fahrzeugen. Nur so wird die Entwicklung unterstützt und die Nutzung vorangetrieben. Damit die Industrie beim Umsetzen des automatisierten Fahrens also mitspielt, braucht sie möglichst schnell einen normierten Zertifizierungsprozess. Dafür müssen alle Player, alle Stakeholder – Industrie, Politik, Forschung und Gesetzgebung – an einem Strang ziehen und die Entwicklung gemeinsam vorantreiben.

Komplexe Herausforderungen

Ein Mensch am Steuer nimmt alle für ihn relevanten Informationen augenblicklich wahr und filtert sie. Aufgrund seiner Erfahrung reagiert er in Bruchteilen von Sekunden richtig, beurteilt die Situation und fällt eine Handlungsentscheidung: Läuft plötzlich ein Kind auf die Fahrbahn, bremst der menschliche Lenker und versucht auszuweichen. Ändern sich die Witterungsverhältnisse, passt er seinen Fahrstil demensprechend an. Der menschliche Lenker steht also permanent mit seiner Umgebung in einer Wechselwirkung. Das muss auch die KI am Steuer leisten, damit sie vertrauenswürdig ist. Sie muss die komplexen Situationen im Straßenverkehr erkennen, richtig beurteilen und korrekt reagieren. Dafür müssen unterschiedlichste Systeme gut zusammenspielen und richtig trainiert werden. Das erfordert das Verarbeiten riesiger Datenmengen während des Fahrens und eine umfangreiche Trainingsdatenbibliothek. Die Trainingsdaten müssen eine enorme Menge unterschiedlichster Szenarien, alle Verkehrsregeln, sämtliche Witterungsbedingungen, Verkehrszeichen und Straßenverhältnisse beinhalten. Zu überprüfen, ob diese Daten vollständig sind und die KI robust genug gegenüber Störungen oder Attacken ist, macht die Zertifizierung von KI-Systemen für Forscherinnen und Forscher sehr komplex. Es braucht ganz neue Methoden und einen einheitlichen, normierten Zertifizierungsprozess.

Ziel: Vertrauensbildung

Wie dieser aussehen kann und was auf dem Weg zur Zertifizierung noch an Forschungs- und Entwicklungsarbeit zu leisten ist, war Inhalt des Projekts „AI Trustworthiness & automatisiertes Fahren“. Die Klassifizierung und Definition von Begriffen für straßengebundene Kraftfahrzeuge mit Systemen zum automatisierten Fahren erfolgen auf sechs Level. Das Projekt setzt ab Level 3 der Automatisierung von Fahrzeugen an, wo noch ein Fahrer im Auto sitzen muss, aber nur mehr in bestimmten Situationen oder bei drohender Gefahr eingreift. Bei Level 4 kann das Fahrzeug selbstständig fahren, jedoch in eingeschränkten Einsatzumgebungen. Level 5 beschreibt dann völlig autonome Fahrzeuge, die ganz ohne Einschränkung unterwegs sind.

Definition Vertrauenswürdigkeit

Am Anfang stand die Definition von AI Trustworthiness. Das Projektkonsortium definierte sieben Dimensionen, die erfüllt sein müssen, im Einklang mit der EU-Vorlage „Assessment List for Trustworthy Artificial Intelligence (ALTAI)“ der High-Level Expert Group:

• Erklärbarkeit: Unterstützung beim Verstehen, wie Informationen verwendet werden und wie das Fahrzeug Entscheidungen trifft
• Verantwortlichkeit: Rechenschaftspflicht für alle getroffenen Handlungen
• Wahrung der Privatsphäre: Respektieren des Datenschutzes
• Sicherheit: Schutz aller Akteur:innen und ihrer Umgebung vor physischen und digitalen Schäden
• Rückverfolgbarkeit: Erlaubt die Überprüfung der Aktionen und die Untersuchung der Methode, mit der sie durchgeführt wurden
• Unparteilichkeit: Treffen fairer Entscheidungen
• Zuverlässigkeit: Sicherstellen, dass das Fahrzeug konsistente Aktionen ausführt

Prüfmethoden und Forschungsroadmap

Als nächstes leitete das Projektteam sechs Prüfmethoden ab, die für die sieben Dimensionen unterschiedliche Beiträge für das Absichern einer KI liefern. Forscherinnen und Forscher des SCCH beschäftigen sich beispielsweise bereits seit 2019 mit Analysemethoden und Transparenz in Deep-Learning-getriebenen Bildanalysesystemen. „Vereinfacht ausgedrückt arbeiten wir an KI-Algorithmen, die das Lernen der KI überwachen und Lösungen korrigieren. Es geht dabei um die Dimensionen Erklärbarkeit und Interpretierbarkeit. Am Schluss soll eine vertrauenswürdige KI entstehen“, erklärt SCCH-Geschäftsführer Markus Manz. Was rund um die Prüfmethoden und für den in weiterer Folge entwickelten Zertifizierungsprozess noch erforscht werden muss, legte das Projektkonsortium in einer Forschungsroadmap fest. Darin spielt auch der enge Austausch mit Politik, Gesetzgebung und Industrie eine wesentliche Rolle, um hier zeitgerecht eine anwendungsorientierte Lösung erarbeiten zu können.

Zertifizierungsprozess

Der Zertifizierungsprozess besteht aus einem Stufenplan, der mit einer Simulationsverifikation beginnt. „Dabei müssen kritische und repräsentative Szenarien aus der Einsatzumgebung in der Simulation zufriedenstellend durchlaufen werden, um die Verkehrssicherheit und Effizienz im realen Verkehrsgeschehen garantieren zu können“, erklärt RISC-Geschäftsführer Wolfgang Freiseisen. Hier kann die RISC Software GmbH ihre langjährige Erfahrung in der virtuellen Verkehrssimulation einbringen, die sie im Projekt EVIS.at beim Simulieren der aktuellen Verkehrsbedingungen auf Oberösterreichs Straßen gesammelt hat. Anschließend wird mit Realtests am Testgelände in kontrollierter Testumgebung bei unterschiedlichen Wetter- und Lichtverhältnissen das Zusammenspiel der KI, des Fahrzeugs und dessen Sensorik geprüft. Nach diesen erfolgreichen Tests ist eine Vorzertifizierung mithilfe eines Expertenaudits durch ein Prüfungsinstitut vorgesehen. Diese Vorzertifizierung dient als Grundvoraussetzung für den nachfolgenden Feldtest mit Sicherheitslenker auf öffentlichen Straßen. Hier besitzt die DigiTrans GmbH seit zwei Jahren Forschungserfahrung und kann auch das Testgelände in St. Valentin zur Verfügung stellen. Eine erfolgreiche Absolvierung des Feldtests und der letzten Stufe, dem abschließenden Expertenaudit, führt letztendlich zu einem Trustworthiness-Zertifikat gültig in der vorgesehenen Einsatzumgebung.

Wirtschaftsstandort stärken

Auch die Potenziale und der Nutzen von automatisiertem Fahren wurden evaluiert. Vier der 17 Sustainable Development Goals (SDGs) der Vereinten Nationen werden dabei adressiert: Automatisierte Fahrzeuge verbessern unsere Gesundheit und Lebensqualität. Denn sie reduzieren die Unfälle und deren Kosten drastisch – laut einer AIT-Studie sind das immerhin derzeit 7,2 Milliarden Euro österreichweit pro Jahr. Automatisierte Nutzfahrzeuge ermöglichen eine effizientere Nutzung der Infrastruktur und helfen dabei, den Industriestandort auszubauen. Denn die Logistiksysteme werden flexibler und effizienter, was die Verkehrsflüsse optimiert und weniger Leerfahrten zur Folge hat. Es entsteht ein qualitativ hochwertiger Wirtschaftszweig mit enormem Wachstumspotenzial. Der Umsatz der Fahrzeugsystemhersteller in Oberösterreich könnte sich laut Schätzungen in 15 Jahren verfünffachen. Laut Fortune Business Insights besteht für die Automatisierte-Fahrzeuge-Branche ein potenzieller Umsatzzuwachs von 31 Prozent pro Jahr. Der Wirtschaftsstandort Oberösterreich wird durch die Möglichkeiten zu zertifizieren auch interessant für internationale Investoren.

Nachhaltigkeitsziele unterstützen

Weiters ermöglichen automatisierte Nutzahrzeuge nachhaltigere Städte und Gemeinden durch die automatisierte Pflege von Infrastruktur für klimaneutralen Verkehr. Flächen und Raum, die jetzt von Fahrzeugen in Anspruch genommen werden, werden in Zukunft für andere Zwecke frei. Effizientere Verteilung des Verkehrs macht Straßenneubauten obsolet. . Noch ein positiver Effekt: Wir stehen nur mehr halb so lang im Stau wie bisher, was wiederum Kosten einspart. Diese positiven Auswirkungen führen zum vierten SDG: Durch automatisierte Fahrzeuge wird der Weg zu Zero Emission Mobility geebnet. All das trägt natürlich auch zum Erreichen der Klima- und Umweltschutzziele bei.

Zukunftsszenarien

Das Projektteam hat vier Zukunftsszenarien ausgearbeitet. In Szenario 1 „Tiefschlaf“ setzt Oberösterreich keine weiteren Aktionen. Die Technologie wird im Ausland entwickelt und kann in Oberösterreich nicht genutzt werden. In Szenario 2 sind wir Mitläufer. „Wir nutzen zwar die im Ausland entwickelte Technologie, mangels Zulassungskompetenz wenden wir automatisiertes Fahren aber verspätet an. Gleichzeitig erhöhen wir das Risiko hinter der Nutzung“, betont Automobil-Cluster-Manager Florian Danmayr. Anzustreben sei aus seiner Sicht und jener des Projektkonsortium Szenario 3 oder 4: „Bei ersterem sind wir Fast Follower, nutzen die Technologie des automatisierten Fahrens umfassend und entwickeln mit Volldampf. Idealzustand wäre aber Szenario 4 als Vorreiter: Wir schaffen es, ein Umfeld zu erzeugen, in dem Oberösterreich als Modellregion für automatisiertes Fahren wahrgenommen wird und machen uns damit sehr attraktiv für internationale Investoren.“

Finanzierungsmöglichkeiten

Im Projektkonsortium wurden auch die notwendigen Investitionskosten abgeschätzt und Handlungsempfehlungen für die weiteren Schritte formuliert. Mit einem Letter of Interest wird die Industrie die Trustworthiness-Strategie unterstützen. Da die Investitionskosten bei Szenario 3 und 4 enorm sein werden, braucht es einen Finanzierungsplan. Ein Teil der Investitionen kann über bereits bestehende regionale, nationale und europäische Förderprogramme abgedeckt werden. Es wird aber auch neue Anreize der öffentlichen Hand brauchen. Das nun abgeschlossene Projekt „AI Trustworthiness & automatisiertes Fahren“ erarbeitete die Basis für Oberösterreich, rechtzeitig ein Kompetenzzentrum für die Beurteilung von KI zu werden. Daher wird es auch aus Mitteln des strategischen Wirtschafts- und Forschungsprogramms #upperVISION2030 vom Land Oberösterreich gefördert.

Oberösterreich als Vorreiter

„Schafft es Oberösterreich, zu einer Modellregion zu werden, können oberösterreichische Firmen ihre Entwicklungen rechtssicher zugelassen auf den Markt bringen“, sagt Eva Tatschl-Unterberger, Geschäftsführerin der DigiTrans GmbH. Die Bevölkerung kann dann die neue Technologie früher und umfassender nutzen. Oberösterreichs Forscherinnen und Forscher können sich international einen Namen aufbauen und den Forschungsstandort weiter attraktivieren. Tatschl-Unterberger ergänzt: „Oberösterreichs Behörden können mit diesem Wissen exzellente Entscheidungen über den Einsatz von jedweder KI, auch der im Ausland entwickelten, in unserer Region treffen.“

AI Trustworthiness & automatisiertes Fahren

Projektpartner:

• Automobil-Cluster, Business Upper Austria
• DigiTrans GmbH
• RISC Software GmbH
• Software Competence Center Hagenberg GmbH

Laufzeit: April 2021 bis Jänner 2022