Im ersten Teil unseres Exkurses zum Thema Risikomanagement im Zeitalter von Staupilot und Robotertaxi (Autonomous Driving) widmen wir uns den technischen und juristischen Risiken.

Schöne neue Welt

Das Produkt automatisiertes Auto verspricht viel Potential. Neue Märkte, neue Kunden, und neu zu entwickelnde Technik. Jeder der einen fahrbaren Untersatz entwickelt, scheint etwas Automatisches im Sinn zu haben oder vorzubereiten. Im Zuge dieses Hypes – dieses Wort sei hier einmal bewusst gewählt – werden vermutlich auch Zulieferer neue Produkte und Dienstleistungen platzieren können.

Risikomanagement tut Not

Aus dem Jahre 1978 stammt der schöne Liedvers von Fredl Fesl „..ein Auto das nicht fährt das ist überhaupt nix wert“. Bezogen auf ein Roboterauto hieße dies: eine Funktion „Staupilot“ oder „automatischer Modus“ ist nichts wert, wenn sie kaum verwendet werden kann. Sie könnte so unzuverlässig sein, dass es ständig des Eingreifens des Fahrers bedarf. Sie könnte technisch derart unausgereift sein, dass ihre Benutzung stark eingeschränkt wäre. Staupilot, aber bitte nur bei wolkenlosem Sonnenschein, gerader Autobahn und nicht mehr als fünf Autos weit und breit…so etwas würde niemanden nützen und niemand kaufen. Und wie sicher wäre das Ding überhaupt?

Das unbestreitbar vorhandene Potential dieser neuen Technik muss also den Risiken für Hersteller und Kunden gegenübergestellt werden. Ein Hype hat auch seine Kehrseite. Leser dieses Blogs wissen: kennt ein Unternehmer die Risiken, ist der Weg frei für ein erfolgreiches Risikomanagement und damit für ein erfolgreiches Produkt.

Noch eine Anmerkung zu den Begriffen: wie im diesem Eintrag beschrieben, teilt man das automatische bzw. autonome Fahren in verschiedene Stufen ein. Die folgenden Betrachtungen fokussieren sich auf Level 3 oder höchstens 4, also Pilotfunktionen oder hochautomatisches Fahren. Produkte dieser Kategorie werden aus heutiger Sicht deutlich näher an der Serienreife sein als autonome Autos.

Technische Risiken

technische Risiken

(c) Gerd Altmann, CC0 v1.0, Pixabay

Die Neuartigkeit der automatischen Autos ist Quelle spezifischer Risiken. Der Begriff „automatisch“ soll anzeigen, dass wir es mit selbstständig handelnden Maschinen zu tun haben. Damit diese dazu in der Lage sind, müssen sie relevante Informationen aus der Umwelt erfassen und die Lage beurteilen. Eventuell werden Maschinen dieser Art auch lernen können. Das soll aber nicht vorausgesetzt werden. Wichtig ist: der Mensch hat keinen Einfluss mehr auf die Entscheidungen der Maschine, zumindest solange z.B. die Funktion Staupilot aktiv ist. Eine neue Situation für Fahrer und Hersteller.

Neu? In der Raumfahrt hat man bereits Erfahrung mit autonomen Systemen. Sonden, die in jahrzehntelanger Mission unterwegs sind, müssen ebenfalls selbstständig handeln. Eine Anweisung von dem Menschen auf der Erde benötigt Stunden, um zur Sonde zu gelangen. Im militärischen Bereich machen unbemannte Drohnen von sich reden. Aber dies sind keine Serienprodukte, die unter einem entsprechenden Kostendruck und Sicherheitsanspruch stehen!

Die Hersteller von Autos mit autonomen Funktionen stehen also vor der Aufgabe einen Automat zu entwickeln, welcher

  • für jedermann geeignet und sicher zu sein hat,
  • ohne menschliche Vorgabe eine Verkehrssituation bewerten muss,
  • selbstständig und ohne menschliche Korrektur zu handeln hat,
  • selbständig bewerten muss, ob der automatische Modus aufrecht erhalten kann oder der Fahrer wieder übernehmen soll und
  • ausreichende Sicherheit für Fahrer, Passagiere und Umgebung bietet.

Hier gibt es keine etablierte Technik, manche Algorithmen sind geradezu frisch aus der Forschung gepurzelt oder zumindest noch nicht serienreif. Jeder Hersteller muss sich sozusagen selbst etwas einfallen lassen, mit dem Risiko

  • die technische Aufgabe nicht zu lösen,
  • nur unter starken Einschränkungen zu lösen oder
  • jeden geplanten Kostenrahmen zu sprengen.

In der Konsequenz könnte man das Risiko wohl besser beherrschen, wenn die Aufgabe nicht zu groß gehalten wird. Anforderungsmanagement wird zu Risikomanagement.

Produktsicherheit in Verbindung mit automatischem Fahren beinhaltet noch eine weitere Dimension. Heutzutage gewährleistet der Stand der Technik eine ausreichende Sicherheit gegen Ausfälle und Fehler, z.B. durch Materialermüdung. Normen und etablierte Methoden stehen dem Ingenieur als Basis-Know-How bereit. Wie aber sieht es mit Gefährdungen aus, die durch falsche Handlung des Automaten entstehen? Kein Standard und kein technisches Papier hat derzeit die Patentlösung parat. Jeder, der eine autonome Funktion entwickelt, muss sich leider seine eigenes Wissen zu dieser Art von Gefährdung und deren Abwehr entwickeln.

Juristische Risiken

juristische Risiken

(c) Sang Hyun Cho, CC01.0, Pixabay

Stand der Technik und Sorgfaltspflicht sind auch juristisch relevant. Kommt es zu Schadensfällen, sind mögliche Verstöße dagegen ein Ansatzpunkt für die juristische Frage nach Haftung und Schuld.

Wie oben erwähnt, bringen es Autonome Funktionen aber mit sich, dass der Hersteller den Stand der Technik verlassen muss. Ein für den Bereich des automatischen Fahrens passender, neuer Stand der Technik muss sich erst entwickeln. In der Konsequenz kann sich weder der Hersteller in der Verteidigung, noch der Jurist in der Anklage so ohne weiteres auf den Stand der Technik berufen. Ob ein Produkt sorgfältig und nach bestem Wissen und Gewissen entwickelt und gebaut wurde kann folglich nur in der Betrachtung des Einzelfalls entschieden werden.

Natürlich wird im Streitfalle auch die gesellschaftliche Meinung eine Rolle spielen. Was erwartet die Allgemeinheit von einem Roboter, soll er besser sein als ein Mensch? Darf eine brandneue komplexe Technik noch nicht optimal und mit Kinderkrankheiten versehen sein? Was ist der Nutzen für den Einzelnen und die Gesellschaft, was sind die Kosten (in Sinne von Unfallstatistiken)? Politiker und öffentliche Meinung haben die Diskussion erst begonnen.

Dennoch sind wir eine innovative Gesellschaft, neue Technik hat eine Chance, wenn es einen guten Grund dafür gibt. Wird die Entwicklung des Automaten mit gründlichen Überlegungen und Sorgfalt vollzogen, wird sich das positiv auf die juristischen Risiken auswirken. Dokumentation, Nachvollziehbarkeit, Transparenz und profunde Prozesse sind also eine wichtige Basis. Oder kurz: Dokumentenmanagement und Qualitätsmanagement sind auch Risikomanagement.

Wie es im Teil 2 weitergeht

Im zweiten Teil unseres Exkurses zum Thema Risikomanagement für Autonomous Driving widmen wir uns den Produktrisiken, den Risiken bei Zulassung und möglichen Lösungsansätzen. Sie dürfen gespannt sein wie es weiter geht.

 

Links: Fred Fesl Video: Youtube: https://www.google.de/url?sa=t&rct=j&q=&esrc=s&source=web&cd=1&cad=rja&uact=8&ved=0ahUKEwimjdP0nM3UAhXGLFAKHW4rDcUQyCkIKDAA&url=https%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3DJGKFOAeqxK8&usg=AFQjCNEEd0kPtaqzNRCFz-lT6Lww3iFHnQ&sig2=MhN6Z88X87dPa-Ct8ZLxcQ

Bildnachweis: Peacock; (c) Allan Lau, CC0 v1.0, Pixabay