Unternehmenssicherheit 2018 – Haftung von autonomen Systemen

Posted by ramon_g | 16. Februar 2017 | IT-Sicherheit

Autos, Drohnen, Haushaltsroboter und andere Maschinen werden immer intelligenter. Autos sollen in naher Zukunft autonom durch den Verkehr steuern. Roboter in der Produktion entwickeln sich zu flexiblen Helfern und arbeiten gemeinsam mit ihren menschlichen Kollegen. Drohnen fliegen und erledigen Aufgaben. Autonome Systeme werden komplexe Aufgaben l├Âsen, lernen, eigene Entscheidungen treffen und auf unvorhersehbare Ereignisse reagieren. Wann diese Systeme Realit├Ąt werden, l├Ąsst sich nicht vorhersagen. Jedoch hat die k├╝nstliche Intelligenz in den letzten vier bis f├╝nf Jahren gewaltige Fortschritte gemacht. Daher ist damit zu rechnen, dass in den n├Ąchsten f├╝nf bis zehn Jahren autonome Systeme serienm├Ą├čig angeboten werden. Es geh├Ârt nicht viel Phantasie zu der Prognose, dass neue Technologien (ebenso wie fr├╝here Technologien) fehleranf├Ąllig und Verursacher von Sch├Ąden sind. Wer ist verantwortlich? Der Hersteller, der Entwickler der Algorithmen oder der Nutzer oder alle gemeinsam?

Dem technischen Fortschritt hinkt die Gesetzgebung hinterher. Zwar wurde aktuell durch die Bundesregierung ein Gesetzesentwurf zur ├änderung der Stra├čenverkehrsordnung ver├Âffentlicht, um die rechtlichen Rahmenbedingungen f├╝r das automatisierte Fahren zu schaffen. Nach diesem Gesetzesentwurf d├╝rfen k├╝nftig solche Autos auf den Stra├čen fahren, die f├╝r eine bestimmte Zeit und in bestimmten Situationen die Kontrolle ├╝ber das Fahrgeschehen. Dagegen regelt der Gesetzesentwurf nicht das sogenannte autonomes Fahren; also das System ├╝bernimmt das Auto vollst├Ąndig vom Start bis an das Ziel und s├Ąmtliche im Fahrzeug befindlichen Personen sind nur Passagiere. Die mangelnde Regelung des autonomen Fahrens kann wohl nur damit begr├╝ndet werden, dass dies f├╝r den Gesetzgeber wohl noch zu ferne Zukunftsmusik ist.

Egal, ob Fahrzeuge automatisiert oder autonom betrieben werden, ergibt sich daraus eine Vielzahl von Fragen. Als im Jahre 1886 zum ersten Mal Carl Benz sein Motorwagen durch Mannheim f├Ąhrt, denkt wohl niemand an die Risiken durch die neue Art der Fortbewegung. Die Haftpflicht des Halters ist lange kein Thema. Doch die Anzahl der Unf├Ąlle steigt rasant, so dass bereits im Jahre 1909 die sogenannte Gef├Ąhrdungshaftung f├╝r Kraftfahrzeughalter eingef├╝hrt wird und im Jahre 1939 es zu einer Pflichtversicherung f├╝r Kraftfahrzeughalter kommt.

Wenn zuk├╝nftig der Fahrzeugf├╝hrer von seinen Aufgaben als Fahrzeuglenker mehr und mehr durch automatische Systeme unterst├╝tzt und in der letzten Konsequenz durch automatisierte Systeme vollst├Ąndig ersetzt wird, stellt sich die Frage, wer haftet, wenn es zu einem Unfall kommt. Bleibt es weiterhin bei der Haftung des Kraftfahrzeughalters? Oder muss es nicht vielmehr zu einer Verschiebung der Halterhaftung hin zu einer Herstellerhaftung kommen? Denn schlie├člich ist der Hersteller daf├╝r verantwortlich, dass sein Produkt fehlerfrei funktioniert. Der Fahrzeughalter hat ja keinen Einfluss darauf, dass die Fahr- und Assistenzsystem situationsad├Ąquat funktionieren. Somit wird es zu einer Verschiebung weg von der Halterhaftung hin zu einer Herstellerhaftung kommen m├╝ssen. Aus diesem Gedanken ergibt sich eine Vielzahl von Folgeproblemen. Muss nicht bei der Berechnung der zuk├╝nftigen Versicherungstarife ber├╝cksichtigt werden, ob und wie h├Ąufig ein Nutzer auf Fahr- und Assistenzsystem zur├╝ckgreift?

Die oben skizzierten Fragestellungen tauchen auch im Zusammenhang mit anderen autonomen Systeme, z.B. Drohnen, Haushaltsrobotern und anderen Systemen auf. In nahezu allen F├Ąllen gibt es daf├╝r keine spezielle gesetzliche Regelung. Es ist also unklar wer f├╝r die Sch├Ąden haftet, die durch den Einsatz solcher autonomer Systeme entstehen. Mangels spezieller gesetzlicher Regelung bleibt es bei der verschuldensabh├Ąngigen Haftung nach ┬ž 823 BGB. Diese setzt ein fahrl├Ąssiges oder vors├Ątzliches Handeln voraus. Im Rahmen der Haftung nach ┬ž 823 BGB haftet der Hersteller von autonomer Systeme nicht f├╝r Konstruktionsfehler, sondern auch f├╝r Produktions- oder Fabrikationsfehler. Neben der verschuldensabh├Ąngigen Haftung gibt es f├╝r den Hersteller, Importeuer und den Lieferanten eine verschuldensunabh├Ąngige Haftung nach dem Produktsicherheitsgesetz. Danach m├╝ssen Hersteller, Importeur und Lieferant f├╝r Sch├Ąden einstehen, die fehlerhafte Produkte (dazu geh├Ârt auch Software) verursachen.

Daneben trifft den Hersteller autonomer Systeme eine Produktbeobachtungspflicht. Das bedeutet, dass der Hersteller gegebenfalls selbst dann haftet, wenn das autonome System nach dem aktuellen Stand von Wissenschaft und Technik einwandfrei ist, sich aber zu einem sp├Ąteren Zeitpunkt ein Fehler zeigen sollte. Daneben hat der Hersteller autonomer Systeme auch eine Marktbeobachtungspflicht hinsichtlich der Kombination des eigenen Produktes mit Produkten anderer Hersteller.

Eine generelle Aussage zum Umfang der Produktbeobachtungs- und Marktbeobachtungspflicht kann nicht getroffen werden. Diese h├Ąngt von dem konkreten Produkt, Anwendungsbereich und Verbreitungsgrad ab. Gerade bei autonomen Systemen ist aber von einer dichteren Produktbeobachtungs- und Marktbeobachtungspflicht auszugehen, da diesbez├╝glich auf einigen geringen Erfahrungsschatz zur├╝ckgegriffen werden kann.

Sollten Sie Fragen im Zusammenhang mit der Haftung von autonomen Systemen haben, dann rufen Sie uns gerne an.

 

Photo by Ferdinand St├Âhr