Autonomes Fahren. Ethische, rechtliche und gesellschaftliche Herausforderungen

Inhaltsverzeichnis

Abbildungsverzeichnis

Abkürzungsverzeichnis

1 Einleitung
1.1 Problemstellung
1.2 Zielsetzung und Aufbau der Arbeit

2 Autonomes Fahren und die untergeordneten Automatisierungsstufen
2.1 Geschichte und Entwicklungsstand
2.2 Vision Zero: Der Weg zum unfallfreien Fahren
2.3 Begriffsbestimmung „Autonomie“
2.4 Autonomes Fahren nach SAE J
2.5 Autonomes Fahren nach BASt

3 Moralische und ethische Herausforderungen
3.1 Abgrenzung von Moral und Ethik
3.2 Roboter und Pflichtbewusstsein
3.3 Algorithmen und Programmierung
3.4 Dilemma-Situationen
3.5 Ethische Präferenzen
3.6 Leitlinien der Bundesrepublik Deutschland

4 Technische Herausforderungen durch die großflächige Einführung von autonomen Fahrzeugen
4.1 Anpassung der Infrastruktur
4.2 Umweltaspekte
4.3 Datenschutz der personenbezogenen Daten
4.4 Sicherheitsaspekte und Schutz gegen Manipulation

5 Gesellschaftliche Herausforderungen durch die großflächige Einführung von autonomen Fahrzeugen 60
5.1 Arbeitsmarktentwicklung
5.2 Akzeptanz in der Gesellschaft
5.3 Rechtliches

6 Fazit
6.1 Zielerreichung
6.2 Perspektiven

Literaturverzeichnis
Gesetzesverzeichnis
Internetquellen

Bibliografische Information der Deutschen Nationalbibliothek:

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar.

Impressum:

Copyright ©Science Factory 2019

Ein Imprint der GRIN Publishing GmbH, München

Druck und Bindung: Books on Demand GmbH, Norderstedt, Germany

Covergestaltung: GRIN Publishing GmbH

Abbildungsverzeichnis

Abbildung 1: Beispielhafte Darstellung eines Künstlichen Neuronalen Netzes

Abbildung 2: Beziehung zwischen Künstlicher Intelligenz, Maschinellem Lernen und Tiefem Lernen

Abkürzungsverzeichnis

Abbildung in dieser Leseprobe nicht enthalten

1 Einleitung

„Er kommt – Knight Rider – Ein Auto, ein Computer, ein Mann. Knight Rider – Ein Mann und sein Auto kämpfen gegen das Unrecht!”¹

Mit diesen Worten begann jede Folge der Kultklassiker-Serie „Knight Rider“ in den 1980er Jahren, in der Michael Knight mit seinem intelligenten und sprechenden Auto namens K.I.T.T. gefährliche Missionen ausführte.² Der schwarze Pontiac war mit künstlicher Intelligenz ausgestattet und konnte ohne menschliche Anweisungen automatisch fahren, ließ sich aber auch manuell steuern. In bestimmten Ausnahmefällen übernahm K.I.T.T. vollständig die Regie, nämlich dann, wenn sich Michael ansonsten in Gefahr gebracht hätte.³ Was zum Ausstrahlungszeitpunkt der Serie Science-Fiction war, ist nun, im Jahr 2019, alles andere als Zukunftsmusik. Autonomes Fahren erscheint zum Greifen nah, nicht zuletzt durch die Autopilot-Funktionen verschiedener Tesla-Modelle, die allerdings bislang vor allem durch Unfälle Schlagzeilen machten.⁴

Durch die rasante technische Entwicklung, da sind sich Experten⁵ weltweit einig, ist das Autonome Fahren in naher Zukunft nicht mehr aus dem Verkehr und der Städteplanung wegzudenken. Bis Fahrzeuge sich jedoch komplett selbstständig durch den Verkehr bewegen werden, ist es noch ein weiter Weg. Nichtsdestotrotz kann anhand von Zahlen zur Forschung und Entwicklung festgestellt werden, dass großes Interesse an dem Thema besteht. Im Jahr 2016 investierte die deutsche Automobilbranche 40,2 Milliarden Euro, um Forschung und Entwicklung voranzubringen.⁶ Das entspricht laut Verband der Autoindustrie einem Drittel der weltweit aufgewendeten Forschungskosten.⁷

Auch das Bundesministerium für Bildung und Forschung fördert Forschungsinitiativen zur autonomen elektrischen Mobilität, da die Weiterentwicklung in diesem Bereich eine Grundlage für neue Geschäftsmodelle und Dienstleistungen sein könnte.⁸ Das Bundesministerium für Wirtschaft und Energie möchte vor allem die kleinen und mittelständischen Unternehmen im Bereich Elektronik und Autonomes Fahren unterstützen.⁹

Diese Entwicklung wird begünstigt durch die Offenheit der deutschen Fahrzeughalter für den Einsatz fortschrittlicher Technologien und den Wunsch nach stetiger Weiterentwicklung existierender Funktionalitäten.¹⁰ Die technologischen Fortschritte im Bereich des Autonomen Fahrens werden bereits jetzt in aktuellen Serienfahrzeugen verbaut und genutzt.¹¹ Durch diese Einführung von teil- bis vollautonomen Fahrzeugen wird die Automobilbranche mit einer gewaltigen Transformation konfrontiert. Die Grenzen zwischen fahrender Person und Fahrzeug verschwimmen.

1.1 Problemstellung

Der Mensch gehört durch sein Verhalten am Straßenverkehr schon immer zum größten Sicherheitsrisiko beim Autofahren. Hierfür gibt es viele Ursachen, beispielsweise die Nichteinhaltung der Geschwindigkeitsvorschriften, die Benutzung des Smartphones während der Fahrt, das Drängeln oder ein zu geringer Sicherheitsabstand.¹² Das Autonome Fahren soll eine Zukunftsvision von wenigen bzw. keinen Unfällen realisieren. Die Frage ist jedoch, ob Fahrzeuge und Straßen so verändert werden können, dass keine Unfälle mehr entstehen und wie insbesondere Dilemma-Situationen gelöst werden sollen.¹³ Es braucht ein grundlegendes Vertrauen des Fahrenden in das autonome Fahrzeug, schwierige Situationen souverän zu meistern. Sonst ist aufgrund von Vorbehalten eine flächendeckende Einführung der Technologie nicht realistisch.¹⁴ Neben den technischen Aspekten wie Sicherheit und Datenschutz müssen daher auch moralische und ethische Aspekte genau analysiert werden.¹⁵

Diese Herausforderungen sind das Thema der vorliegenden Arbeit. Der Fokus liegt dabei auf der Frage, welche Probleme zu lösen sind, wenn es zu einer weitreichenden Einführung autonomer Fahrzeuge kommen soll. Dies betrifft sowohl Überlegungen im Vorfeld einer solchen Einführung wie auch Herausforderungen, die erst durch die Einführung entstehen können.

Die Forschungsfrage lautet entsprechend: Welche Herausforderungen sind durch die großflächige Einführung von autonomen Fahrzeugen zu erwarten? Und weiter: Welche weiteren Maßnahmen müssen getroffen werden, damit eine Einführung erfolgreich ist?

1.2 Zielsetzung und Aufbau der Arbeit

Das Ziel der Arbeit ist es, einen aktuellen Stand der gesellschaftlichen Herausforderungen und der Debatte im moralisch-ethischen Bereich auszuarbeiten und zusammenfassend darzustellen. Dies ist sinnvoll, weil die Entwicklungen beim Autonomen Fahren schnell voranschreiten und eine umfassende Publikation wie beispielsweise der Sammelband „Autonomes Fahren“ von Maurer et al. seit seinem Erscheinen im Jahr 2015 bereits an Aktualität eingebüßt hat.¹⁶ Der Mehrwert liegt darüber hinaus in der ganzheitlichen Betrachtungsweise: Statt moralische oder gesellschaftliche Aspekte isoliert zu analysieren, versucht diese Arbeit, die Vielseitigkeit gegebener Problematiken zu erfassen. So wird die Komplexität der Herausforderungen deutlich und es vermittelt sich ein realistisches Bild des Stands der Dinge.

Die gewählte Methode ist die Literaturrecherche. Es werden einschlägige Monographien und Sammelbände wie auch aktuelle Erscheinungen in deutsch- und englischsprachigen Journals konsultiert. Die Bachelor-Thesis wurde nach dem Leitfaden zur formalen Gestaltung von Seminar- und Abschlussarbeiten der FOM Hochschule für Oekonomie & Management, Stand Februar 2018, erstellt.

Der Einleitung folgt in Kapitel 2 eine Einführung in das Thema „Autonomes Fahren“. Neben der Geschichte und dem Entwicklungsstand (2.1) wird mit der „Vision Zero“ außerdem der Sinn und Zweck der technologischen Neuerung dargelegt (2.2). Im Anschluss erfolgt in Unterkapitel 2.3 eine Bestimmung des Begriffs Autonomie, um für die nachfolgenden Ausführungen im Rahmen dieser Arbeit zu einem einheitlichen Verständnis zu gelangen. Im Anschluss werden die Niveaus von Autonomie nach der SAE J3016 und der Bundesanstalt für Straßenwesen (BASt) erläutert (2.4 und 2.5).

Die Zusammenstellung der Herausforderungen in drei Bereiche (Kapitel 3 bis 5) wurde methodisch inspiriert von der Gestaltung des eben bereits erwähnten Sammelbandes

„Autonomes Fahren“, welcher im Verlag Springer Vieweg erschienen ist.¹⁷ Die Herausgeber teilten die zu betrachtenden Aspekte in die Kategorien (I) Human and Machine, (II) Mobilität, (III) Verkehr, (IV) Sicherheit, (V) Recht und Haftung und (VI) Akzeptanz. Diese wurden von der Autorin noch einmal zusammengefasst, sodass drei große Oberthemen für die Herausforderungen entstanden: Moralische und ethische Herausforderungen (Kapitel 3), Technische Herausforderungen (Kapitel 4) und Gesellschaftliche Herausforderungen (Kapitel 5).

Das Kapitel 3, „Moralische und ethische Herausforderungen“, umfasst dabei zunächst eine Abgrenzung der Begriffe Moral und Ethik (3.1), die Erläuterung von Pflichtbewusstsein bei Robotern (3.2), einen Abschnitt über Algorithmen und Programmierung (3.2) sowie eine eingehende Analyse der Dilemma-Situationen (3.3), die einen Kernkonflikt beim Autonomen Fahren darstellen.

Kapitel 4, „Technische Herausforderungen durch die großflächige Einführung von autonomen Fahrzeugen“, geht auf vier wesentliche Schwierigkeiten im Bereich Technologie und Mobilität ein: Die Infrastruktur (4.1), Umwelt- und Umweltschutzaspekte (4.2), mögliche Probleme mit dem Datenschutz (4.3) sowie, ganz zentral, Sicherheit und Schutz gegen Manipulation (4.4).

Kapitel 5, „Gesellschaftliche Herausforderungen durch die großflächige Einführung von autonomen Fahrzeugen“, befasst sich schließlich mit der Arbeitsmarktentwicklung, die Autonomes Fahren mit sich bringen könnte (5.1), der Frage nach der Akzeptanz in der Gesellschaft (5.2) und rechtlichen Aspekten (5.3). Bei letztem Punkt gibt es erhebliche Überschneidungen zum Thema Moral und Ethik, was gewissermaßen den begonnenen Kreis schließt.

Abschließend folgt in Kapitel 6 ein Fazit, in dem die Herausforderungen noch einmal zusammengefasst, die Forschungsfrage beantwortet und das Forschungsvorhaben selbst im Rückblick kritisch betrachtet wird.

Die Arbeit endet mit einem Ausblick auf weiterführende Entwicklungen beim Autonomen Fahren sowie interessante Forschungsfragen, die wissenschaftlich forschende Personen künftig beschäftigen könnten bzw. sollten.

2 Autonomes Fahren und die untergeordneten Automatisierungsstufen

In dem folgenden Kapitel geht es zunächst um die Geschichte sowie den aktuellen Entwicklungsstand des Autonomen Fahrens (2.1). Das Kapitel „Vision Zero“ (2.2) beschreibt die Zielsetzungen der technologischen Neuerung. Ferner wird der Begriff Autonomie definiert, sodass im Anschluss mit einem einheitlichen Verständnis, der Ausdruck Autonomes Fahren anhand der Normen SAE J3016 und BASt detailliert erläutert werden kann (2.4 und 2.5).

2.1 Geschichte und Entwicklungsstand

Als an das Auto noch gar nicht zu denken war, setzte der Mensch bereits vor Jahrtausenden das Pferd als Fortbewegungsmittel ein. Um weite Entfernungen schnell und bequem zu erreichen, wurde es vor eine Kutsche gespannt.¹⁸ Pferde verfügen über ein gutes Gedächtnis.¹⁹ Ein eingebauter Kompass mit ausgeprägtem Orientierungssinn ermöglicht das Erinnern an besuchte Straßen und Ortschaften.²⁰ Diese Eigenschaft sowie die Möglichkeit eigenständig denken und handeln zu können, verleihen dem Tier eine Art von Autonomie.²¹ Schlief die Person auf dem Kutschbock ein oder geschah ein anderes ungeplantes Vorkommnis, war das Pferd in der Lage, am Wegesrand zu halten oder dem aktuellen Pfad weiter zu folgen und das Gespann ohne Führung nach Hause zu bringen.²²

Im Jahr 1886 begann das Automobilzeitalter. Der deutsche Ingenieur Carl Friedrich Benz meldete das Patent für sein Fahrzeug mit Gasmotorenbetrieb an.²³ Das erste Auto erinnerte äußerlich stark an eine Kutsche ohne Pferdegespann.²⁴ Es wurde durch einen Einzylinder-Viertaktmotor angetrieben, welcher eine Leistung von 0,75 PS (0,55 kW) erbringen konnte.²⁵

Der Ausdruck Automobil besteht aus dem Kompositum des griechischen Begriffs autós (selbst, persönlich, eigen) und des lateinischen mobilis (beweglich) und bedeutet „selbstbeweglich“. Das Automobil bewegt sich eigenständig fort. Gleichzeitig wurde dem Transportmittel im Vergleich zur Pferdekutsche die Eigenständigkeit des Handelns entzogen und durch nichts Gleichartiges ersetzt.²⁶ Beim Automobil war die fahrende Person wieder in jeder Lebenslage selbst dafür verantwortlich, wohin sich das Gefährt bewegte. In Bezug auf die Autonomie der Fortbewegungsform war das Auto daher eigentlich ein Rückschritt.²⁷ Es gewann jedoch schnell an Akzeptanz, da das Reisen darin, vor allem auf langen Strecken, als bequem und vorteilhaft angesehen wurde.²⁸

Die technische Entwicklung schritt zügig voran und die Tauglichkeit des Gefährten für die noch holprigen Straßen verbesserte sich stetig. Abläufe im Herstellungsprozess wurden optimiert und die Produktion erfolgte immer preiswerter. Somit war das Auto nach und nach auch für eine breite Masse erschwinglich. Aufgrund der großen Beliebtheit in der Bevölkerung entwickelte es sich schnell weiter. Allerdings dauerte es noch Jahrzehnte, bis die Autonomie des Gefährts wieder eine Rolle spielte.²⁹

Im Jahr 1954 wurde der erste Tempomat, ähnlich wie dieser heute bekannt ist, in einem Fahrzeug eingebaut. Der Tempomat bietet der fahrenden Person die Möglichkeit, die Geschwindigkeit des Fahrzeugs automatisch zu halten. Diese technische Errungenschaft wird als Fahrerassistenzsystem bezeichnet und markiert den (erneuten) Beginn des Autonomen Fahrens.³⁰

Weitere Fahrerassistenzsysteme sind beispielsweise Sicherheitssysteme wie das Antiblockiersystem (ABS) und die Elektronische Stabilitätskontrolle. Weiterhin machen Systeme wie der Spurhalteassistent oder der Abstandsregeltempomat die Fahrzeuge sicherer, bequemer und zunehmend autonom.³¹

Die Entwicklung der ersten autonomen Fahrzeuge erfolgte in den 2000er Jahren bei der Defense Advanced Research Projects Agency (DARPA). Um den Entwicklungsstand zu testen, wurde im Jahr 2004 die erste DARPA Grand Challenge organisiert. Die fahrer-losen Fahrzeuge traten gegeneinander in der Wüste Nevadas an, aber keines erreichte das Ziel. Eine Wiederholung erfolgte im Jahr 2005. Diesmal erreichten mehrere Teams das Ziel. Aufgrund des großen Erfolgs und öffentlichen Interesses wurde zwei Jahre später die DARPA Urban Challenge veranstaltet. Erstmals sollten die fahrerlosen Fahrzeuge in einem Gebiet, das einer Vorstadt ähnelte, mit anderen Verkehrsteilnehmenden und Verkehrsregeln unterwegs sein. Auch diese Veranstaltung wurde gut angenommen und es konnten große Datenmengen gesammelt werden, die im Anschluss ausgewertet wurden. Infolgedessen starteten Zulieferer, Fahrzeughersteller und weitere beteiligte Unternehmen eigene Forschungsprojekte.³²

Die Fortschritte und Entwicklungen des Autonomen Fahrens vollständig aufzuzeigen ist an dieser Stelle nicht möglich, da die Entwicklungen und Neuerungen in diesem Bereich kontinuierlich stattfinden. Es kann sich daher nur um eine Momentaufnahme handeln, die unter Umständen in kürzester Zeit anders aussehen kann.

Im Jahr 2019 besitzen viele Fahrzeuge in ihrer Ausstattung Fahrerassistenzsysteme. Häufig zu finden sind das Spurhaltesystem, der Spurverlassenswarner oder ein Abstandsregler. Die Fahrerassistenzsysteme wirken unterstützend, indem sie in brenzligen Situationen warnen und mehr Sicherheit versprechen.³³ Durch die Übernahme einzelner Funktionsbereiche bilden sie die Grundlage, um künftig ohne menschliche Kontrolle zu fahren.³⁴ Schon jetzt ist es dem Fahrer möglich, das System über einen bestimmten Zeitraum fahren zu lassen.³⁵

Bei dem Kauf eines Neuwagens besteht die Möglichkeit, während der Konfiguration weitere Assistenzfunktionen auszuwählen. Dies sind beispielsweise unter anderem der Parklenkassistent, die Verkehrszeichenerkennung, die Totwinkelüberwachung und der Notbremsassistent.³⁶ Die Systeme funktionieren mit verschiedenen Sensoren. Für die Umfelderkennung werden Sensoren wie Kameras, Radar-, Lidar- oder Ultraschallsensoren eingesetzt.³⁷ Diese Technologie ermöglicht dem Fahrenden, andere Verkehrsteilnehmende, Hindernisse und Gefahrensituationen rechtzeitig wahrzunehmen oder gänzlich zu vermeiden.³⁸ In den letzten Jahren wurden die Sensoren und die Software stetig verbessert, sodass die Systeme innerhalb von einer Sekunde auf unvorhersehbare Situationen reagieren können.³⁹ Nicht alle Hersteller arbeiten jedoch mit den gleichen Sensoren und so können gravierende Unterschiede bestehen.⁴⁰ Um Autonomes Fahren zu ermöglichen, reicht die Umfelderkennung allein allerdings nicht aus. Das Fahrzeug muss seine Umgebung verstehen und die möglichen Handlungen abschätzen können.⁴¹ Des Weiteren sind ein Navigationssystem wie GPS und GLONASS sowie aktuelle Kartendaten unerlässlich, damit es sich auf den Straßen orientieren kann.⁴²

Zum jetzigen Zeitpunkt ist nicht abzusehen, wann das Autonome Fahren tatsächlich Realität wird. Verschiedene Automobilhersteller gehen davon aus, dass sich ab dem Jahr 2020 die Straßen verändern werden. Auch aufgrund der nicht gänzlich übereinstimmenden Definitionen der Automatisierungsstufen (siehe Kapitel 2.4 und 2.5) ist noch unklar, wie weit entwickelt die Fahrzeuge dann sein werden. Voraussichtlich wird die Entwicklung deutlich über die Teilautomatisierung hinaus- und bis in die Hochautomatisierung hineingehen.⁴³

2.2 Vision Zero: Der Weg zum unfallfreien Fahren

Statistiken zufolge sinkt die Anzahl der tödlichen Unfälle in Deutschland⁴⁴ sowie in weiteren Ländern,⁴⁵ während die Gesamtanzahl der Verkehrstoten auf der Welt steigt.⁴⁶ Die Weltgesundheitsorganisation, (Englisch: World Health Organization), (WHO) hat 2015 in einem Bericht zur Verkehrssicherheit 2013 eine Anzahl von 1,25 Millionen Verkehrstoten weltweit erhoben.⁴⁷ Nach dem Bericht von 2018 ist die Verkehrstotenzahl im Jahr 2016 auf 1,35 Millionen gestiegen.⁴⁸ In den Ländern mit dem geringsten Pro-Kopf-Einkommen waren die Todesfallzahlen am höchsten.⁴⁹ Eine der häufigsten Ursachen von Unfällen ist das menschliche Verhalten bzw. Versagen. Um Unfallzahlen weiter zu reduzieren, soll das Autonome Fahren zum Fortschritt beitragen, indem der Mensch weniger oder gar nicht mehr in das System eingreifen muss.⁵⁰

Zur Prävention von Unfällen besitzt Schweden seit 1997 eine Verkehrspolitik, die eine „Vision Zero“ anstrebt. Das Ziel dabei ist es, den Verkehr so zu gestalten, dass es keine schwerverletzten Personen oder Verkehrstote mehr gibt.⁵¹ Menschen machen Fehler – daher ist die Intention, die Straßen so zu gestalten, dass bei einem Unfall keine gravierenden Auswirkungen für den Menschen entstehen. Ferner sollen Maßnahmen wie Schutzplanken bzw. Mittelplanken oder getrennte Fahrsteifen dazu beitragen, Unfällen grundlegend vorzubeugen.⁵² In Schweden gibt es nach dem aktuellsten Bericht der WHO nicht ohne Grund mit die wenigsten Verkehrstoten. Auf 100.000 Einwohner sterben in Schweden jährlich 2,8 Menschen im Verkehr. Viele Länder der EU setzen sich ebenfalls mit der Verkehrssicherheit auseinander.⁵³ So gehen Dänemark mit 4, Niederlande mit 3,8, Norwegen mit 2,7 und die Schweiz mit 2,7 Toten auf 100.000 Einwohner mit gutem Beispiel voran. Im Vergleich dazu hat Deutschland 4,1 und die USA kommen auf 12,4 Verkehrstote.⁵⁴

Um die Sicherheit auf den Straßen zu optimieren, hat die EU-Kommission ebenfalls beschlossen, Vision Zero zu verfolgen. Die dahinterstehende Absicht deckt sich mit der Schwedens. Bis zum Jahre 2050 soll in Europa die Zahl der Verkehrstoten gegen Null sinken. Um dieses Ziel zu erreichen, wird auf Fahrerassistenzsysteme gesetzt,⁵⁵ die auch in autonomen Fahrzeugen verbaut sind. Doch selbst wenn die Straßen umgebaut werden, indem z. B. Kreisverkehre die Geschwindigkeit verringern oder Brücken eingesetzt werden, um Kreuzungen zu vermeiden,⁵⁶ ist es fraglich, ob es möglich ist, die Vision von Null Verkehrstoten zu erreichen. Denn es gilt zu berücksichtigen, dass es auch Verkehrsteilnehmer wie Radfahrende oder Fußgänger gibt. Bauliche Veränderungen von Fußgängerzonen oder Fahrradwegen könnten dazu beitragen, den Menschen mehr zu schützen. Eine Garantie ist dennoch nicht gegeben, da Menschen Fehler begehen. Fußgänger können versehentlich auf die Straße oder über eine rote Ampel laufen, obwohl ein Auto kommt. Bisher kann der Fahrende selbst reagieren und versuchen auszuweichen. Innerhalb der kurzen Zeit für eine Reaktion können jedoch oftmals die Folgen nicht gut abgeschätzt werden. Autonomes Fahren soll es ermöglichen, Fehleinschätzungen durch die Technik aufzufangen und damit Unfälle zu vermeiden.⁵⁷

Auch die potentiellen finanziellen Einsparungen sind bemerkenswert: Die monetären Auswirkungen Autonomen Fahrens in Form von Unfallvermeidung, Reisezeitverkürzung, Kraftstoffeffizienz und Vorteilen beim Parken werden auf ungefähr 2000 US-Dollar pro Jahr und Fahrzeug geschätzt.⁵⁸ Sie könnten sich auf fast 4000 US-Dollar belaufen, sofern umfassende Unfallkosten berücksichtigt werden.⁵⁹ Der Deutsche Industrie- und Handelstag kommt in seiner Studie für Deutschland auf vergleichbare Ergebnisse. Demzufolge können durch das Vermeiden von Unfällen bereits bei einer bedingten Automatisierung 1,8 Milliarden Euro und bei vollständiger Automatisierung 5,7 Milliarden Euro eingespart werden. Zusammen mit Einsparungen in anderen Bereichen könnte eine vollständige Automatisierung in Level 5 insgesamt mindestens 15 Milliarden Euro pro Jahr einsparen.⁶⁰

2.3 Begriffsbestimmung „Autonomie“

Immanuel Kant definiert den Begriff der Autonomie als Eigenschaft des Willens. Unter der Berücksichtigung existierender Gesetze und Moralvorstellungen ist es demnach möglich, eigenständige Entscheidungen zu fällen.⁶¹ In der Zukunft sollen dies auch autonome Fahrzeuge können. Maschinen und Algorithmen ist es jedoch nicht möglich das dazugehörige Regelwerk für sich selbst zu entwickeln. Es ist die Aufgabe der Gesellschaft, der Unternehmen und des Gesetzgebers, entsprechende Vorgaben zu definieren. Der Mensch legt die Sittengesetze fest und programmiert das Verhalten des Fahrzeugs entsprechend.⁶²

In diesem Zusammenhang spielt der Unterschied zwischen dem automatisierten und dem Autonomen Fahren eine Rolle. Beim automatisierten Fahren ist das Fahrzeug auf einen Fahrer angewiesen, welcher jederzeit die Kontrolle des Systems übernehmen kann. Der Automatismus kann vollständig oder teilweise unterbrochen werden. Der Elektroauto-Hersteller Tesla hat in seinen neuen Modellen Hardware verbaut, um das automatische Fahren nutzen zu können.⁶³ Nach einem tödlichen Unfall im Mai 2016⁶⁴ wurde der Autopilot nachgebessert. Der Fahrer hat zu jeder Zeit die Hände am Lenkrad zu halten, auch wenn der Autopilot eingeschaltet ist.⁶⁵

Im Gegensatz dazu kann beim Autonomen Fahren kein Eingriff in die Fahrt vorgenommen werden, da die Insassen nicht mehr als Fahrende, sondern lediglich als Passagiere an der Fahrt beteiligt sind. Jeder Betriebsablauf wird beim Autonomen Fahren in jeder denkbaren Situation von dem Fahrzeug durchgeführt und überwacht. Selbst dynamische Abläufe werden von dem System aufgenommen, verarbeitet und umgesetzt.⁶⁶ Solche Fahrzeuge befinden sich auf der letzten Entwicklungsstufe der Fahrzeugautomation und werden als autonom, fahrerlos oder selbstfahrend bezeichnet.⁶⁷ Diese Art des Fahrens würde dem ehemaligen Fahrer ermöglichen, sich während der Fahrt anderweitig zu beschäftigen, z. B. mit dem Lesen eines Buches oder dem Bearbeiten von E-Mails.⁶⁸ Allerdings ist keine einheitliche Definition für Autonomes Fahren zu finden.

Für das Einteilen der Fahrzeuge in unterschiedliche Entwicklungsstufen wurden von verschiedenen Instituten eigene Klassifizierungen festgelegt.⁶⁹ Die zivile US-Bundesbehörde für Straßen- und Fahrzeugsicherheit, National Highway Traffic Safety Administration (NHTSA), veröffentlichte 2013 als Pionier eine fünfstufige Klassifizierung. Das Modell wurde jedoch im September 2016 aufgegeben und von der SAE International, ehemals Society of Automotive Engineers (SAE), übernommen und angepasst.⁷⁰ Aufgrund der Anerkennung der Automatisierungsstufen der NHTSA durch die SAE International,⁷¹ werden im Folgenden die verschiedenen Stufen der SAE International erläutert. Für einen Vergleich mit den anderen existierenden Klassifizierungen wird zudem die der BASt vorgestellt.

2.4 Autonomes Fahren nach SAE J3016

Die SAE International ist ein weltweiter Verband aus über 128.000 Ingenieuren und technischen Experten in der Luftfahrt-, Automobil- und Nutzfahrzeugindustrie.⁷² Die Kernidee der SAE International ist es, in diesen Bereichen das Mobilitätswissen und -lösungen zum Nutzen der Menschheit zu fördern und Standards zu entwickeln.⁷³ Die im Januar 2014 herausgegebene Norm SAE J3016 beschreibt Begriffe und Definitionen zum Autonomen Fahren. Die Einteilung des Autonomen Fahrens wird in sechs Kategorien vorgenommen, den sogenannten Stufen oder Levels.⁷⁴

2.4.1 Level 0: Keine Automatisierung

Ein Fahrzeug, in dem keine Fahrerassistenzsysteme verbaut sind, wird in Level 0 eingeordnet. Die Verantwortung für die Ausübung von Fahrfunktionen wie z. B. Bremse, Lenkung und Geschwindigkeit liegt vollständig bei der fahrenden Person.⁷⁵ Es können jedoch Warn- oder Interventionssysteme, die nicht dauerhaft eingreifen, unterstützend wirken.⁷⁶

2.4.2 Level 1: Fahrerassistenzsysteme

In Level 1 liegt die Verantwortung weiterhin bei dem Fahrer. Im Gegensatz zu Level 0 verfügt das Fahrzeug über ein vorhandenes Fahrerassistenzsystem. Die Tätigkeiten der Längsführung oder der Querführung können an das System abgegeben werden. Eine Kombination aus beiden Funktionen ist nicht zulässig. Die Längsführung beinhaltet das Beschleunigen und Bremsen, beispielsweise mit Hilfe des ABS. Die Querführung hingegen ist für die Lenkung zuständig. Der Fahrer sollte zu jedem Zeitpunkt in der Lage sein, die Kontrolle über das Fahrzeug vollständig selbst zu übernehmen.⁷⁷

2.4.3 Level 2: Teilautomatisierung

Zu gewissen Zeitpunkten und in bestimmten Situationen im Straßenverkehr kann der Fahrer die Kombination aus Längsführung und Querführung in diesem Level an das System übergeben. Während der Fahrt muss der Fahrer den Verkehr beobachten und bereit sein, die Steuerung sofort übernehmen zu können. Er kann beispielsweise durch einen Abstandsregeltempomat entlastet werden. Das System beschleunigt das Fahrzeug automatisch bis zu einer festgelegten Geschwindigkeit. Bei einem vorausfahrenden Fahrzeug wird je nach Entfernung abgebremst, um einen Abstand zu erhalten. Eine weitere Möglichkeit ist der Spurhalteassistent.⁷⁸ Dieser kann den Fahrer beim Einhalten der Spur unterstützen und ihn beim ungeplanten Verlassen der Spur warnen.⁷⁹ Auf Level 2 befinden sich aktuell die E-Klasse von Mercedes, der Audi Q7, der 7er BMW, aber auch Fahrzeuge von Tesla, die mit dem Autopiloten ausgestattet sind.⁸⁰

2.4.4 Level 3: Bedingte Automatisierung

Ab Level 3 wird die Fahrumgebung von dem automatisierten Fahrsystem überwacht. Das System kann für einen vorübergehenden Zeitraum die Längsführung und Querführung eines Fahrzeugs übernehmen.⁸¹ Die Verantwortung liegt in diesem Level nicht mehr nur bei dem Fahrer, sondern kann an das System abgegeben werden. Sollten Gefahrensituation oder der Ausfall vom Staupiloten vom System erkannt werden, muss der Fahrer die Fahrzeugführung übernehmen können.⁸² Zudem besteht die Möglichkeit, dass der Fahrer in das System eingreifen oder es ausschalten kann.⁸³ Der neue Audi A8 wird mit seinem Staupiloten in die Automatisierungsstufe 3 eingruppiert. Der Staupilot kann aktiviert werden, wenn sich das Fahrzeug auf der Autobahn (bzw. einer ähnlichen Straße) in zähfließendem Verkehr bis 60 km/h oder im Stau befindet. Das Fahrzeug übernimmt für diese Zeit das Steuer und entlastet den Fahrer. Verändert sich die Fahrumgebung wieder, muss die fahrende Person die Steuerung wieder aufnehmen.⁸⁴ Diese Funktion ist bisher nicht zugelassen, da die entsprechenden gesetzlichen Regelungen der EU noch nicht aktualisiert wurden.⁸⁵

2.4.5 Level 4: Hochautomatisierung

In Level 4 kann das System alle Aufgaben des Fahrenden übernehmen. Dem System ist es möglich, den Fahrenden zum Eingreifen aufzufordern, wenn sich eine kritische Situation entwickelt. Sollte dieser darauf nicht reagieren, schaltet sich das System nicht ab, sondern reagiert eigenständig. Dieser Punkt ist der Hauptunterschied zwischen Level 3 und Level 4.⁸⁶ Der Fahrer kann das System nach Wahl aber auch ausschalten oder die Steuerung übernehmen.⁸⁷

2.4.6 Level 5: Vollständige Automatisierung

Ab Level 5 wird das Fahrzeug als voll autonom angesehen und übernimmt die Kontrolle auf allen Straßenarten und bei allen Umweltbedingungen.⁸⁸ Der Mensch kann zu keinem Zeitpunkt in das System des Fahrzeugs eingreifen und wird daher als Passagier interpretiert.⁸⁹ Es können allerdings Bedingungen auftreten, wie etwa Schneestürme oder überflutete Straßen, bei denen das System die Fahrt nicht beenden würde. In solch einer Situation würde das Fahrzeug am Straßenrand warten, bis sich die Bedingungen auflösen.⁹⁰

Die frühere Klassifizierung der NHTSA und die der SAE J3016 stimmen weitestgehend überein. Die NHTSA unterscheidet in der vierten Stufe jedoch nicht in Hoch- und Vollautomatisierung.⁹¹ Die SAE J3016 hat hingegen mit dem vierten Level eine Zwischenstufe formuliert, in dem die vollständige Automatisierung situationsabhängig beschrieben wird.⁹²

2.5 Autonomes Fahren nach BASt

Eine weitere Klassifizierung wurde im Rahmen eines Projekts der BASt im Jahr 2012 erstellt. Diese unterscheidet sich von der Norm SAE J3016 nur geringfügig. Zum einen werden die Stufen anders betitelt, zum anderen wird nur bis zu einem vierten Automatisierungsgrad unterschieden. Das Level 5 der vollkommenen Übernahme durch das System, ohne dass der Fahrende eingreifen muss, fehlt.⁹³

Wird in der vorliegenden Arbeit von Autonomen Fahren gesprochen, sind hiermit die Level 4 und 5 gemeint.

3 Moralische und ethische Herausforderungen

Da die Begriffe Moral und Ethik im allgemeinen Sprachgebrauch häufig synonym verwendet werden, beginnt das folgende Kapitel mit einer Abgrenzung, um im Anschluss sowohl auf die moralischen als auch auf die ethischen Probleme im Hinblick auf Computer und Programmierung beim Autonomen Fahren einzugehen.

3.1 Abgrenzung von Moral und Ethik

Ursprünglich hatten die Begriffe Ethik und Moral eine ähnliche Bedeutung, die in der Philosophie jedoch differenziert wird.⁹⁴ (Die Präferenz zahlreicher Branchen liegt bei dem Begriff Ethik, so etwa in der Medizin oder in der Wirtschaft. Es lässt sich z. B. die Unternehmensethik, aber nicht die Unternehmensmoral finden.⁹⁵ ) Der Begriff Moral stammt von dem lateinischen Ausdruck moralis und bedeutet „die Sitte betreffend“. Von diesem Begriff leitet sich das lateinische Wort mos ab, was der zur Regel gewordene Wille, die gewohnheitsmäßige Tätigkeit, die Sitte oder der Brauch ist. Der Begriff Ethik kommt hingegen von dem griechischen Wort Ethos und bedeutet Sitte, Brauch oder Charakter.⁹⁶

Moral lässt sich als Anerkennung und Akzeptanz von Normen und Regeln in einer Gemeinschaft umschreiben. Die Regeln sind mit der Zeit in der Gesellschaft entstanden,⁹⁷ weshalb die Moral auch als Regel- und Wertesystem bezeichnet wird.⁹⁸ Das Verhalten in den verschiedensten Situationen wird automatisch mit der vorherrschenden Moral verknüpft, um sich im Einklang mit der Gesellschaft zu bewegen.⁹⁹ Die Moral soll auf den Menschen durch die Erlaubnis oder das Verbot bestimmter Handlungen wirken, um die Wertvorstellungen zu bewahren.¹⁰⁰ Sie wird ohne Hinterfragungen in einer bestimmten Gesellschaft aufwachsenden Personen internalisiert.¹⁰¹ Jede ausgeführte oder nicht ausgeführte Handlung eines Menschen wird mit ihren moralischen Bestandteilen von der Gesellschaft wahrgenommen und gewertet. Hierbei ist es bedeutsam zu wissen, dass die moralische Einstellung einer Gesellschaft unterschiedlich ausgeprägt sein kann. Eine bestimmte Handlung kann somit in verschiedenen Situationen und zu unterschiedlichen Zeitpunkten als moralisch oder auch als unmoralisch angesehen werden.¹⁰² Göbel schreibt: „Was zu einer bestimmten Zeit in einer bestimmten Gesellschaft im Allgemeinen als Handlung, Zustand oder Haltung für gut und wünschenswert bzw. für böse und verboten gehalten wird, bezeichnet man zusammenfassend als die jeweils herrschende Moral.”¹⁰³

Dietzfelbinger veranschaulicht die Definition der Moral anhand eines Beispiels: Eltern vermitteln ihren Kindern, dass Lügen nicht angemessen ist. Zur Unterstützung werden Aussagen getroffen wie „Das ist unanständig! Das macht man nicht!”. Das Verbot zu lügen wird dadurch für Kinder eine Leitlinie, die in ihrem sozialen Umfeld eingehalten werden soll. Kinder sind mit diesem Grundsatz zunächst einverstanden, da sie noch nicht darüber nachgedacht bzw. den Grundsatz reflektiert haben. Kinder halten sich an die Regel, da die Eltern sie als richtig vermittelt haben. Die Fähigkeit, rational zu argumentieren, wieso das Lügen auch Vorteile haben kann, ist erstmal noch nicht vorhanden. Doch irgendwann fragen sich Kinder, warum Lügen nicht richtig ist. Unter Umständen überwiegen doch die Vorteile, die man aus einer Lüge ziehen kann? Bei der Reflexion solcher Konstellationen werden Kinder jedoch auch feststellen, dass es Gründe gibt, die gegen das Lügen sprechen. Zum Beispiel, weil sie sich selbst Ehrlichkeit wünschen oder die negativen Folgen unangenehmer empfinden als die Wahrheit.¹⁰⁴ Entscheidet sich ein Individuum durch Nachdenken, dass der Grundsatz nicht zu lügen richtig ist, ist dies eine ethische Entscheidung aufgrund seiner moralischen Werte.

Durch die Reflexion einer moralischen Regel entsteht eine ethische Regel. Ethik gehört somit zur praktischen Philosophie und wird auch als die Lehre der Moral bezeichnet,¹⁰⁵ die sich mit der Reflexion des menschlichen Handelns beschäftigt. Unter menschlichem Handeln wird verstanden, dass das Individuum sich Gedanken über die Moral macht.¹⁰⁶ Die bestehenden Wertvorstellungen der Moral werden rekonstruiert, überprüft und bestätigt oder kritisiert.¹⁰⁷ Das Anwenden der Reflexion kann dem Menschen helfen, die vorhanden Mittel und Möglichkeiten handzuhaben und einzusetzen, sowie Situationen und Verhalten zu analysieren.¹⁰⁸

3.2 Roboter und Pflichtbewusstsein

Um auf die ethischen bzw. moralischen Aspekte des Autonomen Fahrens eingehen zu können, muss zunächst erläutert werden, ob es Maschinen generell möglich ist, ein Pflichtbewusstsein entwickeln zu können bzw. ob dieses programmierbar ist. Während heutzutage der Mensch den Großteil der Fahraufgaben eigenständig ausführt, indem er zum Beispiel entscheidet, wann ein Brems- oder Überholmanöver eingeleitet werden soll, oder das Ziel der Fahrt über eine andere Routenauswahl ohne Stau zu erreichen ist, sollen diese Aufgaben in der Zukunft durch die Fahrzeugautomatisierung übernommen werden.

Damit das Autonome Fahren Erfolg hat, benötigt die Entwicklung die Hilfe von künstlicher Intelligenz.¹⁰⁹ Die Künstliche Intelligenz (KI) ist ein Bereich der Informatik, der sich auf die Entwicklung von Systemen spezialisiert hat, die intelligentes Verhalten aufzeigen.¹¹⁰ Jedoch ist nicht einheitlich definiert, was Intelligenz ist,¹¹¹ sodass Forscher wie Howard Gardner¹¹² oder Russell et al.¹¹³ unterschiedliche Ansätze mit verschiedenen Intelligenzbereichen entwickelt haben. Eine Festlegung auf diese Ansätze kann umgegangen werden, wenn der Mensch als Maßstab gesetzt wird.¹¹⁴ Damit eine Maschine als intelligent gilt, muss diese nach Catrin Misselhorn daher die Fähigkeiten besitzen, eigenständig zu lernen, sich auf neue Sachverhalte einzustellen und diese entsprechend auf andere Gegebenheiten anpassen zu können.¹¹⁵

3.2.1 Turing-Test

Alan Turing schaffte mit der Grundlage der Computertechnologie die Basis für die KI.¹¹⁶ Unter anderem befasste Turing sich 1950 in dem Artikel „Computing Machinery and Intelligence“ mit der Frage, ob Computer denken können und stellte dazu ein Imitationsspiel vor. Das Spiel ist heute unter dem Namen „Turing-Test“ bekannt und soll dazu beitragen, herauszufinden, ab wann ein Computer als intelligent bezeichnet werden kann.¹¹⁷ Im Turing-Test ist das der Fall, wenn die Maschine im Dialog einen menschlichen Partner davon überzeugen kann, ein Mensch zu sein. Die Kommunikation erfolgt beispielsweise über einen Computer.¹¹⁸ Hierbei ergibt sich die Problematik, dass der Test lediglich überprüft, ob der Computer intelligent handelt, aber nicht ob ein Bewusstsein vorhanden ist.¹¹⁹ Das bedeutet, dass nicht nur intelligente Computer diesen Test bestehen würden, sondern auch Computer, die vorspielen, intelligent zu sein.¹²⁰ Bis zum heutigen Zeitpunkt wurde der Test von keinem Computer bestanden, sodass das Bestehen als große Herausforderung der KI angesehen wird.¹²¹

3.2.2 Chinese Room Experiment

Der Turing-Test wurde vielfach diskutiert. 1980 widersprach John Searle mit seinem Artikel „Minds, brains and programs“ den Argumenten Turings.¹²² Neben dem fehlenden Bewusstsein kritisierte Searle ebenso eine fehlende Intentionalität. Die Intentionalität ist die Fähigkeit eines Menschen, sich auf Dinge und Zustände zu beziehen und darauf zu reagieren.¹²³ Um zu verdeutlichen, dass ein Computer nicht intelligent sein muss, sondern dass Simulation ausreicht, sowie um zu zeigen, dass es in Frage zu stellen ist, ob denkende Computer existieren können, stellte Searle das Chinese Room Experiment vor.¹²⁴ Dieses besagt – vereinfacht dargestellt –, dass eine Person, die kein Chinesisch sprechen kann, sich in einem geschlossenen Raum befindet. Mit Hilfe eines Regelwerks bzw. eines Programms in der eigenen Sprache und chinesischen Zeichenkarten ist es der Person möglich, auf gestellte Fragen zu antworten. Die Personen außerhalb des Raumes gehen davon aus, dass die Person Chinesisch sprechen kann, obwohl sie nichts versteht und nur die Regeln abarbeitet. Daraus lässt sich schließen, dass ein Computer weder intelligent sein, noch menschliches Denkvermögen besitzen muss.¹²⁵ Searle bezweifelt daher, dass es Computer gibt die wirklich denken können und die menschliche Sprache verstehen.¹²⁶ Für eine Unterscheidung führt Searle die Begriffe der „starken“ und „schwachen“ KI ein. Die schwache KI besagt, dass der Computer nur als Werkzeug genutzt wird, um menschliches Verhalten zu simulieren, während die starke KI versucht, menschliche Intelligenz nachzubilden.¹²⁷ Demzufolge ist es fraglich, ob Maschinen jemals menschliche Fähigkeiten wie Bewusstsein, Denken und Emotionen wirklichkeitsgetreu nachempfinden können.¹²⁸

[...]

---

¹ Becker, J., Knight, 2018, o. S.

² Vgl. Becker, J., Knight, 2018, o. S.

³ Vgl. Kröger, F., Verantwortung, 2015, S. 60; Minx, E., Dietrich, R., Fahren, 2015, S. 49.

⁴ Vgl. tagesschau.de, Unfall, 2018, o. S.

⁵ Aus Gründen der besseren Lesbarkeit wird auf die gleichzeitige Verwendung männlicher und weiblicher Sprachformen verzichtet. Sämtliche Personenbezeichnungen gelten gleichermaßen für beiderlei Geschlecht.

⁶ Vgl. Verband der Automobilindustrie, Forschung, 2017, o. S.

⁷ Vgl. ebd.

⁸ Vgl. Bundesministerium für Bildung und Forschung, Bekanntmachung, 2017, o. S.

⁹ Vgl. Bundesministerium für Wirtschaft und Energie, Elektronik, 2018, o. S.

¹⁰ Vgl. McKinsey & Company, Offenheit, 2017, o. S.

¹¹ Vgl. Winkle, T., Berücksichtigung, 2015, S. 613.

¹² Vgl. CosmosDirekt, Verhaltensweisen, 2018, o. S.

¹³ Vgl. Dudenhöffer, F., Kurve, 2016, S. 102-105.

¹⁴ Vgl. Häuslschmid, R. et al., Trust, 2017, S. 319-329.

¹⁵ Vgl. Barabás, I. et al., Challenges, 2017, o. S.

¹⁶ Vgl. Maurer, M. et al., Autonomes, 2015, o. S.

¹⁷ Vgl. Maurer, M., Autonomes, 2015, S. 2.

¹⁸ Vgl. Wedeniwski, S., Mobilitätsrevolution, 2015, S. 31.

¹⁹ Vgl. von Oeynhausen, B., Pferdeliebhaber, 1865, S. 243.

²⁰ Vgl. Behling, S. et al., Pferde, 2019, S. 22-23.

²¹ Vgl. Maurer, M., Autonomes, 2015, S. 2.

²² Vgl. Minx, E., Dietrich, R., Fahren, 2015, S. 37.

²³ Vgl. Daimler AG, Automobil, o. J., o. S.

²⁴ Vgl. Wedeniwski, S., Mobilitätsrevolution, 2015, S. 31.

²⁵ Vgl. Daimler AG, Automobil, o. J., o. S.

²⁶ Vgl. Minx, E., Dietrich, R., Fahren, 2015, S. 37.

²⁷ Vgl. Maurer, M., Autonomes, 2015, S. 2.

²⁸ Vgl. Brandstädter, P., Bequem, 2016, o. S.

²⁹ Vgl. Wedeniwski, S., Mobilitätsrevolution, 2015, S. 32.

³⁰ Vgl. Kröger, F., Verantwortung, 2015, S. 56.

³¹ Vgl. Minx, E., Dietrich, R., Fahren, 2015, S. 59.

³² Vgl. Matthaei, R. et al., Fahrerassistenzsysteme, 2015, S. 1141-1142.

³³ Vgl. ADAC Versicherung AG, Übersicht, o. J., o. S.

³⁴ Vgl. Matthaei, R. et al., Fahrerassistenzsysteme, 2015, S. 1159.

³⁵ Vgl. Ersoy, M. et al., Fahrwerkrelevante, 2017, S. 908.

³⁶ Vgl. Verband der Automobilindustrie, Automatisierung, 2015, S. 10

³⁷ Vgl. Krimmel, H., Ersoy, M., Fahrwerkelektronik, 2017, S. 783.

³⁸ Vgl. Gruyer, D. et al., Perception, 2017, S. 325.

³⁹ Vgl. Siehe Verband der Automobilindustrie, Automatisierung, 2015, S. 12

⁴⁰ Vgl. Gruyer, D. et al., Perception, 2017, S. 339; Hella GmbH & Co. KGaA, Assistenzsysteme, o. J., o. S.

⁴¹ Vgl. Ritz, J., Mobilitätswende, 2018, S. 53.

⁴² Vgl. Ritz, J., Mobilitätswende, 2018, S. 55.

⁴³ Vgl. Belker, S., Straßenfahrzeuge, 2015, S. 201.

⁴⁴ Vgl. Verband der Automobilindustrie, Sicherheit, o. J., o. S.

⁴⁵ Vgl. World Health Organization, Global, 2015, S. 264-271; World Health Organization, Safety, 2018, S. 302-313.

⁴⁶ Vgl. ebd.

⁴⁷ Vgl. World Health Organization, Global, 2015, S. 2.

⁴⁸ Vgl. World Health Organization, Safety, 2018, S. 5.

⁴⁹ Vgl. World Health Organization, Safety, 2018, S. 6.

⁵⁰ Vgl. Schlag, B., Straßenverkehr, 2016, S. 97.

⁵¹ Vgl. Kristianssen, A.-C. et al., Swedish, 2018, S. 260.

⁵² Vgl. Deutscher Verkehrssicherheitsrat, Zero, 2016, o. S.

⁵³ Vgl. Bundesministerium für Verkehr, Innovation und Technologie, Verkehrsminister, 2018, o. S.

⁵⁴ Vgl. World Health Organization, Safety, 2018, S. 304-313.

⁵⁵ Vgl. Deutscher Verkehrssicherheitsrat, Umwelt, 2017, o. S.

⁵⁶ Vgl. Engelhart, K., Straßen, 2018, o. S.

⁵⁷ Vgl. Ritz, J., Mobilitätswende, 2018, S. 122.

⁵⁸ Vgl. Fagnant, D. J., Kockelman, K., Barriers, 2015, S. 167.

⁵⁹ Vgl. ebd.

⁶⁰ Vgl. Deutscher Industrie- und Handelskammertag e. V., Stand, 2018, S. 62

⁶¹ Vgl. Kant, I., Kant, o. J., o. S.

⁶² Vgl. Maurer, M., Autonomes, 2015, S. 2.

⁶³ Vgl. Tesla Germany GmbH, Autopilot, o. J., o. S.

⁶⁴ Vgl. Scheffels, G., Farben, 2016, S. 34.

⁶⁵ Vgl. Ritz, J., Mobilitätswende, 2018, S. 29.

⁶⁶ Vgl. Wolfers, B., Selbstfahrend, 2017, S. 3.

⁶⁷ Vgl. Herrmann, A., Brenner, W., Revolution, 2018, S. 21.

⁶⁸ Vgl. Ersoy, M. et al., Zukunftsaspekte, 2017, S. 964.

⁶⁹ Vgl. Herrmann, A., Brenner, W., Revolution, 2018, S. 59.

⁷⁰ Vgl. Blain, L., Driving, 2017, o. S.

⁷¹ Vgl. National Highway Traffic Safety Administration, Vehicles, o. J., o. S.

⁷² Vgl. SAE International, About, o. J., o. S.

⁷³ Vgl. SAE International, Annual, 2017, o. S.

⁷⁴ Vgl. ebd.

⁷⁵ Vgl. Herrmann, A., Brenner, W., Revolution, 2018, S. 59.

⁷⁶ Vgl. Aj Sokolov, D., Unterschied, 2015, o. S.

⁷⁷ Vgl. Herrmann, A., Brenner, W., Revolution, 2018, S. 59-60.

⁷⁸ Vgl. Verband der Automobilindustrie, Automatisierung, 2015, S. 1

⁷⁹ Vgl. Verband der Automobilindustrie, Automatisierung, 2015, S. 25

⁸⁰ Vgl. Misselhorn, C., Maschinenethik, 2018, S. 111.

⁸¹ Vgl. Herrmann, A., Brenner, W., Revolution, 2018, S. 59.

⁸² Vgl. Lang, P., Conrad, B., Level, 2018, o. S.

⁸³ Vgl. Herrmann, A., Brenner, W., Revolution, 2018, S. 60.

⁸⁴ Vgl. Audi AG, Hochautomatisiert, 2017, o. S.

⁸⁵ Vgl. Greis, F., Zulassung, 2017, o. S.

⁸⁶ Vgl. SAE International, Definitions, 2018, S. 25

⁸⁷ Vgl. Herrmann, A., Brenner, W., Revolution, 2018, S. 60.

⁸⁸ Vgl. SAE International, Definitions, 2018, S. 25

⁸⁹ Vgl. Bundesministerium für Verkehr und digitale Infrastruktur, Strategie, 2015, S. 6

⁹⁰ Vgl. SAE International, Definitions, 2018, S. 25

⁹¹ Vgl. National Highway Traffic Safety Administration, Policy, 2013, S. 5

⁹² Vgl. SAE International, Definitions, 2018, S. 25

⁹³ Vgl. Bundesanstalt für Straßenwesen, Stufen, 2012, S. 1

⁹⁴ Vgl. Misselhorn, C., Maschinenethik, 2018, S. 45.

⁹⁵ Vgl. Birnbacher, D., Einführung, 2013, S. 1.

⁹⁶ Vgl. Blumenthal, S.-F., Ethikinitiativen, 2011, S. 171.

⁹⁷ Vgl. Dietzfelbinger, D., Praxisleitfaden, 2015, S. 42.

⁹⁸ Vgl. Waldmann, H., Jahrhundert, 2008, S. 13.

⁹⁹ Vgl. Göbel, E., Unternehmensethik, 2017, S. 27.

¹⁰⁰ Vgl. Hurna, M., Moral, 2017, S. 1.

¹⁰¹ Vgl. Dietzfelbinger, D., Praxisleitfaden, 2015, S. 42.

¹⁰² Vgl. Waldmann, H., Jahrhundert, 2008, S. 14.

¹⁰³ Göbel, E., Unternehmensethik, 2017, S. 27.

¹⁰⁴ Vgl. Dietzfelbinger, D., Praxisleitfaden, 2015, S. 41-43.

¹⁰⁵ Vgl. Göbel, E., Unternehmensethik, 2017, S. 31.

¹⁰⁶ Vgl. Ortmanns, W., Entwicklung, 2016, S. 1-2.

¹⁰⁷ Vgl. Bohrmann, T. et al., Angewandte, 2018, S. 4-5.

¹⁰⁸ Vgl. Otto, P., Gräf, E., Zeit, 2017, S. 8.

¹⁰⁹ Vgl. Chandra, R. et al., Self, 2012, S. 43.

¹¹⁰ Vgl. Netter, F., Applikationen, 2017, S. 21.

¹¹¹ Vgl. Barthelmeß, U., Furbach, U., Perspektiven, 2019, S. 7.

¹¹² Vgl. Schwuchow, K., Abschied, 2009, S. 25-26; Gardner, H., Vielfalt, 2013, S. 55-57.

¹¹³ Vgl. Russell, S. J., Norvig, P., Artificial, 2016, S. 1-14.

¹¹⁴ Vgl. Misselhorn, C., Maschinenethik, 2018, S. 17.

¹¹⁵ Vgl. Misselhorn, C., Maschinenethik, 2018, S. 18.

¹¹⁶ Vgl. Warwick, K., Shah, H., Think, 2016, S. 989.

¹¹⁷ Vgl. Turing, A. M., Computing, 1950, S. 433; Barthelmeß, U., Furbach, U., Perspektiven, 2019, S. 8-10.

¹¹⁸ Vgl. Mainzer, K., Maschinen, 2016, S. 10.

¹¹⁹ Vgl. Barthelmeß, U., Furbach, U., Perspektiven, 2019, S. 13-14.

¹²⁰ Vgl. Warwick, K., Shah, H., Think, 2016, S. 1005.

¹²¹ Vgl. Warwick, K., Shah, H., Passing, 2016, S. 409.

¹²² Vgl . Searle, J., Minds, 1980, S. 417-424.

¹²³ Vgl. Misselhorn, C., Maschinenethik, 2018, S. 33.

¹²⁴ Vgl. ebd.

¹²⁵ Vgl. Cooper, K. W., Chinese, 2018, S. 82.

¹²⁶ Vgl . Searle, J., Minds, 1980, S. 450-456.

¹²⁷ Vgl . Searle, J., Minds, 1980, S. 417-418.

¹²⁸ Vgl. Misselhorn, C., Maschinenethik, 2018, S. 29.