Ethisch relevante Probleme werden im Zusammenhang mit selbstfahrenden Autos aus meiner Sicht aus mindestens vier Bereichen erwachsen (vielen Dank an A. für das nette und hilfreiche Gespräch):
Den nicht-praxiserprobten Fehlern in der Programmierung, dem Auftreten nicht vorhersagbarer Situationen, den Manipulationsmöglichkeiten mit weitreichenden Folgen, der Zweckentfremdung in krimineller Absicht.
1. Die Programmierung der Algorithmen, die alle möglichen Ereignisse während des Betriebs autonomer Fahrzeuge aus Sicherheitsgründen vollständig erfassen müsste, wird nicht out-of-the-box funktionieren können. Alle komplexeren Programme beinhalten fehlerhaften Code. Dazu wird die Softwaregrundlage sicher nicht open-source sein, so dass Fehler extrem lange unentdeckt bleiben und die Ursache z.B. für Unfälle verschleiert werden könnte oder man einfach - wie beim Ford Pinto in den 70er Jahren - Prozesse vor Gericht führt. Wer würde Milliarden investieren, um wegen Problemen im Code dann alles abzuschreiben?
2. Die Idee, dass die Software - als Ersatz für die menschliche Urteilsfähigkeit -
tatsächlich alle möglichen Ereignisse und Handlungsoptionen abdecken könnte, ist sicher naiv. Algorithmen werden von Menschen programmiert, das ändert sich auch nicht grundsätzlich durch selbstlernende Systeme. Bis das System gelernt hat, ist es u.U. selbst, seine Insassen oder dritte schon zerstört.
3. Wenn einmal klar ist, wie die Sensoren und die nachfolgende Informationsverarbeitung funktioniert, ist Manipulationen Tür und Tor geöffnet. Zumindest die Täuschung der Sensorik würde ziemlich einfach sein, um die Autos zu hijacken oder einfach nur Chaos anzurichten: Magnete auf der Fahrbahn, ampelähnliche Lichtsimulationen oder Vorspiegeln von Fahrbahnen.
4. Sollte jemand eine Gruppe, z.B. gleichartiger selbstfahrender Autos elektronisch kapern können, wären die Autos beispielsweise als Waffe zu kriminellen Aktionen oder als gefährliche Autoroboter im gewöhnlichen zivilen Umfeld einsetzbar. Wer einen Eindruck davon bekommen will, sollte die leider immer realistischer werdenden Romane von Daniel Suarez ("Daemon") lesen.
