Discussieer met ons! Hier kunt u ons Goedemorgen Redactioneel nog eens nalezen.
In opdracht van de Duitse regering heeft een ethische commissie 20 regels opgesteld over wat geautomatiseerde rijsystemen in de toekomst om ethische redenen zouden mogen doen – en wat ze expliciet niet zouden mogen doen. Een belangrijk beginsel is dat in een potentiële ongevalssituatie het voertuig de gevolgen niet ten koste van mensenlevens mag laten gaan. Aan de ene kant heeft het menselijk leven altijd voorrang boven materiële schade. En ten tweede mag de aandrijving niet in aanmerking komen voor een mensenleven. Als de auto moet kiezen tussen A) de mogelijke dood van de bestuurder of B) een kind of C) een bejaarde, mag de software geen kwalificatie maken in de zin van een rangorde.
Maar de Commissie laat ook in het midden wat er moet gebeuren in zo’n verzonnen ongevalssituatie. Het zette me aan het denken: als er levens zouden mogen worden gekwalificeerd en er geen richtlijnen hierover zouden bestaan, zou er een “veiligheidsupgrade” kunnen worden verkocht die in geval van twijfel altijd het leven van de bestuurder boven dat van de andere betrokkenen zou stellen.
De gedachte is zo macaber dat ik hem absoluut op deze manier met u moest delen. Welke garantie kunnen autofabrikanten de mensheid geven dat dergelijke upgrades niet op darknet zullen worden verkocht?