De door het Bondsministerie van Verkeer en Digitale Infrastructuur (BMVI) ingestelde ethische commissie heeft dinsdag voor het eerst regels voor het toekomstige autonome wegverkeer gepresenteerd. Volgens deze regels moeten voertuigen zo worden geprogrammeerd dat gevaarlijke situaties idealiter helemaal niet ontstaan.
De 14-koppige ethische commissie onder voorzitterschap van voormalig grondwettelijk rechter Udo di Fabio heeft in haar dinsdag gepubliceerde rapport 20 basisregels voor geautomatiseerde en connected voertuigen gepubliceerd. Een van de hoekstenen van het verslag is dat geautomatiseerd en geconnecteerd rijden alleen ethisch verantwoord is als de gebruikte systemen een positieve risicobalans hebben ten opzichte van menselijke bestuurders, d.w.z. als ze minder gevaarlijk zijn.
De voorzitter van de commissie, professor Udo Di Fabio, verklaarde: “De ethische commissie heeft de eerste richtsnoeren voor de politiek en de wetgeving ontwikkeld die de goedkeuring van geautomatiseerde rijsystemen mogelijk maken, maar die speciale eisen stellen met betrekking tot de veiligheid, de menselijke waardigheid, de persoonlijke beslissingsvrijheid en de autonomie van de gegevens.”
De ethische commissie heeft “absoluut pionierswerk” verricht, aldus de federale minister van Verkeer Alexander Dobrindt (CSU). De eerste ethische richtsnoeren ter wereld zouden van Duitsland een “pionier voor mobiliteit 4.0” maken.
De 20 ethische regels in detail
Hieronder volgt een samenvatting van de 20 regels die door de ethische commissie zijn vastgesteld.
1.Semi- en volledig geautomatiseerde verkeerssystemen dienen in de eerste plaats om de veiligheid van alle deelnemers aan het wegverkeer te verbeteren. Pas in het verdere verloop moeten aspecten als het vergroten van de mobiliteitsmogelijkheden in de weging worden betrokken.
2.De bescherming van mensen heeft voorrang boven alle andere overwegingen van nut. Het doel is de schade te beperken tot en met volledige preventie.
3. De garantieverantwoordelijkheid voor de invoering en goedkeuring van geautomatiseerde en netwerksystemen in gebieden met openbaar verkeer ligt bij de overheid. Bestuurssystemen vereisen daarom officiële goedkeuring en controle.
4. De autonome beslissing van het individu is een uiting van een samenleving waarin het individu met zijn aanspraak op ontwikkeling en behoefte aan bescherming centraal staat. In een vrije samenleving wordt de technologie zodanig juridisch vormgegeven dat een maximum aan persoonlijke beslissingsvrijheid in een algemene ontwikkelingsorde in evenwicht is met de vrijheid van anderen en hun veiligheid.
Slachtofferschap is verboden
5. Geautomatiseerde en in netwerken opgenomen technologie moet ongevallen zo goed als praktisch mogelijk voorkomen. De technologie moet, volgens de stand van de techniek, zo worden ontworpen dat kritieke situaties in de eerste plaats niet ontstaan. Hieronder vallen ook dilemmasituaties waarin een geautomatiseerd voertuig uit twee kwaden moet kiezen.
6. De invoering van hogere geautomatiseerde rijsystemen, met name met de mogelijkheid van automatische botsingvermijding, kan vanuit sociaal en ethisch oogpunt absoluut noodzakelijk zijn indien aldus gebruik kan worden gemaakt van de bestaande mogelijkheden om de schade te beperken. Omgekeerd is een wettelijk opgelegde verplichting om volledig geautomatiseerde verkeerssystemen te gebruiken of praktische onontkoombaarheid tot stand te brengen ethisch aanvechtbaar als dit onderwerping aan technische imperatieven inhoudt.
7. In gevaarlijke situaties die ondanks alle technische voorzorgsmaatregelen onvermijdelijk blijken te zijn, heeft de bescherming van het menselijk leven de hoogste prioriteit in een afweging van juridische belangen.
8. Echte dilemma-beslissingen zoals de beslissing van leven tegen leven hangen af van de concrete feitelijke situatie, inclusief “onvoorspelbaar” gedrag van de getroffenen. Zij zijn derhalve niet duidelijk normatief en ook niet zonder meer ethisch programmeerbaar.
9. In onvermijdelijke ongevallensituaties is elke kwalificatie op grond van persoonlijke kenmerken (leeftijd, geslacht, lichamelijke of geestelijke gesteldheid) ten strengste verboden. Verrekening van slachtoffers is verboden.
10.De voor de mens gereserveerde verantwoordelijkheid verschuift bij geautomatiseerde en geconnecteerde rijsystemen van de automobilist naar de fabrikanten en exploitanten van de technische systemen en de infrastructurele, politieke en juridische besluitvormingsorganen.
11.Voor de aansprakelijkheid voor door geactiveerde geautomatiseerde rijsystemen veroorzaakte schade gelden dezelfde beginselen als voor andere productaansprakelijkheid.
12. Het publiek heeft recht op voldoende gedifferentieerde informatie over nieuwe technologieën en het gebruik ervan.
Het voertuig moet zich in noodgevallen ook zonder bestuurder kunnen redden
13. Volledige netwerkkoppeling en centrale controle van alle voertuigen in de context van een digitale vervoersinfrastructuur is ethisch aanvechtbaar indien en voor zover daarbij risico’s van totale controle van weggebruikers en manipulatie van de besturing van voertuigen niet veilig kunnen worden uitgesloten.
14. Geautomatiseerd rijden is alleen te rechtvaardigen voor zover denkbare aanvallen, met name manipulaties van het IT-systeem of zelfs immanente systeemzwakheden, niet leiden tot zodanige schade dat het vertrouwen in het wegverkeer blijvend wordt geschaad.
15. Toegestane bedrijfsmodellen die gebruik maken van de door geautomatiseerd en geconnecteerd rijden gegenereerde gegevens, die belangrijk of irrelevant kunnen zijn voor de besturing van voertuigen, vinden hun grens in de autonomie en gegevenssoevereiniteit van weggebruikers.
16. Er moet duidelijk onderscheid kunnen worden gemaakt tussen een bestuurderloos systeem en een bestuurder met de mogelijkheid tot overrulen die de eindverantwoordelijkheid behoudt.
17. Software en technologie van sterk geautomatiseerde voertuigen moeten zodanig zijn ontworpen dat de noodzaak van een abrupte overdracht van de controle aan de bestuurder (noodsituatie) praktisch uitgesloten is. De systemen moeten zich aanpassen aan het communicatiegedrag van de mens, niet omgekeerd.
18.Lerende systemen en systemen die zelflerend zijn in het gebruik van het voertuig, evenals hun verbinding met centrale scenariodatabases, kunnen ethisch toelaatbaar zijn indien en voor zover ze veiligheidswinst opleveren.
19.In noodsituaties moet het voertuig autonoom, d.w.z. zonder menselijke hulp, een veilige toestand bereiken.
20.Het juiste gebruik van geautomatiseerde systemen moet nu al deel uitmaken van de algemene digitale opvoeding. De omgang met geautomatiseerde rijsystemen moet tijdens de rijopleiding op passende wijze worden aangeleerd en getest.
Dit artikel verscheen voor het eerst op ons partnerportaal Elektronikpraxis.