Tyskland publicerar etiska riktlinjer för förarlösa fordon

"Riktlinjerna tar även upp att systemen för förarlösa bilar ska göra allt för att undvika olyckor och mänskliga dödsfall, och i de fall där mjukvaran gör en bedömning om vilken åtgärd som får minsta möjliga skadeeffekt får den inte räkna in faktorer som ålder, kön, etnicitet eller andra liknande attribut."

Det här är ett extremt svårt etiskt dilemma. Inte just att bilen inte får ta hänsyn till tex ålder eller etnicitet. Men att bilen har rätt att välja att offra dig framför två andra. Eller bara dig för att du är bra skyddad i bilen.

Vi låter hela tiden andra ta beslut om vår säkerhet när vi åker buss och taxi. Men man kan alltid skylla på den mänskliga faktorn när "fel" beslut togs och vi räknar nog med att chauffören sin egen säkerhet högt prioriterat om det händer något.

I fallet med en AI som tar beslutet så är det helt och hållet riskanalyserat och den kan välja att offra den som åker bilen istället för de som den riskerar att kollidera med. Kommer vi att acceptera att det beslutet tas åt oss? Jag är tämligen säker på att dödstalen på vägar kommer att sjunka med självkörande bilar. Men det hindrar ju inte att de som allvarligt skadas eller dör kan ha invändningar.

Visst är det ett mycket komplext ämne och jag tror att de tyska etiska riktlinjerna bara är det första steget i processen med hur de ska hantera den begynnande marknaden. Om man beaktar hur lagstiftning har utvecklats, stötts och blötts genom årtionden med avseende på andra känsliga frågor som abort exempelvis så lär även detta bli en fråga som inte avgörs över en kaffepaus. Det blir också en problematik när både mänskliga förare och självkörande bilar samsas om vägarna och de krav som måste ställas på de självkörande bilsystemen när de inte bara måste beakta sina egna regelverk utan även reagera på mänskliga förare vars beteende ofta kan vara irrationellt.

Så det lär inte vara en fråga som löser sig snabbt, men att skapa etiska riktlinjer är ju ett första nödvändigt steg, och det ska bli intressant att se hur lång tid det tar innan frågan väcks även i Sverige. Frågan om drönare och vilka regler som gäller där har också stötts och blötts en del, och då är det en betydligt mildare fråga än hur självkörande bilar ska bedöma vad som är det minst allvarliga resultatet i en annalkande olycka.

Det här måste vara det absolut svåraste nöten att knäcka vad gäller självkörande bilar. Att få tekniken att köra bilen på ett bra och säkert sätt är ju rena barnleken jämfört med att bestämma vad bilen ska göra när en olyckan är ett faktum.

Hade jag fått välja hade jag självklart valt att bilen alltid ska prioritera mig före alla andra. Precis som jag själv hade gjort om jag själv hållt i ratten. Hur ska jag annars med någon som helst sinnesro kunna sätta mig i en självkörande bil om jag vet att om olyckan är framme kommer min bil kanske inte göra allt den kan för att rädda mitt liv utan istället offra det.

Det må kanske vara egoistiskt men måste jag välja mellan mitt liv eller någon/några andras så ja... då är jag lite sådär ego.

Om du som förare hamnar i en extrem situation - säg att bromsarna slutat ta och du är på kollisionskurs mot en större folksamling - är du då så säker på hur du instinktivt reagerar? Kan det hända att du gör en undanmanöver som i förlängningen leder till att du kraschar in i en husvägg eller voltar i en vådlig luftfärd? Är du säker på att dina egna reflexer verkligen är programmerade så där lite ego?

Vad är det man brukar säga, ingen regel utan undantag. Självklart kommer man ju göra vad man kan för att undvika folkmassan, troligen göra manövrer som man i situationen ändå tror kan vara rädda folkmassan och ens eget liv, om än blåslagen. Men står jag vid ett vägskäl där det verkligen är folkmassan eller ett stup som leder till en garanterad död så ja, dom kanske hinner flytta på sig? Är det en stor folkmassa så blir det ju helt klart svårare... någon stanns finns det väl en gräns för vad man själv kan leva med sen.

EDIT: Det kanske i grund och botten är så att det är svårt att acceptera att en maskin ska ta beslutet åt dig att avsluta ditt liv och inte du själv. När man väl är där, det är antingen eller och man tar beslutet själv för att man som människa vet att det är det enda rätta. Då har man ändå själv gjort valet och accepterat det. Men att veta att en maskin kanske väljer till din nackdel, då kan man aldrig vara säker på att den tar, eller kommer ta, det rätta beslutet.

Lura lite mer på det här igår kväll.

Om man bortser från extremfallet med en stor folkmassa osv och tittar på mer realistiska exempel istället så blir det intressant.

Säg att du åker på en riskväg utan mitträcke på natten/kvällen när det är mörkt ute. Du ligger i 70-80km/h och på vägen längre fram kommer en person gåendes i vägrenen på din sida av vägen. Personen gåendes på vägen bär tyvärr ingen reflex och har dessutom mörka kläder så du ser inte denna än. Du ser däremot längre fram en lastbil komma mot dig i andra filen vilket gör att du såklart stänger av helljuset. Strax innan du och lastbilen möts kör du instinktivt ut närmare vägrenen eftersom vägen är relativt smal. Nu får du syn på personen gåendes på vägen och du måste ta beslutet att antingen köra på denna person eller själv frontalkrocka med lastbilen.

I det läget tror jag det skulle vara svårt att själv ta beslutet att frontalkrocka med lastbilen. Hela din kropp kommer ju skrika att nej det där gör du inte. I det här fallet tror jag att ja, jag skulle tvärnita men ounvikligen köra på personen.

En AI skulle däremot kanske resonera att du sitter i en skyddad bil och kanske har större chans att klara en krock med en lastbil än en oskyddad person påkörd av din bil.

Vad är rätt/fel här?

Ett annat intressant exempel är om du åter igen kommer körandes på en riskväg, dock mitt på ljusa dagen nu. Längre fram till höger ser du på en anslutande väg moped komma körandes. Inget du reagerar på eftersom du har företräde då vägen du kör på är en huvudled. Personen på mopeden är ouppmärksam och missar både dig samt stopp-plikten eftersom denne istället fokuserar på bilen som kommer från andra hållet. Personen på mopeden kör nu ut framför dig och du har nu tre val.

1. Du väjer åt höger in i den stadiga eken vid sidan av vägen.
2. Du fortsätter rakt fram och kolliderar mopedisten som kört ut framför dig.
3. Du väjer åt vänster och frontalkrockar med den mötande bilen.

Alternativ 1 riskerar bara ditt egna liv.
Alternativ 2 riskerar mopedistens liv.
Alternativ 3 är ju absolut sämst och bör inte väljas av någon. Det finns mest med där för att det inte ska finnas någon fri väg att välja på.

Eftersom du nu kör en relativt gammal bil är sannolikheten att du klarar en frontalkrock med en ek inte särskilt stor. För enkelhetens skull lika stor som att mopedisten klarar sig.

Ska du nu riskera ditt egna liv framför en annan persons när det är den personen som gjort fel och därmed även orsakat situationen som uppstått? Är det här något som en AI ska ta hänsyn till när den väljer hur den ska lösa en situation, om någon gjort fel?

Instiktivt försöker du troligen unvika en kollision med mopedisten och eken vilket säkert slutar med att du får sladd på bilen, kör på mopedisten och sen far rätt in in nästa ek vid sidan av vägen....

Det jag menade i mitt första inlägg här var att i situationer som dessa, så vill jag nog tro att jag skulle se till mitt eget bästa i första hand.