Selvkjørende biler: Hvem skal dø når det først smeller?

Saken er publisert med tillatelse fra Samferdsel & Infrastruktur.

Å kjøre bil har aldri vært kun en privatsak, og mindre privat skal det bli. Med selvkjørende biler kommer større offentlig kontroll, mer overvåking og nye terrortrusler.

Intelligente transportsystemer (ITS) er allerede en realitet på europeiske veier, men er foreløpig kun i startfasen. Selvkjørende biler er en del av ITS-systemene.

ITS kan registrere og formidle trafikk, samt samle inn informasjon om den aktuelle trafikkavviklingen. Dette genererer informasjon som blant annet gir trafikanter mulighet til å velge de smarteste reisemåtene. Myndighetene kan med slike systemer også kalkulere ventede kødannelser og andre utviklinger i trafikken, noe som gjør det mulig å gjøre grep for å optimalisere den.

Ikke et spørsmål for ingeniører

– Trafikksikkerheten blir nok bedre med fremveksten og videreutviklingen av disse systemene, men reiser samtidig vanskelige moralske spørsmål, forteller sjefingeniør Tomas Levin hos Statens vegvesen.

For eksempel, hvis transportsystemet i en gitt situasjon oppfatter at en kollisjon eller ulykke ikke lenger kan hindres, hvordan skal systemet da automatisk reagere? Hva skal systemet prioritere, eller i verste fall – hvem skal leve og hvem skal dø?

Dette spørsmålet er reelt. Det ble reist av en forskningssjef som jobbet for en av de store, europeiske bilprodusentene. Statens vegvesen sitter i en del av disse internasjonale komitéene og arbeidsgrupperingene i EU som diskuterer fremtidsutfordringer for veitransporten.

[img id=”1″]

Forskningssjefen sa at han ikke ønsker å være den som bestemmer noe slikt, og han ønsker heller ikke at noen av hans ingeniører skal måtte ta de etiske eller moralske beslutningene som ligger i å utvikle automatiserte eller intelligente transportsystemer i kjøretøyer som skal ta høyde for å avvikle også en styrt ulykkeshendelse eller kollisjon.

Her må nasjonalstatene på banen, mener Levin. Ingeniører kan få til mye, men slike spørsmål borger for en annen type kompetanse. Det blir nesten filosofiske problemstillinger.

– Mange politikere og myndigheter ivrer for å få disse problemstillingene på bordet. De er på hugget i EU. De ønsker å legge til rette for at vi kan forberede oss, for utviklingen i ITS kan ikke stoppes. Og dét ønsker de heller ikke. ITS har jo en del veldig positive effekter når det gjelder trafikksikkerhet, men vi bør gå inn i dette på en informert og fornuftig måte, sier Levin.

Beslutningstakerne vet at autonome kjøretøyer kommer, så de vil heller diskutere etikken i dette nå, slik at vi er forberedt når disse problemstillingene blir mer vanlige.

Sårbare også for hacking

Langt mindre filosofisk er er utfordringene knyttet til terror og kriminalitet. I dag utgjør elektronikk svært mye av styringsmekanismene i kjøretøyer, og når du bytter direkte mekaniske eller hydrauliske komponenter med elektriske komponenter, gjør du deg samtidig sårbar for hacking. Dagens biler kan fjernstyres på godt og ondt. Det har vært en del wake-up-calls, forteller Levin. I fjor ble en Jeep Cherokee hacket og fjernstyrt via laptop av Charlie Miller og Chris Valasek, og eksempelet er ingenlunde unikt.

– Det er skremmende at slikt er mulig. Hacking er blitt et eksempel på hvorfor de må være forsiktige i bilindustrien. Verken sabotasje eller uønsket fjernstyring er teknisk umulig. Det er derfor viktig at vi jobber fornuftig og systematisk med dette, sier Levin.

– EU har satt ned flere arbeidsgrupper for autonom transport, som blant annet skal finne ut når slike systemer kan gjøre et mer betydelig inntog i allmenn trafikk. Samtidig er informasjonssikkerhet inklusive hacking satt opp som en egen parallell i denne arbeidsgruppen, legger Levin til.

– Vi er nødt til å tenke gjennom hele bilproduksjonen på nytt. Her må vi jo helt ned på komponent-leverandører, ned på ABS-bremsesystemene. Vi må sikre oss at signalene som kommer til disse systemene ikke er tuklet med. Det er helt kritisk. Vi må finne ut hvor vi forskere og ingeniører har kunnskapshull, og hvordan vi best kan tette disse hullene, avslutter Levin.