Førerløse biler tilbyder nye former for kontrol - ikke underligt, at regeringer er ivrige

Forestil dig en topmoderne førerløs bil, der lyner langs en vej med en handicappet 90-årig passager. En ung mor med et lille barn træder ind på vejen. Bilen skal træffe en beslutning:Kør ind i mor og barn og dræb dem, eller karriere ind i en mur og dræbe passageren.

Dette er en variation af trolleyproblemet, som dominerer akademisk og populær tænkning om etikken i førerløse biler. Problemet er, at sådanne debatter ikke kun afviser kompleksiteten af ​​det system, hvor førerløse biler vil eksistere, men er virkelig moralske røde sild. De reelle etiske spørgsmål ligger i politik og magtproblemer med førerløse biler.

Regeringer over hele verden interesserer sig dybt for førerløse biler. Den tyske regering har udarbejdet etiske retningslinjer for førerløse biler. Den britiske regering har lovet førerløse biler på vejene inden 2021, og den russiske regering inden udgangen af ​​2018. Kina har ambitiøse planer om at forbinde førerløse biler til internettet og installere sensorer i veje og trafiklys inden 2025.

Mest afslørende er måden førerløse biler optræder på i EU's hvidbog om Europas fremtid i 2025, udgivet i marts 2017. De udgør en sigende del af et øjebliksbillede af, hvordan Europa kan se ud i en fremtid, hvor EU-lande reelt er gået sammen for at blive én føderal superstat. I dette scenarie, hvidbogen siger, førerløse biler vil blomstre, flyver uhindret over grænser fra by til by.

Der er en grund til, at regeringer er så opsatte på førerløse biler – og det er ikke kun på grund af de potentielle økonomiske fordele. De giver mulighed for endnu større sporing og endda kontrol over borgernes hver bevægelse. Langt fra at sætte os fri, førerløse biler truer med at hjælpe med at muliggøre nye former for overvågning og undertrykkelse.

En førerløs bil er en computer på hjul, den ultimative internetforbundne mobilenhed. Fyldt med sensorer, det giver en konstant to-vejs informationsstrøm. Bilen sender information om dens ydeevne til producenten. Den modtager softwareopdateringer, styresignaler om justeringer af dens adfærd. Producenten ved, hvor bilen er, hvad vejforholdene og temperaturen er, og hvordan køretøjet præsterer ved en bestemt hastighed.

Bilens forsikringsselskab kan modtage minut for minut information om bilens tilstand, Beliggenhed, hastighed og tilstanden af ​​vejen, den er på, og kunne variere forsikringen i overensstemmelse hermed. Det kunne endda give ti minutters advarsel om tab af dækning og standse bilen.

I mellemtiden offentlige databaser vil sandsynligvis også vide, hvor bilen er, om det er meningen, at det skal være der, og hvor det skal hen. Og endda, ved hjælp af prædiktiv analyse, hvor den skal hen på sin næste rejse. Smarte motorveje vil styre trafikstrømmene, at bremse førerløse biler som en del af en kommunikationsstrøm mellem bilen og vejen. I smarte byer, trafiklys vil omdirigere biler til omveje i henhold til beregninger og forudsigelser om trafikpropper, vejarbejde, eller statslige krav.

Der kan skabes markeder for hurtige ruter gennem byer og til centrale destinationer. Virksomheder kan betale for, at ansatte bruger prioriterede virtuelle ruter. Rejselogs kan gøre det helt klart, hvor du er gået og hvornår. Årsager til din rejse kan udledes forudsigeligt fra landskabet, fra destinationer og fra timing.

Slut på autonomi

I mere end 130 år, biler har repræsenteret det ultimative inden for autonomi, individualitet og demokratisk frihed. Vores bilture er private og anonyme. Vi kan gå, hvor vi vil, og når vi har lyst. Vi behøver ikke fortælle det til nogen. Og vi bevarer ansvaret for, om vi overholder loven. Førerløse biler vil bringe det til ophør.

Nu producenter, regeringer og bymyndigheder vil vide, hvor vi skal hen, hvad vi laver og hvornår. Hvis nogen ikke kan lide det, vi laver, de vil være i stand til at stoppe os, trække teknisk dækning og ulykkesdækning tilbage, stoppe os med at bruge bestemte veje eller gader, eller bare lukke os ned. Det vil ikke være bilen, der er autonom, men myndighederne og systemerne, der kører og vedligeholder den bil, der trækker og sender information til og fra bilen.

Førerløse biler vil varsle en ny tidsalder for borgerkontrol. I retorikken om at gøre os sikrere og reducere risikoen, magt vil blive taget væk og leveret til centrale myndigheder - uanset om de er byer, regeringer eller kommissioner. For at gøre os sikre, regeringer vil efterlade os magtesløse.

Nu kan controllerne simpelthen ændre vores rute til deres egne formål, om det skal forhindre trafikpropper eller at rydde en rute for en dignitær. Nu kan de sende os til bestemte butikker, eller direkte til en politistation. Nu kan kontrollørerne styre populationer af biler for at opfylde rådets eller regeringens formål.

I en demokratisk stat, den voksende strøm af personlig information til centraliserede myndigheder vil danne grundlag for reguleringen og håndhævelsen. Dets nye administrerede borgere vil være målet for adfærdsnudges og reklamer, der strømmer ind i den førerløse bil. I den diktatoriske stat, myndighederne kan forhindre dig i at gå til en demonstration, eller stoppe dig med at gå i kirke.

Og sådanne centralt styrede systemer, som vil være afgørende for sikkerheden for førerløse biler, er ikke kun åbne over for de uundgåelige teknologiske fejl i komplekse systemer, men også til hacking og angreb fra andre stater og enkeltpersoner. Hvorfor hacke sig ind i en bil, når du kan hacke dig ind i et helt bysystem og stoppe trafikken, eller crash 30, 000 biler ind i hinanden?

Når vi reflekterer over etikken i førerløse biler, er vi nødt til at bevæge os ud over begrænsningerne af vogne og håndtag til en bredere dagsorden, der adresserer begreberne autonomi, fællesskab, gennemsigtighed, identitet, værdi og empati. Vores etiske debat skal adressere magtskiftene, det politiske ansvar og de menneskerettigheder, som vores vision om førerløse biler kan kræve at blive ofret.

Denne artikel blev oprindeligt publiceret på The Conversation. Læs den originale artikel.