Biler er reguleret for sikkerhed – hvorfor ikke informationsteknologi?

Mens computerindustrien kæmper med sin rolle i samfundet, mange mennesker, både i marken og udenfor, taler om en etisk krise.

Der er et massivt hastværk med at ansætte etiske chefer, genskabe kodekser for professionel etik og undervise eleverne i etik. Men som forsker i databehandling – og underviser i et kursus om databehandling, etik og samfund på Rice University – jeg er skeptisk over for antagelserne om, at det, der fejler teknologi, er mangel på etik, og at den bedste løsning er at lære teknologer om etik.

I stedet, efter min mening, løsningen er regeringens handling, som har til formål at afbalancere regulering, etik og markeder. Dette er ikke en radikal ny idé:Det er, hvordan samfundet behandler biler og kørsel.

Overveje, for eksempel, Ford Model T, den første masseproducerede og masseforbrugte bil. Dens debut i 1908 lancerede bilalderen, en tid med stor mobilitet – og udbredt død. Bilulykker dræber mere end en million mennesker på verdensplan hvert år - men dødsfaldet pr. kørt kilometer er faldet næsten siden den første Model T rullede af samlebåndet.

Årsagen til den forbedrede sikkerhedsrekord er ikke, at folk, der lærte at køre, studerede etikken i ansvarlig og sikker kørsel. Hellere, de blev undervist, og testet på, færdselsreglerne, for at få kørekort. Andre regler forbedrede, hvordan veje blev bygget, krævede bilfabrikanterne at indføre nye sikkerhedsfunktioner, obligatorisk ulykkesforsikring, og forbudt spritkørsel og anden usikker adfærd. Jeg tror på en lignende tilgang – regulering, ud over etikundervisning for teknologer, såvel som markedskonkurrence – er i dag nødvendig for at gøre moderne teknologi sikker for samfundet som helhed.

Fejl i den grundlæggende forretningsmodel

I 1980'erne, internetpionerer adopterede en filosofi om, at "information vil være gratis" - så webstedsejere opkrævede ikke læserne for adgang til indholdet. I stedet, internetvirksomheder brugte reklamer til at støtte deres indsats. Det fik dem til at indsamle personlige data om deres brugere og tilbyde mikromålrettet annoncering for at tjene penge, som samfundsforsker Shoshana Zuboff kalder "overvågningskapitalisme".

Denne forretningsmodel er enormt profitabel, så det er usandsynligt, at internetvirksomheder vil opgive det på egen hånd som følge af etiske betænkeligheder. Selv i lyset af blærende kritik og Facebooks Cambridge Analytica-skandale, de massive overskud er overbevisende.

Det egentlige problem med overvågningskapitalisme er ikke, at den er uetisk – hvilket jeg mener, den er – men at den er fuldstændig lovlig i de fleste lande. Det er urimeligt at forvente, at for-profit-selskaber undgår profitable virksomheder, der er lovlige. Efter min mening, det er ikke nok blot at kritisere internetvirksomheders etik. Hvis samfundet finder overvågningsforretningsmodellen stødende, så er midlet ikke en etisk forargelse, men laver love og regler, der styrer det, eller endda forhindre det helt.

Selvfølgelig, Offentlig orden kan ikke adskilles fra etik. Salg af menneskelige organer er forbudt i USA, delvist fordi samfundet finder det etisk modbydeligt at drage fordel af selve livet. Men forbuddet håndhæves af love, ikke ved en løbende etikdebat. Som øverste dommer Earl Warren bemærkede:"I civiliseret liv, loven flyder i et hav af etik."

Regulering har fordele

I årtier, informationsteknologiindustrien har med succes lobbyet mod forsøg på at lovgive eller regulere det, argumenterer for, at "regulering kvæler innovation." Selvfølgelig, det forudsætter, at al innovation er god. Det er åbenlyst blevet klart, at dette ikke altid er tilfældet:Nogle af internetgiganternes innovation har skadet det demokratiske samfund i USA og rundt om i verden.

Faktisk, et formål med regulering er at afkøle visse former for innovation – specifikt, dem, som offentligheden finder forkerte, usmageligt eller ubehjælpsomt for samfundets fremgang. Regulering kan også tilskynde til innovation på måder, samfundet anser for gavnlige. Der er ingen tvivl om, at reglerne om bilindustrien tilskyndede til innovation inden for sikkerhed og brændstofeffektivitet.

Nogle medlemmer af Kongressen har foreslået en række ambitiøse planer for at tackle informationskrigsførelse, forbrugerbeskyttelse, konkurrence inden for digital teknologi og kunstig intelligenss rolle i samfundet. Men meget enklere – og mere bredt understøttede – regler kan gøre en kæmpe forskel for den enkelte kunde og samfundet som helhed.

For eksempel, Føderale tilsynsmyndigheder kunne kræve softwarevilkår, og licenser inkluderer almindeligt sprog, der let kan forstås af enhver – måske baseret på den langvarige "almindelige engelske regel" for virksomheders finansielle indsendelser til US Securities and Exchange Commission. Love eller regler kan også kræve, at virksomheder afslører databrud hurtigt, både til embedsmænd og offentligheden som helhed. Det kan endda udløse innovation, da virksomheder øger deres indsats for at forhindre og opdage netværksindtrængen og datatyveri. En anden forholdsvis nem mulighed ville være at regulere automatiserede retsafgørelsessystemer, herunder at kræve, at de ikke indsættes, før de har bestået en uafhængig revision, der viser, at de er retfærdige og upartiske.

Disse ligefremme regler kunne bane vejen for at tænke og tale om, hvorvidt og hvordan man kan regulere størrelsen af ​​disse store teknologivirksomheder. Men udformningen af ​​regler behøver ikke starte med de sværeste problemer – der er masser at gøre, som de fleste vil blive enige om med det samme.

Den nederste linje er, at teknologiske fremskridt har bevæget sig meget hurtigt, mens den offentlige politik har haltet bagefter. Det er på tide, at den offentlige politik indhenter teknologien. Hvis teknologien driver fremtiden, samfundet bør styre.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.