Hvor stor tech designer sine egne etiske regler for at undgå kontrol og ansvarlighed

Dataetik er nu en årsag.

"Digital etik og privatliv" skød ind i forsknings- og rådgivningsfirmaet Gartners top ti strategiske teknologitrends for 2019. Før det vakte det næppe omtale.

I det sidste års regeringer, virksomheder og tænketanke for politik og teknologi har udgivet vejledninger til dataetik. En hel kohorte af ekspertdataetikere er på magisk vis materialiseret.

Hvorfor denne pludselige interesse for dataetik? Hvad er dataetik? Hvis interesser er retningslinjerne designet til at tjene?

For at forstå, hvad der foregår, det er nødvendigt at tage et skridt tilbage og se på, hvordan informationslandskabet har udviklet sig.

Det billede, der tegner sig, er af en industri, der er immun mod de lovgivningsmæssige begrænsninger, der gælder for alle andre.

Glansen er gået

I løbet af de sidste par år har informationsindustrien mistet sin glans.

Snowden -afsløringerne, Cambridge Analytica -skandalen, sociale medier muliggør had -ytringer, våbendannelsen af ​​information og dens rolle i at undergrave demokratiske institutioner har alle bidraget.

Forretningsmodellen, der tjener penge på personlige oplysninger for at sælge reklame, ses nu som en faustiansk handel - måske er offeret ikke det værd, trods alt. Fra 2017 til 2018 var der et fald på 6% i Facebook-brugere i USA på det lukrative 12-34 år gamle marked.

Disse bekymringer har ført til opfordringer til regulering. Men disse har kæmpet for at vinde indpas mod den fremherskende regulatoriske ortodoksi for teknologisektoren. Dette går tilbage til Al Gores fem principper for at muliggøre det, der dengang kaldtes "den globale informations -superhighway".

Princip tre var, at reguleringspolitikken ville "skabe en fleksibel lovgivningsmæssig ramme, der kan følge med hurtige teknologiske og markedsmæssige ændringer." Dette var kode for ingen regulering, eller selvregulering. I Australien blev det kendt som "let berøring" -regulering.

Big tech handlede straffeløst strafferetligt, stort set befriet fra de almindelige bekymringer i den "gamle" økonomi såsom forbrugerbeskyttelse eller produktansvar eller konkurrencelovgivning eller, i særdeleshed, oplysninger om beskyttelse af personlige oplysninger.

Cirkler tættere på

Europa har aldrig helt accepteret denne laissez-faire-tilgang. Informationsbeskyttelse har altid været højt på dagsordenen, kulminerende i 2018 General Data Protection Regulation (GDPR). Dette giver enkeltpersoner i EU de mest omfattende databeskyttelsesrettigheder i verden. Rettighederne har ekstraterritoriel rækkevidde, involvere lovgivningsmæssigt tilsyn, og ansætte civile bøder af øje-vandende størrelse. Andre jurisdiktioner begynder at følge trop.

Parallelt, tilsynsmyndigheder fra andre discipliner begynder at cirkulere. Anti-trust-tilsynsmyndigheder kigger på ny på informationsmonopoler og big tech's brug af markedsstyrke til at begrænse konkurrencen.

I Australien, ACCC har opfordret til en ny tilsynsmyndighed til at overvåge og undersøge algoritmers effekt på placering af nyheder og journalistisk indhold.

Det britiske udvalgs udvalg for kommunikation om rapport om regulering i en digital verden har anbefalet en ny digital myndighed at føre tilsyn med den "fragmenterede" regulering af det digitale miljø omkring ti reguleringsprincipper, bemærker, at "[s] elf-regulering af online platforme klart fejler." Menneskerettighedsregulatorer undersøger algoritmernes rolle i at skabe og forankre diskrimination.

Data betyder penge

Big tech ønsker ikke at blive reguleret. Det ønsker ikke, at dets ubegrænsede evne til at indsamle personlige oplysninger begrænses eller at beskyttelse af GDPR-typen bliver den globale norm. Personlige oplysninger er råmaterialet til algoritmerne, der gør det muligt at tjene penge på vores opmærksomhed.

For en industri, der er stolt over at være "forstyrrende, "big techs største angst er at forhindre det strammere lovgivningsmiljø for at undgå at blive forstyrret selv. Dataetik er et af de midler, det har udviklet til at bekæmpe regulering. Det gør det ved at tilegne sig de dyder, der er forbundet med etik, men ved at tømme dem for indhold eller konsekvens .

Tag Googles principper for AI. (AI er kunstig intelligens). Disse er:

• være socialt gavnlige
• undgå at skabe eller forstærke unfair bias
• være bygget og testet for sikkerhed
• være ansvarlig over for mennesker
• indarbejde principper for beskyttelse af personlige oplysninger
• opretholde høje standarder for videnskabelig ekspertise
• gøres tilgængelig for anvendelser, der er i overensstemmelse med disse principper.

Disse "principper" ligner påfaldende de feel-good-homilier, der blev offentliggjort på Instagram, og som opfordrer os til at "være gode mod hinanden" eller ikke "lade solen gå ned på vores vrede, "og er omtrent lige så nyttige.

Sættes på prøve

Lad os teste et af Googles principper, "stå til regnskab over for mennesker."

Der er flere lag af uklarhed her. Betyder det, at Googles AI -algoritmer generelt skal være ansvarlige over for "mennesker", Googles "folk, "eller en andens" mennesker "såsom en uafhængig regulator?

Hvis sidstnævnte, vil Google levere algoritmen til analyse, rette eventuelle fejl, og betale erstatning for enhver skade, der er forvoldt?

Hvis Googles AI -algoritmer fejlagtigt konkluderer, at jeg er en terrorist og derefter videregiver disse oplysninger til nationale sikkerhedsagenturer, der bruger oplysningerne til at arrestere mig, hold mig inkommunikativ og forhør mig, vil Google være ansvarlig for sin uagtsomhed eller for at bidrage til mit falske fængsel? Hvordan vil det være ansvarligt? Hvis jeg er utilfreds med Googles version af ansvarlighed, til hvem appellerer jeg for retfærdighed?

Nyttig etik indebærer ansvarlighed

Etik er optaget af de moralske principper, der påvirker, hvordan individer træffer beslutninger, og hvordan de fører deres liv.

Etik er blevet undersøgt og debatteret i æoner. Inden for vestlige traditioner, etik føres tilbage til Sokrates. De omfatter filosofiske holdninger såsom deontologisk (pligtbaseret) etik, konsekvensisme, utilitarisme og eksistentialisme, for blot at nævne nogle få. Ikke overraskende, ingen af ​​disse giver de samme svar på spørgsmål om, hvad et individ skal gøre under særlige omstændigheder.

"Anvendt etik" har til formål at bringe de etiske principper i betragtning i virkelige situationer. Der er mange eksempler.

Den offentlige sektors etik er underlagt lov. Der er konsekvenser for dem, der overtræder dem, herunder disciplinære foranstaltninger, opsigelse af ansættelse og undertiden strafferetlige sanktioner. For at blive advokat, Jeg var nødt til at fremlægge bevis for en domstol for, at jeg er en "egnet og ordentlig person". For at fortsætte med at øve, Jeg skal overholde detaljerede krav i de australske advokatadfærdsregler. Hvis jeg bryder dem, der er konsekvenser.

Egenskaberne ved anvendt etik er, at de er specifikke, der er feedback loops, vejledning er tilgængelig, de er indlejret i organisatorisk og faglig kultur, der er ordentligt tilsyn, der er konsekvenser, når de overtrædes, og der er uafhængige håndhævelsesmekanismer og reelle midler. De er en del af et reguleringsapparat og ikke bare "feel good" -udtalelser.

Have det godt, dataetiske principper på højt niveau er ikke egnede til at regulere big tech. Anvendt etik kan have en rolle at spille, men fordi de er erhverv eller disciplin specifikke, kan de ikke påberåbes til at gøre alt, eller endda det meste af, de tunge løft.

Skader forbundet med big tech kan kun afhjælpes ved korrekt regulering.

Denne artikel er genudgivet fra The Conversation under en Creative Commons -licens. Læs den originale artikel.