Teknologivirksomheder har en økonomisk nødvendighed for at undgå at kæmpe for seriøst med de etiske spørgsmål omkring dataforbrug. Kredit:Shutterstock
Vores forhold til teknologivirksomheder har ændret sig markant i løbet af de sidste 18 måneder. Løbende databrud, og afsløringerne omkring Cambridge Analytica-skandalen, har rejst bekymringer om, hvem der ejer vores data, og hvordan det bliver brugt og delt.
Teknologivirksomheder har lovet at gøre det bedre. Efter hans grillning af både den amerikanske kongres og EU-parlamentet, Facebooks administrerende direktør, Mark Zuckerberg, sagde Facebook vil ændre den måde, det deler data på med tredjepartsleverandører. Der er nogle beviser på, at dette sker, især med annoncører.
Men har teknologivirksomheder virkelig ændret deres måder? Trods alt, data er nu et primært aktiv i den moderne økonomi.
For at finde ud af, om der har været en væsentlig omstilling mellem samfundets forventninger og virksomhedens adfærd, vi analyserede de dataetiske principper og initiativer, som forskellige globale organisationer har begået, siden de forskellige skandaler brød ud.
Det, vi fandt, er bekymrende. Nogle af de største organisationer har ikke påviselig ændret praksis, i stedet for at tilmelde sig etiske initiativer, der hverken kan håndhæves eller håndhæves.
Hvordan vi sporede disse oplysninger
Før vi diskuterer vores resultater, nogle afklaringspunkter.
For det første, spørgsmål om data, kunstig intelligens (AI), maskinlæring og algoritmer er svære at skille ad, og deres rækkevidde bestrides. Faktisk, for de fleste af disse organisationer, koncepterne er klumpet sammen, mens de for forskere og politiske beslutningstagere byder på helt forskellige udfordringer.
For eksempel, maskinelæring, mens en gren af AI, handler om at bygge maskiner til at lære på egen hånd uden opsyn. Som sådan, beslutningstagere skal sikre, at maskinlæringsalgoritmerne er fri for bias og tager hensyn til forskellige sociale og økonomiske spørgsmål, i stedet for at behandle alle ens.
For det andet politikkerne, erklæringer og retningslinjer for de virksomheder, vi kiggede på, er ikke centralt placeret, konsekvent præsenteret eller let at tyde.
Redegør for manglen på konsekvent tilgang til dataetik, som teknologivirksomheder har taget, vores metode var at undersøge synlige skridt, der er taget, og at se på de brede etiske principper, der er omfattet.
Fem brede kategorier af dataetik
Nogle virksomheder, såsom Microsoft, IBM, og Google, har udgivet deres egne AI-etiske principper.
Flere virksomheder, inklusive Facebook og Amazon, har valgt at holde en armslængde tilgang til etik ved at tilslutte sig konsortier, såsom Partnership on AI (PAI) og Information and Technology Industry Council (ITI). Disse to konsortier har offentliggjort erklæringer, der indeholder etiske principper. Principperne er frivillige, og har ingen rapporteringskrav, objektive standarder eller tilsyn.
Initiativer store tech-virksomheder har tilmeldt sig i særlige kategorier af dataetik. Forfatter angivet
Vi undersøgte indholdet af de offentliggjorte etiske retningslinjer for disse virksomheder og konsortier, og fandt, at principperne faldt i fem brede kategorier.
Retfærdighed og gennemsigtighed er vigtigt
Vores forskning tyder på, at samtaler om dataetik i vid udstrækning er fokuseret på privatliv og forvaltning. Men disse principper er det minimum, der forventes i en juridisk ramme. Hvis noget, fortidens skandaler har vist os, at det ikke er nok.
Facebook er bemærkelsesværdig som virksomhed, der holder en armslængde tilgang til etik. Det er medlem af Partnership on AI og Information and Technology Industry Council, men har undladt at offentliggøre sine egne dataetiske principper. Og mens der har været rumlen om en såkaldt "Fairness Flow" maskinlærings-biasdetektor, og rygter om et etikhold på Facebook, detaljerne for en af disse udviklinger er skitseagtige.
I mellemtiden i hvilket omfang Partnerskab om AI og Informations- og Teknologiindustrirådet påvirker medlemsvirksomhedernes adfærd er yderst tvivlsomt. Partnerskabet om AI, som har mere end 70 medlemmer, blev dannet i 2016, men det har endnu ikke påvist nogen håndgribelige resultater ud over offentliggørelsen af nøgleprincipper.
Der er behov for bedre regulering
For teknologivirksomheder, der kan være en afvejning mellem at behandle data etisk og hvor mange penge de kan tjene på disse data. Der mangler også konsensus mellem virksomhederne om, hvordan den korrekte etiske tilgang ser ud. Så, for at beskytte offentligheden, ekstern vejledning og tilsyn er nødvendig.
Desværre, regeringen har i øjeblikket fastholdt sit fokus i den nye australske regerings datadelings- og frigivelseslovgivning om privatlivets fred – et princip, der er omfattet af lovgivningen andre steder.
De seneste års datarelaterede begivenheder har bekræftet, at vi har brug for et større fokus på data som borgerrettighed, ikke kun en forbrugerrettighed. Som sådan, vi har brug for større fokus på retfærdighed, gennemsigtighed og fælles udbytte – alle områder, som lige nu bliver forsømt af både virksomheder og myndigheder.
Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.