Videnskab
 science >> Videnskab >  >> Elektronik

Hvad gør teknologivirksomheder ved etisk brug af data? Ikke meget

Teknologivirksomheder har en økonomisk nødvendighed for at undgå at kæmpe for seriøst med de etiske spørgsmål omkring dataforbrug. Kredit:Shutterstock

Vores forhold til teknologivirksomheder har ændret sig markant i løbet af de sidste 18 måneder. Løbende databrud, og afsløringerne omkring Cambridge Analytica-skandalen, har rejst bekymringer om, hvem der ejer vores data, og hvordan det bliver brugt og delt.

Teknologivirksomheder har lovet at gøre det bedre. Efter hans grillning af både den amerikanske kongres og EU-parlamentet, Facebooks administrerende direktør, Mark Zuckerberg, sagde Facebook vil ændre den måde, det deler data på med tredjepartsleverandører. Der er nogle beviser på, at dette sker, især med annoncører.

Men har teknologivirksomheder virkelig ændret deres måder? Trods alt, data er nu et primært aktiv i den moderne økonomi.

For at finde ud af, om der har været en væsentlig omstilling mellem samfundets forventninger og virksomhedens adfærd, vi analyserede de dataetiske principper og initiativer, som forskellige globale organisationer har begået, siden de forskellige skandaler brød ud.

Det, vi fandt, er bekymrende. Nogle af de største organisationer har ikke påviselig ændret praksis, i stedet for at tilmelde sig etiske initiativer, der hverken kan håndhæves eller håndhæves.

Hvordan vi sporede disse oplysninger

Før vi diskuterer vores resultater, nogle afklaringspunkter.

For det første, spørgsmål om data, kunstig intelligens (AI), maskinlæring og algoritmer er svære at skille ad, og deres rækkevidde bestrides. Faktisk, for de fleste af disse organisationer, koncepterne er klumpet sammen, mens de for forskere og politiske beslutningstagere byder på helt forskellige udfordringer.

For eksempel, maskinelæring, mens en gren af ​​AI, handler om at bygge maskiner til at lære på egen hånd uden opsyn. Som sådan, beslutningstagere skal sikre, at maskinlæringsalgoritmerne er fri for bias og tager hensyn til forskellige sociale og økonomiske spørgsmål, i stedet for at behandle alle ens.

For det andet politikkerne, erklæringer og retningslinjer for de virksomheder, vi kiggede på, er ikke centralt placeret, konsekvent præsenteret eller let at tyde.

Redegør for manglen på konsekvent tilgang til dataetik, som teknologivirksomheder har taget, vores metode var at undersøge synlige skridt, der er taget, og at se på de brede etiske principper, der er omfattet.

Fem brede kategorier af dataetik

Nogle virksomheder, såsom Microsoft, IBM, og Google, har udgivet deres egne AI-etiske principper.

Flere virksomheder, inklusive Facebook og Amazon, har valgt at holde en armslængde tilgang til etik ved at tilslutte sig konsortier, såsom Partnership on AI (PAI) og Information and Technology Industry Council (ITI). Disse to konsortier har offentliggjort erklæringer, der indeholder etiske principper. Principperne er frivillige, og har ingen rapporteringskrav, objektive standarder eller tilsyn.

Initiativer store tech-virksomheder har tilmeldt sig i særlige kategorier af dataetik. Forfatter angivet

Vi undersøgte indholdet af de offentliggjorte etiske retningslinjer for disse virksomheder og konsortier, og fandt, at principperne faldt i fem brede kategorier.

  1. Privatliv :privatlivets fred er almindeligt anerkendt som et vigtigt område, fremhæver, at fokus for de fleste af disse organisationer er et traditionelt forbruger/leverandørforhold. Det er, data leveret af forbrugerne er nu ejet af virksomheden, hvem vil bruge disse data, men respekter fortroligheden
  2. styring :Disse principper handler om ansvarlighed i datahåndtering, at sikre kvalitet og nøjagtighed af data, og den etiske anvendelse af algoritmer. Fokus er her på de interne processer, der skal følges
  3. retfærdighed :retfærdighed betyder at bruge data og algoritmer på en måde, der respekterer personen bag dataene. Det betyder at tage sikkerhed i betragtning, og anerkende den indvirkning, brugen af ​​data kan have på folks liv. Dette inkluderer en anerkendelse af, hvordan algoritmer, der er afhængige af historiske data eller mangelfuld programmering, kan diskriminere marginaliserede samfund
  4. fælles fordel :dette refererer til ideen om, at data ejes af dem, der producerer dem og, som sådan, der bør være fælles kontrol med dataene, samt fælles fordele. Vi bemærkede en mangel på konsensus eller hensigt om at følge denne kategori
  5. gennemsigtighed :det er her, en mere nuanceret forståelse af dataejerskab begynder at opstå. Gennemsigtighed refererer i bund og grund til at være åben omkring den måde, data indsamles og bruges på, samt undgå unødvendig dataindsamling. I betragtning af virksomhedernes kommercielle nødvendighed for at beskytte fortrolig forskning og udvikling, det er ikke overraskende, at dette princip kun anerkendes af en håndfuld spillere.

Retfærdighed og gennemsigtighed er vigtigt

Vores forskning tyder på, at samtaler om dataetik i vid udstrækning er fokuseret på privatliv og forvaltning. Men disse principper er det minimum, der forventes i en juridisk ramme. Hvis noget, fortidens skandaler har vist os, at det ikke er nok.

Facebook er bemærkelsesværdig som virksomhed, der holder en armslængde tilgang til etik. Det er medlem af Partnership on AI og Information and Technology Industry Council, men har undladt at offentliggøre sine egne dataetiske principper. Og mens der har været rumlen om en såkaldt "Fairness Flow" maskinlærings-biasdetektor, og rygter om et etikhold på Facebook, detaljerne for en af ​​disse udviklinger er skitseagtige.

I mellemtiden i hvilket omfang Partnerskab om AI og Informations- og Teknologiindustrirådet påvirker medlemsvirksomhedernes adfærd er yderst tvivlsomt. Partnerskabet om AI, som har mere end 70 medlemmer, blev dannet i 2016, men det har endnu ikke påvist nogen håndgribelige resultater ud over offentliggørelsen af ​​nøgleprincipper.

Der er behov for bedre regulering

For teknologivirksomheder, der kan være en afvejning mellem at behandle data etisk og hvor mange penge de kan tjene på disse data. Der mangler også konsensus mellem virksomhederne om, hvordan den korrekte etiske tilgang ser ud. Så, for at beskytte offentligheden, ekstern vejledning og tilsyn er nødvendig.

Desværre, regeringen har i øjeblikket fastholdt sit fokus i den nye australske regerings datadelings- og frigivelseslovgivning om privatlivets fred – et princip, der er omfattet af lovgivningen andre steder.

De seneste års datarelaterede begivenheder har bekræftet, at vi har brug for et større fokus på data som borgerrettighed, ikke kun en forbrugerrettighed. Som sådan, vi har brug for større fokus på retfærdighed, gennemsigtighed og fælles udbytte – alle områder, som lige nu bliver forsømt af både virksomheder og myndigheder.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.




Varme artikler