Hvor store data kan påvirke din bankkonto

Mustafa elsker god kaffe. I sin fritid, han gennemser ofte avancerede kaffemaskiner, som han i øjeblikket ikke har råd til, men sparer op til. En dag, rejser til en vens bryllup i udlandet, han kommer til at sidde ved siden af ​​en anden ven i flyet. Da Mustafa klager over, hvor meget han har betalt for sin billet, det viser sig, at hans ven betalte mindre end halvdelen af, hvad han betalte, selvom de reserverede omkring samme tid.

Han undersøger mulige årsager til dette og konkluderer, at det må være relateret til hans browsing af dyre kaffemaskiner og udstyr. Han er meget vred over dette og klager til flyselskabet, som sender ham en lunken undskyldning, der henviser til personlige prismodeller. Mustafa føler, at dette er uretfærdigt, men anfægter det ikke. At forfølge det længere ville koste ham tid og penge.

Denne historie - som er hypotetisk, men kan og forekommer – demonstrerer potentialet for, at mennesker kan blive skadet af databrug i den nuværende "big data"-æra. Big data-analyse involverer at bruge store mængder data fra mange kilder, som er forbundet og analyseret for at finde mønstre, der hjælper med at forudsige menneskelig adfærd. En sådan analyse, selv når det er helt lovligt, kan skade mennesker.

Mustafa, for eksempel, er sandsynligvis blevet påvirket af personlig prisfastsættelsespraksis, hvor hans søgen efter avancerede kaffemaskiner er blevet brugt til at gøre visse antagelser om hans betalingsvillighed eller købekraft. Dette kan igen have ført til hans dyrere flybilletter. Selvom dette ikke har resulteret i alvorlig skade i Mustafas tilfælde, tilfælde af alvorlig følelsesmæssig og økonomisk skade er, desværre, ikke sjælden, herunder nægtelse af realkreditlån for enkeltpersoner og risici for en persons generelle kreditværdighed baseret på tilknytning til andre personer. Dette kan ske, hvis en person deler nogle lignende egenskaber med andre personer, der har dårlig tilbagebetalingshistorik.

Tilfælde af følelsesmæssig skade kan også forekomme. Forestil dig et par, der finder ud af, at de venter et meget eftersøgt barn, men får en spontan abort efter fem måneder. Parret kan opleve, at de fortsat modtager annoncer fra butikker, der specialiserer sig i spædbørnsprodukter måneder senere, fejrer, hvad der skulle have været vigtige "milepæle", forårsager nød. Dette er et andet hypotetisk, men fuldt ud muligt scenario.

Loven – eller mangel på den

I mange af disse tilfælde fordi den skadelige praksis måske ikke har brudt nogen love, dem, der blev skadet af databrug, har begrænsede eller ingen juridiske muligheder åbne for dem. Hvad skete der med Mustafa, for eksempel, var helt lovligt, da der ikke er nogen gældende love, der forbyder personlig prisfastsættelse som sådan. Vores nuværende juridiske systemer beskytter ikke mennesker tilstrækkeligt mod de skader, der opstår fra big data.

Dette skyldes, at det er meget svært at spore, hvordan vores data linkes og bruges. Selv hvis flyselskabet havde gjort noget ulovligt, såsom brudt databeskyttelseslovgivning, det ville være næsten umuligt for Mustafa at finde ud af. Folk, der føler, at de er blevet skadet af databrug, kan kæmpe for at vise, hvordan deres data er blevet brugt til at forårsage denne skade, hvilke data der var involveret, eller hvilken dataansvarlig der brugte dem. Og derfor mangler de måske det bevis, de skal bruge for at få et retsmiddel.

Desuden, selvom de viser, hvordan noget nogen gjorde med deres data skadede dem, den særlige brug af kundeoplysninger, for at justere priserne f.eks. kan ikke være ulovligt.

Ligeligt, skaden kan ikke være forårsaget af ens egne data, men af ​​brugen af ​​andres data (tredjepartsdata). For eksempel, i Mustafas tilfælde kunne det være, at andre personer, der også var interesserede i dyre kaffemaskiner, havde meget høje indkomster, eller købt dyre varer. Dette kan have været brugt til at antyde, at Mustafa også faldt ind under denne kategori, hvilket kan have resulteret i højere priser for ham på andre produkter. En person, der er skadet ved brug af tredjepartsdata, vil ofte ikke have retsmidler i henhold til gældende databeskyttelseslovgivning.

Et nyt system

For at hjælpe med at løse sådanne problemer, vi hævder, at vi er nødt til at acceptere, at nogle risici fra databrug ikke kan forebygges. I stedet for udelukkende at fokusere på at forsøge at minimere eller undgå sådanne risici, vi er også nødt til at finde måder til bedre at støtte mennesker, der lider skade af databrug, ved aktivt at overvåge og reagere på skader forårsaget af databrug, herunder lovlig brug af data.

Vi mener, at som en del af dette system, der bør oprettes en ny type institution. Vi kalder dem skadebegrænsende organer. Disse vil blive etableret på nationalt plan, og folk, der følte, at de blev skadet af databrug, men kvalificerede sig ikke til retsmidler, kunne gå til dem for at rapportere den skade, de tror opstod ved brug af data. I modsætning til traditionelle midler, skadebegrænsende organer kunne yde støtte selv i tilfælde, hvor ingen love blev brudt. De ville være nemme for folk at bruge, og fleksibel, så de kunne støtte folk, hvor og hvordan de har mest brug for det, give individer mere magt og styrke det kollektive ansvar for databrug.

Disse foreslåede organer vil indsamle oplysninger om, hvilke typer skader der opstår:i øjeblikket er der ingen nationale eller internationale organer, der systematisk indsamler oplysninger om dataskader. De ville også give feedback til politiske beslutningstagere og databrugere for at hjælpe med at forbedre, hvordan tingene gøres. Og i tilfælde, hvor folk lider økonomisk skade, men ikke har adgang til juridisk hjælp, de kan også yde økonomisk støtte.

Big data analytics er med rette rost for de mange nye muligheder, det giver. Men det vil være uundgåeligt, at nogle mennesker kommer til skade. Som samfund, vi er nødt til at se denne sandhed i øjnene, og yde bedre hjælp til dem, der lider overlast, så ingen, der bærer omkostningerne til disse nye praksisser, efterlades alene.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.