Love tilbyder begrænset beskyttelse mod prisdifferentiering ved hjælp af algoritmer

Onlinebutikker kan bruge algoritmer til at opkræve nogle kunder højere priser end andre. Europæiske love giver kun begrænset beskyttelse mod en sådan prisdifferentiering. Frederik Zuiderveen Borgesius, Professor i IKT og privatret ved Radboud Universitet, har skrevet om netop dette emne i en artikel, der blev publiceret i European Business Law Review.

Onlinebutikker som Bol.com og Amazon bruger mange algoritmer til at friste forbrugerne til at bruge deres penge hurtigere. Den gennemsnitlige bruger er sandsynligvis vant til at se anbefalede produkter, der er baseret på tidligere køb og blinkende meddelelser, når lagrene er løbet tør, men hvad nu hvis en algoritme blev brugt til at vise en individuel udsalgspris for hver kunde? Onlinebutikker kan justere priserne for visse postnumre, eller endda individuelle kunder på baggrund af IP-adresser og andre karakteristika.

Algoritmisk diskrimination og kontraktfrihed

Butikker, der bruger algoritmer, har sjældent diskriminerende hensigter, men brugen af ​​algoritmer kan også utilsigtet føre til diskrimination. Dette var tilfældet, da en amerikansk tutorinstitution opkrævede højere priser for visse områder. Beboerne i disse kvarterer var hovedsageligt folk med asiatisk baggrund, der skulle betale mere for undervisning. I nogle tilfælde, prisforskellen for hvert kursus var så høj som $1, 800.

I princippet, loven tillader prisdifferentiering. Aftalefrihed spiller en stor rolle i europæisk lovgivning, hvilket indebærer, at sælgere kan bestemme deres egen udsalgspris. Men hvis prisdifferentiering fører til diskrimination af grupper med beskyttede karakteristika, såsom etnicitet eller køn, lov om ikke-forskelsbehandling vil komme i spil.

Europæiske ikke-forskelsbehandlingsregler beskytter mod forskellige former for forskelsbehandling, herunder diskrimination på grund af etnicitet og køn. Indirekte forskelsbehandling er også forbudt. Kort sagt, indirekte forskelsbehandling opstår, hvis en praksis er neutral ved første øjekast, men fører stadig til diskrimination af mennesker med en bestemt etnicitet (eller en beskyttet egenskab).

Svært at opdage

Hvis en netbutik tilpasser sine priser til kundens postnummer, dette betragtes som en neutral praksis. Imidlertid, hvis de mennesker, der bor i dette område, for det meste har indvandrerbaggrund, praksis kan medføre en forbudt form for indirekte forskelsbehandling. Loven om ikke-forskelsbehandling ser derfor ud til at beskytte folk mod visse former for prisdifferentiering.

"Men beskyttelsen mod prisdifferentiering er begrænset", forklarer Zuiderveen Borgesius. Til at starte med, algoritmisk diskrimination kan forblive skjult. "Antag, at en netbutik tager en højere pris i et område, hvor et flertal af beboerne har tyrkisk baggrund. Det er svært for folk i dette område at se forskel på priserne. Det er kun, når disse priser sammenlignes med andres priser udenfor. det område, hvor du kan se forskellen. Og selvom nogle forbrugere fandt ud af, at de betalte mere end andre, de ville stadig ikke vide, at folk med tyrkisk baggrund generelt betaler mere. Derfor, forbrugerne ville stadig ikke være opmærksomme på den indirekte forskelsbehandling. Hvis forbrugerne ikke indser, at de bliver udsat for diskrimination, de vil ikke udøve deres ret til ikke-forskelsbehandling."

Et andet problem er, at forbuddet mod indirekte forskelsbehandling indeholder en nuanceret undtagelse, hvilket ofte er svært at anvende i en konkret sag. Indirekte forskelsbehandling er ikke forbudt, hvis virksomheden forfølger et legitimt mål, og dens neutrale praksis udgør et rimeligt (proportionalt) middel.

"Hvis en virksomhed forsøgte at tjene ekstra penge, en dommer ville sandsynligvis betragte dette som et legitimt mål", siger Zuiderveen Borgesius. Mere komplekst er spørgsmålet om prisdifferentiering er et rimeligt middel. Dette svar afhænger af mange faktorer. Hvor stor er prisforskellen? Gælder det kaviar eller andre luksusprodukter, eller supermarkedsprodukter, som folk bruger dagligt? En sådan nuanceret regel har fordele, men nuancen kommer på bekostning af klarheden. Ialt, der er ingen fast og hurtig regel, der klart dikterer, hvilke typer prisdifferentiering der er tilladt, og hvilke der er forbudte.

Browserpræferencer og nye former for diskrimination

Zuiderveen Borgesius:"Desuden algoritmer gør det muligt at skelne mellem forbrugere på grundlag af en lang række karakteristika. Europæiske love anerkender forskelsbehandling baseret på etnicitet, køn, og andre sådanne egenskaber. Imidlertid, den browser, du bruger, eller det postnummerområde, du bor i, er ikke et beskyttet kendetegn. En netbutik kan derfor få folk til at betale ekstra, når de bruger en bestemt browser. Ikke-forskelsbehandlingsloven siger lidt om dette, så længe praksisen ikke påvirker mennesker med en bestemt etnicitet eller en anden beskyttet karakteristik."

Selvom der i øjeblikket næppe synes at være nogen online butikker, der bruger algoritmer til at bestemme forskellige priser for forskellige forbrugere, der er stor chance for, at dette vil ændre sig i fremtiden. Det er blandt andet derfor, at den hollandske minister Sander Dekker i et brev til Repræsentanternes Hus meddelte, at indenrigs- og justits- og sikkerhedsministerierne er ved at undersøge, hvordan forskelsbehandling kan forebygges, når der tilbydes varer og tjenester. Zuiderveen Borgesius:"Det er sandsynligt, at der vil være behov for ny lovgivning for at give bedre beskyttelse. Når det kommer til spørgsmålet om, hvordan vi kan beskytte mennesker mod de diskriminerende virkninger af algoritmer, Der er brug for mere forskning og debat."