Undgå et overvågningssamfund:Hvordan bedre regler kan tøjle ansigtsgenkendelsesteknologi

Det menneskelige ansigt er specielt. Det er på én gang offentligt og personligt. Vores ansigter afslører følsom information om os:hvem vi er, selvfølgelig, men også vores køn, følelser, helbredstilstand og meget mere.

Lovgivere i Australien, ligesom dem rundt om i verden, havde aldrig forventet, at vores ansigtsdata ville blive høstet i industriel skala og derefter brugt i alt fra vores smartphones til politiets CCTV-kameraer. Så vi bør ikke være overraskede over, at vores love ikke har holdt trit med den ekstraordinære fremkomst af ansigtsgenkendelsesteknologi.

Men hvilken slags love har vi brug for? Teknologien kan bruges til både godt og ondt, så hverken at forbyde det eller det nuværende gratis-for-alle virker ideelt.

Imidlertid har reguleringssvigt gjort vores samfund sårbart over for skadelig brug af ansigtsgenkendelse. For at udfylde det juridiske hul foreslår vi en "modellov":en oversigt over lovgivning, som regeringer rundt om i Australien kan vedtage eller tilpasse for at regulere risikabel brug af ansigtsgenkendelse og samtidig tillade sikre.

Udfordringen med ansigtsgenkendelsesteknologier

Anvendelsen af ​​ansigtsgenkendelsesteknologier synes kun begrænset af vores fantasi. Mange af os tænker ikke på at bruge ansigtsgenkendelse til at låse vores elektroniske enheder op. Alligevel er teknologien også blevet afprøvet eller implementeret i hele Australien i en lang række situationer, herunder skoler, lufthavne, detailbutikker, klubber og spillesteder og retshåndhævelse.

Da brugen af ​​ansigtsgenkendelse vokser med anslået 20 % årligt, stiger risikoen for mennesker også – især i højrisikosammenhænge som politiarbejde.

I USA har afhængighed af fejltilbøjelige ansigtsgenkendelsesteknologier resulteret i adskillige tilfælde af uretfærdighed, især involverer sorte mennesker. Disse omfatter den uretmæssige anholdelse og tilbageholdelse af Robert Williams og den uretmæssige udelukkelse af en ung sort pige fra en rulleskøjtebane i Detroit.

Mange af verdens største teknologivirksomheder – inklusive Meta, Amazon og Microsoft – har reduceret eller indstillet deres ansigtsgenkendelsesrelaterede tjenester. De har nævnt bekymringer om forbrugernes sikkerhed og mangel på effektiv regulering.

Dette er prisværdigt, men det har også foranlediget en slags "regulatorisk markedsfejl." Mens disse virksomheder har trukket sig tilbage, har andre virksomheder med færre skrupler taget en større del af markedet for ansigtsgenkendelse.

Tag det amerikanske firma Clearview AI. Det skrabede milliarder af ansigtsbilleder fra sociale medier og andre websteder uden samtykke fra de berørte personer, og skabte derefter en ansigtsmatch-tjeneste, som det solgte til det australske føderale politi og andre retshåndhævende organer rundt om i verden.

I 2021 fandt den australske informations- og privatlivskommissær, at både Clearview AI og AFP havde overtrådt Australiens privatlivslovgivning, men håndhævelseshandlinger som denne er sjældne.

Australierne ønsker dog bedre regulering af ansigtsgenkendelse. Dette er blevet vist i den australske menneskerettighedskommissions 2021-rapport, 2022 CHOICE-undersøgelsen af ​​større detailhandleres brug af ansigtsgenkendelsesteknologi og i forskning, som vi på Human Technology Institute har bestilt som en del af vores modellov.

Muligheder for ansigtsgenkendelsesreform

Hvilke muligheder har Australien? Den første er at gøre ingenting. Men dette ville betyde, at vi accepterer, at vi vil være ubeskyttede mod skadelig brug af ansigtsgenkendelsesteknologier og holde os på vores nuværende bane mod masseovervågning.

En anden mulighed ville være at forbyde ansigtsgenkendelsesteknologi helt. Nogle jurisdiktioner har ganske vist indført moratorier for teknologien, men de indeholder mange undtagelser (til positiv brug), og er i bedste fald en midlertidig løsning.

Efter vores mening er den bedre reformmulighed en lov, der regulerer teknologier til ansigtsgenkendelse efter, hvor risikable de er. En sådan lov vil tilskynde til ansigtsgenkendelse med klar offentlig gavn, samtidig med at den beskytter mod skadelig brug af teknologien.

En risikobaseret lov for regulering af ansigtsgenkendelsesteknologi

Vores modellov vil kræve, at alle, der udvikler eller implementerer ansigtsgenkendelsessystemer i Australien, skal udføre en streng konsekvensanalyse for at evaluere menneskerettighedsrisikoen.

Efterhånden som risikoniveauet stiger, vil de lovmæssige krav eller restriktioner også blive det. Udviklere vil også være forpligtet til at overholde en teknisk standard for ansigtsgenkendelse, tilpasset internationale standarder for AI-ydeevne og god datastyring.

Modelloven indeholder et generelt forbud mod højrisikobrug af ansigtsgenkendelsesapplikationer. For eksempel ville en "ansigtsanalyse"-applikation, der foregav at vurdere enkeltpersoners seksuelle orientering og derefter træffe beslutninger om dem, være forbudt. (Desværre er dette ikke en fjern hypotetisk.)

Modelloven giver også tre undtagelser fra forbuddet mod højrisiko-ansigtsgenkendelsesteknologi:

1. tilsynsmyndigheden kan tillade en højrisikoansøgning, hvis den anser ansøgningen for at være berettiget i henhold til international menneskerettighedslovgivning
2. der ville være en specifik juridisk ordning for retshåndhævende myndigheder, herunder en "ansigtskendelsesordning", der ville give uafhængigt tilsyn som med andre sådanne kendelser
3. højrisikoapplikationer kan bruges i akademisk forskning med passende tilsyn.

Gennemgang af regulatoren og berørte personer

Enhver lov skal håndhæves af en regulator med passende beføjelser og ressourcer. Hvem skal det være?

Størstedelen af ​​de interessenter, vi konsulterede – inklusive erhvervsbrugere, teknologivirksomheder og repræsentanter for civilsamfundet – foreslog, at Office of the Australian Information Commissioner (OAIC) ​​ville være velegnet til at være regulator af ansigtsregulering. For visse, følsomme brugere – såsom militæret og visse sikkerhedsagenturer – skal der muligvis også være et specialiseret tilsynsregime.

Øjeblikket for reform er nu

Aldrig har vi set så mange grupper og enkeltpersoner fra hele civilsamfundet, industrien og regeringen så engagerede og tilpassede behovet for en reform af ansigtsgenkendelsesteknologi. Dette afspejles i støtte til modelloven fra både Technology Council of Australia og CHOICE.

I betragtning af den ekstraordinære stigning i brugen af ​​ansigtsgenkendelse og en voksende konsensus blandt interessenter, bør den føderale justitsminister gribe dette øjeblik og lede en national reform. Den første prioritet er at indføre et føderalt lovforslag - som nemt kunne være baseret på vores modellov. Attorney-general bør også samarbejde med stater og territorier for at harmonisere australsk lov om ansigtsgenkendelse.

Denne foreslåede reform er vigtig på sine egne præmisser:Vi kan ikke tillade, at ansigtsgenkendelsesteknologier forbliver reelt uregulerede. Det vil også demonstrere, hvordan Australien kan bruge loven til at beskytte mod skadelig brug af ny teknologi, samtidig med at det tilskynder innovation til offentlig gavn.

Mere information om modelloven kan findes i vores rapport "Ansigtsgenkendelsesteknologi:Mod en modellov." + Udforsk yderligere

Ny rapport tilbyder blueprint for regulering af ansigtsgenkendelsesteknologi

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.