Ny rapport tilbyder blueprint for regulering af ansigtsgenkendelsesteknologi

En ny rapport fra University of Technology Sydney (UTS) Human Technology Institute skitserer en modellov for ansigtsgenkendelsesteknologi for at beskytte mod skadelig brug af denne teknologi, men også fremme innovation til offentlig gavn.

Australsk lov blev ikke udarbejdet med udbredt brug af ansigtsgenkendelse i tankerne. Ledet af UTS-industriprofessorerne Edward Santow og Nicholas Davis anbefaler rapporten reformer for at modernisere australsk lovgivning, især for at imødegå trusler mod privatlivets fred og andre menneskerettigheder.

Ansigtsgenkendelse og andre fjerntliggende biometriske teknologier er vokset eksponentielt i de seneste år, hvilket har givet anledning til bekymringer om privatlivets fred, masseovervågning og uretfærdighed, især af farvede og kvinder, når teknologien laver fejl.

I juni 2022 afslørede en undersøgelse foretaget af forbrugeradvokatgruppen CHOICE, at flere store australske detailhandlere brugte ansigtsgenkendelse til at identificere kunder, der gik ind i deres butikker, hvilket førte til en betydelig alarm i lokalsamfundet og opfordringer til forbedret regulering. Der har også været udbredte opfordringer til reform af loven om ansigtsgenkendelse – i Australien og internationalt.

Denne nye rapport reagerer på disse opfordringer. Den anerkender, at vores ansigter er specielle i den forstand, at mennesker er stærkt afhængige af hinandens ansigter for at identificere og interagere. Denne tillid gør os særligt sårbare over for menneskerettighedsbegrænsninger, når denne teknologi misbruges eller overbruges.

"Når ansigtsgenkendelsesapplikationer er designet og reguleret godt, kan der være reelle fordele, der hjælper med at identificere mennesker effektivt og i stor skala. Teknologien bruges i vid udstrækning af mennesker, der er blinde eller har en synsnedsættelse, hvilket gør verden mere tilgængelig for disse grupper. ," sagde professor Santow, den tidligere australske menneskerettighedskommissær og nu meddirektør for Human Technology Institute.

"Denne rapport foreslår en risikobaseret modellov for ansigtsgenkendelse. Udgangspunktet bør være at sikre, at ansigtsgenkendelse udvikles og bruges på måder, der opretholder folks grundlæggende menneskerettigheder," sagde han.

"Mulighederne i vores nuværende lovgivning har skabt en slags regulatorisk markedssvigt. Mange respekterede virksomheder har trukket sig tilbage fra at tilbyde ansigtsgenkendelse, fordi forbrugerne ikke er ordentligt beskyttet. De virksomheder, der stadig tilbyder på dette område, er ikke forpligtet til at fokusere på de grundlæggende rettigheder af mennesker, der er berørt af denne teknologi," sagde professor Davis, et tidligere medlem af eksekutivkomiteen ved World Economic Forum i Genève og meddirektør for Human Technology Institute.

"Mange civilsamfundsorganisationer, regeringer og mellemstatslige organer og uafhængige eksperter har slået alarm om farerne forbundet med nuværende og forudsagte brug af ansigtsgenkendelse," sagde han.

Denne rapport opfordrer den australske justitsminister Mark Dreyfus til at lede en national reformproces for ansigtsgenkendelse. Dette bør starte med at indføre et lovforslag i det australske parlament baseret på modellovgivningen i rapporten.

Rapporten anbefaler også at tildele regulatorisk ansvar til Office of the Australian Information Commissioner for at regulere udviklingen og brugen af ​​denne teknologi i den føderale jurisdiktion med en harmoniseret tilgang i stater og territorier.

Modelloven angiver tre niveauer af risiko for menneskerettigheder for personer, der er berørt af brugen af ​​en bestemt ansigtsgenkendelsesteknologiapplikation, såvel som risici for det bredere samfund.

I henhold til modelloven skal enhver, der udvikler eller implementerer ansigtsgenkendelsesteknologi, først vurdere niveauet af menneskerettighedsrisiko, der ville gælde for deres anvendelse. Denne vurdering kan så anfægtes af medlemmer af offentligheden og tilsynsmyndigheden.

På baggrund af risikovurderingen opstiller modelloven derefter et kumulativt sæt lovkrav, begrænsninger og forbud.

Rapporten, Facial Recognition Technology:towards a model law, er blevet medforfattet af professor Nicholas Davis, professor Edward Santow og Lauren Perry fra Human Technology Institute, UTS. + Udforsk yderligere

Oakland, Californien, forhindrer byen i at bruge teknologi til ansigtsgenkendelse