Id foretrækker et ankelmærke:Hvorfor hjemmekarantæneapps er en dårlig idé

South Australia har påbegyndt en prøveversion af en ny COVID-app til at overvåge ankomster til staten. SA Premier Steven Marshall hævdede "enhver sydaustralier burde føle sig ret stolt over, at vi er den nationale pilot for den hjemmebaserede karantæne-app."

Han fordoblede derefter med at prale af, at han var "temmelig sikker på, at den teknologi, vi har udviklet inden for den sydlige australske regering, vil blive den nationale standard og vil blive rullet ud over hele landet."

Victoria har også annonceret forestående "teknologisk understøttet" hjemmekarantæne, selvom detaljerne er uklare. Hjemmekarantæne vil efterhånden også være tilgængelig for internationale ankomster, ifølge premierminister Scott Morrison.

Den sydaustralske app har fået lidt opmærksomhed i Australien, men i USA kaldte det venstreorienterede Atlantic-magasin det "så orwellsk som noget andet i den frie verden". Højreorienterede forretninger som Fox News og Breitbart sluttede sig også til angrebet, og for en gangs skyld er jeg enig med dem.

Lokationssporing og ansigtsgenkendelse

På trods af SA Premiers påstande, dette er ikke den første sådan app, der bliver brugt i Australien. En lignende hjemmekarantæne-app er allerede i brug ved ankomster til WA, og i nogle tilfælde Northern Territory.

Begge apps bruger geolocation og ansigtsgenkendelsessoftware til at spore og identificere dem i karantæne. Brugere skal bevise, at de er hjemme, når applikationen tilfældigt bliver bedt om det.

I SA, du har 15 minutter til at få ansigtsgenkendelsessoftwaren til at bekræfte, at du stadig er hjemme. I WA, det er mere et løb. Du har kun 5 minutter, før du risikerer at banke på døren fra politiet.

En anden forskel er, at SA-appen er opt-in. I øjeblikket. WA-appen er allerede obligatorisk for ankomster fra højrisikoområder som Victoria. For ekstreme risikoområder som NSW, det er lige ind i et karantænehotel.

Grunde til bekymring

Men hvorfor udvikler vi sådanne apps til hjemmekarantæne i første omgang, når vi allerede har en billig teknologi til at gøre dette? Hvis vi vil overvåge, at folk er hjemme (og det er en stor hvis ), ville et af de ankelmærker, der allerede bruges af vores korrigerende tjenester til hjemmefængsling, ikke være meget enklere, sikrere og mere robust?

Der er mange grunde til at være bekymret over apps til hjemmekarantæne.

Først, de vil sandsynligvis være meget nemmere at hacke end ankelmærker. Hvor mange af os har hacket geo-blokke for at få adgang til Netflix i USA, eller for at se andet digitalt indhold fra et andet land? At forfalske GPS-placering på en smartphone er ikke meget sværere.

Sekund, ansigtsgenkendelsessoftware er ofte mangelfuld, og er ofte forudindtaget mod farvede mennesker og mod kvinder. Dokumentaren Coded Bias gør et godt stykke arbejde med at fjerne disse skævheder.

Trods mange års indsats, selv de store teknologigiganter som Google og Amazon har ikke været i stand til at fjerne disse skævheder fra deres software. Jeg har lidt håb for SA-regeringen eller WA-virksomheden GenVis, udviklerne af de to australske hjemmekarantæne-apps, vil have gjort det bedre.

Ja, den australske menneskerettighedskommission har opfordret til et moratorium for brugen af ​​ansigtsgenkendelsessoftware i højrisikomiljøer som f.eks. politi, indtil bedre regulering er på plads for at beskytte menneskerettigheder og privatliv.

Tredje, der skal være en meget mere detaljeret og offentlig debat omkring spørgsmål som privatliv, og sikkerhedsforanstaltninger, der er på plads baseret på denne diskussion, forud for den anvendte teknologi.

Med COVID-indtjekningsapps, vi blev lovet, at dataene kun ville blive brugt til folkesundhedsformål. Men politistyrker rundt omkring i Australien har tilgået disse oplysninger til andre formål ved mindst seks lejligheder. Dette undergraver alvorligt offentlighedens tillid til og brug af sådanne apps.

Før den blev lanceret, Commonwealths COVIDSafe-app fik lovgivne forbud på plads mod brugen af ​​de indsamlede data til alt andet end kontaktsporing. Dette gav os måske en falsk følelse af sikkerhed, da de statsproducerede COVID-indtjekningsapps ikke havde nogen sådanne juridiske sikkerhedsforanstaltninger. Kun nogle stater har med tilbagevirkende kraft indført lovgivning for at give sådanne beskyttelser.

Fjerde, vi er nødt til at bekymre os om, hvordan software som denne legitimerer teknologier som ansigtsgenkendelse, der i sidste ende eroderer grundlæggende rettigheder såsom retten til privatliv.

Hvis hjemmekarantæne-apps fungerer korrekt, vil de åbne døren for, at ansigtsgenkendelse kan bruges i andre omgivelser? For at identificere butiksløftere? At give adgang til velfærd? Eller til sundhedsvæsenet? Hvilken orwellsk verden vil dette føre os til?

Farerne ved ansigtsgenkendelse

I Kina, vi har allerede set ansigtsgenkendelsessoftware brugt til at overvåge og forfølge det uighurske mindretal. I USA, mindst tre sorte mennesker er allerede uretmæssigt endt i fængsel på grund af ansigtsgenkendelsesfejl.

Ansigtsgenkendelse er en teknologi, der er farlig, hvis den ikke virker (som det ofte er tilfældet). Og farligt, hvis det gør. Det ændrer hastigheden, omfang og omkostninger ved overvågning.

Med ansigtsgenkendelsessoftware bag de CCTV-kameraer, der findes på mange gadehjørner, du kan følges 24/7. Du er ikke længere anonym, når du går ud i butikkerne. Eller når du protesterer over, at sorte liv betyder noget eller klimanødsituationen.

Højteknologi er ikke løsningen

Højteknologisk software som ansigtsgenkendelse er ikke en løsning på de problemer, der har plaget Australiens reaktion på pandemien. Det kan ikke afhjælpe den manglende køb af vacciner, manglende bygning af dedikerede karantænefaciliteter, eller indbyrdes kampe og point-scoring mellem stater og med Commonwealth.

Jeg troede aldrig jeg skulle sige det her, men alt i alt, Jeg tror, ​​jeg foretrækker et ankelmærke. Og hvis billedet af ankelmærket virker for foruroligende for dig, vi kunne gøre, hvad Hong Kong har gjort, og gøre det til et armbånd.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.