Hvordan teknologi til ansigtsgenkendelse bruges i Ukraine, og hvorfor den stadig er så kontroversiel

Ansigtsgenkendelsesteknologi bliver brugt i krigsførelse for første gang. Det kunne være en game changer i Ukraine, hvor det bliver brugt til at identificere de døde og genforene familier. Men hvis vi undlader at kæmpe med etikken i denne teknologi nu, kan vi befinde os i et menneskerettighedsminefelt.

Ukraines forsvarsministerium har brugt Clearview AI ansigtsgenkendelsessoftware siden marts 2022 til at opbygge en sag for krigsforbrydelser og identificere de døde – både russiske og ukrainske. Ministeriet for Digital Transformation i Ukraine sagde, at det bruger Clearview AI-teknologi til at give russere chancen for at opleve de "sande omkostninger ved krigen", og for at lade familier vide, at hvis de ønsker at finde deres kæres kroppe, er de " velkommen til at komme til Ukraine".

Ukraine får gratis adgang til softwaren. Det bliver også brugt ved kontrolposter og kan hjælpe med at genforene flygtninge med deres familier.

Privatlivsreaktionen

I sidste måned idømte UK Information Commissioner's Office (ICO) imidlertid Clearview AI en bøde på mere end £7,5 millioner for at indsamle billeder af mennesker i Storbritannien og andre steder fra nettet og sociale medier. Det blev beordret til at slette billederne og stoppe med at indhente og bruge personlige data om britiske beboere, der er offentligt tilgængelige på internettet. Oprindeligt sagde ICO, at den havde til hensigt at bøde Clearview AI på 17 millioner pund.

Ifølge ICO vil Clearview AI's ansigtsdatabase sandsynligvis i betragtning af det enorme antal britiske sociale medier-brugere indeholde en betydelig mængde billeder indsamlet uden samtykke.

En advokat for Clearview, AI Lee Wolosky, sagde:"Selvom vi værdsætter ICO's ønske om at reducere deres pengestraf på Clearview AI, står vi ikke desto mindre ved vores holdning om, at beslutningen om at pålægge en bøde er ukorrekt som lovmæssigt. Clearview AI er ikke underlagt ICO's jurisdiktion, og Clearview AI driver ingen forretning i Storbritannien på nuværende tidspunkt."

Clearview AI har sagt, at det vil have 100 milliarder ansigtsbilleder i sin database i begyndelsen af ​​2023 - svarende til 14 for hver person på Jorden. Flere billeder af den samme person forbedrer systemets nøjagtighed.

Ifølge Clearview AI's hjemmeside hjælper dens ansigtsgenkendelsesteknologi retshåndhævelse med at tackle kriminalitet og gør det muligt for transportvirksomheder, banker og andre kommercielle virksomheder at opdage tyveri, forhindre svindel og verificere identiteter.

Buzzfeed rapporterede i februar 2020, at flere britiske politistyrker tidligere har brugt Clearview AI. En talskvinde for Clearview AI sagde, at politiet i Storbritannien ikke har adgang til dets teknologi, mens talsmænd for både National Crime Agency og Metropolitan politi hverken vil bekræfte eller afvise brugen af ​​specifikke værktøjer eller teknikker. Men i marts 2022 offentliggjorde College of Policing en ny vejledning til britiske politistyrker om brugen af ​​levende ansigtsgenkendelse.

Den britiske regering planlægger at erstatte vigtige menneskerettighedslove med en ny Modern Bill of Rights, som kan gøre det vanskeligt, hvis ikke umuligt, for folk at anfægte beslutninger baseret på AI-beviser i retten, herunder ansigtsgenkendelse.

Ifølge fortalergruppen Liberty vil lovforslaget sandsynligvis have en uforholdsmæssig stor indvirkning på overpolitiserede samfund, da det ville skabe forskellige klasser af sagsøgere baseret på deres tidligere adfærd.

Et værktøj til krigsførelse

Clearview AI's administrerende direktør Hoan Ton-That sagde, at deres ansigtsgenkendelsessoftware har gjort det muligt for ukrainske retshåndhævende myndigheder og embedsmænd at gemme mere end 2 milliarder billeder fra VKontakte, en russisk social netværkstjeneste. Hoan sagde, at softwaren kan hjælpe ukrainske embedsmænd med at identificere døde soldater mere effektivt end fingeraftryk og virker, selvom en soldats ansigt er beskadiget.

Men der er modstridende beviser om ansigtsgenkendelsessoftwares effektivitet. Ifølge det amerikanske energiministerium kan nedbrydning af en persons ansigt reducere softwarens nøjagtighed. På den anden side viste nyere videnskabelig forskning resultater vedrørende identifikation af døde mennesker, der lignede eller bedre end menneskelig vurdering.

Forskning tyder på, at fingeraftryk, tandjournaler og DNA stadig er de mest pålidelige identifikationsteknikker. Men de er værktøjer for uddannede fagfolk, mens ansigtsgenkendelse kan bruges af ikke-eksperter.

Et andet problem, der er markeret af forskning, er, at ansigtsgenkendelse ved en fejl kan parre to billeder eller ikke matche billeder af den samme person. I Ukraine kan konsekvenserne af enhver potentiel fejl med kunstig intelligens være katastrofale. En uskyldig civil kan blive dræbt, hvis de fejlidentificeres som en russisk soldat.

En kontroversiel historie

I 2016 begyndte Hoan at rekruttere datalogiske ingeniører til at skabe Clearview AI's algoritme. Men det var først i 2019, at det amerikanske ansigtsgenkendelsesfirma diskret begyndte at levere sin software til amerikansk politi og retshåndhævende myndigheder.

I januar 2020, New York Times udgav sin historie:'The Secretive Company That Might End Privacy as We Know It'. Denne artikel fik mere end 40 borgerrettigheds- og teknologiorganisationer til at sende et brev til Privacy and Civil Liberties Oversight Board og fire amerikanske kongresudvalg med krav om suspension af Clearview AI's ansigtsgenkendelsessoftware.

I februar 2020, efter et datalæk af Clearview AI's kundeliste, afslørede BuzzFeed, at Clearview AI's ansigtsgenkendelsessoftware blev brugt af enkeltpersoner i mere end 2.200 retshåndhævende afdelinger, offentlige myndigheder og virksomheder i 27 forskellige lande.

Den 9. maj 2022 indvilligede Clearview AI i at stoppe med at sælge adgang til sin ansigtsdatabase til enkeltpersoner og virksomheder i USA, efter at American Civil Liberties Union indledte en retssag, der beskyldte Clearview AI for at overtræde en privatlivslov i Illinois.

I løbet af de sidste to år har databeskyttelsesmyndighederne i Canada, Frankrig, Italien, Østrig og Grækenland alle idømt bøder, undersøgt eller forbudt Clearview AI i at indsamle billeder af mennesker.

Fremtiden for Clearview AI i Storbritannien er usikker. Det værst tænkelige scenarie for almindelige mennesker og virksomheder ville være, hvis den britiske regering undlader at tage hensyn til de bekymringer, der er rejst som svar på dens høring om den moderne Bill of Rights. Liberty har advaret om et potentielt menneskerettighedsgreb.

Det bedste resultat, efter min mening, ville være, at den britiske regering skrottede sine planer om en Modern Bill of Rights. Dette ville også betyde, at britiske domstole fortsat bør tage hensyn til sager fra Den Europæiske Menneskerettighedsdomstol som retspraksis.

Medmindre der vedtages love, der regulerer brugen af ​​ansigtsgenkendelse, risikerer politiets brug af denne teknologi at krænke privatlivsrettigheder, databeskyttelse og ligestillingslovgivning.