QLD-politiet vil bruge kunstig intelligens til at forudsige vold i hjemmet, før det sker:Pas på de utilsigtede konsekvenser

Queensland Police Service (QPS) forventes at påbegynde en retssag ved hjælp af kunstig intelligens (AI) for at bestemme den fremtidige risiko, som kendte voldsudøvere i hjemmet udgør.

Gerningsmænd identificeret som "høj risiko" - baseret på tidligere opkald til en adresse, tidligere kriminel aktivitet og andre politidata – vil blive besøgt hjemme af politiet, før volden i hjemmet eskalerer, og før nogen forbrydelse er blevet begået.

Det er nødvendigt at finde bedre måder at forbedre sikkerheden for kvinder, der er udsat for vold i hjemmet. Imidlertid, Brug af kunstig intelligens i denne sammenhæng kan have utilsigtede konsekvenser - og den foreslåede plan rejser alvorlige spørgsmål om politiets rolle i forebyggelsen af ​​vold i hjemmet.

Tilgangen er baseret på en algoritme, der er udviklet ud fra eksisterende QPS administrative data (QPRIME). Alle statistiske algoritmer skal vurdere risiko baseret på tilgængelige data, hvilket igen betyder, at de kun er så gode som de data, der understøtter dem.

Eksperter, der kritiserer brugen af ​​datadrevne risikovurderingsværktøjer i politiarbejdet, peger på manglen på gennemsigtighed i de specifikke typer af analyserede data, samt hvordan forudsigelser baseret på disse data bliver handlet.

På grund af hvordan politiet arbejder, de vigtigste data, der er mest konsekvent fanget, er oplysninger om tidligere situationer, politiet er blevet kaldt til, og kriminalhistoriedata.

Brug af disse oplysninger til at træne en AI-algoritme kan forstærke eksisterende skævheder i det strafferetlige system. Det kunne skabe en endeløs feedback-loop mellem politiet og de medlemmer af offentligheden, der har mest kontakt med politiet.

I Australien, de er aboriginal og Torres Strait Islander folk. Det er ikke svært at forestille sig, at under dette nye regime vil aboriginerne og øboerne i Torres Strait blive besøgt mere af politiet.

QPS-repræsentant Ben Martain har sagt, at politiet ikke vil være i stand til at sigte en, som de banker på døren for en fremtidig mistænkt lovovertrædelse.

Han sagde også til piloten, attributter for etnicitet og geografisk placering blev fjernet før træning af AI-modellen. Men på trods af dette, Det ser ud til, at aboriginal- og Torres Strait Islander-befolkningen fortsat vil være uforholdsmæssigt målrettet, da de er overrepræsenteret på tværs af alle former for politikontakt.

Introduktion af risiko

Formålet med sådanne AI-baserede strategier i politiarbejdet er at forebygge eller reducere kriminalitet, gennem en vurdering af risikoen for fremtidige krænkelser. I teorien, Det betyder, at politiet ville gribe tidligt ind for at forhindre en forbrydelse i at opstå i første omgang.

Imidlertid, med denne tilgang er der risici, politiet kan skab forbrydelse. En uopfordret dørbank på politiet ville være uvelkommen i de fleste husstande - endsige en, hvor politiet tidligere har været til stede for at foretage ransagninger eller foretage anholdelser.

I dette "forebyggende" program, gerningsmænd og de ofre, de bor sammen med, kan være nervøse, ophidsede eller endda vred over politiets indbrud i deres hjem uden nogen åbenbar grund.

En besøgt person kan bruge stødende sprog eller nægte at oplyse sit navn. Det ville ikke være overraskende, hvis dette førte til sigtelser.

Sådanne anklager kan få den besøgte til at blive endnu mere nervøs, ophidset eller vred, og så kan de finde ud af, at de er sigtet for overfald og modstand mod politiet. Dette er populært kendt som "trifecta", hvor en person, der ellers ikke har krænket, i sidste ende sigtes for stødende sprogbrug, modsætte sig anholdelse og overfalde politiet.

Standardbeføjelserne i politiets værktøjskassen er at anholde og sigte. Med QPS' foreslåede plan, der er en åbenlys risiko for at udvide kriminaliseringsnettet for begge gerningsmænd, samt ofre, der kan være fejlidentificeret som gerningsmænd. For eksempel, nogle gange er ofre, der har brugt vold i selvforsvar, blevet anholdt i stedet for gerningsmanden.

At bringe yderligere skade på ofrene

Offerets rolle i et sådant program er også bekymrende. Ethvert program, der uddyber overvågningen af ​​gerningsmænd, uddyber også overvågningen af ​​ofre.

Ofrene ønsker ikke altid, at politiet griber ind i deres liv. I nogle tilfælde, denne form for proaktiv politiarbejde kan føles som en forlængelse af kontrol, frem for at hjælpe. Hvad sker der, når politiet besøger og opdager, at en højrisikogerningsmand og et offer lever sammen igen?

Ofre kan frygte, at børnebeskyttelsesmyndighederne vil blive involveret og føle sig forpligtet til at dække over, at de stadig er sammen med gerningsmanden. Og når først et offer er blevet presset til at lyve, de kan være tilbageholdende med at ringe til politiet, næste gang de har brug for politiets indgriben.

I nogle tilfælde, gerningsmanden eller offeret kan beslutte ikke at følge sikkerhedsrådene fra politibetjente, der besøger. Det er ikke klart, hvad politiet kan gøre i en situation, hvor de beder en gerningsmand om at gå, eller forsøge at bringe et offer i sikkerhed, men de nægter.

Missionen for enhver voldsintervention i hjemmet bør være at genoprette magten til ofrene. Men vi ved, at interventioner ikke hjælper alle kvinder (eller mænd) lige meget. Strukturelle uligheder, inklusive race og klasse, betyder interventioner opleves forskelligt af forskellige mennesker.

Vil et offer have indflydelse på, om politiet engagerer sig i proaktivt politiarbejde af deres gerningsmand? Skal de have noget at sige?

Er der mere sikre muligheder?

I forbindelse med risikovurdering, mange eksperter hævder, at kvinder ofte (men ikke altid) har en stærk følelse af, hvornår de er i øget risiko.

Familieretsbeordrede kontaktbesøg kan være et af de øjeblikke med høj risiko. Alligevel rapporterer kvinder i disse situationer ofte, at politiet nægter at hjælpe med at beskytte dem og deres børn. Hvordan inddrages offerets stemme i risikovurderingen med dette værktøj?

En særlig bekymring er, om politiet virkelig er rustet til at gribe ind under omstændigheder, hvor der ikke er tale om kriminalitet. QPS-repræsentant Ben Martain sagde, når gerningsmændene "ikke er på et krisepunkt, i en forhøjet følelsesmæssig tilstand, eller påvirket af stoffer eller alkohol" - de er "generelt mere modtagelige for at genkende dette som en vendepunktsmulighed i deres liv."

Men politiet har selv sat spørgsmålstegn ved deres rolle i forhold til vold i hjemmet - i stedet for at fremhæve den potentielle rolle, socialarbejdere kan have, i deres sted.

Det er ikke klart, om politiet er den bedst positionerede tjeneste til at gribe ind, når der ikke er identificeret uroligheder. Queensland har allerede protokoller for informationsdeling, der involverer teams, der specifikt har til opgave at reagere på mennesker, der er involveret i højrisikoforhold med vold i hjemmet. Disse teams omfatter fællesskabsbaserede støttemedarbejdere.

Dette kan være en bedre vej til intervention i disse kritiske perioder med ro.

Denne artikel er genudgivet fra The Conversation under en Creative Commons -licens. Læs den originale artikel.