AI kunne revolutionere DNA-beviser - men lige nu kan vi ikke stole på maskinerne

DNA-beviser er ofte ikke så vandtætte, som mange mennesker tror. Følsomme teknikker udviklet gennem de sidste 20 år betyder, at politiet nu kan opdage små spor af DNA på et gerningssted eller på et bevis. Men spor fra en gerningsmand er ofte blandet med spor fra mange andre mennesker, der er blevet overført til prøvestedet, for eksempel via et håndtryk. Og dette problem har ført til, at folk er blevet fejlagtigt dømt.

Forskere har udviklet algoritmer til at adskille denne DNA-suppe og måle de relative mængder af hver persons DNA i en prøve. Disse "probabilsitic genotyping" -metoder har gjort det muligt for retsmedicinske efterforskere at angive, hvor sandsynligt det er, at en persons DNA blev inkluderet i en blandet prøve, der blev fundet på gerningsstedet.

Og nu, mere sofistikerede kunstig intelligens (AI) teknikker er ved at blive udviklet i et forsøg på at udtrække DNA-profiler og forsøge at finde ud af, om en DNA-prøve kom direkte fra en person, der var på gerningsstedet. eller om det bare var blevet uskyldigt overført.

Men hvis denne teknologi lykkes, det kunne introducere et nyt problem, fordi det i øjeblikket er umuligt at forstå præcis, hvordan denne AI når sine konklusioner. Og hvordan kan vi stole på, at teknologien kan levere vitale beviser, hvis vi ikke kan forhøre, hvordan den i første omgang frembragte dette bevis? Det har potentiale til at åbne vejen for endnu flere retfærdige aborter, og derfor kan denne mangel på gennemsigtighed være en barriere for teknologiens brug i retsmedicinske undersøgelser.

Lignende udfordringer dukkede op, da DNA-analysesoftware først blev udviklet for et årti siden. Beviser afledt af DNA-blandingssoftware løb meget hurtigt ind i udfordringer fra forsvarshold (inklusive OJ Simpsons), som var bekymrede for, at anklagemyndigheden skulle påvise, at softwaren var korrekt valideret.

Hvor præcise var resultaterne, og hvad var den kendte fejlrate? Hvordan fungerede softwaren nøjagtigt, og kunne den rumme forsvarshypoteser? Var resultaterne virkelig så pålidelige, at en jury sikkert kunne dømme?

Det er en grundlæggende princip i loven, at beviser skal være åbne for kontrol. Juryen kan ikke stole på skaldede påstande (påstande fremsat uden beviser), uanset hvem der laver dem, og hvilken ekspertise de har. Men ejerne af softwaren hævdede, at det var deres beskyttede intellektuelle ejendomsret, og hvordan det fungerede, skulle ikke offentliggøres.

En kamp fulgte, der involverede brugen af ​​nye domstolsprocedurer for at give forsvarshold mulighed for privat at undersøge, hvordan softwaren fungerede. Endelig, domstolene blev overbevist om, at fuld adgang til kildekoden var nødvendig, ikke mindst for at teste andre hypoteser end dem, anklagemyndigheden fremsætter.

Men softwaren har ikke helt løst problemerne med DNA-blandinger og små, nedbrudte prøver. Vi ved stadig ikke endeligt, om DNA'et i en prøve kom direkte fra en person eller blev overført dertil. Dette kompliceres af det faktum, at forskellige mennesker kaster DNA i forskellige hastigheder - et fænomen kendt som deres "kasterstatus".

For eksempel, en prøve taget fra et mordvåben kan indeholde mere DNA fra en person, der ikke har rørt det, end fra den person, der rent faktisk begik mordet. Folk er blevet sigtet for alvorlige lovovertrædelser på grund af dette.

Tilføj det faktum, at DNA overføres med forskellige hastigheder på tværs af forskellige overflader og under forskellige miljøforhold, og det kan blive næsten umuligt at vide præcis, hvor DNA i en prøve kom fra. Dette problem med "overførsel og persistens" truer med alvorligt at underminere retsmedicinsk DNA.

Som resultat, eksperimenter er i gang for at finde måder til mere præcist at kvantificere DNA -overførsel under forskellige omstændigheder. Og AI har potentialet til at analysere dataene fra disse eksperimenter og bruge dem til at angive oprindelsen af ​​DNA i en prøve.

Men AI-baseret software har et endnu større gennemsigtighedsproblem, end probabilistisk genotypesoftware gjorde, og en, der i øjeblikket er grundlæggende for den måde, det fungerer på. Den nøjagtige måde, softwaren fungerer på, er ikke bare en kommerciel hemmelighed - det er uklart, selv for softwareudviklerne.

Gennemsigtighedsspørgsmål

AI bruger matematiske algoritmer til at fuldføre opgaver såsom at matche et ansigtsudtryk til et bestemt sæt følelser. Men, afgørende, den er i stand til at lære gennem en proces med forsøg og fejl og manipulerer gradvist sine underliggende algoritmer for at blive mere effektiv.

Det er denne manipulations- og forandringsproces, der ikke altid er gennemsigtig. Softwaren foretager sine ændringer utroligt hurtigt i henhold til sin egen uigenkendelige logik. Det kan give fantastisk effektive resultater, men vi kan ikke sige, hvordan det gjorde det. Det fungerer som en sort boks, der tager input og giver output, men hvis indre virke er usynlige. Programmerere kan gennemgå en klarere udviklingsproces, men den er langsommere og mindre effektiv.

Dette gennemsigtighedsproblem påvirker mange bredere anvendelser af kunstig intelligens. For eksempel, det gør det meget vanskeligt at korrigere AI-systemer, hvis beslutninger viser en racemæssig eller kønsmæssig skævhed, sådanne, der plejede at sile medarbejdernes genoptagelser, eller at målrette politiets ressourcer.

Og fremkomsten af ​​AI-drevet DNA-analyse vil tilføje en yderligere dimension til de problemer, der allerede er stødt på. Forsvarsadvokater kunne med rette udfordre brugen af ​​denne teknologi, selvom brugen er begrænset til efterretningsindsamling i stedet for at fremlægge retsforfølgende beviser. Medmindre problemer med gennemsigtighed løses på et tidligt stadium, hindringerne for brug af kunstig intelligens på det retsmedicinske område kan vise sig at være uoverstigelige.

Hvordan kan vi tackle disse udfordringer? En mulighed kan være at vælge de mindre effektive, begrænsede former for AI. Men hvis formålet med kunstig intelligens er at udføre de opgaver, vi er mindre i stand til eller mindre villige til selv, så kan reducering af effektiviteten være en dårlig løsning. Uanset hvilken form for AI vi vælger at bruge, inden for et kontradiktorisk system for strafferet skal der være mulighed for revision, at ombygge alle automatiserede beslutninger, og for tredjeparter til at give en utvetydig validering.

Ultimativt, dette er ikke kun et teknisk problem, men et presserende etisk problem, der går til hjertet af vores strafferetlige systemer. På spil er retten til en messe, åben og gennemsigtig prøve. Dette er et grundlæggende krav, der skal imødekommes, inden det teknologiske fremskridts stormløb bringer os forbi det punkt, hvor vi ikke vender tilbage.

Denne artikel er genudgivet fra The Conversation under en Creative Commons -licens. Læs den originale artikel.