Deepfakes rangeret som den mest alvorlige AI-kriminalitetstrussel

Falsk lyd- eller videoindhold er af eksperter blevet rangeret som den mest bekymrende brug af kunstig intelligens i forhold til dets potentielle anvendelser for kriminalitet eller terrorisme, ifølge en ny UCL-rapport.

Studiet, udgivet i Kriminalvidenskab og finansieret af Dawes Center for Future Crime ved UCL (og tilgængelig som en policy briefing), identificeret 20 måder AI kunne bruges til at lette kriminalitet i løbet af de næste 15 år. Disse blev rangeret i rækkefølge af bekymring – baseret på den skade, de kunne forårsage, potentialet for kriminel fortjeneste eller vinding, hvor nemme de ville være at udføre, og hvor svære de ville være at stoppe.

Forfattere sagde, at falsk indhold ville være svært at opdage og stoppe, og at det kunne have en række forskellige formål – fra at miskreditere en offentlig person til at udvinde midler ved at efterligne et pars søn eller datter i et videoopkald. Sådant indhold, de sagde, kan føre til en udbredt mistillid til lyd- og billedmateriale, hvilket i sig selv ville være en samfundsskade.

Bortset fra falsk indhold, fem andre AI-aktiverede forbrydelser blev vurderet til at give anledning til stor bekymring. Disse brugte førerløse køretøjer som våben, hjælpe med at lave mere skræddersyede phishing-beskeder (spear phishing), forstyrre AI-kontrollerede systemer, indsamling af onlineinformation med henblik på storstilet afpresning, og AI-forfattet falske nyheder.

Seniorforfatter professor Lewis Griffin (UCL Computer Science) sagde:"Efterhånden som AI-baserede teknologiers muligheder udvides, det samme har deres potentiale for kriminel udnyttelse. For at forberede sig tilstrækkeligt på mulige AI-trusler, vi er nødt til at identificere, hvad disse trusler kan være, og hvordan de kan påvirke vores liv."

Forskere kompilerede de 20 AI-aktiverede forbrydelser fra akademiske artikler, nyheder og aktualitetsrapporter, og fiktion og populærkultur. De samlede derefter 31 personer med ekspertise inden for kunstig intelligens til to dages diskussioner for at rangere alvoren af ​​de potentielle forbrydelser. Deltagerne var hentet fra den akademiske verden, den private sektor, politiet, regeringen og statslige sikkerhedsorganer.

Forbrydelser, der var af medium bekymring, omfattede salg af varer og tjenester, der svigagtigt var mærket som "AI", såsom sikkerhedsscreening og målrettet annoncering. Disse ville være nemme at opnå, med potentielt store overskud.

Forbrydelser af lav bekymring omfattede indbrudsrobotter - små robotter, der blev brugt til at få adgang til ejendomme gennem adgangspunkter såsom brevkasser eller kattelemme - som blev vurderet til at være lette at besejre, for eksempel gennem postkassebure, og AI-assisteret stalking, hvilken, selvom det er ekstremt skadeligt for enkeltpersoner, kunne ikke fungere i skala.

Førsteforfatter Dr. Matthew Caldwell (UCL Computer Science) sagde:"Folk udfører nu store dele af deres liv online, og deres onlineaktivitet kan skabe og ødelægge omdømmet. Sådan et online miljø, hvor data er ejendom og informationsmagt, er ideel til udnyttelse af AI-baseret kriminel aktivitet.

"I modsætning til mange traditionelle forbrydelser, forbrydelser i den digitale verden kan nemt deles, gentaget, og endda solgt, give mulighed for at markedsføre kriminelle teknikker, og at kriminalitet kan leveres som en service. Det betyder, at kriminelle muligvis kan outsource de mere udfordrende aspekter af deres AI-baserede kriminalitet."

Professor Shane Johnson, Direktør for Dawes Center for Future Crimes ved UCL, som finansierede undersøgelsen, sagde:"Vi lever i en verden i konstant forandring, som skaber nye muligheder - gode og dårlige. Som sådan, det er bydende nødvendigt, at vi forudser fremtidige kriminalitetstrusler, så politiske beslutningstagere og andre interessenter med kompetencen til at handle kan gøre det, før nye 'kriminalitetshøster' indtræffer. Denne rapport er den første i en serie, der vil identificere fremtidige kriminalitetstrusler forbundet med nye og nye teknologier, og hvad vi kan gøre ved dem."