Brug af kunstig intelligens til at forhindre online dating-svindel

Datingapps og -websteder kan snart bruge computeralgoritmer, der 'tænker' som mennesker til at lokalisere falske profiler designet til at straffe ofre ud af tusindvis af pund.

Algoritmer med denne evne er blevet udviklet som en del af omfattende forskning i bekæmpelse af online-svindel ledet af University of Warwick og finansieret af Engineering and Physical Sciences Research Council (EPSRC) og Economic and Social Research Council (ESRC).

De nye algoritmer er designet specifikt til at forstå, hvordan falske datingprofiler ser ud og derefter anvende denne viden, når de scanner profiler indsendt til online datingtjenester. De ser automatisk efter mistænkelige tegn, der utilsigtet er inkluderet af svindlere i de demografiske oplysninger, billederne og de selvbeskrivelser, der udgør profiler, og nå frem til en samlet konklusion om sandsynligheden for, at hver enkelt profil er falsk.

Når testet, Algoritmerne producerede en meget lav falsk-positiv rate (antallet af ægte profiler, der fejlagtigt blev markeret som falske) på omkring 1 procent. Målet er nu at forbedre teknikken yderligere og sætte den i stand til at blive taget op af datingtjenester inden for de næste par år, hjælpe dem med at forhindre, at profiler bliver opslået af svindlere.

Med Valentinsdag nærmer sig med hastige skridt, nyheden om, at disse kunstig intelligens (AI)-kapaciteter har potentialet til at hjælpe med at forhindre såkaldte 'rom-con'-svindel, vil være meget velkommen til de millioner af mennesker, der bruger online dating-tjenester i Storbritannien og på verdensplan. I disse svindel, svindlere målretter mod brugere af datingwebsteder og -apps, 'soigner' dem og beder derefter om pengegaver eller lån, som aldrig vil blive returneret. I 2017 over 3, 000 briter mistede i alt 41 millioner pund ved sådanne hændelser, med et gennemsnitligt tab på £11, 500.

Arbejdet med de tekstmæssige og andre computerkarakteristika ved online datingbeskeder og -profiler blev ledet af professor Awais Rashid (nu ved University of Bristol, tidligere ved University of Lancaster) og Dr. Gianluca Stringhini (tidligere ved UCL og nu ved Boston University). Det udgjorde blot et aspekt af et overordnet forskningsinitiativ, der også har involveret King's College London, Cardiff University og partnere verden over og har haft til formål at øge indsatsen for at opdage og forhindre massesvig, der udnytter onlinekanaler. Andre aspekter af initiativet har bl. for eksempel, fokuseret på bedre forståelse af psykologien hos mennesker, der med størst sandsynlighed bliver ofre for online-svindel.

Projektet blev primært ledet af professor Monica Whitty (nu ved University of Melbourne), hvor professor Tom Sorell fra University of Warwick tog over i de sidste faser. Professor Sorell siger:Online dating svindel er en meget almindelig, ofte uanmeldt kriminalitet, der forårsager enorm nød og forlegenhed for ofrene samt økonomiske tab. At bruge AI-teknikker til at hjælpe med at afsløre mistænkelig aktivitet kan være en game-changer, der gør detektion og forebyggelse hurtigere, nemmere og mere effektivt, at sikre, at folk kan bruge datingsider med meget mere tillid i fremtiden.