Du ved ikke, om en online restaurantanmeldelse er falsk - men dette kan AI

Forskere finder, at AI-genererede anmeldelser og kommentarer udgør en betydelig trussel mod forbrugerne, men maskinlæring kan hjælpe med at opdage forfalskningerne.

Websteder som TripAdvisor, Yelp og Amazon viser brugeranmeldelser af produkter og tjenester. Forbrugerne tager agt:ni ud af ti mennesker læser disse peer -anmeldelser og stoler på, hvad de ser. Faktisk, op til 40 procent af brugerne beslutter at foretage et køb baseret på kun et par anmeldelser, og gode anmeldelser får folk til at bruge 30 procent mere på deres indkøb.

Men ikke alle anmeldelser er legitime. Falske anmeldelser skrevet af rigtige mennesker er allerede almindelige på anmeldelsessider, men mængden af ​​forfalskninger genereret af maskiner vil sandsynligvis stige betydeligt.

Ifølge ph.d.-studerende Mika Juuti ved Aalto Universitet, falske anmeldelser baseret på algoritmer er i dag lette, præcis og hurtig at generere. Det meste af tiden, folk er ikke i stand til at se forskel på ægte og maskindannede falske anmeldelser.

"Misforståelige virksomheder kan enten forsøge at øge deres salg ved at skabe et positivt brandimage kunstigt eller ved at generere falske negative anmeldelser om en konkurrent. Motivationen er, selvfølgelig, penge:online anmeldelser er en stor forretning for rejsemål, hoteller, tjenesteudbydere og forbrugerprodukter, ”siger Mika Juuti.

I 2017 forskere fra University of Chicago beskrev en metode til træning af en maskinlæringsmodel, et dybt neuralt netværk, ved hjælp af et datasæt med tre millioner rigtige restaurantvurderinger på Yelp. Efter træningen, modellen genererede falske restaurantanmeldelser karakter for karakter.

Der var en lille hikke i metoden, imidlertid; det havde svært ved at holde sig til emnet. For en anmeldelse af en japansk restaurant i Las Vegas, modellen kunne henvise til en italiensk restaurant i Baltimore. Den slags fejl er, selvfølgelig, let opdaget af læserne.

For at hjælpe anmeldelsesgeneratoren med at forblive på mærket, Juuti og hans team brugte en teknik kaldet neural maskinoversættelse for at give modellen en følelse af kontekst. Ved hjælp af en tekstsekvens med "anmeldelsesklassificering, restaurant navn, by, stat, og madmærker, " de begyndte at opnå troværdige resultater.

"I den brugerundersøgelse, vi gennemførte, vi viste deltagerne rigtige anmeldelser skrevet af mennesker og falske maskingenererede anmeldelser og bad dem om at identificere forfalskningerne. Op til 60 procent af de falske anmeldelser blev fejlagtigt anset for at være ægte, siger Juuti.

Juuti og hans kolleger udarbejdede derefter en klassifikator, der ville være i stand til at opdage forfalskningerne. Klassifikatoren viste sig at fungere godt, især i de tilfælde, hvor menneskelige evaluatorer havde sværest ved at sige, om en anmeldelse er ægte eller ej.

Undersøgelsen blev udført i samarbejde med Aalto Universitets forskergruppe Secure Systems og forskere fra Waseda University i Japan. Det blev præsenteret på 2018 European Symposium on Research in Computer Security i september.