Falske Facebook-konti:den uendelige kamp mod bots

Det svimlende tal på mere end tre milliarder falske konti blokeret af Facebook over en periode på seks måneder fremhæver de udfordringer, som sociale netværk står over for med at begrænse automatiserede konti, eller bots, og andre uhyggelige bestræbelser på at manipulere platformene.

Her er fire nøglespørgsmål om falske konti:

Hvordan dukkede så mange falske konti op?

Facebook sagde i denne uge, at det "deaktiverede" 1,2 milliarder falske konti i de sidste tre måneder af 2018 og 2,19 milliarder i første kvartal af 2019.

De fleste falske sociale mediekonti er "bots, " skabt af automatiserede programmer til at poste visse former for information - en overtrædelse af Facebooks servicevilkår og en del af et forsøg på at manipulere sociale samtaler. Sofistikerede aktører kan oprette millioner af konti ved hjælp af det samme program.

Facebook sagde, at dets kunstige intelligens opdager de fleste af disse bestræbelser og deaktiverer konti, før de kan poste på platformen. Stadig, den anerkender, at omkring fem procent af de mere end to milliarder aktive Facebook-konti sandsynligvis er falske.

Hvad er skaden fra falske konti?

Falske konti kan bruges til at forstærke en persons eller bevægelses popularitet eller modvilje, og dermed forvrænge brugernes syn på sande offentlige følelser.

Bots spillede en uforholdsmæssig stor rolle i at sprede misinformation på sociale medier forud for det amerikanske valg i 2016, ifølge forskere. Ondsindede aktører har brugt denne slags falske konti til at så mistillid og social splittelse i mange dele af verden, i nogle tilfælde anspore til vold mod grupper eller enkeltpersoner.

Bots "manipulerer ikke bare samtalen, de bygger grupper og bygger brogrupper, " sagde Carnegie Mellon University datalog Kathleen Carley, der har undersøgt sociale medier-bots.

"De kan få folk i en gruppe til at tro, at de tænker det samme som folk i en anden gruppe, og ved at gøre det bygger de ekkokamre."

Facebook siger, at dets kunstige intelligensværktøjer kan identificere og blokere falske konti, efterhånden som de oprettes - og dermed før de kan sende misinformation.

"Disse systemer bruger en kombination af signaler såsom mønstre for brug af mistænkelige e-mail-adresser, mistænkelige handlinger, eller andre signaler, der tidligere er forbundet med andre falske konti, vi har fjernet, " sagde Facebook analytics vicepræsident Alex Schultz i et blogindlæg.

Har Facebook kontrol over situationen?

Tallene fra Facebooks gennemsigtighedsrapport tyder på, at Facebook agerer aggressivt på falske konti, sagde Onur Varol, en postdoc-forsker ved Center for Complex Network Research ved Northeastern University.

"Tre milliarder er et stort tal - det viser, at de ikke vil gå glip af falske konti. Men de er villige til at tage en risiko" ved at deaktivere nogle legitime konti, sagde Varol.

Legitime brugere kan blive generet, men kan generelt få deres konti genoprettet, bemærkede forskeren.

"Min fornemmelse er, at Facebook gør en seriøs indsats" for at bekæmpe falske konti, han tilføjede.

Men nye bots bliver mere sofistikerede og sværere at opdage, fordi de kan bruge sprog næsten lige så godt som mennesker, ifølge Carley.

"Facebook kan have løst gårsdagens kamp, ​​men naturen af ​​disse ting ændrer sig så hurtigt, at de måske ikke får de nye, " hun sagde.

Varol var enig, bemærker, at "der er bots, der forstår naturligt sprog og kan reagere på mennesker, og derfor er det vigtigt at holde forskningen i gang."

Skal jeg bekymre mig om bots og falske konti?

Mange brugere kan ikke kende forskel på en ægte og falsk konto, siger forskere. Facebook og Twitter har intensiveret indsatsen for at identificere og luge ud falske konti, og nogle offentlige værktøjer som Botometer udviklet af Varol og andre forskere kan hjælpe med at bestemme sandsynligheden for falske Twitter-konti og følgere.

"Hvis du bruger Facebook til at kommunikere med familie og venner, skal du ikke bekymre dig meget, " sagde Filippo Menczer, en datamatiker, der forsker i sociale medier ved Indiana University.

"Hvis du bruger det til at få adgang til nyheder og dele det med venner, du skal være forsigtig."

Menczer sagde, at mange Facebook-brugere er lidt opmærksomme på kilden til materiale og kan ende med at dele falske eller vildledende oplysninger.

"Alle tror, ​​de ikke kan manipuleres, men vi er alle sårbare, " han sagde.

Sammen med bots, mennesker repræsenterer et nøgleelement i misinformationskæden, siger forskere.

"De fleste falske oplysninger kommer ikke fra bots, " sagde Carley. "Det meste af det kommer fra blogs og bots genudsender det" for at forstærke misinformationen.

Facebook-chef Mark Zuckerberg sagde, at Facebook søger at fjerne de økonomiske incitamenter fra falske konti.

"Meget af det skadelige indhold, vi ser, herunder misinformation, faktisk er kommercielt motiverede, Zuckerberg fortalte journalister. "Så en af ​​de bedste taktikker er at fjerne incitamenter til at oprette falske konti upstream, hvilket begrænser indhold lavet downstream."

© 2019 AFP