Twitter, Facebook forbyder falske brugere; nogle havde AI-skabte billeder

Twitter har identificeret og fjernet næsten 6, 000 konti, som den sagde var en del af en koordineret indsats fra saudiske regeringsorganer og enkeltpersoner for at fremme landets geopolitiske interesser.

Separat, Facebook sagde, at det fjernede hundredvis af Facebook-konti, grupper og sider, der er linket til uægte adfærd fra to separate grupper, en med oprindelse i landet Georgien og en i Vietnam, som var rettet mod mennesker både i Vietnam og i USA.

Facebook sagde, at nogle af konti brugte profilbilleder genereret af kunstig intelligens og forklædt som amerikanere. Det er en af ​​de første sådanne misinformationsbestræbelser at bruge materiale genereret af AI.

Teknologivirksomheder har optrappet indsatsen for at tackle misinformation om deres tjenester forud for næste års amerikanske præsidentvalg. Indsatsen fulgte afsløringer om, at russerne bankrullerede tusindvis af falske politiske annoncer under valget i 2016 for at så uenighed blandt amerikanerne.

Twitters og Facebooks meddelelser understreger det faktum, at misinformationsproblemer ikke er begrænset til USA og Rusland.

I et blogindlæg fredag, Twitter sagde, at de fjernede saudiarabiske konti forstærkede beskeder til fordel for de saudiske myndigheder, hovedsageligt gennem "aggressiv smag, retweeter og svarer." Mens størstedelen af ​​indholdet var på arabisk, Twitter sagde, at tweets også forstærkede diskussioner om sanktioner i Iran og optrædener af saudiske regeringsembedsmænd i vestlige medier.

"Regeringer er begyndt at lancere indflydelseskampagner på samme måde, som kommercielle virksomheder lancerer kampagner for at sælge rengøringsmidler eller biler, " sagde James Ludes, en national forsvarsekspert, der underviser i internationale relationer og offentlig politik på Salve Regina University i Rhode Island.

Han sagde, at den russiske indsats i 2016 viste, at det var muligt at "faktisk ændre den offentlige holdning gennem målrettet brug af sociale medier."

Selvom forsøgene på at udrydde kampagnerne kan virke som en omgang smæk-en-muldvarp, han sagde, at virksomheder i det mindste har vist fremskridt i at tage skridt til at identificere og udrydde manipulationskampagner drevet af fremmede magter.

Twitter begyndte at arkivere tweets og medier, som det anser for at være forbundet med kendte statsstøttede informationsoperationer i 2018. Det lukkede 200, 000 kinesiske konti, der var rettet mod protester i Hongkong i august.

De 5, 929 konti fjernet og tilføjet til arkiverne er en del af en større gruppe på 88, 000 konti involveret i "spamadfærd" på tværs af en bred vifte af emner. Men Twitter afslører ikke dem alle, fordi nogle kan være legitime konti, der er overtaget gennem hacking.

Twitter-kontiene var knyttet til et marketingfirma på sociale medier i Saudi-Arabien kaldet Smaat, der styrede mange regeringsafdelinger i Saudi-Arabien. Kontierne brugte automatiske tredjepartsværktøjer til at forstærke ikke-politisk indhold i høje mængder. Twitter sagde, at aktivitet blev brugt til at maskere de politiske manøvrer af de samme konti.

Samuel Woolley, en professor ved University of Texas i Austin, der studerer desinformation, sagde, at mens den saudiske kampagne brugte grundlæggende manipulationsteknikker, herunder brugen af ​​likes og retweets for at give en illusion af popularitet, kampagnens størrelse og omfang var usædvanlig. Eksistensen af ​​en tusindvis-stærk hær af saudiske konti viser også, at sociale medievirksomheder stadig ikke har en god løsning, han sagde, på trods af de fremskridt, de har gjort med at identificere statsstøttede konti.

"Det er helt klart, at vi skal gøre noget ved det, " sagde han. "Det kan ikke bare være bagefter. Vi skal blive bedre til at opdage i realtid."

Beskeder tilbage med saudiske embedsmænd i Riyadh, Saudi Arabien, og landets ambassade i Washington blev ikke straks returneret.

Den saudiske regering har brugt forskellige taktikker til at kontrollere tale og holde reformatorer og andre fra at organisere sig, herunder at ansætte troldehære til at chikanere og intimidere brugere online. Det har også anholdt og fængslet Twitter-brugere.

I september, Twitter suspenderede kronprinsens tidligere toprådgivers konto, Saud al-Qahtani, som også fungerede som direktør for cybersikkerhedsforbundet. Som med fredagens annoncering, Twitter sagde, at kontoen havde overtrådt virksomhedens politik om platformmanipulation.

Sidste måned, to tidligere Twitter-ansatte blev anklaget for at optræde som agenter for Saudi-Arabien uden at registrere sig hos den amerikanske regering. Klagen beskriver en koordineret indsats fra saudiske regeringsembedsmænd for at rekruttere medarbejdere hos den sociale mediegigant til at slå de private data op på Twitter-konti, herunder e-mail-adresser knyttet til konti og internetprotokoladresser, der kan opgive en brugers placering.

Med hensyn til Facebooks handlinger, Facebook sagde, at Georgia-gruppen var rettet mod indenlandske målgrupper, og at Vietnam-gruppen primært fokuserede på USA, samt vietnamesisk-, Spansk- og kinesisktalende publikum over hele verden.

Virksomheden sagde, at de oprettede netværk af konti for at vildlede andre om, hvem de var, og hvad de lavede. For at undgå opdagelse, de brugte en kombination af falske og rigtige beretninger om mennesker i USA til at administrere sider og grupper, sagde virksomheden.

"Vi gør fremskridt med at udrydde dette misbrug, men som vi har sagt før, det er en vedvarende udfordring, " Nathaniel Gleicher, Facebooks chef for sikkerhedspolitik, sagde i et blogindlæg.

© 2019 The Associated Press. Alle rettigheder forbeholdes.