Tre måder, hvorpå Facebook og andre sociale medievirksomheder kunne rydde op i deres handlinger – hvis de ville

Facebook er i krisetilstand, men virksomheden kan tage store skridt for at rette op på sig selv – og det globale samfund, som den siger, at den ønsker at fremme. Facebook grundlægger, CEO og majoritetsaktionær Mark Zuckerberg behøver ikke vente på, at regeringer indfører regler. Hvis han og andre industriledere ville, de kunne lave meningsfulde ændringer ret hurtigt.

Det ville ikke være smertefrit, men især Facebook er allerede i en verden af ​​såret, udsat for kritik for at bidrage til civil uro og sekterisk uro rundt om i verden, forsinkede svar på desinformationskampagner, vildlede brugere om datahåndteringspolitikker, og bestræbelser på at miskreditere kritikere - for ikke at tale om et spirende medarbejderoprør.

Facebook, Twitter, Google og andre sociale medievirksomheder forårsager samfundsdækkende skade. Men de har en tendens til at beskrive problemerne som meget mindre, som følge af useriøse individer og grupper, der kaprer deres systemer til ondsindede formål. Vores forskning i, hvordan sociale medier kan udnyttes af manipulerende politiske operatører, udført med Joan Donovan ved Data &Society Research Institute, antyder, at det virkelige problem er meget større, end disse virksomheder indrømmer.

Vi tror på, at rødderne ligger i deres ekstremt profitable reklamesystemer, som trænger til et større eftersyn. Vi har identificeret nogle vigtige ændringer, som disse gigantiske kraftværker kunne foretage med det samme. Disse tiltag kan reducere mulighederne for politisk manipulation og begrænse skaden på demokratiske samfund rundt om i verden.

Brugernes sind i trådkorset

Facebook, Google, Twitter og andre sociale medievirksomheder har bygget en enorm digital indflydelsesmaskine drevet af brugersporing, rettet mod, test og automatiseret beslutningstagning for at gøre annoncering mere effektiv og effektiv. Mens man bygger dette superladede overvågningssystem, virksomheder har lovet brugere og regulatorer, at målrettet annoncering er gensidig fordel for både forbrugere og annoncører.

I denne handel, brugere formodes at modtage mere relevante annoncer. Facebook, for eksempel, forklarer, at dens "interessebaserede annoncering" tjener brugere, der "ønsker at se annoncer, der relaterer til ting, de holder af." Det er rigtigt, at disse metoder kan identificere annoncer, der forbinder med brugernes faktiske interesser. Men de samme datadrevne teknikker, som fortæller en surfer om et nyt boarddesign, kan også identificere strategiske punkter, hvor folk er mest sårbare over for indflydelse.

I særdeleshed, de førende annonceringssystemer på sociale medier lader politiske aktører eksperimentere med forskellige annoncer for at se, hvilke der er mest effektive. De kan bruge disse værktøjer, ikke kun til at se, om visse problemer resonerer med bestemte mål, men også teste for frygt eller fordomme, som kan påberåbes for at påvirke politisk adfærd.

En vigtig måde at gøre dette på er at få folk til at føle, at en anden repræsenterer en følelsesladet trussel mod deres identitet. I 2016 for eksempel, Rusland-tilknyttede agenter købte tusindvis af Facebook-annoncer målrettet mod specifikke målgrupper, hvilket tyder på, at Hillary Clinton havde fornærmet deres gruppes værdighed eller truet deres sikkerhed. Nogle annoncer påstod, at Clinton talte om manglende respekt for specifikke erhverv, ligesom kulminearbejdere, eller racegrupper, som afroamerikanere. Andre hævdede, at hun ville konfiskere våben eller støttede radikale politiske bevægelser, der forsøgte at omstøde velkendte livsstile.

Målretning af politiske annoncer er ikke unikt for onlineannoncering, men værktøjerne i digitale annoncesystemer er langt mere kraftfulde end traditionelle massemedier. Annoncører kan prøve flere versioner af en annonce samtidigt og modtage næsten øjeblikkelig feedback om, hvilke der mest effektivt får specifikke målgrupper til at dele, like eller kommentere dem. Denne digitale feedback-loop hjælper politiske operatører med at finpudse deres taktik, søge efter de helt rigtige billeder, ord og følelser til at påvirke helt bestemte undergrupper af borgere.

Bevæg dig hurtigt og ret tingene

Medlemmer af Kongressen og endda nogle nøglefigurer fra Silicon Valley er begyndt at diskutere behovet for strammere regeringstilsyn og større ansvarlighed i digital reklame. Forandring behøver ikke vente på politik.

Baseret på vores analyse, her er nogle trin, som virksomheder kan tage med det samme – på egen hånd. Disse tiltag kan skade virksomhedernes økonomi, men ville vise seriøst og varigt engagement i at begrænse deres platformes anvendelighed i politiske manipulationskampagner.

Som deres første træk, sociale medievirksomheder kunne stoppe med at tillade deres annoncetjenester at blive brugt som frihjulende eksperimentelle laboratorier til at undersøge deres brugeres psyke. Ligesom marketingfolk og akademiske forskere skal indhente tilladelse fra deres testpersoner, politiske annoncører, der kører onlineannonceeksperimenter, kan få informeret samtykke på forhånd fra hver bruger, der er involveret. Virksomheder bør bede om brugernes samtykke i specifikke meddelelser om annonceeksperimenter og ikke straffe brugere for at fravælge ved at begrænse deres adgang til tjenester. Vi formoder, at mange brugere ville fravælge disse tests, hvis de fik valget, men under alle omstændigheder vil denne politik hjælpe med at henlede offentlighedens opmærksomhed på de skjulte manipulationsværktøjer, som platforme tilbyder deres rigtige kunder:de politiske og kommercielle annoncører, der betaler regningerne.

Gør målrettet politisk reklame gennemsigtig

For at øge gennemsigtigheden og begrænse særinteressernes mulighed for hemmeligt at påvirke politik, sociale medievirksomheder kunne nægte at arbejde med såkaldte mørke pengegrupper. Alle politiske annoncører bør forpligtes til at afsløre deres største donorer i et format, som brugerne let kan få adgang til.

En ny politik, der forbyder reklamer for mørke penge, vil reagere på beviser på, at politiske operatører har brugt personefterligning og manipulerende ad-taktik til at opildne i kampe eller skabe splittelse blandt koalitioner af deres modstandere. Efterligning fungerer klart bedst, når annoncesponsorer er i stand til at skjule deres identiteter og motiver. Anonyme annoncer er også mere tilbøjelige til at overtræde etiske standarder, blot fordi ingen frygter at blive holdt ansvarlig for dem.

Gør platforme mere demokratiske

En mere markant ændring, sociale medievirksomheder kunne foretage, ville være at indføre demokratisk tilsyn med, hvordan de indsamler og bruger folks data.

Facebooks Zuckerberg tog for nylig et første skridt i denne retning, meddeler, at han vil oprette uafhængige bedømmelsespaneler til at håndtere brugernes appeller mod virksomhedens fjernelse af indhold, som det anser for upassende. Han forklarede, at han ønskede at sikre, at "disse beslutninger træffes i vores samfunds bedste interesse og ikke af kommercielle årsager."

Uanset hvad du synes om denne plan – og den er blevet mødt med masser af skepsis – anerkender Zuckerbergs ræsonnement, at fordi sociale platforme er blevet så centrale i det demokratiske liv, deres egne politikker og designbeslutninger kræver demokratisk ansvarlighed.

En mere ambitiøs vision ville lade uafhængige etiske paneler, der repræsenterer forskellige grupper af brugere, fastlægge håndhævede politikker for etisk politisk reklame. Lignende slags grupper er almindelige inden for medicin og dukker op inden for kunstig intelligens, blandt andre felter. Detaljerne om, hvordan sådanne udvalg fungerer, vil være afgørende for deres succes. Hvis disse udvalg oprettes i partnerskab med nonprofitorganisationer med dokumenterede erfaringer med at gå ind for demokratisk kommunikation og gennemsigtighed i kampagnefinansiering, måske kunne de hjælpe sociale medievirksomheder med at opnå større offentlig tillid ved at prioritere demokrati frem for at maksimere deres profit.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.