Mennesker eller profit? Facebook-aviser viser dyb konflikt inden for

Facebook, virksomheden er ved at miste kontrollen over Facebook-produktet – for ikke at nævne de sidste stykker af dets omhyggeligt udformede, årti gamle image som en velvillig virksomhed, der bare ønsker at forbinde verden.

Tusindvis af sider med interne dokumenter leveret til Kongressen af ​​en tidligere ansat skildrer en internt konfliktfyldt virksomhed, hvor data om de skader, det forårsager, er rigelige, men løsninger, meget mindre viljen til at handle på dem, stopper i bedste fald.

Krisen afsløret af dokumenterne viser, hvordan Facebook, på trods af dets regelmæssigt erklærede gode intentioner, ser ud til at have langsom gået eller tilsidesat bestræbelser på at imødegå reelle skader, som det sociale netværk har forstørret og nogle gange skabt. De afslører adskillige tilfælde, hvor forskere og menige medarbejdere afslørede dybtliggende problemer, som virksomheden derefter overså eller ignorerede.

Det endelige ansvar for denne tilstand hviler på administrerende direktør Mark Zuckerberg, som har, hvad en tidligere ansat beskrev som diktatorisk magt over et selskab, der indsamler data om og leverer gratis tjenester til omkring 3 milliarder mennesker rundt om i verden.

"I sidste ende hviler det på Mark og hvad end hans prærogativ er - og det har altid været at vokse, for at øge hans magt og hans rækkevidde," sagde Jennifer Grygiel, en kommunikationsprofessor ved Syracuse University, som har fulgt Facebook tæt i årevis.

Zuckerberg har en jernbeklædt fat i Facebook Inc. Han ejer størstedelen af ​​selskabets stemmeberettigede aktier, kontrollerer bestyrelsen og har i stigende grad omgivet sig med ledere, der ikke ser ud til at stille spørgsmålstegn ved hans vision.

Men han har hidtil ikke været i stand til at adressere stagnerende brugervækst og faldende engagement for Facebook-produktet på nøgleområder som USA og Europa. Hvad værre er, virksomheden mister opmærksomheden fra sin vigtigste demografiske – teenagere og unge – uden nogen klar vej til at vinde den tilbage, viser dets egne dokumenter.

Unge voksne engagerer sig langt mindre med Facebook end deres ældre kohorter, idet de ser det som et "forældet netværk" med "irrelevant indhold", der giver begrænset værdi for dem, ifølge et internt dokument fra november 2020. Det er "kedeligt, vildledende og negativt," siger de.

De unge ser med andre ord Facebook som et sted for gamle mennesker.

Facebooks brugerbase er i gennemsnit ældet hurtigere end den generelle befolkning, fandt virksomhedens forskere. Medmindre Facebook kan finde en måde at vende dette på, vil dets befolkning fortsætte med at blive ældre, og unge mennesker vil finde endnu færre grunde til at logge på, hvilket truer de månedlige brugertal, der er afgørende for at sælge annoncer. Facebook siger, at dets produkter stadig er meget brugt af teenagere, selvom det erkender, at der er "hård konkurrence" fra TikTok, Snapchat og lignende.

Så det kan fortsætte med at udvide sin rækkevidde og magt, har Facebook presset på for høj brugervækst uden for USA og Vesteuropa. Men da det ekspanderede til mindre velkendte dele af verden, undlod virksomheden systematisk at håndtere eller endda forudse de utilsigtede konsekvenser af at tilmelde millioner af nye brugere uden også at stille personale og systemer til rådighed til at identificere og begrænse spredningen af ​​hadefuld tale, misinformation og opkald. til vold.

I Afghanistan og Myanmar, for eksempel, har ekstremistisk sprogbrug blomstret på grund af en systemisk mangel på sproglig støtte til moderation af indhold, uanset om det er menneskelig eller kunstig intelligens-drevet. I Myanmar er det blevet sat i forbindelse med grusomheder begået mod landets mindretal rohingya-muslimske befolkning.

Men Facebook ser ud til at være ude af stand til at anerkende, meget mindre forhindre, den reelle skade, der ledsager dens uhæmmede vækst. Disse skader omfatter skyggefulde algoritmer, der radikaliserer brugere, gennemgående misinformation og ekstremisme, lettelse af menneskehandel, teenagers selvmord og meget mere.

Interne bestræbelser på at afbøde sådanne problemer er ofte blevet skubbet til side eller opgivet, når løsninger er i konflikt med vækst – og i forlængelse heraf profit.

Bakket op i et hjørne med hårde beviser fra lækkede dokumenter, har virksomheden fordoblet sine valg i stedet for at prøve at løse sine problemer.

"Det gør vi ikke, og vi har ikke prioriteret engagement frem for sikkerhed," sagde Monika Bickert, Facebooks chef for global policy management, til The Associated Press i denne måned efter kongresvidnesbyrd fra whistleblower og tidligere Facebook-medarbejder Frances Haugen. I dagene efter Haugens vidnesbyrd og optræden på "60 Minutes" – hvor Zuckerberg postede en video af sig selv sejle med sin kone Priscilla Chan – har Facebook forsøgt at miskreditere Haugen ved gentagne gange at påpege, at hun ikke direkte arbejdede på mange af de problemer, hun afslørede.

"Et kurateret udvalg ud af millioner af dokumenter på Facebook kan på ingen måde bruges til at drage retfærdige konklusioner om os," tweetede Facebook fra sin PR-"newsroom"-konto tidligere på måneden efter virksomhedens opdagelse af, at en gruppe nyhedsorganisationer var arbejder på historier om de interne dokumenter.

"Kernen i disse historier er en præmis, som er falsk. Ja, vi er en forretning, og vi tjener penge, men ideen om, at vi gør det på bekostning af folks sikkerhed eller velvære, misforstår, hvor vores egne kommercielle interesser ligger." Facebook sagde i en forberedt erklæring fredag. "Sandheden er, at vi har investeret 13 milliarder dollars og har over 40.000 mennesker til at udføre ét job:holde folk sikre på Facebook."

Udsagn som disse er det seneste tegn på, at Facebook er kommet ind i, hvad Sophie Zhang, en tidligere Facebook-dataforsker, beskrev som en "belejringsmentalitet" hos virksomheden. Zhang anklagede sidste år det sociale netværk for at ignorere falske konti, der blev brugt til at underminere udenlandske valg. Med flere whistleblowere – især Haugen – på vej frem, er det kun blevet værre.

"Facebook har været igennem lidt af en autoritær narrativ spiral, hvor den bliver mindre lydhør over for medarbejderkritik, over for intern uenighed og i nogle tilfælde slår ned på den," sagde Zhang, der blev fyret fra Facebook i efteråret 2020. "Og dette fører til mere intern uenighed."

"Jeg har set mange kolleger, der er ekstremt frustrerede og vrede, samtidig med at de føler sig magtesløse og (modløse) over den nuværende situation," skrev en medarbejder, hvis navn blev redigeret, på en intern opslagstavle, efter Facebook besluttede sidste år. at efterlade brandposter fra tidligere præsident Donald Trump, der foreslog Minneapolis-demonstranter kunne blive skudt. "Min opfattelse er, hvis du vil rette Facebook, så gør det inden for."

Denne historie er delvist baseret på afsløringer givet til Securities and Exchange Commission og givet til Kongressen i redigeret form af Haugens juridiske rådgiver. De redigerede versioner, som kongressen modtog, blev indhentet af et konsortium af nyhedsorganisationer, herunder The Associated Press.

De beskriver møjsommeligt indsamlede data om problemer så omfattende som handel med hushjælp i Mellemøsten, en overkorrektion af undertrykkelse af arabisk indhold, som kritikere siger, dæmper ytringsfriheden, mens hadefulde ytringer og misbrug florerer, og udbredt anti-vaccine misinformation som forskere fandt ud af, at det nemt kunne være blevet dæmpet med subtile ændringer i, hvordan brugere ser indlæg på deres feed.

Virksomheden insisterer på, at den "ikke udfører forskning og derefter systematisk og bevidst ignorerer den, hvis resultaterne er ubelejlige for virksomheden." Denne påstand, sagde Facebook i en erklæring, kan "kun fremsættes ved at udvælge selektive citater fra individuelle stykker lækket materiale på en måde, der præsenterer komplekse og nuancerede problemer, som om der kun er ét rigtigt svar."

Haugen, som vidnede for Senatet i denne måned, at Facebooks produkter "skader børn, opildner splittelse og svækker vores demokrati," sagde, at virksomheden burde erklære "moralsk konkurs", hvis det skal komme videre fra alt dette.

På nuværende tidspunkt virker det usandsynligt. Der er en dybtliggende konflikt mellem profit og mennesker inden for Facebook – og virksomheden ser ikke ud til at være klar til at opgive sin fortælling om, at det er godt for verden, selvom det regelmæssigt træffer beslutninger med det formål at maksimere væksten.

"Facebook lavede regelmæssige undersøgelser af sine medarbejdere – hvor stor en procentdel af medarbejderne mener, at Facebook gør verden til et bedre sted," huskede Zhang.

"Det var omkring 70 procent, da jeg kom til. Det var omkring 50 procent, da jeg forlod," sagde Zhang, der var i virksomheden i mere end to år, før hun blev fyret i efteråret 2020.

Facebook har ikke oplyst, hvor tallet står i dag.