Hvorfor gode mennesker bliver dårlige online

Om aftenen den 17. februar 2018, Professor Mary Beard postede på Twitter et fotografi af sig selv grædende. Den fremtrædende klassiker fra University of Cambridge, der har næsten 200, 000 Twitter følgere, var fortvivlet efter at have modtaget en storm af misbrug online. Dette var reaktionen på en kommentar, hun havde fremsat om Haiti. Hun tweetede også:"Jeg taler fra hjertet (og selvfølgelig kan jeg tage fejl). Men det lort, jeg får som svar, er bare ikke på; virkelig er det ikke."

I dagene efter, Beard fik støtte fra flere højt profilerede personer. Greg Jenner, en anden berømthedshistoriker, tweetede om sin egen oplevelse af en Twitterstorm:"Jeg vil altid huske, hvor traumatisk det var pludselig at blive hadet af fremmede. Uanset moral – jeg kan have taget fejl eller ret efter min mening – blev jeg overrasket (senere, da jeg kom mig) på, hvor psykologisk destabiliserende det var for mig."

De, der tweetede støtte til Beard – uanset om de var enige i hendes første tweet, der havde udløst de misbrugende svar – blev selv derefter målrettet. Og da en af ​​Beards kritikere, kollega Cambridge -akademiker Priyamvada Gopal, en kvinde med asiatisk arv, redegjorde for hendes svar på Beards originale tweet i en online artikel, hun modtog sin egen strøm af misbrug.

Der er overvældende beviser for, at kvinder og medlemmer af etniske minoritetsgrupper uforholdsmæssigt er mål for Twitter-misbrug. Hvor disse identitetsmarkører skærer hinanden, mobningen kan blive særlig intens, som oplevet af det sorte kvindelige parlamentsmedlem Diane Abbott, som alene modtog næsten halvdelen af ​​alle de voldelige tweets, der blev sendt til kvindelige parlamentsmedlemmer under optakten til det britiske folketingsvalg i 2017. Sorte og asiatiske kvindelige parlamentsmedlemmer modtog i gennemsnit 35 procent flere krænkende tweets end deres hvide kvindelige kolleger, selv når Abbott var udelukket fra totalen.

Den konstante byge af misbrug, herunder dødstrusler og trusler om seksuel vold, gør folk tavse, skubbe dem væk fra online platforme og yderligere reducere mangfoldigheden af ​​online stemmer og meninger. Og det viser ingen tegn på at aftage. En undersøgelse sidste år viste, at 40 procent af amerikanske voksne personligt havde oplevet onlinemisbrug, hvor næsten halvdelen af ​​dem modtager alvorlige former for chikane, herunder fysiske trusler og stalking. 70 procent af kvinderne beskrev onlinechikane som et "stort problem".

Forretningsmodellerne for sociale medieplatforme, såsom YouTube og Facebook, fremme indhold, der er mere tilbøjelige til at få respons fra andre brugere, fordi mere engagement betyder bedre muligheder for annoncering. Men dette har en konsekvens af at favorisere splittende og stærkt følelsesladet eller ekstremt indhold, som igen kan skabe online "bobler" af grupper, der reflekterer og forstærker hinandens meninger, hjælpe med at fremme spredningen af ​​mere ekstremt indhold og give en niche til "falske nyheder". I de seneste måneder har forskere har afsløret mange måder, at forskellige egeninteresser, herunder russiske agenter, har forsøgt at manipulere den offentlige mening ved at infiltrere sociale mediers bobler.

Vores menneskelige evne til at kommunikere ideer på tværs af netværk af mennesker gjorde os i stand til at bygge den moderne verden. Internettet tilbyder uovertruffen løfte om samarbejde og kommunikation mellem hele menneskeheden. Men i stedet for at omfavne en massiv forlængelse af vores sociale kredse online, vi ser ud til at vende tilbage til tribalisme og konflikter, og troen på internettets potentiale til at bringe menneskeheden sammen i et herligt samarbejdende netværk begynder nu at virke naivt. Selvom vi generelt udfører vores virkelige interaktioner med fremmede høfligt og respektfuldt, online kan vi være forfærdelige. Hvordan kan vi genlære de samarbejdsteknikker, der satte os i stand til at finde fælles fodslag og trives som art?

"Tænk ikke for meget over det, bare tryk på knappen!"

Jeg klikker på et beløb, forarmer mig selv på et øjeblik, og gå hurtigt videre til næste spørgsmål, klar over, at vi alle spiller mod uret. Mine holdkammerater er langt væk og ukendte for mig. Jeg aner ikke, om vi alle er i det sammen, eller om jeg bliver spillet for et fjols, men jeg trykker på ved at de andre er afhængige af mig.

Jeg spiller i et såkaldt offentligt gods-spil på Yale University's Human Cooperation Lab. Forskerne her bruger det som et værktøj til at hjælpe med at forstå, hvordan og hvorfor vi samarbejder, og om vi kan forbedre vores prosociale adfærd.

I årenes løb, videnskabsmænd har foreslået forskellige teorier om, hvorfor mennesker samarbejder så godt, at vi danner stærke samfund. De evolutionære rødder til vores generelle pænhed, de fleste forskere tror nu, kan findes i den individuelle overlevelsesfordel, mennesker oplever, når vi samarbejder som gruppe. Jeg er kommet til New Haven, Connecticut, i en snefyldt februar, at besøge en klynge af laboratorier, hvor forskere bruger eksperimenter til yderligere at udforske vores ekstraordinære impuls til at være sød ved andre selv for egen regning.

Det spil jeg spiller, på Amazons Mechanical Turk online platform, er et af laboratoriets igangværende forsøg. Jeg er i et team på fire personer forskellige steder, og hver af os får samme mængde penge at spille med. Vi bliver bedt om at vælge, hvor mange penge vi vil bidrage med til en gruppepotte, under den forståelse, at denne pulje så vil blive fordoblet og delt ligeligt mellem os.

Denne form for socialt dilemma, ligesom alt samarbejde, er afhængig af en vis grad af tillid til, at de andre i din gruppe vil være søde. Hvis alle i gruppen bidrager med alle deres penge, alle pengene bliver fordoblet, omfordelt på fire måder, og alle fordobler deres penge. Vind - vind!

"Men hvis du tænker på det fra et individs perspektiv, "siger laboratoriedirektør David Rand, "for hver dollar, du bidrager med, det bliver fordoblet til to dollars og derefter delt på fire måder - hvilket betyder, at hver person kun får 50 cent tilbage for den dollar, de har bidraget med."

Selvom alle er bedre stillet kollektivt ved at bidrage til et gruppeprojekt, som ingen kunne klare alene – i det virkelige liv, dette kunne være at betale til en hospitalsbygning, eller grave en fælles vandingsgrøft – der er en omkostning på individniveau. Økonomisk, du tjener flere penge ved at være mere egoistisk.

Rands hold har kørt dette spil med tusindvis af spillere. Halvdelen af ​​dem bliver spurgt, som jeg var, at beslutte deres bidrag hurtigt – inden for 10 sekunder – hvorimod den anden halvdel bliver bedt om at tage sig god tid og nøje overveje deres beslutning. Det viser sig, at når folk går med deres mave, de er meget mere generøse, end når de bruger tid på at overveje.

"Der er mange tegn på, at samarbejde er et centralt træk ved menneskelig udvikling, "siger Rand. Enkeltpersoner får fordel, og er mere tilbøjelige til at overleve, ved at samarbejde med gruppen. Og at få lov til at blive i gruppen og drage fordel af det er afhængig af vores ry for at opføre sig samarbejdsvilligt.

"I de små samfund, som vores forfædre levede i, alle vores interaktioner var med mennesker, som du skulle se igen og interagere med i den nærmeste fremtid, " siger Rand. Det holdt i skak enhver fristelse til at optræde aggressivt eller drage fordel af andres bidrag. "Det giver mening, på en egeninteresse måde, at være samarbejdsvillig."

Samarbejde avler mere samarbejde i en gensidig fordelagtig cyklus. I stedet for hver gang at finde ud af, om det er i vores langsigtede interesse at være søde, det er mere effektivt og mindre besvær at have den grundlæggende regel:vær rar mod andre mennesker. Derfor er vores utænkelige reaktion i eksperimentet generøs.

Gennem hele vores liv, vi lærer af samfundet omkring os, hvor samarbejdsvillige de skal være. Men vores indlærte adfærd kan også hurtigt ændre sig.

Dem i Rands eksperiment, der spiller quickfire -runden, er for det meste generøse og modtager generøse udbytter, forstærke deres generøse udsigter. Mens de, der overvejer deres beslutninger, er mere egoistiske, resulterer i en mager gruppepot, forstærker en idé om, at det ikke kan betale sig at stole på gruppen. Så, i et yderligere eksperiment, Rand gav nogle penge til folk, der havde spillet en runde af spillet. De blev derefter spurgt, hvor meget de ville give til en anonym fremmed. Denne gang, der var intet incitament til at give; de ville handle helt velgørende.

Det viste sig, at der var store forskelle. De mennesker, der havde vænnet sig til at samarbejde i den første fase, gav dobbelt så mange penge i den anden fase, som de mennesker, der havde vænnet sig til at være egoistiske, gjorde. "Så vi påvirker folks indre liv og adfærd, " siger Rand. "Den måde, de opfører sig på, selv når ingen ser på, og når der ikke er nogen institution på plads til at straffe eller belønne dem."

Rands team har testet, hvordan folk i forskellige lande spiller spillet, for at se, hvordan styrken i sociale institutioner - såsom regeringen, familie, uddannelse og retssystemer – påvirker adfærd. I Kenya, hvor korruption i den offentlige sektor er høj, spillere gav oprindeligt mindre generøst til den fremmede end spillere i USA, som har mindre korruption. Dette tyder på, at mennesker, der kan stole på relativt fair sociale institutioner, opfører sig mere offentligt. dem, hvis institutioner er mindre pålidelige, er mere protektionistiske. Imidlertid, efter kun at have spillet en omgang af den samarbejdsfremmende version af spillet for offentlige goder, kenyanernes generøsitet var lig med amerikanernes. Og det skar begge veje:Amerikanere, der blev trænet til at være egoistiske, gav meget mindre.

Så er der noget ved online sociale mediekultur, der får nogle mennesker til at opføre sig ondt? I modsætning til gamle jæger-samlersamfund, som er afhængige af samarbejde og deling for at overleve og ofte har regler for, hvornår de skal tilbyde mad til hvem på tværs af deres sociale netværk, sociale medier har svage institutioner. De tilbyder fysisk afstand, relativ anonymitet og ringe omdømme- eller strafrisiko for dårlig opførsel:hvis du er ond, ingen du kender kommer til at se.

Jeg trasker et par blokke gennem snekørsel for at finde Molly Crocketts Psychology Lab, hvor forskere undersøger moralsk beslutningstagning i samfundet. Et område, de fokuserer på, er, hvordan sociale følelser transformeres online, især moralsk forargelse. Hjernebilledundersøgelser viser, at når folk handler på deres moralske forargelse, deres hjernes belønningscenter er aktiveret – de har det godt med det. Dette forstærker deres adfærd, så de er mere tilbøjelige til at gribe ind på lignende måde igen. Så, hvis de ser nogen handle på en måde, der overtræder en social norm, ved at lade deres hund lave en legeplads, for eksempel, og de konfronterer offentligt gerningsmanden om det, de har det godt bagefter. Og mens det er risici at udfordre en overtræder af dit samfunds sociale normer – du kan blive angrebet – så booster det også dit omdømme.

I vores relativt fredelige liv, vi står sjældent overfor skandaløs opførsel, så vi ser sjældent moralsk forargelse udtrykt. Åbn Twitter eller Facebook, og du får et meget andet billede. Nyere forskning viser, at budskaber med både moralske og følelsesmæssige ord er mere tilbøjelige til at sprede sig på sociale medier - hvert moralsk eller følelsesmæssigt ord i et tweet øger sandsynligheden for, at det bliver retweetet med 20 procent.

"Indhold, der udløser forargelse, og som udtrykker forargelse, er meget mere tilbøjelige til at blive delt, " siger Crockett. Det, vi har skabt online, er "et økosystem, der udvælger det mest skandaløse indhold, parret med en platform, hvor det er nemmere end nogensinde før at udtrykke forargelse".

I modsætning til i den offline verden, der er ingen personlig risiko ved at konfrontere og afsløre nogen. Det tager kun et par klik på en knap, og du behøver ikke at være fysisk i nærheden, så der er meget mere forargelse udtrykt online. Og den fodrer sig selv. "Hvis du straffer nogen for at overtræde en norm, som får dig til at virke mere troværdig over for andre, så du kan udsende din moralske karakter ved at udtrykke forargelse og straffe overtrædelser af sociale normer, " Crockett siger. "Og folk tror, ​​at de spreder godt ved at udtrykke forargelse – at det kommer fra et sted med moral og retfærdighed.

"Når du går fra offline – hvor du måske øger dit omdømme for den, der tilfældigvis står rundt i øjeblikket – til online, hvor du udsender det til hele dit sociale netværk, så forstærker det dramatisk de personlige belønninger ved at udtrykke forargelse."

Dette forstærkes af den feedback, folk får på sociale medier, i form af likes og retweets og så videre. "Vores hypotese er, at designet af disse platforme kan gøre det at udtrykke forargelse til en vane, og en vane er noget, der gøres uden hensyntagen til dens konsekvenser – den er ufølsom over for, hvad der derefter sker, det er bare en blind reaktion på en stimulus, "Crockett forklarer.

"Jeg synes, det er værd at have en samtale som samfund om, hvorvidt vi ønsker, at vores moral skal være under kontrol af algoritmer, hvis formål er at tjene penge til gigantiske tech -virksomheder, " tilføjer hun. "Jeg tror, ​​vi alle gerne vil tro og føle, at vores moralske følelser, Tanker og adfærd er bevidste og ikke knæfaldende reaktioner på det, der er placeret foran os, som vores smartphone-designer mener vil give dem mest overskud."

På opsiden, de lavere omkostninger ved at udtrykke forargelse online har gjort det muligt at marginalisere, mindre bemyndigede grupper til at fremme årsager, der traditionelt har været sværere at fremme. Moralsk forargelse på sociale medier spillede en vigtig rolle i at fokusere opmærksomheden på mænd med høj statuss seksuelle overgreb på kvinder. Og i februar 2018, Teenagere i Florida, der raser på sociale medier mod endnu et skyderi på gymnasiet i deres stat, hjalp med at ændre den offentlige mening, samt at skamme en række store virksomheder til at droppe deres rabatordninger til National Rifle Association-medlemmer.

"Jeg tror, ​​at der skal være måder at bevare fordelene ved onlineverdenen på, "siger Crockett, "mens man tænker mere omhyggeligt om at redesigne disse interaktioner for at gøre op med nogle af de dyrere ting."

En, der har tænkt meget over designet af vores interaktioner i sociale netværk, er Nicholas Christakis, direktør for Yales Human Nature Lab, ligger kun et par sneklædte blokke væk. Hans team undersøger, hvordan vores position i et socialt netværk påvirker vores adfærd, og endda hvordan visse indflydelsesrige individer dramatisk kan ændre kulturen i et helt netværk.

Holdet udforsker måder at identificere disse individer og melde dem til i folkesundhedsprogrammer, der kan gavne samfundet. I Honduras, de bruger denne tilgang til at påvirke vaccinationstilmelding og moderpleje, for eksempel. Online, sådanne mennesker har potentiale til at gøre en mobningskultur til en støttende kultur.

Virksomheder bruger allerede et groft system til at identificere såkaldte Instagram influencers til at reklamere for deres brands for dem. Men Christakis ser ikke kun på, hvor populær et individ er, men også deres position i netværket og formen på dette netværk. I nogle netværk, som en lille isoleret landsby, alle er tæt forbundet, og du kender sandsynligvis alle til en fest; i en by, derimod mennesker kan leve tættere på som helhed, men du er mindre tilbøjelig til at kende alle til en fest der. Hvor grundigt sammenkoblet et netværk påvirker, hvordan adfærd og information spredes omkring det, forklarer han.

"Hvis du tager kulstofatomer og samler dem på én måde, de bliver til grafit, som er blødt og mørkt. Tag de samme kulstofatomer og saml dem på en anden måde, og det bliver diamant, hvilket er hårdt og tydeligt. Disse egenskaber af hårdhed og klarhed er ikke egenskaber ved carbonatomerne – de er egenskaber ved samlingen af ​​carbonatomer og afhænger af, hvordan du forbinder carbonatomerne til hinanden, "siger han." Og det er det samme med menneskelige grupper. "

Christakis har designet software til at udforske dette ved at skabe midlertidige kunstige samfund online. "Vi slipper folk ind, og så lader vi dem interagere med hinanden og se, hvordan de spiller et offentligt gods-spil, for eksempel, at vurdere, hvor venlige de er over for andre mennesker."

Så manipulerer han netværket. "Ved at konstruere deres interaktioner på én måde, Jeg kan gøre dem rigtig søde ved hinanden, arbejde godt sammen, og de er sunde og glade, og de samarbejder. Eller du tager de samme mennesker og forbinder dem på en anden måde, og de er slemme idioter over for hinanden, og de samarbejder ikke, og de deler ikke information, og de er ikke venlige over for hinanden."

I et eksperiment, han tilfældigt tildelt fremmede til at spille offentlige goder spillet med hinanden. I begyndelsen, han siger, omkring to tredjedele af befolkningen var samarbejdsvillige. "Men nogle af de mennesker, de interagerer med, vil drage fordel af dem og, fordi deres eneste mulighed er enten at være venlig og samarbejdsvillig eller at være en afhopper, de vælger at hoppe af, fordi de sidder fast i, at disse mennesker udnytter dem. Og ved afslutningen af ​​eksperimentet er alle et ryk for alle andre. "

Christakis vendte dette bare ved at give hver person en lille smule kontrol over, hvem de var forbundet med efter hver runde. "De skulle træffe to beslutninger:er jeg venlig over for mine naboer eller er jeg ikke; og holder jeg mig til denne nabo eller gør jeg ikke." Det eneste, hver spiller vidste om deres naboer, var, om de havde samarbejdet eller hoppet af i runden før. "Det, vi var i stand til at vise, er, at folk afbryder bånd til afhoppere og danner bånd til samarbejdspartnere, og netværket rewired sig selv og konverterede sig selv til en diamantlignende struktur i stedet for en grafitlignende struktur. "Med andre ord, en kooperativ prosocial struktur i stedet for en usamarbejdsvillig struktur.

I et forsøg på at skabe mere samarbejdsvillige online-fællesskaber, Christakis 'team er begyndt at tilføje bots til deres midlertidige samfund. Han tager mig over til en bærbar computer og sætter mig op til et andet spil. I dette spil, anonyme spillere skal arbejde sammen som et team for at løse et dilemma, som fliselæggere vil være bekendt med:hver af os skal vælge mellem en af ​​tre farver, men farverne på spillere, der er direkte forbundet med hinanden, skal være forskellige. Hvis vi løser gåden inden for en frist, vi får alle en andel af præmiepengene; hvis vi fejler, ingen får noget. Jeg spiller med mindst 30 andre mennesker. Ingen af ​​os kan se hele netværket af forbindelser, kun de mennesker, vi er direkte forbundet med – ikke desto mindre, vi er nødt til at samarbejde for at vinde.

Jeg er forbundet med to naboer, hvis farver er grøn og blå, så jeg vælger rødt. Min venstre nabo skifter så til rød, så jeg skifter hurtigt til blå. Spillet fortsætter, og jeg bliver mere og mere anspændt, forbander mine langsomme reaktionstider. Jeg skal ofte skifte farve, reagere på usete ændringer andre steder i netværket, som sender en kaskade af ændringer langs forbindelserne. Tiden er gået, før vi løser gåden, tilskyndede vrede svar i spillets kommentarfelt fra eksterne spillere, der fordømmer alle andres dumhed. Personligt, Jeg er lettet over, at det er overstået, og der er ikke længere nogen, der er afhængige af mine smarte spilfærdigheder for at tjene penge.

Christakis fortæller mig, at nogle af netværkene er så komplekse, at puslespillet er umuligt at løse inden for tidsrammen. Min lettelse er kort, dog:den jeg spillede var løselig. Han spoler spillet tilbage, afslører for første gang hele netværket for mig. Jeg kan se nu, at jeg var på en lavere gren fra netværkets hovedhub. Nogle af spillerne var forbundet med kun én anden person, men de fleste var forbundet med tre eller flere. Tusindvis af mennesker fra hele verden spiller disse spil på Amazon Mechanical Turk, trukket af det lille gebyr, de tjener pr. runde. Men mens jeg ser spillet, spillede jeg lige ud, Christakis afslører, at tre af disse spillere faktisk er plantede bots. "Vi kalder dem 'dum AI', " han siger.

Hans team er ikke interesseret i at opfinde supersmart AI til at erstatte menneskelig kognition. I stedet, planen er at infiltrere en befolkning af smarte mennesker med dumb-bots for at hjælpe mennesker med at hjælpe sig selv.

"Vi ville se, om vi kunne bruge de dumme robotter til at få folkene til at hænge sammen, så de kan samarbejde og koordinere en lille smule mere - så deres oprindelige evne til at præstere godt kan afsløres med lidt assistance, "Siger Christakis. Han fandt ud af, at hvis robotterne spillede perfekt, det hjalp ikke menneskene. Men hvis robotterne lavede nogle fejl, de frigjorde gruppens potentiale til at finde en løsning.

"Nogle af disse bots tog kontraintuitive valg. Selvom deres naboer alle havde grønt, og de burde have plukket orange, i stedet valgte de også grønt." Da de gjorde det, det tillod en af ​​de grønne naboer at plukke appelsin, "som låser den næste fyr op, han kan vælge en anden farve og wow, nu løser vi problemet." Uden botten, de menneskelige spillere ville sandsynligvis alle have holdt sig til green, ikke klar over, at det var problemet. "Ved at øge konflikterne midlertidigt giver deres naboer mulighed for at træffe bedre valg."

Ved at tilføje lidt støj til systemet, bots hjalp netværket til at fungere mere effektivt. Måske kunne en version af denne model indebære at infiltrere partisanfolks nyhedsfeeds med lejlighedsvise genstande, der tilbyder et andet perspektiv, hjælpe med at flytte folk ud af deres sociale mediers komfortbobler og give samfundet som helhed mulighed for at samarbejde mere.

Meget antisocial adfærd online stammer fra anonymiteten af ​​internetinteraktioner - omdømmeomkostningerne ved at være slemme er meget lavere end offline. Her, bots kan også tilbyde en løsning. Et eksperiment fandt ud af, at niveauet for racistisk misbrug tweetet til sorte brugere kan reduceres dramatisk ved at bruge botkonti med hvide profilbilleder til at reagere på racistiske diskanthøjttalere. Et typisk bot-svar på et racistisk tweet ville være:"Hey mand, bare husk, at der er rigtige mennesker, der bliver såret, når du chikanerer dem med den slags sprog." Blot at dyrke lidt empati hos sådanne tweetere reducerede deres racistiske tweets næsten til nul i uger bagefter.

En anden måde at imødegå de lave omdømmeomkostninger ved dårlig opførsel online er at konstruere en eller anden form for social straf. Et spilfirma, Liga af legender, gjorde det ved at introducere en "Tribunal"-funktion, hvor negativt spil straffes af andre spillere. Virksomheden rapporterede, at 280, 000 spillere blev "reformeret" på et år, hvilket betyder, at de efter at være blevet straffet af domstolen havde ændret deres adfærd og derefter opnået en positiv status i samfundet. Udviklere kunne også indbygge sociale belønninger for god opførsel, opmuntre til mere samarbejdselementer, der hjælper med at opbygge relationer.

Forskere er allerede begyndt at lære at forudsige, hvornår en udveksling er ved at blive dårlig - det øjeblik, hvor den kan drage fordel af forebyggende indgreb. "Du tror måske, at der er et mindretal af sociopater online, som vi kalder trolde, der gør al denne skade, " siger Cristian Danescu-Niculescu-Mizil, ved Cornell University's Department of Information Science. "Det, vi faktisk finder i vores arbejde, er, at almindelige mennesker, ligesom dig og mig, kan deltage i sådan antisocial adfærd. I en bestemt periode, du kan faktisk blive en trold. Og det er overraskende."

Det er også alarmerende. Jeg bladrer mentalt tilbage gennem mine egne seneste tweets, Jeg håber, at jeg ikke er gået over til mobning i et eller andet akavet forsøg på at fremstå sjov eller sej for mine onlinefølgere. Trods alt, det kan være meget fristende at være krænkende over for nogen langt væk, som du ikke kender, hvis du tror, ​​det vil imponere din sociale gruppe.

Danescu-Niculescu-Mizil har undersøgt kommentarsektionerne under online-artikler. Han identificerer to hovedtriggere for trolling:konteksten af ​​udvekslingen – hvordan andre brugere opfører sig – og dit humør. "Hvis du har en dårlig dag, eller hvis det sker på mandag, for eksempel, du er meget mere tilbøjelig til at trolde i samme situation, "siger han." Du er pænere en lørdag morgen. "

Efter indsamling af data, inklusive fra folk, der tidligere havde udøvet trollingadfærd, Danescu-Niculescu-Mizil byggede en algoritme, der med 80 procents nøjagtighed forudsiger, hvornår nogen er ved at blive misbrug online. Dette giver mulighed for, for eksempel, indføre en forsinkelse i, hvor hurtigt de kan sende deres svar. Hvis folk skal tænke sig om to gange, før de skriver noget, der forbedrer konteksten for udvekslingen for alle:du er mindre tilbøjelig til at se folk, der opfører sig dårligt, og dermed mindre tilbøjelige til at opføre sig dårligt.

Den gode nyhed er, at på trods af den forfærdelige adfærd mange af os har oplevet online, de fleste interaktioner er gode og samarbejdsvillige. Berettiget moralsk forargelse er nyttigt brugt til at udfordre hadefulde tweets. En nylig britisk undersøgelse, der kiggede på antisemitisme på Twitter, fandt ud af, at indlæg, der udfordrer antisemitiske tweets, deles langt bredere end de antisemitiske tweets selv. De fleste hadefulde indlæg blev ignoreret eller deles kun i et lille ekkokammer med lignende konti. Måske er vi allerede begyndt at udføre robotternes arbejde selv.

Som Danescu-Niculescu-Mizil påpeger, vi har haft tusinder af år til at finpudse vores person-til-person interaktioner, men kun 20 år med sociale medier. "Offline, we have all these cues from facial expressions to body language to pitch… whereas online we discuss things only through text. I think we shouldn't be surprised that we're having so much difficulty in finding the right way to discuss and cooperate online."

As our online behaviour develops, we may well introduce subtle signals, digital equivalents of facial cues, to help smooth online discussions. I mellemtiden, the advice for dealing with online abuse is to stay calm, it's not your fault. Don't retaliate but block and ignore bullies, or if you feel up to it, tell them to stop. Talk to family or friends about what's happening and ask them to help you. Take screenshots and report online harassment to the social media service where it's happening, and if it includes physical threats, report it to the police.

If social media as we know it is going to survive, the companies running these platforms are going to have to keep steering their algorithms, perhaps informed by behavioural science, to encourage cooperation rather than division, positive online experiences rather than abuse. As users, we too may well learn to adapt to this new communication environment so that civil and productive interaction remains the norm online as it is offline.

"I'm optimistic, " Danescu-Niculescu-Mizil says. "This is just a different game and we have to evolve."

This article first appeared on Mosaic and is republished here under a Creative Commons licence.