Brug af AI-teknologi til at forhindre cybermobning

Den 9. september, 2013, efter at have udholdt år med forfærdelig cybermobning i hænderne på hendes Lakeland, Fla., klassekammerater, 12-årige Rebecca Sedwick klatrede op på toppen af ​​et vandtårn og sprang i døden.

Hundredvis af kilometer væk, i Naperville, Syg., 13-årige Trisha Prabhu læste om Sedwicks selvmord med en blanding af angst og forargelse.

"Jeg tænkte ved mig selv, hvordan kan en pige et år yngre end jeg blive skubbet til dette punkt? Jeg besluttede, at jeg ikke kunne være en tilskuer længere, " sagde Prabhu, nu en førsteårsstuderende på Harvard. "Fordi cybermobning er et problem, der påvirker teenagere så meget, Jeg følte, at en teenager skulle være den, der skulle stå i spidsen for noget af det næste store arbejde med, hvordan man tackler det. Så uden nogen autoritet eller legitimationsoplysninger, Jeg besluttede, at jeg skulle være den person. Jeg følte, at jeg skyldte det til Rebecca, og alle andre, der havde mistet livet eller deres kære til det, der virkelig er en meningsløs ting."

Prabhu fordybede sig i den seneste psykologiske og sociologiske forskning om det voldsomme problem med cybermobning. Hun var interesseret i at lære, at den præfrontale cortex, den del af hjernen, der styrer rationel beslutningstagning, er typisk ikke fuldt udviklet, før en person er 25.

Alligevel uhindret adgang til sociale medier, sms, og online kommunikationskanaler giver teenagere magten til at påvirke hinanden, ofte uden grundlæggende forståelse af begreber om digitalt medborgerskab, hun sagde.

"Jeg troede, hvad hvis jeg kan tvinge teenagere til virkelig at tænke over, hvad de laver på sociale medier og give dem mulighed for at træffe den rigtige beslutning? Sådan blev ReThink født, " sagde hun. "I vores kerne er en meget simpel idé - hvis vi giver teenagere en ny chance for at tænke på at sende stødende beskeder på sociale medier, ikke kun vil de ikke sende disse beskeder, de vil gøre det med en enorm margin."

Tænk om, en iPhone og Android app, installerer et digitalt tastatur, der erstatter standard smartphone-tastaturet. Det ser identisk ud og integreres problemfrit med andre apps, som e-mail-klienter og sociale medieplatforme. Den eneste forskel - den bruger kunstig intelligens til at identificere stødende ord, og implementerer derefter pop op-advarsler for at give brugeren en chance for at genoverveje at sende disse ord i en e-mail, tekst, eller opslag på sociale medier.

Siden Prabhu lancerede opstarten for tre år siden, ReThink har nået ud til mere end 2,5 millioner brugere rundt om i verden. ReThink vandt for nylig Mckinley Social Silver Medal i årets i3 Innovation Challenge, sponsoreret af Technology and Entrepreneurship Center på Harvard, og hævdede også en af ​​fire, $75, 000 store præmier i University's President's Innovation Challenge.

Mange af de største udfordringer, Prabhu har stået over for, er tekniske. Udvikling af kunstig intelligens, der effektivt kan bestemme følelsen af ​​en potentielt stødende besked ("Jeg hader dig" vs. "Jeg hader vejret, " for eksempel) er et komplekst problem. Det var især svært at sikre, at appen kører problemfrit, mens den stadig inkorporerer semi-overvågede maskinlæringsmodeller, der løbende forbedrer nøjagtigheden.

At komme med "udløsende ord", der er stødende i enhver sammenhæng, viste sig også at være udfordrende, især når man overvejer andre sprog (ReThink er tilgængelig på engelsk, spansk og hindi).

"Dette er et hårdt nok problem på engelsk, som er mit modersmål, på grund af slang og de ubegrænsede sproglige muligheder at overveje. Det er en proces, som vi aldrig vil afslutte, fordi efterhånden som sproget udvikler sig, vi bliver nødt til at udvikle os, også, " sagde hun. "Kom ind i dette rum, Jeg har aldrig rigtig tænkt på sprog. Men når man tænker på mobning og cybermobning, det kommer virkelig ned på, hvordan vi kommunikerer. At gøre det på en global sfære har været en fantastisk rejse, men en masse hårdt arbejde."

ReThink-teamet, som nu består af otte ansatte, der arbejder på afstand, ansætter lingvistiske eksperter til at hjælpe med at tackle disse udfordringer. Prabhu sagde ReThink's hurtige vækst, og succesen med dens forretningsmodel, er et vidnesbyrd om effektiviteten af ​​virksomhedens dynamiske og mangfoldige team.

Selvom appen er gratis for brugere, ReThink tjener penge ved at samarbejde med skoler, som betaler et årligt abonnementsgebyr for teknologiimplementering og adgang til brugerdata.

"Skoler står naturligvis over for et stort ansvar, når eleverne tager disse enheder med ind i klasseværelset, " sagde hun. "Det kan være rigtig rodet, når tragiske ting sker, og så er et skoledistrikt involveret i en retssag på $20 millioner. Der er behov for, at skoler uddanner børn om, hvordan man ansvarligt bruger teknologi, fordi eksponering og uddannelse ikke er det samme."

Virksomheden er også på vej til at frigive et køb i appen til forældre, tilbyder mere kontrol over appen og adgang til data og analyser for et månedligt gebyr på $ 1.

Teknologien er ved at blive populær i mange sammenhænge. Virksomheden samarbejdede med staten Michigan for at implementere appen til alle offentlige skoleelever; arbejdet sammen med borgmesteren i Chicago for at indarbejde det i byens klasseværelser; samarbejdet med Los Angeles Police Department, der distribuerer appen i et forsøg på at bekæmpe voldsom 'sexting'; og gik for nylig sammen med det amerikanske udenrigsministerium for at bringe ReThink til samfund i 134 lande, sagde Prabhu.

ReThink lancerede også et kapitelinitiativ, give eleverne mulighed for at blive ambassadører i kampen mod cybermobning. Virksomheden leverer materialer, læseplaner, online mobningstalere til skolearrangementer, og andre ressourcer til studerende ledede grupper over hele landet.

"Internettet kan og vil blive rettet af denne generation af unge mennesker. Det blev skabt af generationen før os, og de gjorde meget godt, men der var også en masse utilsigtede konsekvenser, " sagde hun. "Vi forsøger at opdrage den næste generation af unge ledere gennem disse kapitler og hjælpe dem med at fremme disse vigtige samtaler i deres lokalsamfund."

ReThinks meteoriske vækst viser ingen tegn på at bremse farten, og Prabhu har til hensigt at holde det sådan. Virksomheden er indstillet til at frigive versioner af appen på et dusin sprog ved udgangen af ​​næste år og søger at samarbejde med flere internationale skoler og udvide til nye, globale markeder.

Virksomheden retter nu opmærksomheden mod billedgenkendelse, studerer, hvordan ReThink-teknologi kan anvendes, når en bruger er ved at dele et stødende billede på sociale medier som Instagram eller Snapchat.

For Prabhu, potentialet i ReThink er spændende, selvom vejen frem vil indebære mange udfordringer og masser af lange dage og sene nætter.

"Når du er fanget i de daglige forretningsopgaver, du kan nogle gange miste 'hvorfor'et bag det arbejde, du udfører. Den mest givende del for mig er, når jeg kommer tilbage til det 'hvorfor, ' møde forældre, der har mistet børn til dette problem, eller tale med andre unge, der er blevet mobbet på nettet, " sagde hun. "Der er så mange mennesker, der virkelig lider af dette problem. It really torments them, and they often feel helpless. Knowing that I can help them feel empowered, that I can fight for their ability to be safe and respected online, that is the most rewarding part of the work. That is what pushes me to keep going."